Vprašljive prakse pri nekaterih avtonomnih proizvajalcih umetnih inteligenc, ki spodbujajo žvižgače 

Avtor Lance Eliot, Insider AI Trends 

There is the old saying that you ought to not look in the kitchen when you go to some restaurants or eateries for a bite to eat. When you see how the food is being prepared, it might just make you sick to your stomach.  

You can apply this rule to just about any entity that makes any kind of product. Imagine if a toaster was being manufactured in a faulty manner and was likely to catch fire when put into use. We would undoubtedly welcome having an insider that worked in the company making the toaster come forward beforehand.   

Complex products are especially instances that we would hope an insider would come forward. Your car for example is a quite complex product. It contains thousands upon thousands of components. The automotive industry has had some notable cases of insiders that aided in revealing serious internal issues regarding car production.   

All told, it sure would be nice if someone on the inside were to speak up and try to rectify a behind-the-scenes issue, particularly when dangerous. 

Taka oseba, ki govori, se običajno imenuje a nezaželenec. 

You might vaguely be aware that Ralph Nader in the 1960s and 1970s aided in popularizing the whistleblower catchphrase during his activist efforts. Up until that point in time, the notion of speaking out about an internal issue was frowned upon. Employees were generally expected to be fiercely loyal to their employer and dare not to speak out of turn. In fact, to this day, sometimes a whistleblower is ostracized and labeled as a rat or snitch for their efforts.   

To clarify, not all whistleblowers are right about what they report. There are occasions when a whistleblower might be mistaken about what they perceive as a problem. They might misconstrue things. They might overinflate the concern. You cannot blankly assume that a whistleblower is perfect in their aims. At times, a whistleblower might be harboring personal biases and seeking some form of twisted revenge or have other unseemly motives in mind.   

Toda to tudi ne pomeni, da je treba prijavitelja aksiomatsko umazati kot napačno vsebino zgolj zaradi tega, ker deluje kot prijavitelj. Sploh ne.   

Upoštevanje nepravilnosti je lahko v marsičem naporno in uničujoče. Osebo lahko uvrstimo med nekakšne izdajalce in jo za vedno očrnimo, kamor koli gremo in karkoli v življenju poskušamo narediti. Odločitev, da postanete žvižgač, zahteva nekaj zajetnega razmišljanja in poskuša uravnotežiti osebni občutek etičnih kodeksov in možnosti, da bi vas poznali kot informatorja.   

Lahko smo hvaležni za tiste žvižgače, ki so se kljub osebnim stroškom odločili ravnati pravilno in so izpostavili bistvene težave, ki sicer ne bi prišle na dan. V mnogih takih primerih so bile te vrste demonstracijskih težav že sestavni del škode tistim, ki uporabljajo izdelek, ali pa bi to lahko storili v prihodnosti. Žvižgač je lahko začel verigo dogodkov, ki so sčasoma okrnili ali zmanjšali tiste neslane ali naravnost obžalovanja vredne rezultate.   

Kako žvižgač pride naprej in v bistvu piha tako rekoč?   

Običajno ima žvižgač dva načina, da sporoči notranje zadeve, za katere meni, da so neprijetne. 

Eden od pristopov je biti tako imenovani prijavitelj nepravilnosti, kar na splošno pomeni, da oseba, ki prijavlja nepravilnosti, to počne v okviru subjekta, v katerem dela. Svoje pomisleke lahko predložijo svojemu nadzorniku ali vodji. Morda ima podjetje formaliziran postopek prijavljanja nepravilnosti, ki vključuje pisno predložitev pomislekov glede varnosti. In tako naprej. 

Drugi pristop je nepravilnost, ki razkriva zunanje informacije. To je takrat, ko se oseba, ki je ali je bila poznana oseba, odloči, da bo od zunaj pripovedovala o notranjih vidikih, ki jih dojemajo kot moteče. Oseba lahko novinarjem pove, kaj se dogaja. Oseba se lahko odloči za pogovor s tretjo osebo za zaščito potrošnikov. Itd. 

Prej sem omenil, da so imeli avtomobili in avtomobilska industrija različne žvižgače. 

In the United States, the Vehicle Safety Act (VSA) serves as the overarching guideline about whistleblowing and whistleblowers in the context of vehicular considerations. Here’s the formal VSA definition given about what exactly is a whistleblower: “The term ‘’whistleblower’’ means any employee or contractor of a motor vehicle manufacturer, part supplier, or dealership who voluntarily provides to the Secretary original information relating to any motor vehicle defect, noncompliance, or any violation or alleged violation of any notification or reporting requirement of this chapter, which is likely to cause unreasonable risk of death or serious physical injury” (as a side note, the Secretary being referred to is the Secretary of Transportation). 

Običajna pot za žvižgače, povezane z avtomobili, ki bo zunanje razkril težavo, bi bila, da se obrne na NHTSA (nacionalno upravo za varnost cestnega prometa), ki je agencija ameriškega ministrstva za promet (US DOT). Navedeno poslanstvo NHTSA je reševanje življenj, preprečevanje poškodb in zmanjšanje prometnih nesreč, povezanih z vozili v ZDA.   

Per the website detailing the NHTSA whistleblower program: “Whistleblowers are an important source of information for NHTSA about potential vehicle safety problems and violations of law. The Vehicle Safety Act protects the confidentiality of whistleblowers and allows NHTSA to pay a monetary award to a whistleblower whose information leads to the successful resolution of an enforcement action for violations of law.” 

There are a wide variety of nuances to the whistleblower program. If you or someone that you know is considering being a whistleblower related to an automotive issue, make sure to get up-to-speed on the matter. Best to look before you leap. In addition, as stated in the VSA: “A whistleblower may be represented by counsel.”   

Glede obsega tega, kar bi lahko šteli za neupravičeno prijavo, je na spletnem mestu NHTSA navedeno: »NHTSA od prijaviteljev nepravilnosti prejema informacije o najrazličnejših temah, vključno z morebitnimi varnostnimi napakami na vozilih, neupoštevanjem zveznih varnostnih standardov za motorna vozila, in kršitve zakona o varnosti vozil. Preiskovalci NHTSA upoštevajo informacije, ki jih posredujejo prijavitelji nepravilnosti, kar lahko vodi do formalnih ukrepov, kot so preiskava, odpoklic ali izvršba civilne kazni. NHTSA ščiti zaupnost prijaviteljev nepravilnosti. NHTSA lahko izplača denarno nagrado prijavitelju nepravilnosti, ki zagotovi informacije, ki vodijo do uspešnega reševanja izvršilnega ukrepa zaradi kršitev zakona. "   

You might be thinking that whistleblowing about cars is a somewhat ho-hum topic; whistleblowing about cars has been taking place for years.   

No, nekaj novega je, čemur morate nameniti pozornost.   

Prihodnost avtomobilov sestavljajo resnični samovozeči avtomobili na osnovi umetne inteligence. 

Dovolite mi trenutek, da podrobneje razložim.   

V pravem samovozečem avtomobilu ni človeškega voznika. Upoštevajte, da se pravi samovozeči avtomobili vozijo prek sistema vožnje AI. Za volanom ni potreben človeški voznik in tudi ni določeno, da bi človek vozil vozilo. 

Tukaj je zanimivo vprašanje, o katerem je vredno razmisliti: Ali bomo videli žvižgače o prihodu resničnih samovozečih avtomobilov na osnovi umetne inteligence in če da, kakšen vpliv lahko pričakujemo?   

Preden se posvetim podrobnostim, bi rad še pojasnil, kaj je mišljeno, ko govorim o resničnih samovozečih avtomobilih. 

Za moj okvir o AI avtonomnih avtomobilih glej povezavo tukaj: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Zakaj gre za luno, glej mojo razlago tukaj: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Za več o nivojih kot vrsti Richterove lestvice glejte mojo razpravo tukaj: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Za argument o razčlenjevanju ravni glejte mojo razlago tukaj: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Razumevanje ravni samovozečih avtomobilov 

Kot pojasnilo so pravi samovozeči avtomobili tisti, pri katerih umetna inteligenca vozi avto povsem sama in med vožnjo ni človeške pomoči. 

Ta vozila brez voznika se štejejo za stopnjo 4 in raven 5, medtem ko se avtomobil, za katerega je potreben človeški voznik, da si soudeleži vozniški napor, običajno obravnava na nivoju 2 ali 3. Avtomobili, ki si delijo vozniško nalogo, so opisani kot pol -avtonomni in običajno vsebujejo različne avtomatizirane dodatke, ki se imenujejo ADAS (napredni sistemi za pomoč voznikom).   

Na ravni 5 še ni pravega samovozečega avtomobila, za katerega še ne vemo, ali bo to mogoče doseči in koliko časa bo trajalo, da bi prišli do tja.   

Medtem si prizadevanja na ravni 4 postopoma prizadevajo doseči nekaj oprijema z izvajanjem zelo ozkih in selektivnih preskusov na javnih cestah, čeprav obstajajo polemike glede tega, ali bi bilo treba to testiranje dovoliti samo po sebi (v poskusu smo vsi morski prašički, ki so smrt ali smrt) nekateri trdijo, da potekajo na naših avtocestah in obvoznicah). 

Ker pol-avtonomni avtomobili potrebujejo človeškega voznika, se sprejetje teh vrst avtomobilov ne bo bistveno razlikovalo od vožnje običajnih vozil, tako da na to temo o njih ni veliko novega (čeprav, kot boste videli V trenutku se naslednje točke na splošno uporabljajo).  

Za polavtonomne avtomobile je pomembno, da je javnost treba opozoriti na moteč vidik, ki se pojavlja v zadnjem času, in sicer, da kljub tistim človeškim voznikom, ki objavljajo video posnetke, ki zaspijo za volanom avtomobila stopnje 2 ali 3 , vsi se moramo izogibati, da verjamemo, da lahko voznik med vožnjo polavtonomnega avtomobila odvzame njihovo pozornost vozniški nalogi.   

Vi ste odgovorna za vozniška dejanja vozila, ne glede na to, koliko avtomatizacije se lahko vrže v nivo 2 ali 3.   

Zakaj se na splošno izognejo pilotiranju ali upravljanju samovozečih avtomobilov, glejte mojo razlago tukaj: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Če želite biti pozorni na ponarejene novice o samovozečih avtomobilih, glejte moje nasvete tukaj: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Etične posledice vozniških sistemov AI so velike, glejte mojo navedbo tukaj: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Zavedajte se pasti normalizacije odklona, ​​ko gre za samovozeče avtomobile, tukaj je moj poziv k orožju: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Samovozeči avtomobili in žvižgači   

Za resnična samovozeča vozila na stopnjah 4 in 5 v vozniško nalogo ne bo vpet človeški voznik. Vsi potniki bodo potniki; AI vozi.   

Eden od vidikov, o katerem je treba takoj razpravljati, je dejstvo, da umetna inteligenca, ki je vključena v današnje sisteme za vožnjo umetne inteligence, ni občutljiva. Z drugimi besedami, umetna inteligenca je v celoti skupek računalniško zasnovanih programov in algoritmov in zagotovo ne more razmišljati na enak način kot ljudje. 

Zakaj je to poudarilo, da umetna inteligenca ni čuteča? 

Ker želim poudariti, da pri razpravi o vlogi sistema za upravljanje umetne inteligence umetni inteligenci ne pripisujem človeških lastnosti. Upoštevajte, da v današnjih časih obstaja stalna in nevarna težnja po antropomorfizaciji umetne inteligence. V bistvu ljudje današnji umetni inteligenci pripisujejo človeško občutljivost, kljub nespornemu in nespornemu dejstvu, da taka umetna inteligenca še ne obstaja.   

S tem pojasnilom si lahko predstavljate, da vozniški sistem AI v resnici nekako ne bo "vedel" o vidikih vožnje. Vožnjo in vse, kar zanjo pomeni, bo treba programirati kot del strojne in programske opreme samovozečega avtomobila.   

Potopimo se v nešteto vidikov, ki se začnejo igrati na to temo.   

Morda boste šokirani, če pomislite, da bi prišlo do kakršnih koli nepravilnosti, povezanih s samovozečimi avtomobili. 

Večina ljudi ponavadi domneva, da se notranja prizadevanja za razvoj teh najsodobnejših sistemov vožnje z umetno inteligenco in sestavljanje avtomobila, ki se sam vozi, izvajajo z najvišjimi in najboljšimi nameni. Nekateri primerjajo prizadevanja za pristanek na Luni, kar je precej navdihujoča težnja.   

Surely, everything happening behind the scenes in the act of crafting self-driving cars is completely above board and hunky-dory. No one would seek to produce a self-driving car that is dangerous. Furthermore, the hope is that self-driving cars will bring forth an era of mobility-for-all, allowing those that do not readily have access to automotive transit today to have seamless access to ubiquitous mobility. And there is also the belief that self-driving cars will dramatically reduce the number of human injuries and fatalities due to human-driven car crashes.   

Well, I don’t want to shock you, but what is happening in the kitchen has the potential for serving up a meal that has the possibility of harming people. 

Some self-driving car efforts are cutting corners, trying to do the urgent bidding of upper management, and not able to undertake as much double-checking and triple-checking, as they believe is necessary. Likewise, there are those in upper management that are unaware about the lack of attention to detail and the omission or skirting of safety quality aspects during the self-driving car development activities in their development groups.   

Deluje v obe smeri.   

Upoštevajte, da se odvija nekakšna dirka. 

Kdo bo prvi dosegel prave samovozeče avtomobile?   

Glede na to, da pridemo na Luno, se veliko vozi na prvem mestu, da bi ta samovozeči avtomobil naredil "velik skok" za človeštvo. V ta pohvalna prizadevanja se vlivajo milijarde do milijarde dolarjev. Prihodkov od prizadevanj za samovozeče avtomobile še ni. Denar gre noter in pričakuje se, da se bo pojavilo nekaj čudežnega.   

Under that kind of pressure, you can imagine that some elements might be given short shrift in an effort to push ahead. Concerns about safety aspects can at times be placed on the back burner. Features for the AI driving system that seem pivotal can be shoved onto the existing list of edge or corner cases, meaning that those are capabilities that it is assumed can be dealt with later on.   

This does not suggest that anything of this nature is somehow rampant or found everywhere. That would be completely unfair to all of those striving mightily to produce self-driving cars. These are the heroes that are striving mightily, each and every day, aiming to bring to the world self-driving cars, and in so doing reach those earlier cited ideals.   

Also, as I have repeatedly mentioned in my columns, in the last several years the automakers and self-driving carmakers have taken a much stronger stance toward safety. This includes having hired high-profile automotive safety experts and launched significant and meaningful internal efforts to boost the understanding of what safety consists of. In addition, many of the self-driving car firms now have internal “whistleblower” programs, usually coined more plainly as safety reporting programs, that are intended to get insiders to come forward when they see something that they perceive as untoward. 

Navidezna skrb je, da v tako visokotlačnem gung-ho ozračju tu ali tam obstajajo resnične možnosti za slabo jabolko. Da bi bilo jasno, ni nujno, da bo nesramna oseba v sistem vožnje z umetno inteligenco posadila nekaj nesramnega (čeprav se to lahko zgodi). Ko razvijalci umetne inteligence delujejo s polno hitrostjo, obstaja verjetnost, da boste zamudili nekatere pomembne zaščitne ukrepe ali če nimate ustreznih razvojnih orodij ali pa boste preobremenjeni in premalo zaposleni.   

Vse skupaj je lahko posledica, da se je v vozni sistem AI zapletla skrita napaka ali težava. Ni nujno namerno. Samo zato, ker ni dovolj zavor in ravnovesja ter drugih zapletov.   

When a self-driving car has a backup human driver in the vehicle, the belief is that this is sufficient to catch any untoward actions that the AI driving system might make. In that way of thinking, it is like having a food taster that is sitting at your dining table. The person is supposed to catch anything that can lead things astray.   

As mentioned in my columns, not everyone believes this to be a proper way of catching problems and some decry that using the public roadways in this manner is wholly improper. If we are using the analogy of a food taster, it is as though the food taster is eating the meal at the same time as a person is dining on the meal. Not a satisfactory form of safety for the person that is simultaneously eating what might be toxic food. In essence, the backup driver might not catch an untoward driving act in time, and the vehicle crashes into a pedestrian or a human-driven car.    

Also, when you see a self-driving car driving down the street, and doing so without a human backup driver, how can you know that the AI driving system is assuredly going to be a safe driver?   

Saj ne.   

Običajna replika je, da če avtonomno vozilo zapelje po mestni ulici in ni nikogar zadelo, to pomeni, da sistem za upravljanje umetne inteligence deluje v redu, hvala lepa. Dejansko tisti, ki se ves čas vozijo v samovozečih avtomobilih in delajo ta bleščeča pričevanja, običajno spadajo v isto kategorijo. Verjamejo, da samo zato, ker jih je samovozeči avto varno pripeljal do trgovine, je to kot da je to obilen in nedvomen dokaz, da lahko samovozeči avto varno pelje kamor koli.   

Upadajo v klasično miselno past. To je pogosta napaka, usmerjena v statistiko. Domnevajo, da njihov poseben primer naredi razširjene posplošitve.   

Lahko se zgodi, da bo sistem za vožnjo po inteligenci naletel na situacijo, kot je pešec, ki nenadoma strmoglavi na ulico, in samovozeči avto se ne bo pravočasno ustavil (domnevamo, da bi se lahko). Oseba, ki se je odpravila v trgovino z živili, ni naletela na prepletenega pešca, zato nimajo pojma, kaj bo samovozeči avto počel v takem okolju. Daleč od oči, daleč od srca.   

Vrnimo se k temu, kar NHTSA pravi o avtomobilih na splošno in o obsegu morebitnih nepravilnosti, ki bi se lahko uporabila: »NHTSA od prijaviteljev nepravilnosti prejema informacije o najrazličnejših temah, vključno z morebitnimi varnostnimi napakami na vozilih, neupoštevanjem zveznih varnostnih standardov za motorna vozila, in kršitve zakona o varnosti vozil. "   

Tradicionalno se tovrstni obseg običajno osredotoča na mehanske dele avtomobila.   

Dandanes so avtomobili v bistvu postali računalniki na kolesih. Programska oprema se vse bolj usmerja v področja tem, ki vključujejo varnostne napake, neskladnosti in kršitve VSA.   

Na katerih področjih sistemov za upravljanje umetne inteligence lahko predvidevamo morebitne težave? 

Prvič, senzorji se uporabljajo za zbiranje podatkov o prizoru vožnje. Samovozeči avtomobili običajno uporabljajo video kamere, radar, LIDAR, ultrazvočne enote, termovizijske naprave in podobno. To so oči in ušesa voznega sistema AI. 

Recimo, da notranji pozna, da imajo senzorji, izbrani za model samovozečega avtomobila, na katerem delajo, varnostna vprašanja, s katerimi se ne ukvarjajo. Ko je samovozeči avtomobil postavljen, se lahko zgodi, da bo pod določenimi pogoji določen senzor posredoval napačne podatke. Iz tega sistem vožnje AI morda ni bil programiran za pravilno izračunavanje, kaj storiti.   

A bad result can happen while on our public roadways.   

Druga možna pot je združitev podatkov med več senzorji. Znan kot MSDF (združevanje podatkov z več senzorji), morda uporabljena fuzijska tehnika temelji na video kamerah, ki veljajo za "prave", tudi če na radarskem vhodu piše drugače (neskladje preprosto zavržemo, namesto da dvignemo zastavico ali zahtevamo nekaj dodanih koraki za poskus in rešitev). Kako so pomisleki glede varnosti vključeni v to obliko programiranja?   

Seznam se nadaljuje in nadaljuje.   

There is the virtual model that is maintained by the AI driving system and internally depicts the existing and predicted surroundings. There could certainly be safety concerns about how that code is working. There is the action-planner portion of the AI driving system that tries to compute what next actions of the autonomous vehicle are most prudent to take. Again, safety concerns could reside there. Etc.   

Za več podrobnosti o ODD glej mojo navedbo na tej povezavi tukaj: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

V zvezi s terenskimi avtomobili, ki se vozijo samostojno, tukaj je moja podrobnost: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Povedal sem, da mora biti vodja varnostnih vozil pri proizvajalcih avtomobilov, tukaj je zajemalka: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Pričakujte, da bodo tožbe postopoma postale pomemben del avtomobilske avtomobilske industrije, glejte moje pojasnjevalne podrobnosti tukaj: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

zaključek 

Tu je spodnja vrstica.   

As self-driving cars begin to increasingly emerge from labs and R&D efforts, they will be used on public roadways. The number of such self-driving cars on the roadways will start to increase. The increased number of such autonomous vehicles will tend to somewhat increase the odds that something adverse is going to arise. 

Ti v novicah običajno naredijo velike naslove. 

Ali je imel incident s samovozečim avtomobilom, ki je dobil naslove, interno težavo, ki bi jo morda poznal notranji poznavalec, in vendar so se odločili, da ne bodo povedali o tem, kar so vedeli ali resno sumili?   

Stavil bi, da bomo verjetno videli pojav žvižgačev, ki se pojavljajo v zvezi s samovozečimi avtomobili. 

Not all such instances will be valid. Some will.   

The impact is likely that this will cause some automakers and self-driving car tech makers to revisit what they are doing. You can certainly expect that those types of whistleblower reports will stoke further regulatory interest.   

This will be a surprise to some, and not at all a surprise to others. Those that have worked in such “kitchens” before, and already sense that some of the self-driving cars that are coming onto the roadways are a scarily and inadequately cooked meal.   

To bomo ugotovili, ko bodo piščali začeli pihati. 

Copyright 2021 dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Source: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/