Tvivlsom praksis hos nogle autonome AI-bilproducenter, der ansporer whistleblowers 

Af Lance Eliot, AI Trends Insider 

Der er det gamle ordsprog, at man ikke skal kigge i køkkenet, når man går på nogle restauranter eller spisesteder for at få en bid mad. Når du ser, hvordan maden bliver tilberedt, kan det bare gøre dig dårlig i maven.  

Du kan anvende denne regel på stort set enhver enhed, der fremstiller enhver form for produkt. Forestil dig, hvis en brødrister blev fremstillet på en defekt måde og sandsynligvis ville gå i brand, når den blev taget i brug. Vi ville utvivlsomt glæde os over at have en insider, der arbejdede i firmaet med at få brødristeren frem på forhånd.   

Komplekse produkter er især tilfælde, hvor vi håber, at en insider vil træde frem. Din bil er for eksempel et ret komplekst produkt. Den indeholder tusinder og atter tusinder af komponenter. Bilindustrien har haft nogle bemærkelsesværdige tilfælde af insidere, der hjalp med at afsløre alvorlige interne problemer vedrørende bilproduktion.   

Alt i alt ville det bestemt være rart, hvis nogen indeni ville sige fra og prøve at rette op på et problem bag kulisserne, især når det er farligt. 

En sådan insider, der taler ud, omtales typisk som en whistleblower. 

Du er måske vagt klar over, at Ralph Nader i 1960'erne og 1970'erne hjalp med at popularisere whistleblower-ordet under hans aktivistiske indsats. Indtil da var tanken om at udtale sig om et internt problem ildeset. Det forventedes generelt, at medarbejderne var voldsomt loyale over for deres arbejdsgiver og ikke turde tale ud af tur. Faktisk er en whistleblower den dag i dag nogle gange udstødt og stemplet som en rotte eller narr for deres indsats.   

For at præcisere, så har ikke alle whistleblowere ret i, hvad de rapporterer. Der er lejligheder, hvor en whistleblower kan tage fejl af, hvad de opfatter som et problem. De kan misforstå ting. De kan overdrive bekymringen. Du kan ikke blankt antage, at en whistleblower er perfekt i deres mål. Til tider kan en whistleblower huse personlige skævheder og søge en form for fordrejet hævn eller have andre upassende motiver i tankerne.   

Men det betyder heller ikke, at en whistleblower skal være plettet aksiomatisk som et misindhold simpelthen på grund af at fungere som en whistleblower. Slet ikke.   

At gå til whistleblower-ruten kan være vanskeligt og ødelæggende på mange måder. En person kan blive opført som en slags forræder og blive plettet for evigt, uanset hvor de går og hvad der ellers i livet de prøver at gøre. At beslutte at blive en whistleblower kræver en smule tænkning og forsøger at afveje en personlig følelse af etiske koder i forhold til potentialet for at blive kendt som en informator eller tattletale.   

Vi kan være taknemmelige for de whistleblowers, der valgte at gøre det rigtige på trods af de personlige omkostninger og har afsløret væsentlige problemer, der ellers ikke ville have fået dagens lys. Og i mange sådanne tilfælde var disse typer demonstrative problemer allerede integreret i at skade dem, der bruger produktet eller potentielt kunne gøre det i fremtiden. Whistleblower var i stand til at starte en kæde af begivenheder, der til sidst begrænsede eller reducerede disse usmagelige eller direkte beklagelige resultater.   

Hvordan kommer en whistleblower frem og i det væsentlige blæser fløjten, som den var?   

Der er normalt to veje for en whistleblower for at gøre de interne spørgsmål kendt, som de mener er uhensigtsmæssige. 

En tilgang er at være en såkaldt intern rapporterende whistleblower, hvilket generelt betyder, at den person, der gør whistleblowing, gør dette inden for rammerne af den enhed, de arbejder i. De kan bringe deres bekymringer til deres vejleder eller leder. Måske har virksomheden en formaliseret whistleblower-proces, der indebærer, at der er fremsendt en sikkerhedsmæssig bekymring skriftligt. Og så videre. 

Den anden tilgang er den eksternt afslørende whistleblower. Dette er, når en person, der er eller var en insider, vælger at fortælle eksternt om de interne aspekter, som de opfatter som foruroligende. Personen fortæller måske journalister om, hvad der foregår. Personen beslutter muligvis at tale med en tredjepartsforbrugerbeskyttelsesenhed. Etc. 

Tidligere nævnte jeg, at biler og bilindustrien har haft forskellige whistleblowers. 

I USA fungerer Vehicle Safety Act (VSA) som den overordnede retningslinje om whistleblowing og whistleblowere i forbindelse med køretøjsmæssige overvejelser. Her er den formelle VSA-definition givet om, hvad der præcist er en whistleblower: "Udtrykket ''whistleblower'' betyder enhver medarbejder eller entreprenør hos en motorkøretøjsfabrikant, reservedelsleverandør eller forhandler, som frivilligt giver sekretæren originale oplysninger vedrørende ethvert motorkøretøj. defekt, manglende overholdelse eller enhver overtrædelse eller påstået overtrædelse af ethvert underretnings- eller rapporteringskrav i dette kapitel, som sandsynligvis vil forårsage urimelig risiko for død eller alvorlig fysisk skade" (som en sidebemærkning, sekretæren, der henvises til, er transportministeren ). 

Den normale vej for en bilrelateret whistleblower, der vil eksternt afsløre et problem, ville være at kontakte NHTSA (National Highway Traffic Safety Administration), som er et agentur for det amerikanske transportministerium (US DOT). NHTSA's erklærede mission er at redde liv, forhindre skader og reducere køretøjsrelaterede nedbrud i USA.   

Ifølge hjemmesiden, der beskriver NHTSA whistleblower-programmet: "Whistleblowere er en vigtig kilde til information for NHTSA om potentielle sikkerhedsproblemer for køretøjer og lovovertrædelser. Vehicle Safety Act beskytter whistlebloweres fortrolighed og giver NHTSA mulighed for at betale en pengebelønning til en whistleblower, hvis oplysninger fører til en vellykket løsning af en håndhævelsessag for lovovertrædelser." 

Der er en bred vifte af nuancer til whistleblower-programmet. Hvis du eller nogen, du kender, overvejer at være whistleblower i forbindelse med et bilproblem, så sørg for at blive orienteret om sagen. Bedst at se før du springer. Derudover, som angivet i VSA: "En whistleblower kan være repræsenteret af en advokat."   

Med hensyn til omfanget af, hvad der kan betragtes som en whistleblowing-berettiget indsendelse, er det her, hvad NHTSA-webstedet angiver: “NHTSA modtager information fra whistleblowers om en bred vifte af emner, herunder potentielle bilsikkerhedsdefekter, manglende overholdelse af Federal Federal Vehicle Safety Standards, og overtrædelser af køretøjssikkerhedsloven. NHTSA-efterforskere overvejer oplysninger fra whistleblowers, som kan føre til formelle handlinger som en efterforskning, tilbagekaldelse eller civil håndhævelse. NHTSA beskytter whistleblowers fortrolighed. NHTSA kan betale en pengetildeling til en whistleblower, der giver oplysninger, der fører til en vellykket løsning af en håndhævelsesaktion for lovovertrædelser. ”   

Du tænker måske, at whistleblowing om biler er et noget ho-hum-emne; whistleblowing om biler har fundet sted i årevis.   

Der er noget nyt, du skal tage behørigt hensyn til.   

Fremtiden for biler består af AI-baserede ægte selvkørende biler. 

Tillad mig et øjeblik at uddybe.   

Der er ikke en menneskelig chauffør involveret i en ægte selvkørende bil. Husk, at ægte selvkørende biler køres via et AI-køresystem. Der er ikke behov for en menneskelig fører ved rattet, og der er heller ikke en bestemmelse om, at et menneske kan føre køretøjet. 

Her er et spændende spørgsmål, der er værd at overveje: Skal vi se whistleblowers om fremkomsten af ​​AI-baserede ægte selvkørende biler, og hvis ja, hvilken indvirkning kan vi forvente?   

Inden jeg springer ind i detaljerne, vil jeg gerne præcisere yderligere, hvad der menes, når jeg henviser til ægte selvkørende biler. 

For mine rammer om AI autonome biler, se linket her: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Hvorfor dette er en måneskudsindsats, se min forklaring her: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

For mere om niveauerne som en type Richter-skala, se min diskussion her: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

For argumentet om at dele niveauerne, se min forklaring her: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Forståelse af niveauerne af selvkørende biler 

Som en præcisering er ægte selvkørende biler dem, hvor AI kører bilen helt på egen hånd, og der ikke er nogen menneskelig assistance under køreopgaven. 

Disse førerløse køretøjer betragtes som niveau 4 og niveau 5, mens en bil, der kræver en menneskelig chauffør til at dele køreindsatsen, normalt betragtes på niveau 2 eller niveau 3. De biler, der deler køreopgaven, beskrives som værende semi -autonome og indeholder typisk en række automatiske tilføjelser, der omtales som ADAS (Advanced Driver-Assistance Systems).   

Der er endnu ikke en ægte selvkørende bil på niveau 5, som vi endnu ikke engang ved, om dette er muligt at opnå, og heller ikke hvor lang tid det vil tage at komme dertil.   

I mellemtiden forsøger niveau 4-indsatsen gradvist at få noget trækkraft ved at gennemgå meget smalle og selektive forsøg på offentlige vejbaner, selvom der er uenighed om, hvorvidt denne test skal tillades i sig selv (vi er alle liv-eller-død marsvin i et eksperiment finder sted på vores motorveje og biveje, hævder nogle). 

Da semi-autonome biler kræver en menneskelig chauffør, vil adoptionen af ​​disse typer biler ikke adskille sig markant fra at køre konventionelle køretøjer, så der er ikke meget nyt i sig selv at dække om dem om dette emne (selvom, som du vil se om et øjeblik er de næste punkter generelt gældende).  

For semi-autonome biler er det vigtigt, at offentligheden skal advares om et foruroligende aspekt, der er opstået for nylig, nemlig at trods de menneskelige chauffører, der fortsætter med at indsende videoer af sig selv falder i søvn ved rattet i en niveau 2 eller niveau 3 bil , er vi alle nødt til at undgå at blive vildledt til at tro, at chaufføren kan fjerne deres opmærksomhed fra køreopgaven, mens han kører en semi-autonom bil.   

Du er den ansvarlige part for køretøjets kørselshandlinger, uanset hvor meget automatisering der kan kastes i et niveau 2 eller niveau 3.   

For hvorfor fjernstyring eller betjening af selvkørende biler generelt undgås, se min forklaring her: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

For at være på vagt over for falske nyheder om selvkørende biler, se mine tips her: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

De etiske implikationer af AI-køresystemer er betydelige, se min indikation her: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Vær opmærksom på faldgruberne ved normalisering af afvigelser, når det kommer til selvkørende biler, her er min opfordring til våben: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Selvkørende biler og whistleblowers   

For niveau 4 og niveau 5 ægte selvkørende køretøjer vil der ikke være en menneskelig chauffør involveret i køreopgaven. Alle ombordværende vil være passagerer; AI'en kører.   

Et aspekt, som man straks skal diskutere, indebærer det faktum, at AI involveret i nutidens AI-køresystemer ikke er væsentlig. Med andre ord er AI'et helt en samling af computerbaseret programmering og algoritmer, og helt sikkert ikke i stand til at ræsonnere på samme måde som mennesker kan. 

Hvorfor understregede dette, at AI ikke var sansende? 

Fordi jeg vil understrege, at når jeg diskuterer AI-køresystemets rolle, tilskriver jeg ikke menneskelige kvaliteter til AI. Vær opmærksom på, at der i disse dage er en løbende og farlig tendens til at antropomorfisere AI. I det væsentlige tildeler folk menneskelignende følsomhed til nutidens AI, på trods af den ubestridelige og uomtvistelige kendsgerning, at der endnu ikke findes sådan en sådan AI.   

Med denne afklaring kan du forestille dig, at AI-køresystemet ikke på en eller anden måde "ved" noget om kørselens facetter. Kørsel og alt, hvad det medfører, skal programmeres som en del af den selvkørende bils hardware og software.   

Lad os dykke ned i de utallige aspekter, der kommer til at spille om dette emne.   

Du kan blive chokeret over at tro, at der vil være nogen form for whistleblowing relateret til selvkørende biler. 

De fleste mennesker har en tendens til at antage, at den interne indsats for at udvikle disse avancerede AI-køresystemer og sammensætte en selvkørende bil gøres med de højeste og bedste intentioner. Nogle sammenligner bestræbelserne på at lande på månen, et ret imponerende håb.   

Alt, hvad der sker bag kulisserne i forbindelse med fremstillingen af ​​selvkørende biler, er helt klart over bord og hunky-dory. Ingen ville forsøge at producere en selvkørende bil, der er farlig. Desuden er håbet, at selvkørende biler vil frembringe en æra med mobilitet for alle, hvilket giver dem, der ikke umiddelbart har adgang til biltransport i dag, mulighed for problemfri adgang til allestedsnærværende mobilitet. Og der er også troen på, at selvkørende biler dramatisk vil reducere antallet af menneskelige skader og dræbte som følge af menneskedrevne bilulykker.   

Nå, jeg vil ikke chokere dig, men det, der sker i køkkenet, har potentialet til at servere et måltid, der har mulighed for at skade folk. 

Nogle bestræbelser på selvkørende biler skærer ned, forsøger at gøre det akutte bud fra den øverste ledelse og er ikke i stand til at foretage så meget dobbelttjek og tripletjek, som de mener er nødvendigt. Ligeledes er der dem i den øverste ledelse, der er uvidende om den manglende opmærksomhed på detaljer og udeladelsen eller udeladelsen af ​​sikkerhedskvalitetsaspekter under udviklingsaktiviteterne for selvkørende biler i deres udviklingsgrupper.   

Det fungerer begge veje.   

Husk, at der er et slags løb i gang. 

Hvem opnår først ægte selvkørende biler?   

I lighed med at komme til månen kører meget på den første, der gør denne selvkørende bil til et "kæmpe spring" for menneskeheden. Milliarder på milliarder dollars strømmer ind i denne hyldede indsats. Der er næsten ingen indtægter endnu fra den selvkørende bilindsats. Penge går ind, og der er en forventning om, at der kommer noget mirakuløst.   

Under den form for pres kan du forestille dig, at nogle elementer kan blive brugt kort i et forsøg på at skubbe videre. Bekymringer om sikkerhedsaspekter kan til tider lægges på bagen. Funktioner til AI-køresystemet, der ser ud til at være afgørende, kan skubbes ind på den eksisterende liste over kant- eller hjørnekasser, hvilket betyder, at det er egenskaber, som det antages at kunne håndteres senere.   

Dette tyder ikke på, at noget af denne art på en eller anden måde er udbredt eller findes overalt. Det ville være fuldstændig uretfærdigt over for alle dem, der i høj grad stræber efter at producere selvkørende biler. Det er de helte, der hver eneste dag stræber mægtigt med det formål at bringe selvkørende biler til verden og dermed nå de tidligere nævnte idealer.   

Også, som jeg gentagne gange har nævnt i mine spalter, har bilproducenter og selvkørende bilproducenter i de sidste mange år indtaget en meget stærkere holdning til sikkerhed. Dette inkluderer at have hyret højprofilerede bilsikkerhedseksperter og iværksat betydelige og meningsfulde interne bestræbelser for at øge forståelsen af, hvad sikkerhed består af. Derudover har mange af de selvkørende bilfirmaer nu interne "whistleblower"-programmer, normalt opfundet mere tydeligt som sikkerhedsrapporteringsprogrammer, der har til formål at få insidere til at træde frem, når de ser noget, som de opfatter som upassende. 

Den tilsyneladende bekymring er, at der er reelle chancer i en sådan højtryks-gung-ho-atmosfære af et dårligt æble her eller der. For at gøre det klart er det ikke nødvendigvis tilfældet, at en ondskabsfuld person vil plante noget ondskabsfuldt i et AI-køresystem (dog kan det ske). Når AI-udviklere kører rundt i fuld fart, er der en chance for at gå glip af nogle vigtige sikkerhedsforanstaltninger eller ikke have de rigtige udviklingsværktøjer eller blive overvældet og underbemandet.   

Alt i alt kan resultatet være, at en skjult fejl eller et problem er kommet ind i AI-køresystemet. Ikke nødvendigvis med vilje. Bare fordi der ikke er tilstrækkelig kontrol og balance og andre komplikationer involveret.   

Når en selvkørende bil har en backup menneskelig chauffør i køretøjet, er troen, at dette er tilstrækkeligt til at fange eventuelle uheldige handlinger, som AI-køresystemet kan foretage. I den tankegang er det som at have en madsmager, der sidder ved dit spisebord. Personen formodes at fange alt, der kan føre tingene på afveje.   

Som nævnt i mine spalter, er det ikke alle, der mener, at dette er en ordentlig måde at fange problemer på, og nogle hævder, at det er fuldstændig upassende at bruge de offentlige veje på denne måde. Hvis vi bruger analogien med en madsmager, er det som om madsmageren spiser måltidet på samme tid som en person spiser på måltidet. Ikke en tilfredsstillende form for sikkerhed for den person, der samtidig spiser, hvad der kan være giftig mad. I det væsentlige vil backupchaufføren muligvis ikke fange en uheldig kørselshandling i tide, og køretøjet støder ind i en fodgænger eller en menneskedrevet bil.    

Og når du ser en selvkørende bil køre ned ad gaden og gøre det uden en menneskelig backupchauffør, hvordan kan du så vide, at AI-køresystemet helt sikkert vil være en sikker chauffør?   

Det gør du ikke.   

Den sædvanlige retort er, at hvis det autonome køretøj finder vej ned ad en bygade og ikke har ramt nogen, skal dette betyde, at AI-køresystemet klarer sig fint, mange tak. Faktisk er de, der fortsætter med at tage disse forlystelser i selvkørende biler og udføre de sprudlende vidnesbyrd, en tendens til at falde i den samme kategori. De tror, ​​at bare fordi den selvkørende bil sikkert fik dem til købmanden, er det som om dette giver rigeligt og utvivlsomt bevis for, at den selvkørende bil kan gå sikkert overalt.   

De falder i en klassisk mental fælde. Det er en almindelig statistikorienteret fejl. De antager, at deres ene særlige instans giver udstrakte generaliseringer.   

Det kan være, at AI-køresystemet kommer over en situation som en fodgænger, der pludselig piler ud på gaden, og den selvkørende bil stopper ikke i tide (lad os antage, at den kunne have det). Den person, der havde taget turen til købmanden, havde ikke stødt på en sammenflydende fodgænger, og de har således ingen idé om, hvad den selvkørende bil vil gøre i en sådan ramme. Ude af øje ude af sind.   

Lad os vende tilbage til, hvad NHTSA siger om biler generelt og omfanget af mulig whistleblowing, der kan være anvendelig: “NHTSA modtager information fra whistleblowers om en bred vifte af emner, herunder potentielle bilsikkerhedsdefekter, manglende overholdelse af Federal Motor Vehicle Safety Standards, og overtrædelser af køretøjssikkerhedsloven. ”   

Traditionelt har denne type anvendelsesområde tendens til at fokusere på de mekaniske dele i en bil.   

I dag er biler i det væsentlige blevet computere på hjul. Softwaren går i stigende grad ind i omfanget af emner, der medfører køretøjssikkerhedsdefekter, manglende overholdelse og krænkelser af VSA.   

I hvilke områder af AI-køresystemerne kan vi forudse potentielle problemer? 

For det første bruges sensorer til at indsamle data om kørselsscenen. Selvkørende biler bruger normalt videokameraer, radar, LIDAR, ultralydsenheder, termiske billedbehandlingsenheder og lignende. Dette er øjnene og ørerne på AI-køresystemet. 

Antag, at en insider ved, at de sensorer, der er valgt til den selvkørende bilmodel, de arbejder på, har sikkerhedsproblemer, der ikke behandles. Når den selvkørende bil er markeret, kan det være, at en bestemt sensor under visse omstændigheder leverer defekte data. Ud fra dette er AI-køresystemet muligvis ikke programmeret til at beregne korrekt, hvad de skal gøre.   

Et dårligt resultat kan ske på vores offentlige veje.   

En anden mulig vej består af sammensmeltning af data på tværs af flere sensorer. Kendt som MSDF (multi-sensor data fusion), er den anvendte fusionsteknik måske baseret på, at videokameraerne betragtes som “rigtige”, selvom radarindgangen siger noget andet (forskellen kasseres simpelthen i stedet for at hæve et flag eller kræve noget tilføjet trin til at prøve og løse). Hvordan integreres sikkerhedsproblemer i denne form for programmering?   

Listen fortsætter og fortsætter.   

Der er den virtuelle model, der vedligeholdes af AI-køresystemet og internt afbilder de eksisterende og forudsagte omgivelser. Der kan helt sikkert være sikkerhedsmæssige bekymringer om, hvordan den kode fungerer. Der er handlingsplanlægningsdelen af ​​AI-køresystemet, der forsøger at beregne, hvilke næste handlinger det autonome køretøj er mest klogt at tage. Igen kunne sikkerhedsproblemer ligge der. Etc.   

For flere detaljer om ODD'er, se min indikation på dette link her: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Hvad angår emnet selvkørende terrængående biler, er her mine detaljerede fremkaldelser: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Jeg har opfordret til, at der skal være en Chief Safety Officer hos selvkørende bilproducenter, her er scoopet: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Forvent at retssager gradvist kommer til at blive en væsentlig del af den selvkørende bilindustri, se mine forklarende detaljer her: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Konklusion 

Her er bundlinjen.   

Efterhånden som selvkørende biler i stigende grad begynder at dukke op fra laboratorier og forskning og udvikling, vil de blive brugt på offentlige veje. Antallet af sådanne selvkørende biler på vejbanerne vil begynde at stige. Det øgede antal af sådanne autonome køretøjer vil have en tendens til at øge chancerne for, at noget negativt vil opstå. 

Disse skaber normalt store overskrifter i nyhederne. 

Havde den selvkørende bilhændelse, der får overskrifterne, et internt problem, som en insider kunne have kendt, og alligevel besluttede de ikke at fortælle om, hvad de vidste eller alvorligt mistænkte?   

Jeg vil satse på, at vi sandsynligvis vil se en fremkomst af whistleblowers, der kommer frem om selvkørende biler. 

Ikke alle sådanne tilfælde vil være gyldige. Nogle vil.   

Virkningen er sandsynligvis, at dette vil få nogle bilproducenter og selvkørende bilteknologiske producenter til at gense, hvad de laver. Du kan helt sikkert forvente, at disse typer af whistleblower-rapporter vil vække yderligere lovgivningsmæssig interesse.   

Dette vil være en overraskelse for nogle, og slet ikke en overraskelse for andre. Dem, der har arbejdet i sådanne "køkkener" før, og allerede fornemmer, at nogle af de selvkørende biler, der kommer ud på vejbanerne, er et skræmmende og utilstrækkeligt tilberedt måltid.   

Vi finder ud af det, når fløjterne begynder at blæse. 

Ophavsret 2021 Dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Kilde: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/