Tvilsomme praksiser hos noen AI-autonome bilprodusenter som spruter varslere 

Av Lance Eliot, AI Trends Insider 

Det er det gamle ordtaket at du ikke bør se på kjøkkenet når du går til noen restauranter eller spisesteder for en matbit. Når du ser hvordan maten tilberedes, kan det bare gjøre at du får vondt i magen.  

Du kan bruke denne regelen på omtrent alle enheter som lager alle slags produkter. Tenk om en brødrister ble produsert på en feil måte og sannsynligvis ville ta fyr når den ble tatt i bruk. Vi vil utvilsomt ønske å ha en innsider som jobbet i selskapet og fikk brødristeren til å stå frem på forhånd.   

Komplekse produkter er spesielt tilfeller som vi håper en innsider vil komme frem. Bilen din er for eksempel et ganske komplekst produkt. Den inneholder tusenvis av komponenter. Bilindustrien har hatt noen bemerkelsesverdige tilfeller av innsidere som hjalp til med å avsløre alvorlige interne problemer angående bilproduksjon.   

Alt sagt, det ville sikkert være fint hvis noen på innsiden ville si ifra og prøve å rette opp et problem bak kulissene, spesielt når det var farlig. 

En slik insider som snakker ut, blir vanligvis referert til som en whistleblower. 

Du er kanskje vagt klar over at Ralph Nader på 1960- og 1970 -tallet hjalp til med å popularisere slagordet for varsleren under hans aktivistiske innsats. Fram til det tidspunktet ble ideen om å uttale seg om et internt problem frynset. Ansatte var generelt forventet å være sterkt lojale mot arbeidsgiveren sin og tør ikke snakke i sving. Faktisk, til i dag, blir noen ganger en varsler utstengt og stemplet som en rotte eller snitch for deres innsats.   

For å presisere, er det ikke alle varslere som har rett i det de rapporterer. Det er tilfeller der en varsler kan ta feil av det de oppfatter som et problem. De kan misforstå ting. De kan overoppblåse bekymringen. Du kan ikke helt anta at en varsler er perfekt i sine mål. Noen ganger kan en varsler inneholde personlige skjevheter og søke en form for vridd hevn eller ha andre usømmelige motiver i tankene.   

Men det betyr heller ikke at en varsleren skal males aksiomatisk som et dårlig innhold bare på grunn av å fungere som varsler. Ikke i det hele tatt.   

Å gå varsleren kan være vanskelig og ødeleggende på mange måter. En person kan bli oppført som en slags forræder og bli for alltid plettet, uansett hvor de går og hva som helst annet i livet de prøver å gjøre. Å bestemme seg for å bli varslere krever litt heftig tenkning, og prøve å balansere en personlig følelse av etiske koder mot potensialet for å bli kjent som en informator eller tattletale.   

Vi kan være takknemlige for de varslerne som valgte å gjøre det rette, til tross for de personlige kostnadene, og har avslørt materielle problemer som ellers ikke hadde fått dagens lys. Og i mange slike tilfeller var disse typer demonstrasjonsproblemer allerede en integrert del av å skade dem som bruker produktet eller potensielt kunne gjøre det i fremtiden. Varsleren var i stand til å starte en kjede av hendelser som til slutt reduserte eller reduserte de usmakelige eller direkte beklagelige resultatene.   

Hvordan kommer en varsler fram og i hovedsak blåser fløyten, som den var?   

Det er vanligvis to muligheter for en varsler for å gjøre kjent de interne problemene som de mener er uheldig. 

En tilnærming er å være en såkalt intern rapporteringsvarsler, som vanligvis betyr at personen som varsler, gjør dette innenfor rammen av enheten de jobber i. De kan bringe bekymringene sine til sin veileder eller leder. Kanskje har firmaet en formalisert varslingsprosess som innebærer å sende en sikkerhetshensyn skriftlig. Og så videre. 

Den andre tilnærmingen er den varsleren som er ekstern. Dette er når en person som er eller var en innsider velger å fortelle eksternt om de interne aspektene de oppfatter som foruroligende. Personen kan fortelle reportere om hva som skjer. Personen kan bestemme seg for å snakke med en tredjeparts forbrukerbeskyttelsesenhet. Etc. 

Tidligere nevnte jeg at biler og bilindustrien har hatt forskjellige varslere. 

I USA fungerer Vehicle Safety Act (VSA) som den overordnede retningslinjen for varsling og varslere i forbindelse med kjøretøyhensyn. Her er den formelle VSA -definisjonen som er gitt om hva som egentlig er en varsler: "Begrepet '' whistleblower '' betyr enhver ansatt eller entreprenør for en bilprodusent, delleverandør eller forhandler som frivillig gir sekretæren originalinformasjon om ethvert motorkjøretøy mangel, manglende overholdelse eller brudd eller påstått brudd på alle varslings- eller rapporteringskrav i dette kapitlet, som sannsynligvis vil forårsake urimelig fare for død eller alvorlig fysisk skade ”(som et sidebemerkning, sekretæren det refereres til er transportsekretæren ). 

Den normale veien for en bilrelatert varsleren som kommer til å avsløre et problem, ville være å kontakte NHTSA (National Highway Traffic Safety Administration), som er et byrå for det amerikanske transportdepartementet (US DOT). Det uttalte oppdraget til NHTSA er å redde liv, forhindre skader og redusere kjøretøyrelaterte krasj i USA.   

Per nettstedet som beskriver NHTSA -varslers program: “Varslere er en viktig informasjonskilde for NHTSA om potensielle kjøretøysikkerhetsproblemer og lovbrudd. Kjøretøysikkerhetsloven beskytter konfidensialiteten til varslere og lar NHTSA betale en pengepris til en varsler hvis informasjon fører til en vellykket løsning av en tvangsfullbyrdelse for lovbrudd. 

Det er en rekke nyanser i programmet for varslere. Hvis du eller noen du kjenner, vurderer å være en varsler knyttet til et bilproblem, må du sørge for å holde deg oppdatert på saken. Best å se før du hopper. I tillegg, som det står i VSA: "En varsler kan være representert av advokat."   

Når det gjelder omfanget av det som kan betraktes som en varsling som er berettiget innlevering, er det hva NHTSA-nettstedet indikerer: “NHTSA mottar informasjon fra varslere om et bredt spekter av emner, inkludert potensielle sikkerhetsfeil i kjøretøyet, manglende overholdelse av Federal Motor Vehicle Safety Standards, og brudd på bilsikkerhetsloven. NHTSA-etterforskere vurderer informasjon gitt av varslere, noe som kan føre til formelle handlinger som etterforskning, tilbakekalling eller sivil straffebyrå. NHTSA beskytter taushetsplikten til varslere. NHTSA kan betale en pengetildeling til en varsleren som gir informasjon som fører til en vellykket løsning av en tvangsfullbyrdelseshandling for lovbrudd. ”   

Du tenker kanskje at varsling om biler er et litt humrende tema; varsling om biler har pågått i årevis.   

Det er noe nytt du må ta behørig hensyn til.   

Fremtiden for biler består av AI-baserte ekte selvkjørende biler. 

Tillat meg et øyeblikk å utdype.   

Det er ikke en menneskelig sjåfør involvert i en ekte selvkjørende bil. Husk at ekte selvkjørende biler kjøres via et AI-kjøresystem. Det er ikke behov for en menneskelig sjåfør ved rattet, og det er heller ikke en bestemmelse for at et menneske skal kjøre kjøretøyet. 

Her er et spennende spørsmål det er verdt å tenke på: Skal vi se varslere om fremkomsten av AI-baserte ekte selvkjørende biler, og i så fall hvilken innvirkning kan vi forvente?   

Før jeg hopper inn i detaljene, vil jeg forklare hva som menes når jeg refererer til ekte selvkjørende biler. 

For min ramme om autonome AI-biler, se lenken her: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Hvorfor dette er en tungsinnsinnsats, se min forklaring her: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

For mer om nivåene som en type Richter-skala, se min diskusjon her: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

For min argumentasjon om å splitte nivåene, se min forklaring her: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Forstå nivåene av selvkjørende biler 

Som en avklaring er sanne selvkjørende biler de hvor AI kjører bilen helt alene, og det ikke er noen menneskelig assistanse under kjøreoppgaven. 

Disse førerløse kjøretøyene betraktes som nivå 4 og nivå 5, mens en bil som krever en menneskelig sjåfør for å dele kjøreinnsatsen, vanligvis blir sett på nivå 2 eller nivå 3. Bilene som deler felles kjøreoppgaven blir beskrevet som semi -autonom, og inneholder vanligvis en rekke automatiserte tillegg som kalles ADAS (Advanced Driver-Assistance Systems).   

Det er ennå ikke en ekte selvkjørende bil på nivå 5, som vi ennå ikke en gang vet om dette vil være mulig å oppnå, og heller ikke hvor lang tid det vil ta å komme dit.   

I mellomtiden prøver nivå 4-innsatsen gradvis å få litt trekkraft ved å gjennomgå veldig smale og selektive offentlige kjørebaneprøver, selv om det er kontrovers om denne testen skal være tillatt i seg selv (vi er alle liv-eller-død marsvin i et eksperiment. som foregår på våre motorveier og byveier, noen hevder). 

Siden semi-autonome biler krever en menneskelig sjåfør, vil adopsjonen av disse typene biler ikke være markant forskjellig fra å kjøre konvensjonelle kjøretøyer, så det er ikke mye nytt per se å dekke om dem om dette emnet (skjønt, som du vil se på et øyeblikk er poengene som blir gjort neste, generelt anvendelige).  

For semi-autonome biler er det viktig at publikum må varsles om et urovekkende aspekt som har oppstått i det siste, nemlig at til tross for de menneskelige sjåførene som fortsetter å legge ut videoer av seg som sovner ved rattet på en nivå 2 eller nivå 3-bil , vi alle trenger å unngå å bli villedet til å tro at sjåføren kan fjerne oppmerksomheten fra kjøreoppgaven mens han kjører en semi-autonom bil.   

Du er den ansvarlige parten for kjøringen av kjøretøyet, uavhengig av hvor mye automatisering som kan kastes i et nivå 2 eller nivå 3.   

For hvorfor ekstern pilotering eller betjening av selvkjørende biler generelt er unngått, se forklaringen min her: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

For å være på vakt mot falske nyheter om selvkjørende biler, se tipsene mine her: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

De etiske implikasjonene av AI-kjøresystemer er viktige, se min indikasjon her: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Vær oppmerksom på fallgruvene med normalisering av avvik når det kommer til selvkjørende biler, her er min oppfordring til våpen: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Selvkjørende biler og varslere   

For ekte selvkjørende biler på nivå 4 og nivå 5, vil det ikke være en menneskelig sjåfør involvert i kjøreoppgaven. Alle beboere vil være passasjerer; AI gjør kjøringen.   

Et aspekt å umiddelbart diskutere innebærer det faktum at AI involvert i dagens AI-kjøresystemer ikke er viktig. Med andre ord, AI er helt en samling av databasert programmering og algoritmer, og absolutt ikke i stand til å resonnere på samme måte som mennesker kan. 

Hvorfor la dette vekt på at AI ikke var følsom? 

Fordi jeg vil understreke at når jeg diskuterer AI-kjøresystemets rolle, tilskriver jeg ikke menneskelige kvaliteter til AI. Vær oppmerksom på at det i disse dager er en pågående og farlig tendens til å antropomorfisere AI. I hovedsak tildeler folk menneskelig følsomhet til dagens AI, til tross for det ubestridelige og ubestridelige faktum at ingen slik AI eksisterer ennå.   

Med den avklaringen kan du se for deg at AI-kjøresystemet ikke på en eller annen måte "vet" om fasettene ved kjøring. Kjøring og alt det innebærer må programmeres som en del av maskinvaren og programvaren til den selvkjørende bilen.   

La oss dykke ned i de utallige aspektene som kommer til å spille om dette emnet.   

Du kan bli sjokkert over å tro at det vil være noen form for varsling knyttet til selvkjørende biler. 

De fleste har en tendens til å anta at den interne innsatsen for å utvikle de toppmoderne AI-kjøresystemene og sette sammen en selvkjørende bil gjøres med den høyeste og beste intensjon. Noen sammenligner innsatsen med å lande på månen, en ganske imponerende ambisjon.   

Alt som skjer bak kulissene i arbeidet med å lage selvkjørende biler er helt over bord og hunky-dory. Ingen ville søke å produsere en selvkjørende bil som er farlig. Videre er håpet at selvkjørende biler vil frembringe en epoke med mobilitet for alle, slik at de som ikke lett har tilgang til biltransport i dag, får sømløs tilgang til allestedsnærværende mobilitet. Og det er også troen på at selvkjørende biler dramatisk vil redusere antall personskader og dødsulykker på grunn av menneskedrevne bilulykker.   

Vel, jeg vil ikke sjokkere deg, men det som skjer på kjøkkenet har potensial til å servere et måltid som har mulighet til å skade mennesker. 

Noen selvkjørende bilinnsatser kutter hjørner, prøver å gjøre budet fra den øverste ledelsen, og klarer ikke å gjennomføre så mye dobbeltsjekk og trippelkontroll, som de mener er nødvendig. På samme måte er det de i øverste ledelse som ikke er klar over mangelen på oppmerksomhet på detaljer og utelatelse eller skjørt av sikkerhetskvalitetsaspekter under de selvkjørende bilutviklingsaktivitetene i utviklingsgruppene.   

Det fungerer begge veier.   

Husk at det pågår et slags løp. 

Hvem vil oppnå ekte selvkjørende biler først?   

I likhet med å komme til månen, kjører mye på den første som gjør denne selvkjørende bilen til et "stort sprang" for menneskeheten. Milliarder på milliarder dollar strømmer inn i denne hevdede innsatsen. Det er nesten ingen inntekter ennå fra den selvkjørende bilinnsatsen. Penger går inn, og det er en forventning om at noe mirakuløst kommer til å dukke opp.   

Under den typen press kan du forestille deg at noen elementer kan få kort tid i et forsøk på å presse videre. Bekymringer om sikkerhetsaspekter kan til tider plasseres på bakbrenneren. Funksjoner for AI -drivsystemet som virker sentrale, kan skyves inn på den eksisterende listen over kant- eller hjørnesaker, noe som betyr at det er evner som det antas kan behandles senere.   

Dette tyder ikke på at noe av denne art på en eller annen måte er utbredt eller finnes overalt. Det ville være helt urettferdig for alle som prøver å produsere selvkjørende biler. Dette er heltene som hver dag strever kraftig med sikte på å bringe til verden selvkjørende biler, og på den måten nå de tidligere nevnte idealene.   

Som jeg gjentatte ganger har nevnt i spaltene mine, har bilprodusentene og de selvkjørende bilprodusentene i løpet av de siste årene tatt en mye sterkere holdning til sikkerhet. Dette inkluderer å ha ansatt profilerte bilsikkerhetseksperter og lansert betydelige og meningsfulle interne anstrengelser for å øke forståelsen av hva sikkerhet består av. I tillegg har mange av de selvkjørende bilfirmaene nå interne "whistleblower" -programmer, vanligvis mer tydelig som sikkerhetsrapporteringsprogrammer, som skal få innsidere til å komme frem når de ser noe som de oppfatter som utilbørlig. 

Den tilsynelatende bekymringen er at det er reelle sjanser i et så høyt trykk gung-ho atmosfære av et dårlig eple her eller der. For å gjøre det klart, er det ikke nødvendigvis slik at en ondskapsfull person kommer til å plante noe ondskapsfullt inn i et AI-drivsystem (skjønt, det kan skje). Når AI-utviklere løper rundt i full fart, er det en sjanse for å savne noen viktige garantier eller ikke ha de riktige utviklingsverktøyene, eller bli overveldet og underbemannet.   

Alt i alt kan resultatet være at en skjult feil eller et problem har kommet inn i AI-kjøresystemet. Ikke nødvendigvis med vilje. Bare fordi det ikke er tilstrekkelig kontroll og saldo og andre komplikasjoner involvert.   

Når en selvkjørende bil har en menneskelig backup-sjåfør i kjøretøyet, er troen på at dette er tilstrekkelig til å fange opp eventuelle uheldige handlinger som AI-kjøresystemet kan utføre. På den måten å tenke på er det som å ha en smaksprøver som sitter ved spisebordet. Personen skal fange alt som kan føre ting på villspor.   

Som nevnt i spaltene mine, tror ikke alle at dette er en skikkelig måte å fange opp problemer på, og noen avviser at bruk av offentlige veier på denne måten er helt feil. Hvis vi bruker analogien til en matsmak, er det som om smaksmaten spiser måltidet samtidig som en person spiser på måltidet. Ikke en tilfredsstillende form for sikkerhet for personen som samtidig spiser det som kan være giftig mat. I hovedsak kan det hende at backup-sjåføren ikke får en uheldig kjørehandling i tide, og kjøretøyet krasjer i en fotgjenger eller en menneskedrevet bil.    

Når du ser en selvkjørende bil som kjører nedover gaten, og gjør det uten en menneskelig backup-sjåfør, hvordan kan du vite at AI-kjøresystemet sikkert vil være en trygg sjåfør?   

Det gjør du ikke.   

Den vanlige retorten er at hvis det autonome kjøretøyet er på vei nedover en bygate og ikke har truffet noen, må dette bety at AI-kjøresystemet klarer seg helt fint, tusen takk. Faktisk, de som fortsetter å ta disse turene i selvkjørende biler og gjør de sprudlende attester, har en tendens til å falle i den samme kategorien. De tror at akkurat fordi den selvkjørende bilen trygt fikk dem til matbutikken, er det som om dette gir rikelig og utvilsomt bevis på at den selvkjørende bilen kan gå trygt hvor som helst.   

De faller i en klassisk mental felle. Det er en vanlig statistikkorientert feil. De antar at deres spesielle forekomst gir utstrakte generaliseringer.   

Det kan være at AI-kjøresystemet vil komme over en situasjon som en fotgjenger som plutselig piler ut på gaten, og den selvkjørende bilen vil ikke stoppe i tide (la oss anta at den kunne ha). Personen som hadde tatt turen til matbutikken, hadde ikke møtt en sammenflytende fotgjenger, og dermed aner de ikke hva den selvkjørende bilen vil gjøre i en slik setting. Ute av syne, ute av sinn.   

La oss komme tilbake til hva NHTSA sier om biler generelt og omfanget av mulig varsling som kan være aktuelt: “NHTSA mottar informasjon fra varslere om et bredt spekter av emner, inkludert potensielle sikkerhetsdefekter i kjøretøyet, manglende overholdelse av Federal Motor Vehicle Safety Standards, og brudd på bilsikkerhetsloven. ”   

Tradisjonelt har denne typen omfang en tendens til å fokusere på de mekaniske delene av en bil.   

I dag har biler i hovedsak blitt datamaskiner på hjul. Programvaren går i økende grad inn i omfanget av emner som medfører bilfeil, manglende overholdelse og brudd på VSA.   

I hvilke områder av AI-kjøresystemene kan vi forutse potensielle problemer? 

For det første brukes sensorer til å samle inn data om kjørescenen. Selvkjørende biler bruker vanligvis videokameraer, radar, LIDAR, ultralydsenheter, varmebehandlingsenheter og lignende. Dette er øynene og ørene til AI-kjøresystemet. 

Anta at en innside vet at sensorene som er valgt for den selvkjørende bilmodellen de jobber med, har sikkerhetshensyn som ikke blir behandlet. Når den selvkjørende bilen er felt, kan det være at en bestemt sensor under visse forhold vil gi feil data. Fra dette kan det hende at AI-kjøresystemet ikke har blitt programmert til å beregne riktig hva du skal gjøre.   

Et dårlig resultat kan skje på våre offentlige veier.   

En annen mulig vei består av sammensmelting av data på tvers av flere sensorer. Kjent som MSDF (multi-sensor data fusion), er kanskje fusjonsteknikken som brukes, basert på at videokameraene blir ansett som “riktig”, selv om radarinngangen sier noe annet (avviket blir rett og slett kastet i stedet for å heve et flagg eller kreve noe lagt til trinn for å prøve å løse). Hvordan blir sikkerhetsproblemer innlemmet i denne formen for programmering?   

Listen fortsetter og fortsetter.   

Det er den virtuelle modellen som vedlikeholdes av AI -drivsystemet og internt skildrer de eksisterende og forutsagte omgivelsene. Det kan sikkert være sikkerhetsproblemer med hvordan denne koden fungerer. Det er handlingsplanleggerdelen av AI-kjøresystemet som prøver å beregne hva de neste handlingene til det autonome kjøretøyet er mest forsvarlige å ta. Igjen, sikkerhetshensyn kan ligge der. Etc.   

For mer informasjon om ODD-er, se min indikasjon på denne lenken her: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Her er min detaljer om fremkalling av temaet terrenggående selvkjørende biler: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Jeg har oppfordret til at det må være en Chief Safety Officer hos selvkjørende bilprodusenter, her er scoop: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Regner med at søksmål gradvis vil bli en betydelig del av den selvkjørende bilbransjen, se forklarende detaljer her: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

konklusjonen 

Her er bunnlinjen.   

Etter hvert som selvkjørende biler i økende grad begynner å dukke opp fra laboratorier og FoU-innsats, vil de bli brukt på offentlige veier. Antallet slike selvkjørende biler på veiene vil begynne å øke. Det økte antallet slike autonome kjøretøyer har en tendens til å øke oddsen noe for at det kommer til å oppstå noe negativt. 

Disse lager vanligvis store overskrifter i nyhetene. 

Hadde den selvkjørende bilhendelsen som får overskriftene, et internt problem som en innsider kunne ha kjent, og likevel bestemte de seg for ikke å fortelle om hva de visste eller mistenkte alvorlig?   

Jeg vil satse på at det er sannsynlig at det vil oppstå varslere som kommer frem om selvkjørende biler. 

Ikke alle slike forekomster vil være gyldige. Noen vil.   

Virkningen er sannsynlig at dette vil få noen bilprodusenter og selvkjørende bilteknologiske produsenter til å gå tilbake til det de gjør. Du kan sikkert forvente at slike varslere vil vekke ytterligere regulatorisk interesse.   

Dette vil være en overraskelse for noen, og slett ikke en overraskelse for andre. De som har jobbet på slike "kjøkken" før, og allerede føler at noen av de selvkjørende bilene som kommer på veiene er et skummelt og utilstrekkelig tilberedt måltid.   

Vi får vite det når fløytene begynner å blåse. 

Copyright 2021 Dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Kilde: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/