Tvivelaktiga praxis hos vissa AI-autonoma biltillverkare som sprider whistleblowers 

Av Lance Eliot, AI Trends Insider 

Det finns det gamla ordspråket att du inte bör titta i köket när du går till några restauranger eller restauranger för att äta en bit. När du ser hur maten tillagas kan det bara göra att du får ont i magen.  

Du kan tillämpa denna regel på nästan alla enheter som tillverkar någon form av produkt. Tänk om en brödrost tillverkades på ett felaktigt sätt och sannolikt skulle ta eld när den togs i bruk. Vi skulle utan tvekan välkomna att ha en insider som arbetade i företaget som fick brödrosten att komma fram i förväg.   

Komplexa produkter är särskilt fall som vi hoppas att en insider skulle komma fram. Din bil till exempel är en ganska komplex produkt. Den innehåller tusentals på tusentals komponenter. Bilindustrin har haft några anmärkningsvärda fall av insiders som hjälpte till att avslöja allvarliga interna frågor om bilproduktion.   

Sammantaget skulle det säkert vara trevligt om någon på insidan skulle säga ifrån och försöka rätta till ett problem bakom kulisserna, särskilt när det är farligt. 

En sådan insider som talar ut kallas vanligtvis en whistleblower. 

Du kanske vagt är medveten om att Ralph Nader på 1960- och 1970 -talet hjälpte till att popularisera slagordet för visselblåsaren under hans aktivistiska insatser. Fram till den tidpunkten var tanken på att uttala sig om en intern fråga rynkad. Medarbetare förväntades i allmänhet vara lojalt lojala mot sin arbetsgivare och våga inte prata i tur och ordning. I själva verket, till denna dag, är en visselblåsare ibland utstött och märkt som en råtta eller snitch för sina ansträngningar.   

För att klargöra har inte alla visselblåsare rätt i vad de rapporterar. Det finns tillfällen då en visselblåsare kan ha misstag om vad de uppfattar som ett problem. De kan missuppfatta saker. De kan överbelasta oron. Du kan inte helt anta att en visselblåsare är perfekt i sina syften. Ibland kan en visselblåsare hysa personliga fördomar och söka någon form av vriden hämnd eller ha andra osynliga motiv i åtanke.   

Men det betyder inte heller att en visselblåsare ska smittas axiomatiskt som en missnöje bara för att fungera som en visselblåsare. Inte alls.   

Att gå i visselblåsaren kan vara svårt och förstörande på många sätt. En människa kan listas som en slags förrädare och för evigt plågas, vart de än går och vad som helst i livet de försöker göra. Att bestämma sig för att bli en visselblåsare kräver ett rejält tänkande, för att försöka balansera en personlig känsla av etiska koder mot potentialen att vara känd som en informatör eller tatuering.   

Vi kan vara tacksamma för de visselblåsare som valde att göra rätt, trots de personliga kostnaderna, och som har utsett väsentliga problem som annars inte hade fått dagens ljus. Och i många sådana fall var dessa typer av demonstrationsproblem redan integrerade för att skada dem som använder produkten eller skulle kunna göra det i framtiden. Whistleblower kunde starta en händelsekedja som så småningom begränsade eller minskade dessa otrevliga eller direkt beklagliga resultat.   

Hur kommer en visselblåsare framåt och väsentligen blåser visselpipan?   

Det finns vanligtvis två vägar för en visselblåsare att göra de interna frågorna som de anser är olämpliga. 

Ett tillvägagångssätt är att vara en så kallad whistleblower för intern rapportering, vilket i allmänhet innebär att personen som gör whistleblowing gör detta inom ramen för den enhet som de arbetar i. De kan förmedla sina bekymmer till sin handledare eller chef. Kanske har företaget en formaliserad whistleblower-process som innebär att man lämnar in ett säkerhetsproblem skriftligen. Och så vidare. 

Det andra tillvägagångssättet är den vissare som avslöjar externt. Det är när en person som är eller var insider väljer att berätta externt om de interna aspekterna som de uppfattar som oroväckande. Personen kan berätta för reportrar om vad som händer. Personen kan bestämma sig för att prata med en tredje part för konsumentskydd. Etc. 

Tidigare nämnde jag att bilar och fordonsindustrin har haft olika visselblåsare. 

I USA fungerar Vehicle Safety Act (VSA) som den övergripande riktlinjen för visselblåsare och visselpersoner i samband med fordonshänsyn. Här är den formella VSA -definitionen om vad som egentligen är en visselblåsare: "Termen '' visselblåsare '' betyder alla anställda eller entreprenörer hos en motorfordonstillverkare, delleverantör eller återförsäljare som frivilligt lämnar sekreteraren originalinformation om ett motorfordon defekt, bristande överensstämmelse eller överträdelse eller påstådd kränkning av meddelanden eller rapporteringskrav i detta kapitel, som sannolikt kan orsaka orimlig risk för dödsfall eller allvarlig fysisk skada ”(som en sidnot, som sekreteraren hänvisas till är transportminister) ). 

Den normala vägen för en bilrelaterad visselblåsare som kommer att avslöja ett problem skulle vara att kontakta NHTSA (National Highway Traffic Safety Administration), som är ett organ för US Department of Transportation (US DOT). NHTSA: s uttalade uppdrag är att rädda liv, förhindra skador och minska fordonsrelaterade olyckor i USA.   

Per webbplatsen som beskriver NHTSA -visselblåsarprogrammet: ”Visslighetsblåsare är en viktig informationskälla för NHTSA om potentiella fordonssäkerhetsproblem och lagöverträdelser. Fordonssäkerhetslagen skyddar visselblåsarnas sekretess och tillåter NHTSA att betala ett penningpris till en visselblåsare vars information leder till en framgångsrik lösning av en verkställighetsåtgärd för brott mot lagar. ” 

Det finns en mängd olika nyanser i visselblåsarprogrammet. Om du eller någon du känner överväger att vara en visselblåsare med anknytning till en bilfråga, se till att du är uppdaterad om saken. Bäst att titta innan du hoppar. Dessutom, som anges i VSA: "En visselblåsare kan representeras av advokat."   

När det gäller omfattningen av vad som kan betraktas som ett meddelande som är motiverat, lämnar NHTSA: s webbplats följande: ”NHTSA får information från whistleblowers om en mängd olika ämnen, inklusive potentiella fordonssäkerhetsfel, bristande överensstämmelse med Federal Motor Vehicle Safety Standards, och överträdelser av fordonssäkerhetslagen. NHTSA-utredare överväger information som tillhandahålls av visselblåsare, vilket kan leda till formella åtgärder som en utredning, återkallelse eller civilrättslig straffåtgärd. NHTSA skyddar visselblåsares sekretess. NHTSA kan betala en monetär utmärkelse till en visselblåsare som tillhandahåller information som leder till en framgångsrik lösning av en verkställighetsåtgärd för lagöverträdelser. ”   

Du kanske tänker att visselblåsning om bilar är ett lite humrande ämne; visselblåsning om bilar har pågått i åratal.   

Det finns något nytt som du måste ta vederbörlig hänsyn till.   

Framtidens bilar består av AI-baserade sanna självkörande bilar. 

Tillåt mig en stund att utarbeta.   

Det är inte en mänsklig förare inblandad i en riktig självkörande bil. Tänk på att äkta självkörande bilar körs via ett AI-körsystem. Det finns inget behov av en mänsklig förare vid ratten, och det finns inte heller någon möjlighet för en människa att köra fordonet. 

Här är en spännande fråga som är värt att fundera på: Kommer vi att se whistleblowers om tillkomsten av AI-baserade sanna självkörande bilar, och i så fall vilken påverkan kan vi förvänta oss?   

Innan jag hoppar in i detaljerna vill jag ytterligare klargöra vad som menas när jag hänvisar till äkta självkörande bilar. 

För min ram om autonoma AI-bilar, se länken här: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Varför detta är en månskottinsats, se min förklaring här: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

För mer om nivåerna som en typ av Richters skala, se min diskussion här: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

För min argumentation om att förgrena nivåerna, se min förklaring här: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Förstå nivåerna av självkörande bilar 

Som ett förtydligande är sanna självkörande bilar sådana där AI kör bilen helt på egen hand och det inte finns någon mänsklig hjälp under köruppgiften. 

Dessa förarlösa fordon betraktas som nivå 4 och nivå 5, medan en bil som kräver en mänsklig förare för att dela med sig av köransträngningen brukar betraktas som nivå 2 eller nivå 3. De bilar som delar med sig av köruppgiften beskrivs som halv -autonoma, och innehåller vanligtvis en mängd olika automatiserade tillägg som kallas ADAS (Advanced Driver-Assistance Systems).   

Det finns ännu inte en riktig självkörande bil på nivå 5, som vi ännu inte vet om det är möjligt att uppnå och inte heller hur lång tid det kommer att ta sig dit.   

Under tiden försöker nivå 4-ansträngningarna gradvis få lite dragkraft genom att genomgå mycket smala och selektiva offentliga vägförsök, även om det finns kontroverser om huruvida denna testning ska tillåtas i sig (vi är alla marsvin i liv eller död i ett experiment som äger rum på våra motorvägar och motorvägar, menar vissa). 

Eftersom semi-autonoma bilar kräver en mänsklig förare, kommer antagandet av dessa typer av bilar inte att vara märkbart annorlunda än att köra konventionella fordon, så det finns inte mycket nytt i sig att täcka om dem i detta ämne (men som du kommer att se på ett ögonblick är de punkter som nästa görs generellt tillämpliga)  

För semi-autonoma bilar är det viktigt att allmänheten måste varnas om en oroande aspekt som har uppstått på sistone, nämligen att trots de mänskliga förarna som fortsätter att lägga upp videor om sig själva somna vid ratten i en nivå 2 eller nivå 3 bil , vi måste alla undvika att bli vilseledda till att tro att föraren kan ta bort sin uppmärksamhet från köruppgiften medan han kör en semi-autonom bil.   

Du är den ansvariga parten för fordonets körning, oavsett hur mycket automatisering som kan kastas till nivå 2 eller nivå 3.   

För varför fjärrpilotering eller drift av självkörande bilar i allmänhet undviks, se min förklaring här: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

För att vara försiktig med falska nyheter om självkörande bilar, se mina tips här: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

De etiska implikationerna av AI-körsystem är viktiga, se min indikation här: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Var medveten om fallgroparna med normalisering av avvikelse när det gäller självkörande bilar, här är min uppmaning till vapen: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Självkörande bilar och visselblåsare   

För äkta självkörande fordon på nivå 4 och nivå 5 kommer det inte att vara en mänsklig förare inblandad i köruppgiften. Alla passagerare kommer att vara passagerare; AI gör körningen.   

En aspekt att omedelbart diskutera innebär det faktum att AI involverad i dagens AI-körsystem inte är känslig. Med andra ord är AI helt och hållet en kollektiv datorbaserad programmering och algoritmer, och kan med säkerhet inte resonera på samma sätt som människor kan. 

Varför lägger detta till betoning på att AI inte är känslig? 

Eftersom jag vill understryka att när jag diskuterar AI-drivsystemets roll tillskriver jag inte mänskliga egenskaper till AI. Tänk på att det idag finns en pågående och farlig tendens att antropomorfisera AI. I grund och botten tilldelar människor mänsklig känsla till dagens AI, trots det obestridliga och obestridliga faktum att ingen sådan AI finns än.   

Med det förtydligandet kan du föreställa dig att AI-körsystemet inte på något sätt "vet" om körningens aspekter. Körning och allt det innebär kommer att behöva programmeras som en del av hårdvaran och mjukvaran i den självkörande bilen.   

Låt oss dyka in i de otaliga aspekter som kommer att spela om detta ämne.   

Du kan bli chockad över att tro att det skulle finnas någon form av visselblåsning relaterad till självkörande bilar. 

De flesta människor tenderar att anta att de interna ansträngningarna att utveckla dessa toppmoderna AI-körsystem och sätta ihop en självkörande bil görs med de högsta och bästa avsikterna. Vissa liknar ansträngningen att landa på månen, en ganska imponerande ambition.   

Allt som händer bakom kulisserna i arbetet med att tillverka självkörande bilar är helt klart överbord och kinkigt. Ingen skulle försöka producera en självkörande bil som är farlig. Vidare är förhoppningen att självkörande bilar kommer att leda fram en era av rörlighet för alla, så att de som inte lätt har tillgång till fordonstrafik idag kan få sömlös tillgång till allestädes närvarande rörlighet. Och det finns också tron ​​att självkörande bilar dramatiskt kommer att minska antalet personskador och dödsfall på grund av människodrivna bilolyckor.   

Jag vill inte chocka dig, men det som händer i köket har potential att servera en måltid som har möjlighet att skada människor. 

Vissa självkörande bilinsatser skär i hörnen, försöker göra högsta ledningens brådskande bud och kan inte göra så mycket dubbelkontroll och trippelkontroll som de tror är nödvändigt. På samma sätt finns det personer i den översta ledningen som inte är medvetna om bristen på uppmärksamhet på detaljer och utelämnande eller avskärmning av säkerhetskvalitetsaspekter under de självkörande bilutvecklingsaktiviteterna i sina utvecklingsgrupper.   

Det fungerar båda sätten.   

Tänk på att det pågår ett slags lopp. 

Vem kommer att uppnå riktiga självkörande bilar först?   

I likhet med att komma till månen rider mycket på den första som gör denna självkörande bil till ett ”jättehopp” för mänskligheten. Miljarder på miljarder dollar strömmar in i dessa berömda ansträngningar. Det finns nästan inga intäkter ännu från de självkörande bilinsatserna. Pengar går in och det finns en förväntan att något mirakulöst kommer att dyka upp.   

Under den typen av påtryckningar kan du föreställa dig att vissa element kan vara korta i ett försök att driva framåt. Oro kring säkerhetsaspekter kan ibland läggas på bakbrännaren. Funktioner för AI -drivsystemet som verkar avgörande kan skjutas in på den befintliga listan över kant- eller hörnfodral, vilket innebär att det är funktioner som det antas kan hanteras senare.   

Detta tyder inte på att något av denna karaktär på något sätt är skenande eller finns överallt. Det skulle vara helt orättvist mot alla som strävar efter att producera självkörande bilar. Det här är hjältarna som varje dag strävar kraftfullt efter att ta med sig självkörande bilar till världen och på så sätt nå de tidigare citerade idealen.   

Som jag upprepade gånger har nämnt i mina spalter har biltillverkarna och de självkörande biltillverkarna under de senaste åren tagit en mycket starkare hållning till säkerheten. Detta inkluderar att ha anställt högprofilerade bilsäkerhetsexperter och lanserat betydande och meningsfulla interna insatser för att öka förståelsen för vad säkerhet består av. Dessutom har många av de självkörande bilföretagen nu interna ”whistleblower” -program, vanligtvis mer tydliga som säkerhetsrapporteringsprogram, som är avsedda att få insiders att komma fram när de ser något som de uppfattar som ointressant. 

Den påtagliga oro är att det finns verkliga chanser i en sådan högtrycks-gung-ho-atmosfär av ett dåligt äpple här eller där. För att klargöra är det inte nödvändigtvis fallet att en illvillig person kommer att plantera något illvilligt i ett AI-drivsystem (dock kan det hända). När AI-utvecklare springer runt i full fart finns det en chans att missa några viktiga skyddsåtgärder eller inte ha rätt utvecklingsverktyg eller bli överväldigade och underbemannade.   

Sammantaget kan resultatet bli att ett dolt fel eller problem har kommit in i AI-körsystemet. Inte nödvändigtvis avsiktligt. Bara för att det finns otillräckliga kontroller och andra komplikationer.   

När en självkörande bil har en reservmänsklig förare i fordonet är tron ​​att detta är tillräckligt för att fånga upp alla onödiga åtgärder som AI-körsystemet kan göra. På det sättet att tänka är det som att ha en matsmakare som sitter vid ditt matbord. Personen är tänkt att fånga allt som kan leda saker vilse.   

Som nämnts i mina spalter tror inte alla att detta är ett riktigt sätt att fånga upp problem och vissa förklarar att det är helt felaktigt att använda de allmänna vägarna på detta sätt. Om vi ​​använder analogin av en matsmakare är det som att matsmakaren äter måltiden samtidigt som en person äter på måltiden. Inte en tillfredsställande form av säkerhet för den person som samtidigt äter vad som kan vara giftig mat. I grund och botten kanske reservföraren inte får en otillbörlig körning i tid, och fordonet kraschar in i en fotgängare eller en människodriven bil.    

Och när du ser en självkörande bil som kör ner på gatan och gör det utan en mänsklig reservförare, hur kan du då veta att AI-körsystemet säkert kommer att vara en säker förare?   

Det gör du inte.   

Den vanliga retorten är att om det autonoma fordonet tar sig ner på en stadsgata och inte har träffat någon, måste detta innebära att AI-körsystemet går bra, tack så mycket. Faktum är att de som fortsätter att ta dessa åkattraktioner i självkörande bilar och gör de gushing vittnesmål tenderar att falla i samma kategori. De tror att bara för att den självkörande bilen säkert tog dem till livsmedelsbutiken är det som om detta ger gott och obestridligt bevis för att den självkörande bilen kan gå säkert var som helst.   

De faller i en klassisk mental fälla. Det är ett vanligt statistikorienterat misstag. De antar att deras speciella instans ger utsträckta generaliseringar.   

Det kan vara så att AI-körsystemet kommer till en situation som en fotgängare som plötsligt dartar in på gatan, och den självkörande bilen stannar inte i tid (låt oss anta att den kunde ha). Den som hade tagit resan till livsmedelsbutiken hade inte stött på en sammanhängande fotgängare, och därmed har de ingen aning om vad den självkörande bilen kommer att göra i en sådan miljö. Utan syn, ur sinnet.   

Låt oss komma tillbaka till vad NHTSA säger om bilar övergripande och omfattningen av eventuell visselblåsning som kan vara tillämplig: ”NHTSA får information från whistleblowers om en mängd olika ämnen, inklusive potentiella fordonssäkerhetsfel, bristande överensstämmelse med Federal Motor Vehicle Safety Standards, och brott mot lagen om fordonssäkerhet. ”   

Traditionellt tenderar denna typ av omfattning att fokusera på de mekaniska delarna i en bil.   

Numera har bilar i huvudsak blivit datorer på hjul. Programvaran går alltmer in i omfattningen av ämnen som medför fordonssäkerhetsfel, bristande efterlevnad och kränkning av VSA.   

I vilka delar av AI-körsystemen kan vi förutse potentiella problem? 

Först används sensorer för att samla in data om körplatsen. Självkörande bilar använder vanligtvis videokameror, radar, LIDAR, ultraljudsenheter, värmeavbildningsenheter och liknande. Det här är ögonen och öronen på AI-drivsystemet. 

Anta att en insider vet att de sensorer som valts för den självkörande bilmodellen de arbetar med har säkerhetsproblem som inte hanteras. När den självkörande bilen har ställts in kan det vara så att en viss sensor under vissa förhållanden kommer att ge felaktiga data. Från detta kanske AI-drivsystemet inte har programmerats för att beräkna korrekt vad man ska göra.   

Ett dåligt resultat kan hända på våra allmänna vägar.   

En annan möjlig väg består av fusion av data över flera sensorer. Känd som MSDF (multi-sensor data fusion), kanske den fusionsteknik som används är baserad på att videokamerorna betraktas som ”rätta” även om radaringången säger något annat (avvikelsen kasseras helt enkelt snarare än att höja en flagga eller kräver lite tillägg steg för att försöka lösa). Hur införlivas säkerhetsproblem i denna form av programmering?   

Listan fortsätter och fortsätter.   

Det finns den virtuella modellen som underhålls av AI -drivsystemet och internt visar den befintliga och förutsagda omgivningen. Det kan säkert finnas säkerhetsproblem om hur den koden fungerar. Det finns åtgärdsplaneraren av AI-körsystemet som försöker beräkna vilka nästa åtgärder som det autonoma fordonet är mest försiktiga att vidta. Återigen kan säkerhetsproblem finnas där. Etc.   

För mer information om ODD: er, se min indikation på den här länken här: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

I fråga om självgående bilkörningar, här är mina detaljer framkallande: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Jag har uppmanat att det måste finnas en Chief Safety Officer hos självkörande biltillverkare, här är skopan: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Räknar med att stämningar gradvis kommer att bli en viktig del av den självkörande bilindustrin, se mina förklarande detaljer här: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Slutsats 

Här är kärnan.   

När självkörande bilar börjar växa fram alltmer från laboratorier och FoU-insatser kommer de att användas på allmän väg. Antalet sådana självkörande bilar på vägarna kommer att börja öka. Det ökade antalet sådana autonoma fordon tenderar att något öka oddsen för att något negativt kommer att uppstå. 

Dessa gör vanligtvis stora rubriker i nyheterna. 

Hade den självkörande bilincidenten som får rubrikerna en intern fråga som en insider kunde ha känt, och ändå bestämde de sig för att inte berätta om vad de visste eller allvarligt misstänkte?   

Jag skulle satsa på att vi sannolikt kommer att se upp en visselblåsare som kommer fram om självkörande bilar. 

Alla sådana instanser kommer inte att vara giltiga. Vissa kommer.   

Effekten är sannolikt att detta kommer att få vissa biltillverkare och självkörande biltekniker att återkomma till vad de gör. Du kan verkligen förvänta dig att den typen av visselblåserapporter kommer att väcka ytterligare reglerande intresse.   

Detta kommer att vara en överraskning för vissa, och inte alls en överraskning för andra. De som har arbetat i sådana "kök" tidigare och redan känner att några av de självkörande bilarna som kommer på vägarna är en skrämmande och otillräckligt tillagad måltid.   

Vi får reda på det när visselpiporna börjar blåsa. 

Upphovsrätt 2021 Dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Källa: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/