Fragwürdige Praktiken einiger autonomer Autohersteller mit KI, die Whistleblower anspornen 

Von Lance Eliot, dem Insider für KI-Trends 

Es gibt ein altes Sprichwort, dass man nicht in die Küche schauen sollte, wenn man in ein Restaurant oder Restaurant geht, um etwas zu essen. Wenn Sie sehen, wie das Essen zubereitet wird, wird Ihnen vielleicht schlecht.  

Sie können diese Regel auf nahezu jedes Unternehmen anwenden, das eine beliebige Art von Produkt herstellt. Stellen Sie sich vor, ein Toaster würde fehlerhaft hergestellt und könnte bei der Inbetriebnahme Feuer fangen. Wir würden es zweifellos begrüßen, wenn ein Insider, der in der Firma gearbeitet hat, den Toaster vorher herstellt.   

Komplexe Produkte sind insbesondere Fälle, von denen wir hoffen, dass sich ein Insider meldet. Ihr Auto zum Beispiel ist ein recht komplexes Produkt. Es enthält Tausende und Abertausende von Komponenten. In der Automobilindustrie gab es einige bemerkenswerte Fälle von Insidern, die dazu beigetragen haben, schwerwiegende interne Probleme in Bezug auf die Autoproduktion aufzudecken.   

Alles in allem wäre es sicher schön, wenn jemand von innen etwas sagen und versuchen würde, ein Problem hinter den Kulissen zu beheben, insbesondere wenn es gefährlich ist. 

Ein solcher Insider, der sich äußert, wird typischerweise als a . bezeichnet Hinweisgeber. 

Sie werden sich vielleicht vage bewusst sein, dass Ralph Nader in den 1960er und 1970er Jahren dazu beigetragen hat, das Schlagwort Whistleblower während seiner aktivistischen Bemühungen zu popularisieren. Bis zu diesem Zeitpunkt war der Gedanke, sich über ein internes Thema zu äußern, verpönt. Von den Mitarbeitern wurde allgemein erwartet, dass sie ihrem Arbeitgeber gegenüber sehr loyal sind und es nicht wagen, aus der Reihe zu kommen. Tatsächlich wird ein Whistleblower bis heute manchmal für seine Bemühungen geächtet und als Ratte oder Spitzel abgestempelt.   

Um es klarzustellen, nicht alle Whistleblower haben Recht mit ihren Berichten. Es gibt Fälle, in denen ein Whistleblower möglicherweise falsch liegt, was er als Problem empfindet. Sie könnten Dinge falsch interpretieren. Sie könnten die Sorge übertreiben. Sie können nicht einfach davon ausgehen, dass ein Whistleblower in seinen Zielen perfekt ist. Manchmal hegt ein Whistleblower persönliche Vorurteile und sucht irgendeine Form von verdrehter Rache oder hat andere unangemessene Motive im Sinn.   

Das bedeutet aber auch nicht, dass ein Whistleblower axiomatisch als Unzufriedener befleckt werden sollte, nur weil er als Whistleblower auftritt. Überhaupt nicht.   

Die Whistleblower-Route zu gehen kann in vielerlei Hinsicht mühsam und ruinös sein. Eine Person kann als eine Art Verräter aufgeführt werden und für immer befleckt sein, wo immer sie hingeht und was auch immer sie sonst im Leben versucht. Die Entscheidung, ein Whistleblower zu werden, erfordert einiges an Nachdenken und versucht, ein Gleichgewicht zwischen einem persönlichen Sinn für ethische Kodizes und dem Potenzial, als Informant oder Tattletale bekannt zu werden, abzuwägen.   

Wir können den Whistleblowern dankbar sein, die trotz der persönlichen Kosten das Richtige getan haben und substanzielle Probleme aufgedeckt haben, die sonst nicht ans Tageslicht gekommen wären. Und in vielen dieser Fälle waren solche demonstrativen Probleme bereits integraler Bestandteil des Schadens für die Benutzer des Produkts oder könnten dies möglicherweise in Zukunft tun. Der Whistleblower war in der Lage, eine Kette von Ereignissen in Gang zu setzen, die diese unappetitlichen oder geradezu bedauerlichen Ergebnisse schließlich einschränkten oder reduzierten.   

Wie tritt ein Whistleblower hervor und pfeift sozusagen im Wesentlichen?   

Es gibt normalerweise zwei Möglichkeiten für einen Whistleblower, die internen Probleme bekannt zu machen, von denen er glaubt, dass sie unangenehm sind. 

Ein Ansatz besteht darin, ein sogenannter intern meldender Whistleblower zu sein, was im Allgemeinen bedeutet, dass die Person, die die Whistleblowing-Informationen durchführt, dies innerhalb der Grenzen des Unternehmens tut, in dem sie tätig ist. Sie können ihre Bedenken an ihren Vorgesetzten oder Vorgesetzten richten. Vielleicht hat das Unternehmen einen formalisierten Whistleblower-Prozess, bei dem ein Sicherheitsbedenken schriftlich eingereicht wird. Und so weiter. 

Der andere Ansatz ist der externe Whistleblower. Dies ist der Fall, wenn eine Person, die ein Insider ist oder war, sich dazu entscheidet, nach außen über die internen Aspekte zu berichten, die sie als beunruhigend empfinden. Die Person könnte Reportern erzählen, was vor sich geht. Die Person könnte beschließen, mit einer externen Verbraucherschutzbehörde zu sprechen. Usw. 

Zuvor habe ich erwähnt, dass Autos und die Automobilindustrie verschiedene Whistleblower haben. 

In den USA dient der Vehicle Safety Act (VSA) als übergreifende Richtlinie zu Whistleblowing und Whistleblowern im Rahmen von Fahrzeugüberlegungen. Hier ist die formelle VSA-Definition darüber, was genau ein Whistleblower ist: „Der Begriff „Whistleblower“ bezeichnet jeden Mitarbeiter oder Auftragnehmer eines Kraftfahrzeugherstellers, Teilelieferanten oder Händlers, der dem Sekretär freiwillig Originalinformationen zu einem Kraftfahrzeug zur Verfügung stellt Mängel, Nichteinhaltung oder jede Verletzung oder angebliche Verletzung einer Benachrichtigungs- oder Meldepflicht dieses Kapitels, die wahrscheinlich ein unangemessenes Risiko für Tod oder schwere Körperverletzung mit sich bringt“ (als Randnotiz ist der Sekretär der Verkehrsminister ). 

Der normale Weg für einen Hinweisgeber im Zusammenhang mit dem Auto, der ein Problem von außen preisgibt, besteht darin, sich an die NHTSA (National Highway Traffic Safety Administration) zu wenden, die eine Behörde des US-Verkehrsministeriums (US DOT) ist. Die erklärte Mission der NHTSA ist es, Leben zu retten, Verletzungen zu vermeiden und fahrzeugbedingte Unfälle in den Vereinigten Staaten zu reduzieren.   

Auf der Website des NHTSA-Whistleblower-Programms heißt es: „Whistleblower sind eine wichtige Informationsquelle für die NHTSA über potenzielle Sicherheitsprobleme und Gesetzesverstöße. Das Fahrzeugsicherheitsgesetz schützt die Vertraulichkeit von Hinweisgebern und ermöglicht es der NHTSA, einem Hinweisgeber, dessen Informationen zur erfolgreichen Beilegung eines Vollstreckungsverfahrens wegen Gesetzesverstößen führen, eine Geldprämie zu zahlen.“ 

Das Whistleblower-Programm hat viele Nuancen. Wenn Sie oder jemand, den Sie kennen, erwägt, Whistleblower in Bezug auf ein Automobilproblem zu werden, sollten Sie sich über die Angelegenheit auf dem Laufenden halten. Schau am besten nach, bevor du springst. Darüber hinaus heißt es im VSA: „Ein Whistleblower kann sich durch einen Anwalt vertreten lassen.“   

In Bezug auf den Umfang einer Meldung, die als Whistleblowing-berechtigt angesehen werden könnte, gibt die NHTSA-Website Folgendes an: „Die NHTSA erhält Informationen von Hinweisgebern zu einer Vielzahl von Themen, einschließlich potenzieller Fahrzeugsicherheitsmängel, Nichteinhaltung der Federal Motor Vehicle Safety Standards, und Verstöße gegen das Fahrzeugsicherheitsgesetz. NHTSA-Ermittler berücksichtigen Informationen von Whistleblowern, die zu formellen Maßnahmen wie Ermittlungen, Rückrufen oder zivilrechtlichen Maßnahmen führen können. NHTSA schützt die Vertraulichkeit von Hinweisgebern. Die NHTSA kann einem Whistleblower, der Informationen bereitstellt, die zur erfolgreichen Beilegung eines Vollstreckungsverfahrens wegen Gesetzesverstößen führen, eine Geldprämie zahlen.“   

Sie denken vielleicht, dass Whistleblowing über Autos ein ziemlich ho-hum Thema ist; Whistleblowing über Autos gibt es schon seit Jahren.   

Nun, es gibt etwas Neues, das Sie gebührend berücksichtigen müssen.   

Die Zukunft der Autos besteht aus KI-basierten echten selbstfahrenden Autos. 

Gestatten Sie mir einen Moment zur Erläuterung.   

An einem echten selbstfahrenden Auto ist kein menschlicher Fahrer beteiligt. Denken Sie daran, dass echte selbstfahrende Autos über ein KI-Fahrsystem gefahren werden. Es besteht kein Bedarf für einen menschlichen Fahrer am Steuer und es ist auch nicht vorgesehen, dass ein Mensch das Fahrzeug führt. 

Hier ist eine interessante Frage, die es wert ist, darüber nachzudenken: Werden wir Whistleblower über das Aufkommen von KI-basierten echten selbstfahrenden Autos sehen, und wenn ja, welche Auswirkungen könnten wir erwarten?   

Bevor ich ins Detail gehe, möchte ich noch einmal klarstellen, was gemeint ist, wenn ich von echten selbstfahrenden Autos spreche. 

Mein Framework zu autonomen KI-Autos finden Sie unter dem folgenden Link: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Warum dies eine Mondschussanstrengung ist, finden Sie in meiner Erklärung hier: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Weitere Informationen zu den Ebenen als eine Art Richterskala finden Sie in meiner Diskussion hier: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Für das Argument über die Aufteilung der Ebenen siehe meine Erklärung hier: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Die Ebenen selbstfahrender Autos verstehen 

Zur Verdeutlichung: Echte selbstfahrende Autos sind solche, bei denen die KI das Auto ganz alleine fährt und es während der Fahraufgabe keine menschliche Hilfe gibt. 

Diese fahrerlosen Fahrzeuge gelten als Stufe 4 und Stufe 5, während ein Auto, bei dem ein menschlicher Fahrer die Fahrleistung gemeinsam teilen muss, normalerweise als Stufe 2 oder Stufe 3 eingestuft wird. Die Fahrzeuge, die die Fahraufgabe gemeinsam teilen, werden als Semi bezeichnet -autonom und enthält normalerweise eine Vielzahl von automatisierten Add-Ons, die als ADAS (Advanced Driver-Assistance Systems) bezeichnet werden.   

Es gibt noch kein echtes selbstfahrendes Auto auf Stufe 5, von dem wir noch nicht einmal wissen, ob dies möglich sein wird und wie lange es dauern wird, bis es dort ankommt.   

In der Zwischenzeit versuchen die Bemühungen der Stufe 4 allmählich, durch sehr enge und selektive Versuche auf öffentlichen Straßen eine gewisse Traktion zu erreichen. Es gibt jedoch Kontroversen darüber, ob diese Tests per se zulässig sein sollten (wir sind alle Meerschweinchen auf Leben und Tod in einem Experiment) auf unseren Autobahnen und Nebenstraßen stattfinden, behaupten einige). 

Da für halbautonome Autos ein menschlicher Fahrer erforderlich ist, unterscheidet sich die Einführung dieser Fahrzeugtypen nicht wesentlich vom Fahren herkömmlicher Fahrzeuge. Daher gibt es an sich nicht viel Neues zu diesem Thema (wie Sie sehen werden) in einem Moment sind die nächsten Punkte allgemein anwendbar).  

Für halbautonome Autos ist es wichtig, dass die Öffentlichkeit vor einem störenden Aspekt gewarnt wird, der in letzter Zeit aufgetreten ist, und zwar trotz der menschlichen Fahrer, die immer wieder Videos von sich selbst veröffentlichen, die am Steuer eines Level 2- oder Level 3-Autos einschlafen Wir alle müssen vermeiden, in die Irre geführt zu werden, dass der Fahrer seine Aufmerksamkeit von der Fahraufgabe ablenken kann, während er ein halbautonomes Auto fährt.   

Sie sind die verantwortliche Partei für die Fahraktionen des Fahrzeugs, unabhängig davon, wie viel Automatisierung in ein Level 2 oder Level 3 geworfen werden könnte.   

Warum Fernsteuerung oder Betrieb von selbstfahrenden Autos generell vermieden wird, finden Sie in meiner Erklärung hier: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Um sich vor gefälschten Nachrichten über selbstfahrende Autos in Acht zu nehmen, lesen Sie meine Tipps hier: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Die ethischen Implikationen von KI-Antriebssystemen sind erheblich, siehe meine Angabe hier: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Seien Sie sich der Fallstricke der Normalisierung von Abweichungen bewusst, wenn es um selbstfahrende Autos geht. Hier ist mein Ruf an die Waffen: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Selbstfahrende Autos und Whistleblower   

Bei echten selbstfahrenden Fahrzeugen der Stufen 4 und 5 ist kein menschlicher Fahrer an der Fahraufgabe beteiligt. Alle Insassen werden Passagiere sein; die KI übernimmt das Fahren.   

Ein Aspekt, der sofort diskutiert werden muss, ist die Tatsache, dass die KI, die an den heutigen KI-Antriebssystemen beteiligt ist, nicht empfindungsfähig ist. Mit anderen Worten, die KI ist insgesamt ein Kollektiv computergestützter Programmierung und Algorithmen und mit Sicherheit nicht in der Lage, auf die gleiche Weise zu argumentieren, wie es Menschen können. 

Warum wurde dadurch betont, dass die KI nicht empfindungsfähig ist? 

Weil ich unterstreichen möchte, dass ich bei der Erörterung der Rolle des KI-Antriebssystems der KI keine menschlichen Qualitäten zuschreibe. Bitte beachten Sie, dass es heutzutage eine anhaltende und gefährliche Tendenz gibt, die KI zu anthropomorphisieren. Im Wesentlichen weisen die Menschen der heutigen KI eine menschenähnliche Empfindung zu, trotz der unbestreitbaren und unbestreitbaren Tatsache, dass es eine solche KI noch nicht gibt.   

Mit dieser Klarstellung können Sie sich vorstellen, dass das KI-Fahrsystem die Facetten des Fahrens nicht von Haus aus „kennt“. Das Fahren und alles, was dazu gehört, muss als Teil der Hardware und Software des selbstfahrenden Autos programmiert werden.   

Lassen Sie uns in die unzähligen Aspekte dieses Themas eintauchen.   

Sie könnten schockiert sein, wenn Sie daran denken, dass es jede Art von Whistleblowing im Zusammenhang mit selbstfahrenden Autos geben würde. 

Die meisten Menschen neigen zu der Annahme, dass die internen Bemühungen zur Entwicklung dieser hochmodernen KI-Fahrsysteme und zur Zusammenstellung eines selbstfahrenden Autos mit den höchsten und besten Absichten erfolgen. Manche vergleichen die Anstrengung mit der Landung auf dem Mond, einem ziemlich ehrfurchtgebietenden Wunsch.   

Sicherlich ist alles, was sich hinter den Kulissen bei der Herstellung selbstfahrender Autos abspielt, völlig übertrieben. Niemand würde versuchen, ein selbstfahrendes Auto zu produzieren, das gefährlich ist. Darüber hinaus besteht die Hoffnung, dass selbstfahrende Autos eine Ära der Mobilität für alle einleiten werden, die es denjenigen ermöglicht, die heute keinen einfachen Zugang zum Autoverkehr haben, einen nahtlosen Zugang zu allgegenwärtiger Mobilität zu erhalten. Und es besteht auch die Überzeugung, dass selbstfahrende Autos die Zahl der Verletzungen und Todesfälle durch von Menschenhand gesteuerte Autounfälle drastisch reduzieren werden.   

Nun, ich möchte Sie nicht schockieren, aber was in der Küche passiert, hat das Potenzial, eine Mahlzeit zu servieren, die Menschen schaden kann. 

Einige Bemühungen um selbstfahrende Autos kürzen ab, versuchen, die dringenden Gebote des oberen Managements zu erfüllen, und sind nicht in der Lage, so viele doppelte und dreifache Überprüfungen vorzunehmen, wie sie für notwendig erachten. Ebenso gibt es Personen im oberen Management, die sich nicht bewusst sind, dass bei der Entwicklung selbstfahrender Autos in ihren Entwicklungsgruppen die Liebe zum Detail und das Weglassen oder Umgehen von Sicherheitsqualitätsaspekten nicht beachtet werden.   

Es funktioniert in beide Richtungen.   

Denken Sie daran, dass eine Art Rennen stattfindet. 

Wer wird zuerst echte selbstfahrende Autos erreichen?   

Ähnlich wie auf dem Mond ist viel auf dem ersten zu fahren, um dieses selbstfahrende Auto zu einem „Riesensprung“ für die Menschheit zu machen. Milliarden und Abermilliarden von Dollar fließen in diese gepriesenen Bemühungen. Noch gibt es fast keine Einnahmen aus den Bemühungen um selbstfahrende Autos. Geld fließt hinein, und es besteht die Erwartung, dass etwas Wunderbares herauskommen wird.   

Unter diesem Druck können Sie sich vorstellen, dass einige Elemente zu kurz kommen, um voranzukommen. Bedenken über Sicherheitsaspekte können manchmal in den Hintergrund gedrängt werden. Funktionen für das KI-Fahrsystem, die entscheidend erscheinen, können in die bestehende Liste der Rand- oder Eckfälle verschoben werden, was bedeutet, dass es sich um Fähigkeiten handelt, von denen angenommen wird, dass sie später behandelt werden können.   

Dies bedeutet nicht, dass etwas dieser Art irgendwie grassiert oder überall zu finden ist. Das wäre völlig unfair gegenüber all denen, die mächtig danach streben, selbstfahrende Autos zu produzieren. Dies sind die Helden, die jeden Tag mächtig danach streben, selbstfahrende Autos auf die Welt zu bringen und dabei die zuvor zitierten Ideale zu erreichen.   

Außerdem haben, wie ich in meinen Kolumnen immer wieder erwähnt habe, die Automobilhersteller und selbstfahrenden Automobilhersteller in den letzten Jahren eine viel stärkere Haltung zur Sicherheit eingenommen. Dazu gehört die Einstellung hochkarätiger Sicherheitsexperten für die Automobilindustrie und die Einleitung bedeutender und sinnvoller interner Anstrengungen, um das Verständnis dafür zu verbessern, was Sicherheit bedeutet. Darüber hinaus haben viele der selbstfahrenden Autofirmen inzwischen interne „Whistleblower“-Programme, die in der Regel einfacher als Sicherheitsberichterstattungsprogramme bezeichnet werden, die Insider dazu bringen sollen, sich zu melden, wenn sie etwas sehen, das sie als unangenehm empfinden. 

Die vorgebliche Sorge besteht darin, dass in einer solchen Hochdruck-Gung-Ho-Atmosphäre hier oder da echte Chancen auf einen faulen Apfel bestehen. Um es klarzustellen, es ist nicht unbedingt der Fall, dass eine ruchlose Person etwas ruchloses in ein KI-Fahrsystem einbaut (obwohl das passieren kann). Wenn KI-Entwickler mit voller Geschwindigkeit herumlaufen, besteht die Möglichkeit, dass einige wichtige Sicherheitsvorkehrungen übersehen werden oder nicht die richtigen Entwicklungstools zur Verfügung stehen, oder sie überfordert und unterbesetzt sind.   

Alles in allem kann das Ergebnis sein, dass ein versteckter Fehler oder ein Problem in das KI-Fahrsystem eingedrungen ist. Nicht unbedingt absichtlich. Nur weil es nicht genügend Checks and Balances und andere Komplikationen gibt.   

Wenn ein selbstfahrendes Auto einen menschlichen Ersatzfahrer im Fahrzeug hat, ist die Überzeugung, dass dies ausreicht, um alle unerwünschten Aktionen des KI-Fahrsystems abzufangen. In dieser Denkweise ist es, als hätte man einen Food-Probekocher an Ihrem Esstisch. Die Person soll alles fangen, was die Dinge in die Irre führen kann.   

Wie in meinen Kolumnen erwähnt, glauben nicht alle, dass dies eine geeignete Methode ist, um Probleme zu beheben, und einige kritisieren, dass die Nutzung der öffentlichen Straßen auf diese Weise völlig unangemessen ist. Wenn wir die Analogie eines Essensverkosters verwenden, ist es so, als ob der Essensverkoster die Mahlzeit zur gleichen Zeit isst, wie eine Person auf der Mahlzeit isst. Keine zufriedenstellende Form der Sicherheit für die Person, die gleichzeitig möglicherweise giftige Lebensmittel zu sich nimmt. Im Wesentlichen kann es sein, dass der Ersatzfahrer eine ungewollte Fahrhandlung nicht rechtzeitig bemerkt und das Fahrzeug mit einem Fußgänger oder einem von Menschen gefahrenen Auto zusammenstößt.    

Wenn Sie ein selbstfahrendes Auto die Straße entlangfahren sehen, und dies ohne einen menschlichen Ersatzfahrer, wie können Sie dann wissen, dass das KI-Fahrsystem mit Sicherheit ein sicherer Fahrer ist?   

Das tust du nicht.   

Die übliche Erwiderung ist, dass, wenn das autonome Fahrzeug auf einer Stadtstraße unterwegs ist und niemanden getroffen hat, dies bedeuten muss, dass das KI-Fahrsystem gut funktioniert, vielen Dank. In der Tat fallen diejenigen, die diese Fahrten in selbstfahrenden Autos und diese überschwänglichen Testimonials machen, in die gleiche Kategorie. Sie glauben, dass nur weil das selbstfahrende Auto sie sicher zum Lebensmittelladen gebracht hat, dies ein ausreichender und unbestreitbarer Beweis dafür ist, dass das selbstfahrende Auto sicher überall hinfahren kann.   

Sie tappen in eine klassische mentale Falle. Es ist ein häufiger statistikorientierter Fehler. Sie gehen davon aus, dass ihr einziger Fall für ausgedehnte Verallgemeinerungen sorgt.   

Es könnte sein, dass das KI-Fahrsystem auf eine Situation wie einen Fußgänger stößt, der plötzlich auf die Straße rast und das selbstfahrende Auto nicht rechtzeitig anhält (nehmen wir an, es könnte). Die Person, die die Fahrt zum Lebensmittelgeschäft unternommen hatte, war keinem Fußgänger begegnet und hat daher keine Ahnung, was das selbstfahrende Auto in einer solchen Umgebung tun wird. Aus dem Auge, aus dem Sinn.   

Kommen wir zurück zu dem, was die NHTSA über Autos insgesamt sagt und den Umfang möglicher Hinweisgeber, die möglicherweise anwendbar sind: „Die NHTSA erhält Informationen von Hinweisgebern zu einer Vielzahl von Themen, einschließlich potenzieller Fahrzeugsicherheitsmängel, Nichteinhaltung der Federal Motor Vehicle Safety Standards, und Verstöße gegen das Fahrzeugsicherheitsgesetz.“   

Traditionell konzentriert sich diese Art von Zielfernrohr auf die mechanischen Teile eines Autos.   

Heutzutage sind Autos im Wesentlichen zu Computern auf Rädern geworden. Die Software gerät zunehmend in den Bereich der Themenbereiche Fahrzeugsicherheitsmängel, Nichteinhaltung und Verstöße gegen die VSA.   

In welchen Bereichen der KI-Fahrsysteme können wir potenzielle Probleme erwarten? 

Zunächst werden Sensoren verwendet, um Daten über die Fahrszene zu sammeln. Selbstfahrende Autos verwenden normalerweise Videokameras, Radar, LIDAR, Ultraschallgeräte, Wärmebildgeräte und dergleichen. Dies sind die Augen und Ohren des KI-Fahrsystems. 

Angenommen, ein Insider weiß, dass die ausgewählten Sensoren für das selbstfahrende Automodell, an dem er arbeitet, Sicherheitsbedenken aufweisen, auf die nicht eingegangen wird. Sobald das selbstfahrende Auto im Einsatz ist, kann es sein, dass unter bestimmten Bedingungen ein bestimmter Sensor fehlerhafte Daten liefert. Aus diesem Grund wurde das KI-Fahrsystem möglicherweise nicht so programmiert, dass es richtig berechnet, was zu tun ist.   

Auf unseren öffentlichen Straßen kann es zu einem schlechten Ergebnis kommen.   

Ein anderer möglicher Weg besteht darin, die Daten über mehrere Sensoren hinweg zu fusionieren. Bekannt als MSDF (Multi-Sensor Data Fusion), basiert die verwendete Fusionstechnik möglicherweise darauf, dass die Videokameras als „richtig“ angesehen werden, auch wenn die Radareingabe etwas anderes sagt (die Diskrepanz wird einfach verworfen, anstatt eine Flagge zu setzen oder etwas hinzuzufügen). Schritte zu versuchen und zu lösen). Wie werden Sicherheitsbedenken in diese Form der Programmierung integriert?   

Die Liste geht weiter und weiter.   

Da ist das virtuelle Modell, das vom KI-Fahrsystem gepflegt wird und intern die vorhandene und prognostizierte Umgebung abbildet. Es könnte sicherlich Sicherheitsbedenken hinsichtlich der Funktionsweise dieses Codes geben. Es gibt den Aktionsplaner-Teil des KI-Fahrsystems, der versucht zu berechnen, welche nächsten Aktionen des autonomen Fahrzeugs am umsichtigsten sind. Auch hier könnten Sicherheitsbedenken lauern. Etc.   

Weitere Details zu ODDs finden Sie in meinem Hinweis unter diesem Link hier: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Zum Thema selbstfahrende Geländewagen sind hier meine Details: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Ich habe darauf gedrängt, dass es einen Chief Safety Officer bei selbstfahrenden Autoherstellern geben muss. Hier ist die Übersicht: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Erwarten Sie, dass Klagen allmählich zu einem bedeutenden Teil der selbstfahrenden Autoindustrie werden, siehe meine Erläuterungen hier: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Zusammenfassung 

Hier ist die Quintessenz.   

Da selbstfahrende Autos zunehmend aus Labors und Forschungs- und Entwicklungsbemühungen hervorgehen, werden sie auf öffentlichen Straßen eingesetzt. Die Zahl solcher selbstfahrenden Autos auf den Straßen wird zunehmen. Die zunehmende Anzahl solcher autonomer Fahrzeuge erhöht die Wahrscheinlichkeit, dass etwas Ungünstiges eintreten wird, tendenziell etwas. 

Diese machen normalerweise große Schlagzeilen in den Nachrichten. 

Hatte der Vorfall mit selbstfahrenden Autos, der Schlagzeilen macht, ein internes Problem, das einem Insider bekannt sein könnte, und dennoch beschlossen sie, nichts zu erzählen, was sie wussten oder ernsthaft vermuteten?   

Ich würde wetten, dass wir wahrscheinlich ein Auftauchen von Whistleblowern sehen werden, die über selbstfahrende Autos auftauchen. 

Nicht alle diese Instanzen sind gültig. Einige werden.   

Die Auswirkungen werden wahrscheinlich dazu führen, dass einige Autohersteller und Technologiehersteller für selbstfahrende Autos überdenken, was sie tun. Sie können sicherlich erwarten, dass diese Art von Whistleblower-Meldungen weiteres regulatorisches Interesse wecken werden.   

Dies wird für einige eine Überraschung sein und für andere überhaupt keine Überraschung. Diejenigen, die schon einmal in solchen „Küchen“ gearbeitet haben und bereits spüren, dass einige der selbstfahrenden Autos, die auf die Straßen kommen, eine erschreckende und unzureichend zubereitete Mahlzeit sind.   

Wir werden es herausfinden, sobald die Pfeifen zu blasen beginnen. 

Copyright 2021 Dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Quelle: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/