Wątpliwe praktyki niektórych autonomicznych producentów samochodów wykorzystujących sztuczną inteligencję zachęcają sygnalistów 

Autor: Lance Eliot, sztuczka AI trendów 

Jest takie stare powiedzenie, że nie powinieneś zaglądać do kuchni, kiedy idziesz do jakiejś restauracji lub jadłodajni, żeby coś przekąsić. Kiedy widzisz, jak przygotowywane jest jedzenie, może ci to po prostu wywołać nudności.  

Możesz zastosować tę zasadę do niemal każdego podmiotu, który wytwarza dowolny rodzaj produktu. Wyobraź sobie, że toster został wyprodukowany w sposób wadliwy i prawdopodobnie zapali się podczas używania. Niewątpliwie bylibyśmy mile widziani w posiadaniu osoby, która pracowała w firmie, która przygotowała toster z wyprzedzeniem.   

Złożone produkty to szczególnie przypadki, o których mamy nadzieję, że zgłosi się osoba z wewnątrz. Na przykład Twój samochód jest dość złożonym produktem. Zawiera tysiące komponentów. Przemysł motoryzacyjny miał kilka godnych uwagi przypadków osób z wewnątrz, które pomogły w ujawnieniu poważnych problemów wewnętrznych dotyczących produkcji samochodów.   

Podsumowując, z pewnością byłoby miło, gdyby ktoś w środku odezwał się i spróbował naprawić zakulisowy problem, szczególnie gdy jest niebezpieczny. 

Taki insider, który wypowiada się, jest zwykle określany jako Informator. 

Możesz niejasno zdawać sobie sprawę, że Ralph Nader w latach 1960. i 1970. pomagał w popularyzacji sloganu informatora podczas swoich działań aktywistycznych. Aż do tego momentu myśl o wypowiadaniu się na temat kwestii wewnętrznych nie była mile widziana. Ogólnie oczekiwano od pracowników, że będą zaciekle lojalni wobec swojego pracodawcy i nie odważą się mówić poza kolejnością. W rzeczywistości do dziś czasami demaskator jest ostracyzowany i nazywany szczurem lub kapusiem za swoje wysiłki.   

Aby wyjaśnić, nie wszyscy sygnaliści mają rację co do tego, co zgłaszają. Zdarzają się sytuacje, w których sygnalista może się mylić co do tego, co postrzega jako problem. Mogą źle zinterpretować rzeczy. Mogą przesadzać z niepokojem. Nie można bez ogródek zakładać, że demaskator jest doskonały w swoich celach. Czasami demaskator może żywić osobiste uprzedzenia i szukać jakiejś formy pokręconej zemsty lub mieć na myśli inne niestosowne motywy.   

Ale to również nie oznacza, że ​​demaskator powinien być aksjomatycznie skażony jako malkontent tylko dlatego, że działa jako demaskator. Zupełnie nie.   

Podążanie szlakiem sygnalistów może być pod wieloma względami uciążliwe i rujnujące. Osoba może zostać wymieniona jako rodzaj zdrajcy i na zawsze splamiona, gdziekolwiek się udaje i cokolwiek innego w życiu próbuje zrobić. Decyzja o zostaniu demaskatorem wymaga solidnego myślenia, próbując zrównoważyć osobiste poczucie kodeksów etycznych z możliwością bycia znanym jako informator lub plotka.   

Możemy być wdzięczni tym informatorom, którzy zdecydowali się postąpić właściwie, pomimo osobistych kosztów i ujawnili istotne problemy, które w przeciwnym razie nie ujrzałyby światła dziennego. W wielu takich przypadkach tego rodzaju problemy demonstracyjne były już integralną częścią szkód dla osób korzystających z produktu lub potencjalnie mogłyby to zrobić w przyszłości. Sygnalista był w stanie rozpocząć łańcuch wydarzeń, które ostatecznie ograniczyły lub zmniejszyły te niesmaczne lub wręcz godne ubolewania wyniki.   

W jaki sposób sygnalista pojawia się i zasadniczo demaskuje, jak to było, whistleblower?   

Zazwyczaj demaskator ma dwie możliwości ujawnienia wewnętrznych problemów, które jego zdaniem są nie do przyjęcia. 

Jednym z podejść jest bycie tak zwanym informatorem zgłaszającym wewnętrzne nieprawidłowości, co ogólnie oznacza, że ​​osoba, która zgłasza nieprawidłowości, robi to w ramach podmiotu, w którym pracuje. Mogą zgłaszać swoje obawy swojemu przełożonemu lub kierownikowi. Być może firma posiada sformalizowany proces informowania o nieprawidłowościach, który obejmuje złożenie na piśmie zastrzeżenia dotyczącego bezpieczeństwa. I tak dalej. 

Drugie podejście to sygnalista ujawniający na zewnątrz. Dzieje się tak, gdy osoba, która jest lub była osobą poufną, decyduje się opowiedzieć na zewnątrz o wewnętrznych aspektach, które postrzega jako niepokojące. Osoba ta może powiedzieć dziennikarzom o tym, co się dzieje. Osoba ta może zdecydować się na rozmowę z zewnętrznym podmiotem ochrony konsumentów. Itp. 

Wspomniałem wcześniej, że samochody i przemysł motoryzacyjny mają różnych sygnalistów. 

W Stanach Zjednoczonych ustawa o bezpieczeństwie pojazdów (VSA) służy jako nadrzędna wytyczna dotycząca sygnalizowania nieprawidłowości i sygnalistów w kontekście rozważań dotyczących pojazdów. Oto oficjalna definicja VSA dotycząca tego, czym dokładnie jest demaskator: „Termin „informator” oznacza każdego pracownika lub wykonawcę producenta pojazdów silnikowych, dostawcy części lub dealera, który dobrowolnie przekazuje Sekretarzowi oryginalne informacje dotyczące dowolnego pojazdu silnikowego wady, niezgodności lub jakiegokolwiek naruszenia lub domniemanego naruszenia jakiegokolwiek wymogu powiadomienia lub zgłaszania tego rozdziału, które może spowodować nieuzasadnione ryzyko śmierci lub poważnych obrażeń ciała” (na marginesie, Sekretarzem, o którym mowa jest Sekretarz Transportu ). 

Normalną ścieżką dla sygnalisty związanego z samochodem, który zamierza ujawnić problem na zewnątrz, byłoby skontaktowanie się z NHTSA (National Highway Traffic Safety Administration), która jest agencją Departamentu Transportu USA (US DOT). Zadeklarowaną misją NHTSA jest ratowanie życia, zapobieganie urazom i zmniejszanie liczby wypadków związanych z pojazdami w Stanach Zjednoczonych.   

Według strony internetowej szczegółowo opisującej program sygnalistów NHTSA: „Informatorzy są ważnym źródłem informacji dla NHTSA na temat potencjalnych problemów z bezpieczeństwem pojazdów i naruszeń prawa. Ustawa o bezpieczeństwie pojazdów chroni poufność sygnalistów i umożliwia NHTSA wypłatę nagrody pieniężnej sygnalistowi, którego informacje prowadzą do pomyślnego rozstrzygnięcia postępowania egzekucyjnego w przypadku naruszenia prawa. 

Istnieje wiele różnych niuansów programu sygnalistów. Jeśli Ty lub ktoś, kogo znasz, rozważa bycie demaskatorem związanym z problemem motoryzacyjnym, upewnij się, że jesteś w tej sprawie na bieżąco. Najlepiej spojrzeć przed skokiem. Ponadto, jak stwierdzono w VSA: „Informator może być reprezentowany przez adwokata”.   

Jeśli chodzi o zakres tego, co można uznać za zgłoszenie uzasadnione przez zgłaszanie nieprawidłowości, oto, co wskazuje strona internetowa NHTSA: „NHTSA otrzymuje informacje od sygnalistów na wiele różnych tematów, w tym potencjalne wady bezpieczeństwa pojazdu, niezgodność z federalnymi normami bezpieczeństwa pojazdów silnikowych, oraz naruszenia ustawy o bezpieczeństwie pojazdów. Śledczy NHTSA biorą pod uwagę informacje dostarczone przez sygnalistów, które mogą prowadzić do formalnych działań, takich jak dochodzenie, wycofanie lub wykonanie kary cywilnej. NHTSA chroni poufność sygnalistów. NHTSA może wypłacić nagrodę pieniężną informatorowi, który dostarczy informacje prowadzące do pomyślnego rozstrzygnięcia postępowania egzekucyjnego w związku z naruszeniem prawa.   

Być może myślisz, że zgłaszanie nieprawidłowości w samochodach to dość ponury temat; whistleblowing na temat samochodów ma miejsce od lat.   

Cóż, jest coś nowego, nad czym musisz się zastanowić.   

Przyszłość samochodów to prawdziwe, autonomiczne samochody oparte na sztucznej inteligencji. 

Daj mi chwilę na rozwinięcie.   

W prawdziwym samojezdnym samochodzie nie ma ludzkiego kierowcy. Pamiętaj, że prawdziwe, autonomiczne samochody są napędzane przez system jazdy AI. Nie ma potrzeby, aby za kierownicą kierował człowiek, ani też nie ma możliwości prowadzenia pojazdu przez człowieka. 

Oto intrygujące pytanie, nad którym warto się zastanowić: Czy zobaczymy informatorów o pojawieniu się prawdziwych autonomicznych samochodów opartych na sztucznej inteligencji, a jeśli tak, jakiego wpływu możemy się spodziewać?   

Zanim przejdziemy do szczegółów, chciałbym dokładniej wyjaśnić, co to znaczy, kiedy mówię o prawdziwych samochodach samojezdnych. 

Aby zapoznać się z moimi ramami dotyczącymi autonomicznych samochodów AI, zobacz link tutaj: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Dlaczego jest to wysiłek księżycowy, zobacz moje wyjaśnienie tutaj: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Aby uzyskać więcej informacji na temat poziomów jako rodzaju skali Richtera, zobacz moją dyskusję tutaj: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Argument o rozwidlaniu poziomów znajdziesz w moim wyjaśnieniu tutaj: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Zrozumienie poziomów samochodów autonomicznych 

Dla wyjaśnienia, prawdziwie autonomiczne samochody to takie, w których sztuczna inteligencja prowadzi samochód całkowicie samodzielnie i nie ma żadnej pomocy człowieka podczas zadania prowadzenia. 

Te pojazdy bez kierowcy są uważane za Poziom 4 i Poziom 5, podczas gdy samochód, który wymaga od człowieka kierowcy współdzielenia wysiłku związanego z prowadzeniem pojazdu, jest zwykle rozpatrywany na Poziomie 2 lub Poziomie 3. Samochody, które współdzielą zadanie prowadzenia pojazdu, są opisywane jako częściowo -autonomiczne i zazwyczaj zawierają różne zautomatyzowane dodatki, które są określane jako ADAS (Advanced Driver-Assistance Systems).   

Na poziomie 5 nie ma jeszcze prawdziwego samochodu do samodzielnego prowadzenia, którego nawet nie wiemy, czy będzie to możliwe do osiągnięcia, ani jak długo to zajmie.   

W międzyczasie wysiłki na poziomie 4 stopniowo próbują uzyskać pewną przyczepność, przechodząc bardzo wąskie i selektywne testy na drogach publicznych, chociaż istnieją kontrowersje co do tego, czy takie testy powinny być dozwolone jako takie (wszyscy jesteśmy świnkami morskimi na śmierć lub życie w eksperymencie dzieje się na naszych autostradach i drogach, niektórzy twierdzą). 

Ponieważ samochody półautonomiczne wymagają od człowieka kierowcy, adopcja tego typu samochodów nie będzie się znacząco różnić od prowadzenia konwencjonalnymi pojazdami, więc nie ma zbyt wiele nowych do omówienia na ten temat w tym temacie (jak jednak zobaczycie za chwilę, następne punkty mają ogólne zastosowanie).  

W przypadku samochodów półautonomicznych ważne jest, aby społeczeństwo zostało ostrzeżone o niepokojącym aspekcie, który pojawia się ostatnio, a mianowicie, że pomimo tych ludzkich kierowców, którzy zamieszczają filmy o swoich snach za kierownicą samochodu na poziomie 2 lub 3 wszyscy musimy unikać wprowadzania w błąd w przekonaniu, że kierowca może odwrócić uwagę od zadania prowadzenia pojazdu podczas prowadzenia samochodu półautonomicznego.   

Jesteś odpowiedzialny za kierowanie pojazdem, niezależnie od tego, ile automatyzacji można wrzucić na Poziom 2 lub Poziom 3.   

Aby dowiedzieć się, dlaczego zdalne pilotowanie lub obsługa samochodów samojezdnych jest generalnie odrzucane, zobacz moje wyjaśnienie tutaj: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Aby zachować ostrożność przed fałszywymi wiadomościami o samochodach samojezdnych, zobacz moje wskazówki tutaj: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Etyczne implikacje systemów kierowania AI są znaczące, patrz moje wskazanie tutaj: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Bądź świadomy pułapek normalizacji dewiacji, jeśli chodzi o samochody samojezdne, oto moje wezwanie do broni: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Samojezdne samochody i sygnaliści   

W przypadku prawdziwie autonomicznych pojazdów poziomu 4 i 5, nie będzie człowieka zaangażowanego w zadanie prowadzenia pojazdu. Wszyscy pasażerowie będą pasażerami; AI robi jazdę.   

Jeden aspekt, który należy natychmiast omówić, wiąże się z faktem, że sztuczna inteligencja zaangażowana w dzisiejsze systemy sterujące sztuczną inteligencją nie jest świadoma. Innymi słowy, sztuczna inteligencja jest zbiorem programów komputerowych i algorytmów iz całą pewnością nie jest w stanie rozumować w taki sam sposób, jak ludzie. 

Dlaczego ten dodatkowy nacisk na to, że sztuczna inteligencja nie jest świadoma? 

Ponieważ chcę podkreślić, że omawiając rolę systemu napędowego AI, nie przypisuję AI cech ludzkich. Należy pamiętać, że w dzisiejszych czasach istnieje trwająca i niebezpieczna tendencja do antropomorfizacji sztucznej inteligencji. W istocie ludzie przypisują dzisiejszej sztucznej inteligencji ludzką wrażliwość, pomimo niezaprzeczalnego i niepodważalnego faktu, że taka sztuczna inteligencja jeszcze nie istnieje.   

Dzięki temu wyjaśnieniu możesz sobie wyobrazić, że system jazdy AI nie będzie w jakiś sposób „wiedzieć” o aspektach jazdy. Prowadzenie i wszystko, co się z tym wiąże, będzie musiało zostać zaprogramowane jako część sprzętu i oprogramowania samochodu autonomicznego.   

Zanurzmy się w niezliczonych aspektach, które pojawiają się w tym temacie.   

Możesz być zszokowany, gdy pomyślisz, że istnieje jakikolwiek rodzaj sygnalizowania nieprawidłowości związanych z autonomicznymi samochodami. 

Większość ludzi ma skłonność do zakładania, że ​​wewnętrzne wysiłki związane z rozwojem tych najnowocześniejszych systemów jazdy AI i złożeniem autonomicznego samochodu są wykonywane z najwyższymi i najlepszymi intencjami. Niektórzy porównują wysiłek do lądowania na Księżycu, raczej budzącą podziw aspirację.   

Z pewnością wszystko, co dzieje się za kulisami w akcie tworzenia samojezdnych samochodów, jest całkowicie poza planem i przystojniakiem. Nikt nie chciałby wyprodukować samojezdnego samochodu, który byłby niebezpieczny. Ponadto istnieje nadzieja, że ​​autonomiczne samochody zapoczątkują erę mobilności dla wszystkich, umożliwiając tym, którzy nie mają dziś łatwo dostępu do tranzytu samochodowego, bezproblemowy dostęp do wszechobecnej mobilności. Istnieje również przekonanie, że autonomiczne samochody drastycznie zmniejszą liczbę obrażeń i ofiar śmiertelnych w wyniku wypadków samochodowych z udziałem ludzi.   

No cóż, nie chcę cię szokować, ale to, co dzieje się w kuchni, może serwować posiłek, który może zaszkodzić ludziom. 

Niektóre wysiłki związane z autonomicznym samochodem idą na skróty, próbując wykonać pilną prośbę wyższego kierownictwa i nie są w stanie przeprowadzić tylu podwójnych i potrójnych kontroli, ile uważają za konieczne. Podobnie są osoby z wyższej kadry kierowniczej, które nie są świadome braku dbałości o szczegóły i pomijania lub pomijania aspektów jakości bezpieczeństwa podczas działań rozwojowych autonomicznych samochodów w swoich grupach rozwojowych.   

Działa w obie strony.   

Pamiętaj, że trwa wyścig. 

Kto pierwszy zdobędzie prawdziwe autonomiczne samochody?   

Podobnie jak w przypadku podróży na Księżyc, wiele zależy od tego, czy ten samojezdny samochód stanie się „wielkim skokiem” dla ludzkości. Miliardy miliardów dolarów wlewają się w te osławione wysiłki. Na razie nie ma prawie żadnych dochodów z wysiłków związanych z autonomicznym samochodem. Pieniądze napływają i istnieje oczekiwanie, że pojawi się coś cudownego.   

Pod taką presją możesz sobie wyobrazić, że niektóre elementy mogą zostać lekko przesunięte, aby popchnąć do przodu. Obawy o aspekty bezpieczeństwa można czasami odłożyć na bok. Funkcje systemu sterowania AI, które wydają się kluczowe, można przenieść na istniejącą listę przypadków krawędziowych lub narożnych, co oznacza, że ​​są to możliwości, z którymi, jak się zakłada, można sobie poradzić później.   

Nie oznacza to, że coś tego rodzaju jest w jakiś sposób szerzące się lub znajdowane wszędzie. Byłoby to całkowicie niesprawiedliwe dla wszystkich tych, którzy usilnie dążą do produkcji autonomicznych samochodów. Są to bohaterowie, którzy każdego dnia potężnie walczą o to, aby światu pojawiły się autonomiczne samochody, a tym samym osiągnąć te wcześniej przytoczone ideały.   

Ponadto, jak wielokrotnie wspominałem w swoich felietonach, w ciągu ostatnich kilku lat producenci samochodów i producenci samochodów autonomicznych zajęli znacznie silniejsze stanowisko w kwestii bezpieczeństwa. Obejmuje to zatrudnienie wybitnych ekspertów ds. bezpieczeństwa motoryzacyjnego oraz podjęcie znaczących i znaczących wysiłków wewnętrznych w celu lepszego zrozumienia, na czym polega bezpieczeństwo. Ponadto wiele firm zajmujących się samodzielnym prowadzeniem samochodów ma obecnie wewnętrzne programy „informatorów”, zwykle określane bardziej jako programy raportowania bezpieczeństwa, które mają na celu skłonienie wtajemniczonych do ujawnienia się, gdy zobaczą coś, co postrzegają jako nieoczekiwane. 

Pozorna obawa polega na tym, że istnieją realne szanse w tak ciśnieniowej atmosferze gung-ho zepsutego jabłka tu i tam. Aby było jasne, niekoniecznie jest tak, że nikczemna osoba zamierza umieścić coś nikczemnego w systemie sterowania AI (choć może się to zdarzyć). Kiedy programiści AI działają z pełną prędkością, istnieje ryzyko pominięcia niektórych ważnych zabezpieczeń lub braku odpowiednich narzędzi programistycznych lub przeciążenia i niedoboru personelu.   

Podsumowując, rezultatem może być to, że ukryty błąd lub problem dostał się do systemu sterowania AI. Niekoniecznie celowo. Tylko dlatego, że nie ma wystarczających kontroli i równowagi oraz innych komplikacji.   

Kiedy autonomiczny samochód ma zapasowego kierowcę w pojeździe, uważa się, że wystarczy to, aby wychwycić wszelkie nieprzewidziane działania, które może wykonać system jazdy AI. W ten sposób to tak, jakby mieć degustatora, który siedzi przy twoim stole. Osoba powinna złapać wszystko, co może sprowadzić na manowce.   

Jak wspomniałem w moich felietonach, nie wszyscy uważają, że jest to właściwy sposób wyłapywania problemów i niektórzy twierdzą, że korzystanie w ten sposób z dróg publicznych jest całkowicie niewłaściwe. Jeśli posługujemy się analogią degustatora żywności, to tak, jakby degustator jadł posiłek w tym samym czasie, co osoba spożywająca posiłek. Niezadowalająca forma bezpieczeństwa dla osoby, która jednocześnie spożywa coś, co może być toksyczne. Zasadniczo kierowca rezerwowy może nie złapać na czas nieodpowiedniego aktu prowadzenia pojazdu, a pojazd zderzy się z pieszym lub samochodem prowadzonym przez człowieka.    

Ponadto, gdy widzisz samojezdny samochód jadący ulicą i robi to bez ludzkiego zapasowego kierowcy, skąd możesz wiedzieć, że system prowadzenia AI z pewnością będzie bezpiecznym kierowcą?   

Ty nie.   

Zwykła riposta jest taka, że ​​jeśli autonomiczny pojazd jedzie ulicą miasta i nikogo nie uderzył, musi to oznaczać, że system jazdy AI ma się dobrze, bardzo dziękuję. Rzeczywiście, ci, którzy jeżdżą samojezdnymi samochodami i robią te wylewne referencje, zwykle należą do tej samej kategorii. Uważają, że tylko dlatego, że autonomiczny samochód bezpiecznie przewiózł ich do sklepu spożywczego, jest to wystarczający i niepodważalny dowód na to, że autonomiczny samochód może bezpiecznie dojechać wszędzie.   

Wpadają w klasyczną mentalną pułapkę. Jest to powszechny błąd związany ze statystykami. Zakładają, że ich jedna konkretna instancja prowadzi do szerokich uogólnień.   

Możliwe, że system jazdy AI natrafi na taką sytuację, jak pieszy, który nagle wypadnie na ulicę, a autonomiczny samochód nie zatrzyma się na czas (załóżmy, że mógł). Osoba, która wybrała się na wycieczkę do sklepu spożywczego, nie natknęła się na przechodniów, przez co nie ma pojęcia, co w takim otoczeniu zrobi autonomiczny samochód. Co z oczu to z serca.   

Wróćmy do tego, co NHTSA mówi ogólnie o samochodach i zakresie możliwego sygnalizowania nieprawidłowości, które mogą mieć zastosowanie: „NHTSA otrzymuje informacje od sygnalistów na wiele różnych tematów, w tym o potencjalnych defektach bezpieczeństwa pojazdu, niezgodności z Federalnymi Normami Bezpieczeństwa Pojazdów Motorowych, oraz naruszenia ustawy o bezpieczeństwie pojazdów.”   

Tradycyjnie tego rodzaju zakres koncentruje się na mechanicznych częściach samochodu.   

W dzisiejszych czasach samochody stały się w zasadzie komputerami na kołach. Oprogramowanie coraz bardziej skręca w zakres tematów, które wiążą się z defektami bezpieczeństwa pojazdu, niezgodnościami i naruszeniami VSA.   

W jakich obszarach systemów jazdy AI możemy przewidywać potencjalne problemy? 

Po pierwsze, czujniki służą do zbierania danych o miejscu jazdy. Samochody autonomiczne zwykle wykorzystują kamery wideo, radar, LIDAR, jednostki ultradźwiękowe, urządzenia termowizyjne i tym podobne. To są oczy i uszy systemu jazdy AI. 

Załóżmy, że wtajemniczony wie, że czujniki wybrane do autonomicznego modelu samochodu, nad którym pracują, mają problemy z bezpieczeństwem, którymi się nie zajmuje. Po uruchomieniu autonomicznego samochodu może się zdarzyć, że w określonych warunkach określony czujnik będzie dostarczał błędne dane. Z tego powodu system jazdy AI mógł nie zostać zaprogramowany do prawidłowego obliczania, co robić.   

Zły wynik może się zdarzyć na naszych drogach publicznych.   

Inną możliwą drogą jest połączenie danych z wielu czujników. Znana jako MSDF (wieloczujnikowa fuzja danych), być może stosowana technika fuzji opiera się na tym, że kamery wideo są uważane za „właściwe”, nawet jeśli wejście radaru mówi inaczej (rozbieżność jest po prostu odrzucana, zamiast podnosić flagę lub wymagać dodania kroki, aby spróbować rozwiązać). W jaki sposób kwestie bezpieczeństwa są uwzględniane w tej formie programowania?   

Lista jest długa.   

Istnieje wirtualny model, który jest utrzymywany przez system jazdy AI i wewnętrznie przedstawia istniejące i przewidywane otoczenie. Z pewnością mogą pojawić się obawy dotyczące bezpieczeństwa związane z działaniem tego kodu. Istnieje część systemu jazdy AI, która polega na planowaniu działań, która próbuje obliczyć, jakie następne działania pojazdu autonomicznego są najrozsądniejsze do podjęcia. Znowu mogą tam być obawy o bezpieczeństwo. Itp.   

Aby uzyskać więcej informacji na temat ODD, zobacz moje wskazanie pod tym linkiem tutaj: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Jeśli chodzi o samochody terenowe z własnym samochodem, oto moje szczegóły: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Nalegałem, aby przy samokierujących się samochodach musiał być dyrektor bezpieczeństwa, oto szufelka: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Spodziewaj się, że procesy staną się stopniowo znaczącą częścią przemysłu samochodowego, zobacz moje wyjaśnienia tutaj: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Wnioski 

Oto sedno sprawy.   

Ponieważ w laboratoriach i pracach badawczo-rozwojowych coraz częściej pojawiają się autonomiczne samochody, będą one wykorzystywane na drogach publicznych. Liczba takich autonomicznych samochodów na jezdniach zacznie rosnąć. Zwiększona liczba takich pojazdów autonomicznych będzie nieco zwiększać szanse, że pojawi się coś niekorzystnego. 

Zwykle trafiają na nagłówki gazet. 

Czy incydent z autonomicznym samochodem, który trafia na pierwsze strony gazet, miał wewnętrzny problem, który mógł być znany wtajemniczonej osoby, a mimo to postanowili nie mówić o tym, co wiedzieli lub poważnie podejrzewali?   

Założę się, że prawdopodobnie zobaczymy pojawienie się sygnalistów, którzy wypowiadają się na temat autonomicznych samochodów. 

Nie wszystkie takie przypadki będą ważne. Niektórzy to zrobią.   

Prawdopodobnie spowoduje to, że niektórzy producenci samochodów i producenci samochodów autonomicznych ponownie przyjrzą się swojej działalności. Z pewnością można się spodziewać, że tego rodzaju zgłoszenia sygnalistów wzbudzą dalsze zainteresowanie organów regulacyjnych.   

Dla niektórych będzie to niespodzianka, dla innych wcale nie. Ci, którzy już wcześniej pracowali w takich „kuchniach” i już czują, że niektóre samojezdne samochody, które wjeżdżają na jezdnie, to przerażający i nieodpowiednio ugotowany posiłek.   

Dowiemy się, gdy zaczną wiać gwizdki. 

Prawa autorskie 2021 Dr.Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Źródło: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/