Сумнівна практика деяких автономних автовиробників, що стимулюють викривачів 

Ленс Еліот, AI Trends Insider 

Існує старовинна приказка, що не варто заглядати на кухню, коли йдете в якийсь ресторан чи закусочну, щоб перекусити. Коли ви бачите, як готується їжа, у вас може просто захворіти шлунок.  

Ви можете застосувати це правило практично до будь-якої організації, яка виробляє будь-який вид продукції. Уявіть собі, якби тостер виготовлявся несправним способом і міг би загорітися під час використання. Ми, безсумнівно, будемо раді мати інсайдера, який працював у компанії над створенням тостера.   

Складні продукти – це особливо ті випадки, коли ми сподіваємося, що інсайдер з’явиться. Ваш автомобіль, наприклад, є досить складним продуктом. Він містить тисячі й тисячі компонентів. В автомобільній промисловості було кілька помітних випадків інсайдерів, які допомогли виявити серйозні внутрішні проблеми щодо виробництва автомобілів.   

Загалом, було б непогано, якби хтось ізсередини заговорив і спробував виправити закулісну проблему, особливо коли це небезпечно. 

Такого інсайдера, який висловлюється, зазвичай називають а інформатор. 

Ви можете смутно знати, що Ральф Нейдер у 1960-х і 1970-х роках допоміг популяризувати крилатий вислів викривачів під час своїх активістських зусиль. До цього моменту ідея висловлюватися про внутрішню проблему була неприйнятною. Загалом очікується, що працівники будуть дуже лояльними до свого роботодавця і не наважаться говорити не по черзі. Насправді, донині інколи викривачів піддають остракизму та називають щуром чи стукачом за їхні зусилля.   

Щоб уточнити, не всі викривачі мають рацію щодо того, що вони повідомляють. Бувають випадки, коли викривач може помилятися щодо того, що він сприймає як проблему. Вони можуть неправильно тлумачити речі. Вони можуть перевищити занепокоєння. Ви не можете припустити, що викривач ідеальний у своїх цілях. Іноді викривач може приховувати особисту упередженість і шукати певної форми викривленої помсти або мати на увазі інші непристойні мотиви.   

Але це також не означає, що викривач має бути аксіоматично заплямований як незадоволений просто через те, що він виступає в ролі викривача. Зовсім ні.   

Перейти на шлях викривача може бути важким і згубним у багатьох відношеннях. Людину можна зарахувати до свого роду зрадника і назавжди заплямувати, куди б вона не пішла і що б ще в житті не намагалася зробити. Щоб вирішити стати інформатором, потрібно серйозно подумати, намагаючись збалансувати особисте відчуття етичних кодексів і потенційну можливість бути відомим як інформатор або балаган.   

Ми можемо бути вдячні за тих викривачів, які вирішили вчинити правильно, незважаючи на особисті витрати, і викрили суттєві проблеми, які інакше не отримали б світла. І в багатьох таких випадках ці типи демонстративних проблем уже були невід’ємною частиною шкоди тим, хто використовує продукт, або потенційно могли зробити це в майбутньому. Викривач зміг розпочати ланцюжок подій, які зрештою обмежили або зменшили ці неприємні чи відверто жалюгідні результати.   

Як викривач виходить і, по суті, свисток?   

Зазвичай викривач може повідомити про внутрішні проблеми, які, на їхню думку, є несприятливими. 

Один з підходів полягає в тому, щоб бути так званим інформатором із внутрішнім звітуванням, що зазвичай означає, що особа, яка повідомляє про викриття, робить це в межах організації, в якій вони працюють. Вони можуть повідомити про свої проблеми своєму керівнику або керівнику. Можливо, у фірмі є формалізований процес інформування, який передбачає письмову заяву про безпеку. І так далі. 

Іншим підходом є зовнішній розкриття викривачів. Це коли людина, яка є або була інсайдером, вирішує розповісти ззовні про внутрішні аспекти, які вони сприймають як тривожні. Людина може розповісти журналістам про те, що відбувається. Ця особа може вирішити поговорити зі стороннім органом захисту прав споживачів. тощо 

Раніше я згадував, що в автомобілях та автомобільній промисловості були різні викривачі. 

У Сполучених Штатах Закон про безпеку транспортних засобів (VSA) є загальною вказівкою щодо повідомлень про викривачів і викривачів у контексті транспортних засобів. Ось офіційне визначення VSA щодо того, що саме таке викривач: «Термін «викривач» означає будь-якого співробітника або підрядника виробника автомобілів, постачальника запчастин або дилерського центру, який добровільно надає секретарю оригінальну інформацію, що стосується будь-якого транспортного засобу. дефект, невідповідність або будь-яке порушення або імовірне порушення будь-якої вимоги щодо повідомлення або звітності цієї глави, що може призвести до невиправданого ризику смерті або серйозних тілесних ушкоджень» (як примітка, Секретар, про якого йдеться, є міністром транспорту ). 

Звичайним шляхом для інформатора, пов’язаного з автомобілем, який збирається повідомити про проблему ззовні, було б зв’язатися з NHTSA (Національною адміністрацією безпеки дорожнього руху), яка є агентством Міністерства транспорту США (US DOT). Заявлена ​​місія NHTSA полягає в тому, щоб рятувати життя, запобігати травмам і зменшувати кількість ДТП, пов’язаних з транспортними засобами в Сполучених Штатах.   

На веб-сайті, де детально описано програму інформаторів NHTSA: «Викривачі є важливим джерелом інформації для NHTSA про потенційні проблеми з безпекою транспортних засобів та порушення законодавства. Закон про безпеку транспортних засобів захищає конфіденційність інформаторів і дозволяє NHTSA виплачувати грошову винагороду інформатору, чия інформація веде до успішного вирішення правоохоронних заходів за порушення закону». 

У програмі викривачів є безліч нюансів. Якщо ви або хтось із ваших знайомих плануєте бути викривачем, пов’язаним із автомобільною проблемою, обов’язково дізнайтеся про це. Найкраще подивитись перед стрибком. Крім того, як зазначено в VSA: «Викривач може бути представлений адвокатом».   

З точки зору обсягу того, що можна вважати виправданим поданням, ось що вказує на веб-сайті NHTSA: «NHTSA отримує інформацію від інформаторів на широкий спектр тем, включаючи потенційні дефекти безпеки транспортних засобів, невідповідність Федеральним стандартам безпеки автомобілів, та порушення Закону про безпеку транспортних засобів. Слідчі NHTSA розглядають інформацію, надану викривачами, що може призвести до офіційних дій, як-от розслідування, відкликання або застосування цивільного стягнення. NHTSA захищає конфіденційність викривачів. NHTSA може виплатити грошову винагороду інформатору, який надає інформацію, яка веде до успішного вирішення примусової дії за порушення закону».   

Ви можете подумати, що інформування про автомобілі – це дещо несамовита тема; доноси про автомобілі відбуваються роками.   

Що ж, є щось нове, до чого потрібно приділити належну увагу.   

Майбутнє автомобілів — це справжні безпілотні автомобілі на основі штучного інтелекту. 

Дозвольте мені трохи обговорити.   

У справжньому самокерованому автомобілі немає водія-людини. Майте на увазі, що справжні самокеровані автомобілі керуються за допомогою системи водіння AI. За кермом не потрібен водій-людина, а також не передбачено, щоб людина могла керувати транспортним засобом. 

Ось інтригуюче питання, над яким варто задуматись: Чи побачимо ми викривачів про появу справжніх самокерованих автомобілів на основі штучного інтелекту, і якщо так, то якого впливу ми можемо очікувати?   

Перш ніж вдаватися до деталей, я хотів би ще більше пояснити, що мається на увазі, коли я маю на увазі справжні самокеровані машини. 

Для мого принципу роботи автономних автомобілів ШІ див. Посилання тут: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Чому це самогубні зусилля, дивіться моє пояснення тут: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Детальніше про рівні як тип шкали Ріхтера див. В моєму обговоренні тут: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Аргумент про роздвоєння рівнів див. В моєму поясненні тут: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Розуміння рівнів самокерованих автомобілів 

Як уточнення, справжні самокеровані автомобілі - це ті, де ШІ керує автомобілем повністю самостійно, і під час водіння немає жодної допомоги з боку людини. 

Ці транспортні засоби без водія вважаються рівнем 4 та 5, тоді як автомобіль, для якого водій-людина повинен спільно розподіляти зусилля водіння, зазвичай розглядається на рівні 2 або 3. Автомобілі, які спільно використовують водійське завдання, описуються як напівфабрикати -автономні та, як правило, містять різноманітні автоматизовані доповнення, які називаються ADAS (вдосконалені системи допомоги водію).   

На Рівні 5 ще немає справжнього автомобіля, що самостійно керує, про який ми ще не знаємо, чи цього вдасться досягти, і скільки часу це займе, щоб дістатися туди.   

Тим часом зусилля рівня 4 поступово намагаються наблизитись, проходячи дуже вузькі та вибіркові випробування на громадських дорогах, хоча існують суперечки щодо того, чи слід дозволяти це тестування як таке (ми всі морські свинки, які живуть або загинули в експерименті) які трапляються на наших шосе та об'їзних шляхах, дехто стверджує). 

Оскільки напівавтономні машини вимагають водія-людини, прийняття таких типів автомобілів не буде суттєво відрізнятися від керування звичайними транспортними засобами, тому по цій темі не вистачає багато нового як такого (хоча, як ви побачите за мить наступні викладені моменти є загальнодоступними).  

Для напівавтономних автомобілів важливо, щоб громадськість попередила про тривожний аспект, що виникає останнім часом, а саме: незважаючи на тих водіїв, які постійно публікують відеозаписи, засинаючи за кермом автомобіля рівня 2 або 3 рівня , ми всі повинні уникати того, щоб не вводити в оману вірити, що водій може відняти їхню увагу від завдання водіння під час керування напівавтономним автомобілем.   

Ви несете відповідальну сторону за рушійні дії транспортного засобу, незалежно від того, наскільки автоматизація може бути перекинута на рівень 2 або 3 рівень.   

Про те, чому дистанційне пілотування або експлуатація самохідних автомобілів взагалі уникає, дивіться моє пояснення тут: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Щоб побоюватися фальшивих новин про самокеровані машини, дивіться мої поради тут: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Етичні наслідки систем керування ШІ є значними, див. Моє вказівку тут: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Майте на увазі підводні камені нормалізації відхилень, коли мова йде про самокеровані машини, ось мій заклик до зброї: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Самокеровані автомобілі та викривачі   

Для справжніх самокерованих транспортних засобів рівня 4 та рівня 5 водій-людина не буде задіяний. Усі пасажири будуть пасажирами; ШІ керує автомобілем.   

Один аспект, який слід негайно обговорити, передбачає той факт, що ШІ, який бере участь у сучасних системах керування ШІ, не є розумним. Іншими словами, ШІ в цілому є колективом комп’ютерного програмування та алгоритмів, і, безперечно, він не в змозі міркувати так само, як це може людина. 

Чому це додало наголос на тому, що ШІ не є розумним? 

Оскільки я хочу підкреслити, що, обговорюючи роль системи керування ШІ, я не приписую людські якості ШІ. Будь ласка, майте на увазі, що нині існує тривала та небезпечна тенденція до антропоморфізації ШІ. По суті, люди призначають сьогоднішній ШІ схожий на людину розум, незважаючи на незаперечний та беззаперечний факт, що такого ШІ ще не існує.   

З цим роз’ясненням ви можете передбачити, що система водіння ШІ не буде якось “знати” про аспекти водіння. Водіння та все, що воно спричиняє, повинні бути запрограмовані як частина апаратного та програмного забезпечення самокерованого автомобіля.   

Давайте зануримося в безліч аспектів, які грають на цю тему.   

Ви можете бути шоковані, подумавши, що можуть бути будь-які викривачі, пов’язані з самокерованими автомобілями. 

Більшість людей схильні вважати, що внутрішні зусилля щодо розробки цих найсучасніших систем водіння з штучним інтелектом та створення самокерованого автомобіля здійснюються з найвищими та найкращими намірами. Деякі порівнюють зусилля з висадкою на Місяць, досить трепетним прагненням.   

Звісно, ​​все, що відбувається за лаштунками під час створення безпілотних автомобілів, абсолютно бездоганно. Ніхто б не прагнув створити небезпечний самокерований автомобіль. Крім того, ми сподіваємося, що самокеровані автомобілі породять еру мобільності для всіх, дозволяючи тим, хто сьогодні не має доступу до автомобільного транспорту, мати безперешкодний доступ до повсюдної мобільності. Є також переконання, що самокеровані автомобілі різко знизять кількість людських травм і смертей унаслідок аварій, які керують люди.   

Ну, я не хочу вас шокувати, але те, що відбувається на кухні, має потенціал для подачі їжі, яка може зашкодити людям. 

Деякі спроби самостійного керування автомобілем зрізають кути, намагаючись виконати термінове замовлення вищого керівництва, і не можуть проводити стільки подвійних і потрійних перевірок, скільки вони вважають необхідними. Аналогічно, є представники вищого керівництва, які не знають про недостатню увагу до деталей та пропущення або обхід аспектів якості безпеки під час діяльності з розробки безпілотних автомобілів у своїх групах розробників.   

Це працює в обох напрямках.   

Майте на увазі, що триває своєрідна гонка. 

Хто першим придбає справжні безпілотні автомобілі?   

Подібно до польоту на Місяць, багато хто їздить на першому, щоб зробити цей самокерований автомобіль «гігантським стрибком» для людства. Мільярди і мільярди доларів вливаються в ці хвалені зусилля. Поки що прибутків від самокерованих автомобілів майже немає. Гроші надходять, і є очікування, що з’явиться щось дивовижне.   

Під таким тиском ви можете уявити, що деяким елементам може бути дано короткий відрив, щоб просунутися вперед. Занепокоєння щодо аспектів безпеки іноді може відходити на другий план. Функції для системи водіння AI, які здаються ключовими, можна додати до існуючого списку крайових або кутових випадків, що означає, що це можливості, які, як передбачається, можна буде використовувати пізніше.   

Це не говорить про те, що щось подібне якось повсюдно розповсюджується або зустрічається. Це було б абсолютно несправедливо по відношенню до всіх тих, хто сильно прагне виробляти безпілотні автомобілі. Це герої, які щодня прагнуть щодня, прагнучи вивести у світ безпілотні автомобілі, і таким чином досягти тих, про які цитувалися раніше ідеали.   

Крім того, як я неодноразово згадував у своїх колонках, за останні кілька років автовиробники та виробники самокерованих автомобілів зайняли набагато більш рішучу позицію щодо безпеки. Це включає в себе найняти високопрофесійних експертів з автомобільної безпеки та започаткування значних і значущих внутрішніх зусиль, щоб покращити розуміння того, з чого складається безпека. Крім того, багато компаній, що займаються самокеруванням автомобілів, тепер мають внутрішні програми «інформаторів», які зазвичай більш чітко придумані як програми звітності про безпеку, які мають на меті спонукати інсайдерів висловитися, коли вони бачать щось, що вони сприймають як шкідливе. 

Уявне занепокоєння полягає в тому, що в атмосфері такого високого тиску є реальні шанси на погане яблуко тут чи там. Щоб було зрозуміло, це не обов’язково так, що нечесна людина збирається підсадити щось підле в систему керування ШІ (хоча це може статися). Коли розробники штучного інтелекту бігають на повній швидкості, є ймовірність упустити деякі важливі запобіжні заходи або не мати правильних інструментів розробки, або бути перевантаженими та неукомплектованими.   

Загалом, результатом може стати прихована помилка або проблема, що потрапила в систему водіння AI. Не обов’язково навмисно. Просто тому, що не існує достатньої системи стримувань і противаг та інших ускладнень.   

Коли в автомобілю, що керує автомобілем, є резервний водій-людина, вважається, що цього достатньо, щоб уловити будь-які небажані дії, які може зробити система водіння AI. Таким чином, це як дегустатор їжі, який сидить за вашим обіднім столом. Людина повинна зловити все, що може збити речі.   

Як уже згадувалося в моїх колонках, не всі вважають, що це правильний спосіб уловити проблеми, а деякі заперечують, що використання доріг загального користування таким чином є абсолютно неправильним. Якщо ми використовуємо аналогію з дегустатором їжі, то це виглядає так, ніби дегустатор їжі їсть їжу в той самий час, коли людина обідає за їжею. Незадовільна форма безпеки для людини, яка одночасно їсть токсичну їжу. По суті, резервний водій може не встигнути вчасно зловити неблагополучне водіння, і транспортний засіб врізається в пішохода або автомобіль, яким керує людина.    

Крім того, коли ви бачите самокерований автомобіль, який їде по вулиці, і робить це без резервного водія, як ви можете знати, що система водіння AI безсумнівно буде безпечним водієм?   

Ти ні.   

Звичайна репліка полягає в тому, що якщо автономний транспортний засіб пробивається вулицею міста і нікого не вдарив, це має означати, що система водіння AI працює нормально, дуже дякую. Справді, ті, хто продовжує їздити на безпілотних автомобілях і давати ці яскраві відгуки, як правило, потрапляють до цієї ж категорії. Вони вірять, що тільки тому, що самокерований автомобіль безпечно доставив їх до продуктового магазину, це ніби є достатнім і безсумнівним доказом того, що самокерований автомобіль може безпечно їхати куди завгодно.   

Вони потрапляють у класичну ментальну пастку. Це поширена помилка, орієнтована на статистику. Вони припускають, що їх один конкретний випадок сприяє розширеним узагальненням.   

Можливо, система водіння зі штучним інтелектом зіткнеться з такою ситуацією, як пішохід, який раптово вискочить на вулицю, і самокерований автомобіль не зупиниться вчасно (припустимо, що це могло статися). Людина, яка поїхала до продуктового магазину, не зустріла пішохода, що втрутився, і, таким чином, не має уявлення, що буде робити самокерований автомобіль у такій обстановці. З очей геть з серця геть.   

Давайте повернемося до того, що NHTSA каже про автомобілі в цілому та масштаби можливого розкриття інформації, яке може бути застосованим: «NHTSA отримує інформацію від інформаторів на широкий спектр тем, включаючи потенційні дефекти безпеки транспортних засобів, невідповідність Федеральним стандартам безпеки автомобілів, та порушення Закону про безпеку транспортних засобів».   

Традиційно цей вид пристосування має тенденцію зосередитися на механічних частинах автомобіля.   

У наш час автомобілі стали по суті комп’ютерами на колесах. Програмне забезпечення все більше звертається до сфери тем, які тягнуть за собою дефекти безпеки транспортних засобів, невідповідності та порушення VSA.   

У яких сферах систем керування штучним інтелектом ми можемо передбачити потенційні проблеми? 

По-перше, датчики використовуються для збору даних про місце водіння. Автомобілі з самокеруванням зазвичай використовують відеокамери, радари, LIDAR, ультразвукові пристрої, тепловізійні пристрої тощо. Це очі та вуха системи водіння AI. 

Припустимо, інсайдер знає, що датчики, вибрані для самокерованої моделі автомобіля, над якою вони працюють, мають проблеми безпеки, які не розглядаються. Після того, як самокерований автомобіль буде виставлений, можливо, за певних умов певний датчик буде надавати помилкові дані. Через це система водіння AI, можливо, не була запрограмована на належний розрахунок, що робити.   

Поганий результат може статися на наших дорогах загального користування.   

Інший можливий шлях полягає в об’єднанні даних кількох датчиків. Відомий як MSDF (мультисенсорний злиття даних), можливо, застосовуваний метод злиття заснований на тому, що відеокамери вважаються «правильними», навіть якщо радарний вхід говорить про інше (невідповідність просто відкидається, а не піднімається прапорець або вимагає додавання кроки, щоб спробувати вирішити). Як питання безпеки включаються в цю форму програмування?   

Список продовжується і продовжується.   

Існує віртуальна модель, яка підтримується системою водіння зі штучним інтелектом і внутрішньо відображає існуюче та передбачуване оточення. Звичайно, можуть виникнути проблеми з безпекою щодо того, як цей код працює. У системі водіння AI є частина планувальника дій, яка намагається обчислити, які наступні дії автономного транспортного засобу найбільш розумно виконувати. Знову ж таки, тут можуть бути проблеми з безпекою. тощо   

Для отримання більш докладної інформації про ODD дивіться моє вказівку за цим посиланням тут: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Щодо теми позашляхових самокерованих автомобілів, ось мої відомості: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Я закликав, щоб у виробників автомобілів, що керують автомобілем, був головний директор з безпеки, ось ось совок: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Очікуйте, що позови поступово стануть значною частиною автопромисловості, що керує автомобілем, див. Мої пояснювальні деталі тут: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Висновок 

Ось підсумок.   

Оскільки безпілотні автомобілі починають все частіше з’являтися в лабораторіях і науково-дослідних роботах, вони будуть використовуватися на дорогах загального користування. Кількість таких самокерованих автомобілів на дорогах почне збільшуватися. Збільшення кількості таких автономних транспортних засобів, як правило, дещо підвищить ймовірність того, що виникне щось несприятливе. 

Вони зазвичай викликають великі заголовки в новинах. 

Чи був інцидент з самокерованим автомобілем, який отримав заголовки, внутрішню проблему, про яку міг знати інсайдер, і все ж вони вирішили не розповідати про те, що вони знали чи серйозно підозрювали?   

Б’юся об заклад, що ми, ймовірно, побачимо появу викривачів, які виступають про самокеровані автомобілі. 

Не всі такі випадки будуть дійсними. Деякі будуть.   

Ймовірно, що це змусить деяких автовиробників і виробників технологій безпілотних автомобілів переглянути те, що вони роблять. Ви, безумовно, можете очікувати, що такі типи звітів викривачів викличуть подальший інтерес регуляторів.   

Для когось це буде сюрпризом, а для когось зовсім не. Ті, хто раніше працював на таких «кухнях» і вже відчувають, що деякі з безпілотних автомобілів, які виїжджають на проїжджу частину, є жахливо і неадекватно приготованою їжею.   

Ми дізнаємося, коли почнуть лунати свистки. 

Авторське право 2021 Доктор Ланс Еліот  

http://ai-selfdriving-cars.libsyn.com/website 

Джерело: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/