Сомнительная практика некоторых производителей автономных автомобилей с искусственным интеллектом подталкивает информаторов 

Лэнс Элиот, Инсайдер AI Trends 

Есть старая поговорка, что нельзя заглядывать в кухню, когда вы идете в какие-то рестораны или закусочные, чтобы перекусить. Когда вы видите, как готовится еда, это может вызвать у вас тошноту.  

Вы можете применить это правило практически к любому предприятию, производящему любой продукт. Представьте, что тостер был изготовлен неправильно и мог загореться при использовании. Мы, несомненно, приветствовали бы инсайдера, который работал в компании, производящей тостер, заранее.   

Сложные продукты - это особенно те случаи, когда мы надеемся, что инсайдеры выступят вперед. Например, ваша машина - довольно сложное изделие. Он содержит тысячи и тысячи компонентов. В автомобильной промышленности было несколько заметных случаев использования инсайдеров, которые помогли выявить серьезные внутренние проблемы, связанные с производством автомобилей.   

В общем, было бы неплохо, если бы кто-то изнутри высказался и попытался исправить закулисную проблему, особенно когда это было опасно. 

Такого инсайдера, который высказывается, обычно называют осведомитель. 

Вы могли смутно осознавать, что Ральф Надер в 1960-х и 1970-х годах помогал популяризировать крылатую фразу разоблачителя во время своих активистских усилий. Вплоть до этого момента идея высказывания о внутренней проблеме не одобрялась. От сотрудников обычно ожидалось, что они будут яростно преданы своему работодателю и не осмелятся говорить вне очереди. Фактически, по сей день иногда информаторов подвергают остракизму и называют крысой или стукачом за свои усилия.   

Чтобы уточнить, не все информаторы правы в том, что они сообщают. Бывают случаи, когда информаторы могут ошибаться в том, что они считают проблемой. Они могут неправильно истолковывать вещи. Они могут преувеличить беспокойство. Вы не можете тупо предполагать, что информатор идеален в своих целях. Иногда информатор может питать личные предубеждения и искать какую-то форму извращенной мести или иметь в виду другие неблаговидные мотивы.   

Но это также не означает, что информатора следует аксиоматически запятнать как недовольного просто из-за того, что он действует как информатор. Нисколько.   

Пройти путь разоблачителя может быть трудным и разрушительным во многих отношениях. Человека можно назвать своего рода предателем и навсегда запятнать, куда бы он ни пошел и чем бы еще в жизни ни пытался заниматься. Решение стать разоблачителем требует серьезного мышления, попытки сбалансировать личное чувство этических кодексов с возможностью прослыть информатором или болтуном.   

Мы можем быть благодарны тем информаторам, которые решили поступить правильно, несмотря на личные затраты, и выявили существенные проблемы, которые в противном случае не смогли бы проскользнуть в свет. И во многих таких случаях такие демонстрационные проблемы уже были неотъемлемой частью причинения вреда тем, кто использовал продукт, или потенциально могли сделать это в будущем. Информатор смог начать цепочку событий, которые в конечном итоге привели к сокращению или уменьшению этих сомнительных или откровенно плачевных результатов.   

Как информатор выходит вперед и, так сказать, дает свисток?   

Обычно у информаторов есть два способа заявить о внутренних проблемах, которые, по их мнению, являются нежелательными. 

Один из подходов состоит в том, чтобы быть так называемым информатором, сообщающим о нарушениях, что обычно означает, что лицо, сообщающее о нарушениях, делает это в рамках организации, в которой они работают. Они могут сообщить о своих опасениях своему руководителю или менеджеру. Возможно, у фирмы есть формализованный процесс информирования о нарушениях, который подразумевает письменное представление проблемы безопасности. И так далее. 

Другой подход - информатор, раскрывающий информацию извне. Это когда человек, который является или был инсайдером, предпочитает рассказывать извне о внутренних аспектах, которые он воспринимает как сбивающие с толку. Этот человек может рассказать репортерам о том, что происходит. Человек может решить поговорить со сторонней организацией по защите прав потребителей. И т.п. 

Ранее я упоминал, что у автомобилей и автомобильной промышленности были разные информаторы. 

В Соединенных Штатах Закон о безопасности транспортных средств (VSA) служит всеобъемлющим руководящим принципом в отношении изобличения и информаторов в контексте соображений, связанных с транспортными средствами. Вот формальное определение VSA о том, что именно является информатором: «Термин« информатор »означает любого сотрудника или подрядчика производителя автотранспортных средств, поставщика запчастей или дилерского центра, который добровольно предоставляет Секретарю исходную информацию, касающуюся любого автотранспортного средства. дефект, несоблюдение или любое нарушение или предполагаемое нарушение любого требования об уведомлении или отчетности данной главы, которое может вызвать необоснованный риск смерти или серьезной физической травмы »(в качестве дополнительного примечания, упомянутый секретарь - это министр транспорта ). 

Обычный путь для информатора, связанного с автомобилем, который собирается сообщить о проблеме извне, - это связаться с NHTSA (Национальная администрация безопасности дорожного движения), которая является агентством Министерства транспорта США (US DOT). Заявленная миссия NHTSA заключается в спасении жизней, предотвращении травм и сокращении дорожно-транспортных происшествий в Соединенных Штатах.   

Согласно веб-сайту, подробно описывающему программу осведомителей НАБДД: «Заявители - важный источник информации для НАБДД о потенциальных проблемах с безопасностью транспортных средств и нарушениях закона. Закон о безопасности транспортных средств защищает конфиденциальность информаторов и позволяет НАБДД выплачивать денежное вознаграждение информатору, информация которого приводит к успешному разрешению принудительных мер в случае нарушения закона ». 

Программа информаторов имеет множество нюансов. Если вы или кто-то из ваших знакомых подумываете о том, чтобы стать осведомителем, связанным с автомобильной проблемой, убедитесь, что вы в курсе дела. Лучше посмотреть, прежде чем прыгать. Кроме того, как указано в VSA: «Информатор может быть представлен адвокатом».   

Что касается объема того, что можно считать обоснованным представлением изобличения, вот что указывает веб-сайт NHTSA: «NHTSA получает информацию от информаторов по широкому кругу вопросов, включая потенциальные дефекты безопасности транспортных средств, несоблюдение Федеральных стандартов безопасности транспортных средств, и нарушения Закона о безопасности транспортных средств. Следователи НАБДД рассматривают информацию, предоставленную информаторами, что может привести к формальным действиям, таким как расследование, отзыв или принудительное применение гражданского наказания. НАБДД защищает конфиденциальность информаторов. НАБДД может выплатить денежное вознаграждение информатору, который предоставит информацию, которая приведет к успешному разрешению принудительных мер в случае нарушения закона ».   

Вы могли бы подумать, что разоблачение автомобилей - это довольно скучная тема; разоблачение автомобилей ведется годами.   

Что ж, есть кое-что новое, что вам нужно уделить должное внимание.   

Будущее автомобилей - это настоящие беспилотные автомобили на основе искусственного интеллекта. 

Позвольте мне поподробнее.   

В настоящем беспилотном автомобиле нет человека-водителя. Имейте в виду, что настоящие беспилотные автомобили управляются с помощью системы вождения ИИ. Нет необходимости в человеке-водителе за рулем, и нет возможности для того, чтобы человек управлял транспортным средством. 

Вот интригующий вопрос, над которым стоит задуматься: Увидим ли мы информаторов о появлении настоящих беспилотных автомобилей на основе искусственного интеллекта, и если да, то какого влияния мы можем ожидать?   

Прежде чем перейти к деталям, я хотел бы пояснить, что я имею в виду, когда говорю об истинно беспилотных автомобилях. 

Для моей структуры об ИИ автономных автомобилей, смотрите ссылку здесь: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Почему это самообман, посмотрите мое объяснение здесь: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Для получения дополнительной информации об уровнях как типе шкалы Рихтера см. Мое обсуждение здесь: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Для аргумента о раздвоении уровней, см. Мое объяснение здесь: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Понимание уровней самоуправляемых автомобилей 

В качестве пояснения, настоящие беспилотные автомобили - это автомобили, в которых ИИ управляет автомобилем полностью самостоятельно, и во время вождения не требуется никакой помощи человека. 

Эти беспилотные автомобили относятся к Уровню 4 и Уровню 5, в то время как автомобиль, который требует, чтобы водитель-человек участвовал в совместных усилиях, обычно считается Уровнем 2 или Уровнем 3. Автомобили, которые совместно выполняют задачу по вождению, описываются как полуавтоматические. -автономные и обычно содержат множество автоматизированных надстроек, которые называются ADAS (Advanced Driver-Assistance Systems).   

На 5-м уровне еще нет настоящей машины для самостоятельного вождения, о которой мы еще даже не знаем, удастся ли этого достичь, и сколько времени потребуется, чтобы туда добраться.   

Между тем, усилия уровня 4 постепенно пытаются набрать обороты, проходя очень узкие и избирательные испытания на дорогах общего пользования, хотя есть разногласия по поводу того, следует ли разрешать это испытание как таковое (все мы - подопытные кролики на жизнь или смерть в эксперименте. происходит на наших шоссе и переулках, как утверждают некоторые). 

Поскольку полуавтономным автомобилям требуется водитель-человек, принятие этих типов автомобилей не будет заметно отличаться от вождения обычных транспортных средств, поэтому по сути их не так много, чтобы рассказать о них по этой теме (хотя, как вы увидите, через мгновение, следующие пункты, как правило, применимы).  

Для полуавтономных автомобилей важно, чтобы общественность была предупреждена о тревожном аспекте, который возник в последнее время, а именно о том, что, несмотря на то, что водители-люди, которые продолжают публиковать видео, засыпают за рулем автомобиля уровня 2 или уровня 3 Мы все должны избегать заблуждения, полагая, что водитель может отвлечь их внимание от задачи вождения во время вождения полуавтономного автомобиля.   

Вы несете ответственность за действия по вождению транспортного средства, независимо от того, сколько автоматизации может быть добавлено на уровень 2 или уровень 3.   

Почему удаленное пилотирование или управление автомобилями с самостоятельным вождением, как правило, избегают, см. Мое объяснение здесь: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Чтобы остерегаться поддельных новостей о автомобилях с самостоятельным вождением, см. Мои советы здесь: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Этические последствия систем вождения ИИ значительны, см. Мои указания здесь: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Помните о подводных камнях, связанных с нормализацией отклонений, когда речь идет о автомобилях с автоматическим управлением. Вот мой призыв к оружию: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Самоходные автомобили и информаторы   

Для настоящих беспилотных транспортных средств уровня 4 и уровня 5 в процессе вождения не будет участвовать человек-водитель. Все пассажиры будут пассажирами; ИИ ведет машину.   

Один аспект, который следует немедленно обсудить, заключается в том, что ИИ, задействованный в сегодняшних системах управления ИИ, неразумен. Другими словами, ИИ - это совокупность компьютерных программ и алгоритмов, и совершенно очевидно, что они не способны рассуждать так же, как люди. 

Почему это дополнительный акцент на том, что ИИ не является разумным? 

Потому что я хочу подчеркнуть, что, обсуждая роль управляющей системы ИИ, я не приписываю ИИ человеческие качества. Имейте в виду, что в наши дни существует постоянная и опасная тенденция к антропоморфизации ИИ. По сути, люди придают человеческий разум сегодняшнему ИИ, несмотря на тот неоспоримый и бесспорный факт, что такого ИИ еще не существует.   

С этим пояснением вы можете представить себе, что система вождения AI изначально не «знает» о аспектах вождения. Вождение и все, что с ним связано, необходимо будет программировать как часть аппаратного и программного обеспечения беспилотного автомобиля.   

Давайте погрузимся в бесчисленное множество аспектов, связанных с этой темой.   

Вы можете быть шокированы, если подумаете о возможном разоблачении беспилотных автомобилей. 

Большинство людей склонны полагать, что внутренние усилия по разработке этих современных систем вождения с искусственным интеллектом и созданию беспилотного автомобиля предпринимаются с самыми высокими и лучшими намерениями. Некоторые сравнивают попытку приземлиться на Луну с довольно внушающим трепет стремлением.   

Конечно, все, что происходит за кулисами в процессе создания беспилотных автомобилей, совершенно честно и честно. Никто не будет стремиться создать опасный беспилотный автомобиль. Кроме того, есть надежда, что беспилотные автомобили откроют эру мобильности для всех, что позволит тем, у кого сегодня нет доступа к автомобильному транспорту, получить беспрепятственный доступ к повсеместной мобильности. Также существует мнение, что беспилотные автомобили резко сократят количество человеческих травм и смертельных случаев из-за автомобильных аварий, управляемых людьми.   

Что ж, я не хочу вас шокировать, но то, что происходит на кухне, может привести к тому, что подача еды может навредить людям. 

Некоторые попытки беспилотных автомобилей срезают углы, пытаясь выполнить срочное распоряжение высшего руководства, и не могут провести столько перепроверок и тройных проверок, сколько они считают необходимыми. Аналогичным образом, есть те из высшего руководства, которые не осознают недостаточное внимание к деталям и упущение или уклонение от аспектов качества безопасности во время деятельности по разработке беспилотных автомобилей в своих группах разработчиков.   

Это работает в обе стороны.   

Имейте в виду, что идет своего рода гонка. 

Кто первым получит настоящие беспилотные автомобили?   

Подобно полету на Луну, многое предстоит сделать первым, чтобы сделать этот беспилотный автомобиль «гигантским скачком» для человечества. Миллиарды и миллиарды долларов вкладываются в эти хваленые усилия. Доходы от создания беспилотных автомобилей пока практически отсутствуют. Деньги идут, и есть ожидание, что произойдет что-то чудесное.   

Вы можете представить себе, что под таким давлением некоторые элементы могут быть упущены, чтобы продвинуться вперед. Обеспокоенность по поводу безопасности иногда может быть отложена на второй план. Функции системы управления ИИ, которые кажутся ключевыми, могут быть включены в существующий список крайних или угловых случаев, что означает, что с этими возможностями, как предполагается, можно будет разобраться позже.   

Это не означает, что что-то в этом роде как-то широко распространено или встречается повсюду. Это было бы совершенно несправедливо по отношению ко всем тем, кто изо всех сил стремится производить беспилотные автомобили. Это герои, которые каждый день энергично борются, стремясь создать в мире беспилотные автомобили, и тем самым достигают упомянутых ранее идеалов.   

Кроме того, как я неоднократно упоминал в своих колонках, в последние несколько лет автопроизводители и производители беспилотных автомобилей заняли гораздо более жесткую позицию в отношении безопасности. Это включает в себя наем высокопоставленных экспертов по автомобильной безопасности и начало значительных и значимых внутренних усилий по углублению понимания того, из чего состоит безопасность. Кроме того, многие из производителей беспилотных автомобилей теперь имеют внутренние программы «разоблачителей», обычно называемые программами информирования о безопасности, которые предназначены для того, чтобы инсайдеры выступали вперед, когда они видят что-то, что они считают неприемлемым. 

Мнимое беспокойство заключается в том, что в такой напряженной атмосфере фанатизма есть реальные шансы, что тут или там случится плохое яблоко. Чтобы прояснить, не обязательно, что гнусный человек собирается внедрить что-то гнусное в систему управления ИИ (хотя это может случиться). Когда разработчики ИИ работают на полной скорости, есть шанс упустить некоторые важные меры предосторожности, или не иметь нужных инструментов разработки, или быть перегруженным и недоукомплектованным персоналом.   

В общем, результатом может быть скрытая ошибка или проблема, попавшая в систему управления ИИ. Не обязательно намеренно. Просто потому, что не хватает системы сдержек и противовесов и другие сложности.   

Когда у беспилотного автомобиля есть резервный водитель-человек, считается, что этого достаточно, чтобы уловить любые нежелательные действия, которые может совершить система вождения ИИ. В этом смысле это похоже на дегустацию еды, которая сидит за вашим обеденным столом. Предполагается, что человек улавливает все, что может сбить с толку.   

Как упоминалось в моих колонках, не все считают, что это правильный способ устранения проблем, а некоторые осуждают, что использование дорог общего пользования таким образом совершенно неприемлемо. Если мы используем аналогию с дегустатором еды, это будет похоже на то, как если бы дегустатор еды ел еду в то же время, что и человек обедает. Не является удовлетворительной формой безопасности для человека, который одновременно ест то, что может быть токсичной пищей. По сути, резервный водитель может вовремя не уловить нежелательное вождение, и транспортное средство врезается в пешехода или управляемую человеком машину.    

Кроме того, когда вы видите, что по улице едет беспилотный автомобиль, причем без помощника-водителя, как вы можете узнать, что система вождения с искусственным интеллектом, несомненно, будет безопасным водителем?   

Вы не   

Обычное возражение состоит в том, что если автономное транспортное средство движется по городской улице и никого не сбивает, это должно означать, что система вождения AI работает нормально, большое вам спасибо. Действительно, те, кто продолжает ездить на беспилотных автомобилях и делать эти хлыстовые отзывы, как правило, попадают в ту же категорию. Они считают, что то, что беспилотный автомобиль благополучно доставил их в продуктовый магазин, как если бы это было достаточным и неоспоримым доказательством того, что беспилотный автомобиль может безопасно перемещаться куда угодно.   

Они попадают в классическую ментальную ловушку. Это распространенная ошибка, ориентированная на статистику. Они полагают, что их один конкретный пример дает широкие обобщения.   

Может случиться так, что система вождения ИИ столкнется с такой ситуацией, как пешеход, который внезапно выскочит на улицу, и беспилотный автомобиль не остановится вовремя (предположим, что это могло случиться). Человек, совершивший поездку в продуктовый магазин, не встречал пешехода, перешедшего через дорогу, и поэтому понятия не имеет, что беспилотный автомобиль будет делать в такой обстановке. С глаз долой, из сердца вон.   

Давайте вернемся к тому, что НАБДД говорит об автомобилях в целом и о масштабах возможных заявлений о нарушениях, которые могут быть применимы: «НАБДД получает от информаторов информацию по широкому кругу вопросов, включая потенциальные дефекты безопасности транспортных средств, несоблюдение федеральных стандартов безопасности транспортных средств, и нарушения Закона о безопасности транспортных средств ».   

Традиционно этот вид прицела фокусируется на механических частях автомобиля.   

В наши дни автомобили превратились в компьютеры на колесах. Программное обеспечение все больше переключается в область проблем, связанных с дефектами безопасности транспортных средств, несоблюдением и нарушением VSA.   

В каких областях систем управления ИИ мы можем предвидеть потенциальные проблемы? 

Во-первых, датчики используются для сбора данных о месте вождения. В беспилотных автомобилях обычно используются видеокамеры, радары, лидары, ультразвуковые устройства, тепловизионные устройства и тому подобное. Это глаза и уши системы вождения AI. 

Предположим, инсайдер знает, что датчики, выбранные для модели беспилотного автомобиля, над которой они работают, имеют проблемы с безопасностью, которые не решаются. После того, как беспилотный автомобиль будет выставлен на вооружение, может случиться так, что при определенных условиях конкретный датчик будет предоставлять неверные данные. Исходя из этого, система вождения AI могла не быть запрограммирована так, чтобы правильно рассчитывать, что делать.   

Плохой результат может случиться на дорогах общего пользования.   

Другой возможный путь состоит в объединении данных с нескольких датчиков. Известный как MSDF (объединение данных с несколькими датчиками), возможно, используемый метод объединения основан на том, что видеокамеры считаются «правильными», даже если входные данные радара говорят об обратном (несоответствие просто отбрасывается, а не поднимается флаг или требует дополнительных шаги, чтобы попытаться решить). Как вопросы безопасности включаются в эту форму программирования?   

У этого списка нет конца.   

Существует виртуальная модель, поддерживаемая системой управления искусственным интеллектом и внутренне отображающая существующее и прогнозируемое окружение. Конечно, могут возникнуть проблемы с безопасностью того, как работает этот код. В системе управления искусственным интеллектом есть часть планировщика действий, которая пытается вычислить, какие следующие действия автономного транспортного средства наиболее целесообразны. Опять же, здесь могут быть проблемы с безопасностью. И т.п.   

Для получения дополнительной информации о дисках см. Мое указание по этой ссылке здесь: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

На тему внедорожных самоходных автомобилей, вот мои подробные выводы: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Я убежден, что в автопроизводителях должен быть главный специалист по безопасности, вот совок: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Ожидайте, что судебные процессы постепенно станут существенной частью автопрома, смотрите мои объяснительные детали здесь: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Заключение 

Вот итог.   

Поскольку беспилотные автомобили начинают все больше появляться в лабораториях и исследованиях, они будут использоваться на дорогах общего пользования. Количество таких беспилотных автомобилей на проезжей части начнет расти. Увеличение количества таких автономных транспортных средств будет иметь тенденцию несколько увеличивать вероятность возникновения чего-то неблагоприятного. 

Обычно они попадают в заголовки новостей. 

Был ли инцидент с беспилотным автомобилем, который попал в заголовки газет, имел внутреннюю проблему, о которой мог знать инсайдер, но они решили не рассказывать о том, что знали или серьезно подозревали?   

Я готов поспорить, что мы, вероятно, увидим появление информаторов, говорящих о беспилотных автомобилях. 

Не все такие примеры будут действительными. Некоторые будут.   

Вполне вероятно, что это заставит некоторых автопроизводителей и производителей беспилотных автомобилей пересмотреть то, что они делают. Вы, безусловно, можете ожидать, что такие типы сообщений изобличителей вызовут дополнительный интерес со стороны регулирующих органов.   

Для одних это будет сюрпризом, а для других - вовсе не сюрпризом. Те, кто раньше работал на таких «кухнях» и уже чувствуют, что некоторые из беспилотных автомобилей, выезжающих на проезжую часть, представляют собой ужасно приготовленную еду.   

Узнаем, как только раздастся свисток. 

Copyright 2021 Доктор Лэнс Элиот  

http://ai-selfdriving-cars.libsyn.com/website 

Источник: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/