Prácticas cuestionables en algunos fabricantes de automóviles autónomos con inteligencia artificial que estimulan a los denunciantes 

Por Lance Eliot, el experto en tendencias de inteligencia artificial 

Hay un viejo refrán que dice que no debes mirar en la cocina cuando vas a algunos restaurantes o cafeterías para comer algo. Cuando vea cómo se está preparando la comida, es posible que se sienta mal del estómago.  

Puede aplicar esta regla a casi cualquier entidad que fabrique cualquier tipo de producto. Imagínese si una tostadora se fabricara de manera defectuosa y fuera probable que se incendiara cuando se usara. Sin duda, agradeceríamos tener una persona con información privilegiada que trabajara en la empresa haciendo que la tostadora se presentara de antemano.   

Los productos complejos son casos en los que esperamos que se presente una persona con información privilegiada. Su coche, por ejemplo, es un producto bastante complejo. Contiene miles y miles de componentes. La industria automotriz ha tenido algunos casos notables de personas con información privilegiada que ayudaron a revelar problemas internos graves con respecto a la producción de automóviles.   

En total, seguro que sería bueno si alguien de adentro hablara y tratara de rectificar un problema detrás de escena, particularmente cuando es peligroso. 

A este tipo de información privilegiada que habla se le suele llamar un denunciante. 

Puede que sepa vagamente que Ralph Nader en las décadas de 1960 y 1970 ayudó a popularizar el eslogan del denunciante durante sus esfuerzos activistas. Hasta ese momento, la noción de hablar sobre un problema interno estaba mal vista. En general, se esperaba que los empleados fueran ferozmente leales a su empleador y no se atrevieran a hablar fuera de turno. De hecho, hasta el día de hoy, a veces un denunciante es condenado al ostracismo y etiquetado como una rata o un soplón por sus esfuerzos.   

Para aclarar, no todos los denunciantes tienen razón sobre lo que informan. Hay ocasiones en las que un denunciante puede equivocarse acerca de lo que percibe como un problema. Pueden malinterpretar las cosas. Podrían inflar demasiado la preocupación. No se puede asumir sin comprender que un denunciante es perfecto en sus objetivos. A veces, un denunciante puede albergar prejuicios personales y buscar alguna forma de venganza retorcida o tener otros motivos indecorosos en mente.   

Pero eso tampoco significa que un denunciante deba ser tachado axiomáticamente como un descontento simplemente por actuar como denunciante. Para nada.   

Seguir la ruta de los denunciantes puede ser arduo y ruinoso de muchas maneras. Una persona puede ser catalogada como una especie de traidora y ser empañada para siempre, donde sea que vaya y cualquier otra cosa en la vida que intente hacer. Decidir convertirse en un denunciante requiere un pensamiento serio, tratando de equilibrar un sentido personal de los códigos éticos con el potencial de ser conocido como informante o delator.   

Podemos estar agradecidos por aquellos denunciantes que eligieron hacer lo correcto, a pesar de los costos personales, y han expuesto problemas sustantivos que de otro modo no hubieran salido a la luz. Y, en muchos de esos casos, esos tipos de problemas demostrativos ya eran parte integral de dañar a quienes usan el producto o potencialmente podrían hacerlo en el futuro. El denunciante pudo iniciar una cadena de eventos que eventualmente redujeron o redujeron esos resultados desagradables o absolutamente deplorables.   

¿Cómo se presenta un denunciante y, en esencia, hace sonar la denuncia, por así decirlo?   

Por lo general, hay dos vías para que un denunciante dé a conocer los problemas internos que cree que son desagradables. 

Un enfoque es ser un denunciante interno que informa, lo que generalmente significa que la persona que realiza la denuncia lo hace dentro de los límites de la entidad en la que está trabajando. Puede plantear sus inquietudes a su supervisor o gerente. Quizás la firma tenga un proceso formalizado de denuncia de irregularidades que implique presentar una inquietud de seguridad por escrito. Y así. 

El otro enfoque es el denunciante externo. Es entonces cuando una persona que es o fue insider opta por contar externamente los aspectos internos que percibe como desconcertantes. La persona podría informar a los periodistas sobre lo que está sucediendo. La persona podría decidir hablar con una entidad de protección del consumidor de terceros. Etc. 

Anteriormente, mencioné que los automóviles y la industria automotriz han tenido varios denunciantes. 

En los Estados Unidos, la Ley de seguridad vehicular (VSA) sirve como directriz general sobre la denuncia de irregularidades y los denunciantes en el contexto de las consideraciones vehiculares. Aquí está la definición formal de VSA dada sobre qué es exactamente un denunciante: "El término '' denunciante '' significa cualquier empleado o contratista de un fabricante de vehículos de motor, proveedor de piezas o concesionario que voluntariamente proporcione al Secretario información original relacionada con cualquier vehículo de motor. defecto, incumplimiento o cualquier violación o presunta violación de cualquier requisito de notificación o informe de este capítulo, que probablemente cause un riesgo irrazonable de muerte o lesiones físicas graves ”(como nota al margen, el Secretario al que se hace referencia es el Secretario de Transporte ). 

El camino normal para un denunciante relacionado con un automóvil que va a divulgar un problema externamente sería comunicarse con la NHTSA (Administración Nacional de Seguridad del Tráfico en las Carreteras), que es una agencia del Departamento de Transporte de los EE. UU. (DOT). La misión declarada de la NHTSA es salvar vidas, prevenir lesiones y reducir los choques relacionados con vehículos en los Estados Unidos.   

Según el sitio web que detalla el programa de denunciantes de la NHTSA: “Los denunciantes son una fuente importante de información para la NHTSA sobre posibles problemas de seguridad de los vehículos y violaciones de la ley. La Ley de Seguridad del Vehículo protege la confidencialidad de los denunciantes y permite que la NHTSA pague una indemnización monetaria a un denunciante cuya información conduzca a la resolución exitosa de una acción de ejecución por violaciones de la ley ". 

Hay una amplia variedad de matices en el programa de denuncia de irregularidades. Si usted o alguien que conoce está considerando ser un denunciante relacionado con un problema automotriz, asegúrese de ponerse al día al respecto. Es mejor mirar antes de saltar. Además, como se indica en la VSA: "Un denunciante puede estar representado por un abogado".   

En cuanto al alcance de lo que podría considerarse una presentación justificada de denuncia de irregularidades, esto es lo que indica el sitio web de la NHTSA: "La NHTSA recibe información de los denunciantes sobre una amplia variedad de temas, incluidos posibles defectos de seguridad del vehículo, incumplimiento de las Normas Federales de Seguridad de Vehículos Motorizados, y violaciones de la Ley de seguridad vehicular. Los investigadores de la NHTSA consideran la información proporcionada por los denunciantes, que puede dar lugar a acciones formales como una investigación, un retiro del mercado o una acción de ejecución de sanciones civiles. NHTSA protege la confidencialidad de los denunciantes. La NHTSA puede pagar una indemnización monetaria a un denunciante que proporcione información que lleve a la resolución exitosa de una acción de ejecución por violaciones de la ley ".   

Quizás esté pensando que la denuncia de irregularidades sobre automóviles es un tema un tanto aburrido; La denuncia de irregularidades sobre automóviles se lleva a cabo durante años.   

Bueno, hay algo nuevo a lo que debe prestar la debida atención.   

El futuro de los automóviles consiste en verdaderos automóviles autónomos basados ​​en inteligencia artificial. 

Permítame un momento para explicarlo.   

No hay un conductor humano involucrado en un verdadero automóvil autónomo. Tenga en cuenta que los verdaderos autos autónomos se conducen a través de un sistema de conducción de inteligencia artificial. No es necesario un conductor humano al volante, y tampoco existe una disposición para que un humano conduzca el vehículo. 

Aquí hay una pregunta intrigante que vale la pena considerar: ¿Veremos denunciantes sobre el advenimiento de los verdaderos autos autónomos basados ​​en inteligencia artificial y, de ser así, qué impacto podríamos esperar?   

Antes de entrar en detalles, me gustaría aclarar más a qué se refiere cuando me refiero a verdaderos autos autónomos. 

Para mi marco sobre los autos autónomos de IA, vea el enlace aquí: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Por qué este es un esfuerzo de la luna, mira mi explicación aquí: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Para obtener más información sobre los niveles como un tipo de escala de Richter, consulte mi discusión aquí: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Para el argumento sobre la bifurcación de los niveles, vea mi explicación aquí: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Comprensión de los niveles de los automóviles autónomos 

Como aclaración, los verdaderos autos autónomos son aquellos en los que la IA conduce el automóvil completamente por sí sola y no hay asistencia humana durante la tarea de conducción. 

Estos vehículos sin conductor se consideran Nivel 4 y Nivel 5, mientras que un automóvil que requiere un conductor humano para compartir el esfuerzo de conducción generalmente se considera en el Nivel 2 o el Nivel 3. Los automóviles que comparten la tarea de conducción se describen como semi -autónomos y, por lo general, contienen una variedad de complementos automatizados que se conocen como ADAS (sistemas avanzados de asistencia al conductor).   

Todavía no existe un verdadero automóvil autónomo en el Nivel 5, que aún no sabemos si será posible lograrlo, ni cuánto tiempo llevará llegar allí.   

Mientras tanto, los esfuerzos de Nivel 4 están tratando gradualmente de obtener algo de tracción al someterse a pruebas de carreteras públicas muy estrechas y selectivas, aunque existe controversia sobre si estas pruebas deberían permitirse per se (todos somos conejillos de indias de vida o muerte en un experimento teniendo lugar en nuestras carreteras y caminos, algunos sostienen). 

Dado que los automóviles semiautónomos requieren un conductor humano, la adopción de esos tipos de automóviles no será muy diferente de la conducción de vehículos convencionales, por lo que no hay mucho nuevo per se sobre este tema (sin embargo, como verá, en un momento, los siguientes puntos son generalmente aplicables).  

Para los automóviles semiautónomos, es importante que el público deba ser advertido sobre un aspecto inquietante que ha surgido últimamente, a saber, a pesar de que los conductores humanos siguen publicando videos de ellos mismos durmiendo al volante de un automóvil de Nivel 2 o Nivel 3 , todos debemos evitar que nos engañen creyendo que el conductor puede desviar su atención de la tarea de conducir mientras conduce un automóvil semiautónomo.   

Usted es la parte responsable de las acciones de conducción del vehículo, independientemente de la cantidad de automatización que pueda arrojarse a un Nivel 2 o Nivel 3.   

Por qué generalmente se evita el pilotaje remoto o la operación de automóviles autónomos, vea mi explicación aquí: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Para desconfiar de las noticias falsas sobre autos sin conductor, vea mis consejos aquí: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Las implicaciones éticas de los sistemas de conducción de IA son significativas, vea mi indicación aquí: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Tenga en cuenta los peligros de la normalización de la desviación cuando se trata de automóviles sin conductor, aquí está mi llamado a las armas: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Automóviles autónomos y denunciantes   

Para los verdaderos vehículos autónomos de nivel 4 y nivel 5, no habrá un conductor humano involucrado en la tarea de conducción. Todos los ocupantes serán pasajeros; la IA es la que conduce.   

Un aspecto para discutir inmediatamente implica el hecho de que la IA involucrada en los sistemas de conducción de IA actuales no es sensible. En otras palabras, la IA es en su conjunto un colectivo de programación y algoritmos basados ​​en computadora, y seguramente no es capaz de razonar de la misma manera que los humanos. 

¿Por qué este énfasis añadido en que la IA no es consciente? 

Porque quiero subrayar que cuando hablo del papel del sistema de conducción de la IA, no estoy atribuyendo cualidades humanas a la IA. Tenga en cuenta que existe una tendencia continua y peligrosa en estos días a antropomorfizar la IA. En esencia, las personas están asignando una sensibilidad similar a la humana a la IA actual, a pesar del hecho innegable e indiscutible de que todavía no existe tal IA.   

Con esa aclaración, puede imaginar que el sistema de conducción de inteligencia artificial no "conocerá" de forma nativa de alguna manera las facetas de la conducción. La conducción y todo lo que conlleva deberá programarse como parte del hardware y software del vehículo autónomo.   

Vamos a sumergirnos en los innumerables aspectos que entran en juego en este tema.   

Es posible que se sorprenda al pensar que habría algún tipo de posible denuncia de irregularidades relacionada con los vehículos autónomos. 

La mayoría de la gente tiende a asumir que los esfuerzos internos para desarrollar esos sistemas de conducción de IA de última generación y armar un automóvil autónomo se están haciendo con las mejores y más altas intenciones. Algunos comparan el esfuerzo con aterrizar en la luna, una aspiración bastante impresionante.   

Seguramente, todo lo que sucede detrás de escena en el acto de crear autos sin conductor es completamente correcto. Nadie buscaría producir un automóvil autónomo que sea peligroso. Además, la esperanza es que los autos autónomos den lugar a una era de movilidad para todos, permitiendo a aquellos que no tienen acceso fácil al tránsito automotor hoy en día tener un acceso sin problemas a la movilidad ubicua. Y también existe la creencia de que los automóviles autónomos reducirán drásticamente el número de lesiones y muertes humanas debido a accidentes automovilísticos provocados por humanos.   

Bueno, no quiero sorprenderte, pero lo que está sucediendo en la cocina tiene el potencial de servir una comida que tiene la posibilidad de dañar a la gente. 

Algunos esfuerzos de los vehículos autónomos están tomando atajos, tratando de hacer la oferta urgente de la alta dirección y no pueden realizar tantas comprobaciones dobles y triples como creen que es necesario. Asimismo, existen en la alta dirección que desconocen la falta de atención al detalle y la omisión o elusión de aspectos de calidad de seguridad durante las actividades de desarrollo de vehículos autónomos en sus grupos de desarrollo.   

Funciona en ambos sentidos.   

Tenga en cuenta que hay una especie de carrera en marcha. 

¿Quién logrará primero los verdaderos autos autónomos?   

Al igual que llegar a la luna, hay muchas cosas en el primero para hacer de este automóvil autónomo un "salto gigante" para la humanidad. Miles de millones y miles de millones de dólares se están invirtiendo en estos esfuerzos tan alardeados. Casi no hay ingresos por el momento de los esfuerzos de los vehículos autónomos. El dinero está entrando y existe la expectativa de que va a surgir algo milagroso.   

Bajo ese tipo de presión, puede imaginarse que a algunos elementos se les puede dar poca importancia en un esfuerzo por seguir adelante. Las preocupaciones sobre los aspectos de seguridad a veces se pueden dejar en un segundo plano. Las características del sistema de conducción de IA que parecen fundamentales se pueden incluir en la lista existente de casos de borde o esquina, lo que significa que esas son capacidades que se supone que se pueden abordar más adelante.   

Esto no sugiere que algo de esta naturaleza sea de alguna manera desenfrenado o se encuentre en todas partes. Eso sería completamente injusto para todos aquellos que se esfuerzan denodadamente por producir coches autónomos. Estos son los héroes que luchan poderosamente, todos y cada uno de los días, con el objetivo de llevar al mundo automóviles autónomos y, al hacerlo, alcanzar los ideales citados anteriormente.   

Además, como he mencionado repetidamente en mis columnas, en los últimos años los fabricantes de automóviles y los fabricantes de automóviles autónomos han adoptado una postura mucho más firme hacia la seguridad. Esto incluye haber contratado a expertos en seguridad automotriz de alto perfil y puesto en marcha esfuerzos internos significativos y significativos para aumentar la comprensión de en qué consiste la seguridad. Además, muchas de las empresas de vehículos autónomos ahora tienen programas internos de "denuncia de irregularidades", generalmente denominados más claramente como programas de informes de seguridad, que tienen la intención de hacer que los iniciados se presenten cuando ven algo que perciben como desagradable. 

La preocupación aparente es que hay posibilidades reales en una atmósfera tan entusiasta de alta presión de una manzana podrida aquí o allá. Para aclarar, no es necesariamente el caso de que una persona nefasta vaya a plantar algo nefasto en un sistema de conducción de IA (aunque eso puede suceder). Cuando los desarrolladores de IA corren a toda velocidad, existe la posibilidad de perder algunas salvaguardas importantes o no tener las herramientas de desarrollo adecuadas, o estar abrumados y sin personal.   

Con todo, el resultado puede ser que se haya introducido un error o problema oculto en el sistema de conducción de la IA. No necesariamente de forma intencionada. Solo porque no hay controles y equilibrios insuficientes y otras complicaciones involucradas.   

Cuando un automóvil autónomo tiene un conductor humano de respaldo en el vehículo, la creencia es que esto es suficiente para detectar cualquier acción adversa que pueda realizar el sistema de conducción de IA. En esa forma de pensar, es como tener un catador de comida sentado a la mesa del comedor. Se supone que la persona atrapa cualquier cosa que pueda desviar las cosas.   

Como mencioné en mis columnas, no todos creen que esta sea una forma adecuada de detectar problemas y algunos lamentan que usar las vías públicas de esta manera sea totalmente inapropiado. Si usamos la analogía de un degustador de alimentos, es como si el degustador de alimentos estuviera comiendo la comida al mismo tiempo que una persona cenando la comida. No es una forma satisfactoria de seguridad para la persona que está comiendo simultáneamente lo que podría ser un alimento tóxico. En esencia, es posible que el conductor de respaldo no se dé cuenta de un acto de conducción adverso a tiempo, y el vehículo choca contra un peatón o un automóvil conducido por humanos.    

Además, cuando ve un automóvil autónomo conduciendo por la calle y lo hace sin un conductor de respaldo humano, ¿cómo puede saber que el sistema de conducción AI seguramente será un conductor seguro?   

Usted no   

La respuesta habitual es que si el vehículo autónomo avanza por una calle de la ciudad y no ha golpeado a nadie, esto debe significar que el sistema de conducción de IA está funcionando bien, muchas gracias. De hecho, aquellos que siguen haciendo esos viajes en autos sin conductor y haciendo esos testimonios efusivos tienden a caer en la misma categoría. Creen que solo porque el automóvil autónomo los llevó de manera segura a la tienda de comestibles, es como si esto proporcionara una prueba amplia e incuestionable de que el automóvil autónomo puede ir a cualquier lugar de manera segura.   

Están cayendo en una trampa mental clásica. Es un error común orientado a las estadísticas. Asumen que su única instancia en particular da lugar a generalizaciones extensas.   

Podría ser que el sistema de conducción de IA se encuentre con una situación como la de un peatón que repentinamente se lanza a la calle y el automóvil autónomo no se detiene a tiempo (supongamos que podría haberlo hecho). La persona que había hecho el viaje a la tienda de comestibles no se había encontrado con un peatón intruso y, por lo tanto, no tiene idea de lo que hará el automóvil autónomo en ese entorno. Fuera de la vista, fuera de la mente.   

Volvamos a lo que dice la NHTSA sobre los automóviles en general y el alcance de la posible denuncia de irregularidades que podría ser aplicable: "La NHTSA recibe información de los denunciantes sobre una amplia variedad de temas, incluidos los posibles defectos de seguridad de los vehículos, el incumplimiento de los Estándares Federales de Seguridad de los Vehículos Motorizados, y violaciones de la Ley de seguridad de vehículos ".   

Tradicionalmente, este tipo de visor tiende a centrarse en las partes mecánicas de un automóvil.   

Hoy en día, los automóviles se han convertido esencialmente en computadoras sobre ruedas. El software se está desviando cada vez más hacia el alcance de temas que implican defectos de seguridad del vehículo, incumplimiento y violaciones de la VSA.   

¿En qué áreas de los sistemas de conducción de IA podríamos anticipar problemas potenciales? 

Primero, los sensores se utilizan para recopilar datos sobre la escena de conducción. Los coches autónomos suelen utilizar cámaras de vídeo, radares, LIDAR, unidades ultrasónicas, dispositivos de imagen térmica y similares. Estos son los ojos y los oídos del sistema de conducción de IA. 

Suponga que una persona con información privilegiada sabe que los sensores elegidos para el modelo de automóvil autónomo en el que están trabajando tienen problemas de seguridad que no se están abordando. Una vez que el automóvil autónomo está en el campo, es posible que, bajo ciertas condiciones, un sensor en particular proporcione datos defectuosos. A partir de esto, es posible que el sistema de conducción de IA no se haya programado para calcular correctamente qué hacer.   

Puede ocurrir un mal resultado en nuestras vías públicas.   

Otra posible vía consiste en la fusión de los datos a través de múltiples sensores. Conocido como MSDF (fusión de datos multisensor), tal vez la técnica de fusión que se utiliza se basa en que las cámaras de video se consideren "correctas" incluso si la entrada del radar dice lo contrario (la discrepancia simplemente se descarta en lugar de levantar una bandera o requerir algunos agregados). pasos para intentar resolver). ¿Cómo se están incorporando las preocupaciones de seguridad en esta forma de programación?   

La lista sigue y sigue.   

Existe el modelo virtual que es mantenido por el sistema de conducción de IA y que muestra internamente el entorno existente y previsto. Ciertamente, podría haber preocupaciones de seguridad sobre cómo funciona ese código. Existe la parte del planificador de acciones del sistema de conducción de IA que intenta calcular qué próximas acciones del vehículo autónomo son más prudentes a tomar. Una vez más, las preocupaciones de seguridad podrían residir allí. Etc.   

Para obtener más detalles sobre las ODD, consulte mi indicación en este enlace aquí: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Sobre el tema de los automóviles sin conductor fuera de la carretera, aquí está mi obtención de detalles: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

He instado a que debe haber un Director de Seguridad en los fabricantes de automóviles autónomos, aquí está la primicia: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Espere que las demandas se conviertan gradualmente en una parte importante de la industria automotriz, vea mis detalles explicativos aquí: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Conclusión  

Aquí está la conclusión.   

A medida que los automóviles autónomos comiencen a surgir cada vez más de los laboratorios y los esfuerzos de I + D, se utilizarán en las vías públicas. El número de estos vehículos autónomos en las carreteras comenzará a aumentar. El mayor número de vehículos autónomos de este tipo tenderá a aumentar un poco las probabilidades de que surja algo adverso. 

Suelen aparecer en los grandes titulares de las noticias. 

¿El incidente del automóvil autónomo que acapara los titulares tuvo un problema interno que podría haber sido conocido por alguien con información privilegiada y, sin embargo, decidieron no contar lo que sabían o sospechaban seriamente?   

Apostaría a que es probable que veamos un surgimiento de denunciantes que se presenten sobre los autos autónomos. 

No todos estos casos serán válidos. Algunos lo harán.   

Es probable que el impacto provoque que algunos fabricantes de automóviles y fabricantes de tecnología de vehículos autónomos revisen lo que están haciendo. Ciertamente, puede esperar que ese tipo de informes de denuncia de irregularidades avive un mayor interés regulatorio.   

Esto será una sorpresa para algunos y no una sorpresa para otros. Aquellos que han trabajado en tales "cocinas" antes, y ya sienten que algunos de los autos sin conductor que están llegando a las carreteras son una comida espantosa e inadecuadamente cocinada.   

Lo sabremos una vez que empiecen a sonar los silbatos. 

Derechos de autor 2021 Dr. Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Fuente: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/