AI Weekly: la prohibición del reconocimiento facial en la UE destaca la necesidad de una legislación estadounidense

Esta semana, el Parlamento Europeo, el organismo responsable de adoptar la legislación de la Unión Europea (UE), aprobó una resolución no vinculante que pide la prohibición del uso policial de la tecnología de reconocimiento facial en lugares públicos. La resolución, que también propone una moratoria sobre el despliegue de software policial predictivo, restringiría el uso de identificación biométrica remota a menos que sea para combatir delitos “graves”, como el secuestro y el terrorismo.

El enfoque contrasta con el de las agencias estadounidenses, que continúan adoptando el reconocimiento facial incluso a la luz de estudios que muestran el potencial de prejuicios étnicos, raciales y de género. Un reciente reporte de la Oficina de Responsabilidad del Gobierno de EE. UU. descubrió que 10 sucursales, incluidos los Departamentos de Agricultura, Comercio, Defensa y Seguridad Nacional, planean expandir su uso del reconocimiento facial entre 2020 y 2023, ya que implementan hasta 17 sistemas diferentes de reconocimiento facial.

Los sistemas comerciales de análisis de rostros han sido criticados tanto por académicos como por activistas durante la última década, si no más. La tecnología y las técnicas, desde películas teñidas de sepia hasta cámaras digitales de bajo contraste, a menudo favorecen la piel más clara, codificando los prejuicios raciales en los algoritmos. De hecho, los puntos de referencia independientes de los sistemas de los proveedores Sombras de género proyecto y otros han revelado que las tecnologías de reconocimiento facial son susceptibles a una variedad de prejuicios exacerbados por el mal uso en el campo. Por ejemplo, un reporte del Centro de Privacidad y Tecnología de Georgetown Law detalla cómo la policía alimenta datos defectuosos del software de reconocimiento facial, incluidos bocetos compuestos e imágenes de celebridades que comparten características físicas con los sospechosos.

Al menos tres personas en los EE. UU., Todas ellas hombres negros, han sido arrestadas injustamente debido a coincidencias deficientes en el reconocimiento facial. En Detroit, que comenzó a poner a prueba un software de reconocimiento facial en 2017, la policía en 2020 utilizó la tecnología para realizar más de 100 búsquedas de sospechosos y realizó más de 80 arrestos en los casos en que se identificó una posible coincidencia, según el Departamento de Policía de Detroit. registro Público. En el extranjero, se descubrió que la tecnología de reconocimiento facial utilizada por la Policía Metropolitana del Reino Unido en 2019 era del 81% incorrecto, apuntando por error a cuatro de cada cinco personas inocentes como sospechosos buscados, encontró un documento técnico de la Universidad de Essex encargado por Scotland Yard.

Aún así, se espera que el mercado global de reconocimiento facial tenga un valor de 4.45 millones de dólares en 2021, y muchos gobiernos claman por la tecnología. Proveedores como AnyVision y Gorilla Technologies son supuestos proveedores de prisiones taiwanesas y puestos de control del ejército israelí en Cisjordania. Huawei ha probado un software que supuestamente podría reconocer el rostro de un miembro del grupo minoritario uigur. Y Clearview, que ha recogido 10 mil millones de fotografías policiales de la web para desarrollar sus sistemas de reconocimiento facial, afirma tener 3,100 clientes del gobierno y de las fuerzas del orden, incluidos el FBI y la Oficina de Aduanas y Protección Fronteriza de EE. UU.

En 2019, solo la mitad de los adultos estadounidenses dijeron que confiaban en la aplicación de la ley para usar el reconocimiento facial de manera responsable, conforme a una encuesta del Pew Research Center. Una pluralidad de empleados del gobierno ven con sospecha las tecnologías de IA como el reconocimiento facial. Según un reciente Gartner encuesta, solo el 53% de los empleados de las agencias públicas de Asia Pacífico, Europa, América Latina y América del Norte que han trabajado con tecnologías de inteligencia artificial creen que las tecnologías brindan información para hacer mejor su trabajo. Entre aquellos que no han usado IA, la proporción fue del 34%, lo que refleja la preocupación por el impacto de la tecnología.

En lugar de la regulación federal de EE. UU., Algunos estados, ciudades e incluso empresas han tomado cartas en el asunto. Oakland y San Francisco en California y Somerville, Massachusetts se encuentran entre las áreas metropolitanas donde la policía tiene prohibido el uso de reconocimiento facial. En Illinois, las empresas deben obtener el consentimiento antes de recopilar información biométrica de cualquier tipo, incluidas imágenes faciales. Nueva York recientemente pasado una moratoria sobre el uso de identificación biométrica en las escuelas hasta el 2022, y los legisladores en Massachusetts y Maine han avanzado un suspensión del uso gubernamental de cualquier sistema de vigilancia biométrica dentro de la mancomunidad. Más recientemente, Maine aprobó una iniciativa de votación que prohíbe el uso del reconocimiento facial por parte de la policía y las agencias de la ciudad. Y Amazon, IBM y Microsoft tienen moratorias autoimpuestas a la venta de sistemas de reconocimiento facial.

Pero como lo demuestran las propuestas de la UE, está quedando claro que se necesitarán pautas más completas para regular las tecnologías de reconocimiento facial que entran en uso por parte del sector público. Los senadores estadounidenses Bernie Sanders (I-Vt.), Elizabeth Warren (D-Mass.) Y Ron Wyden (D-Ore.), Entre otros, han propuesto soluciones legislativas, pero dado el estancamiento actual en Capitol Hill, es probable que lo hagan. permanecer estancados en el futuro previsible.

Para cobertura de AI, envíe sugerencias de noticias a kyle pelucas - y asegúrese de suscribirse al Boletín semanal de AI y marque nuestro canal de IA, La Máquina.

Gracias por leer,

kyle pelucas

Escritor de AI