AI Weekly : l'interdiction de la reconnaissance faciale par l'UE souligne la nécessité d'une législation américaine

Cette semaine, le Parlement européen, l'organe chargé d'adopter la législation de l'Union européenne (UE), a adopté une résolution non contraignante appelant à interdire l'utilisation par les forces de l'ordre de la technologie de reconnaissance faciale dans les lieux publics. La résolution, qui propose également un moratoire sur le déploiement de logiciels de police prédictive, restreindrait l'utilisation de l'identification biométrique à distance, sauf s'il s'agit de lutter contre des crimes « graves », tels que les enlèvements et le terrorisme.

L'approche contraste avec celle des agences américaines, qui continuent d'adopter la reconnaissance faciale même à la lumière d'études montrant le potentiel de préjugés ethniques, raciaux et sexistes. Une récente rapport du Government Accountability Office des États-Unis a constaté que 10 branches, dont les ministères de l'Agriculture, du Commerce, de la Défense et de la Sécurité intérieure, prévoient d'étendre leur utilisation de la reconnaissance faciale entre 2020 et 2023 en mettant en œuvre jusqu'à 17 systèmes de reconnaissance faciale différents.

Les systèmes commerciaux d'analyse faciale ont été critiqués par les universitaires et les militants tout au long de la dernière décennie, voire plus. La technologie et les techniques – allant des films sépia aux appareils photo numériques à faible contraste – favorisent souvent une peau plus claire, codant les préjugés raciaux dans les algorithmes. En effet, des analyses comparatives indépendantes des systèmes des fournisseurs par le Nuances de genre projet et autres ont révélé que les technologies de reconnaissance faciale sont sensibles à une série de préjugés exacerbés par une mauvaise utilisation sur le terrain. Par exemple, un rapport du Centre sur la confidentialité et la technologie de Georgetown Law détaille comment la police alimente les données erronées du logiciel de reconnaissance faciale, y compris des croquis composites et des photos de célébrités qui partagent des caractéristiques physiques avec des suspects.

Au moins trois personnes aux États-Unis – qui étaient toutes des hommes noirs – ont été arrêtées à tort sur la base de mauvaises correspondances de reconnaissance faciale. À Detroit, qui a commencé à piloter un logiciel de reconnaissance faciale en 2017, la police en 2020 a utilisé la technologie pour effectuer plus de 100 recherches de suspects et a procédé à plus de 80 arrestations dans les cas où une correspondance possible a été identifiée, selon le département de police de Detroit. record publique. À l'étranger, la technologie de reconnaissance faciale utilisée par la police métropolitaine du Royaume-Uni en 2019 s'est avérée être de 81% inexacte, ciblant par erreur quatre innocents sur cinq comme suspects recherchés, a révélé un livre blanc de l'Université d'Essex commandé par Scotland Yard.

Pourtant, le marché mondial de la reconnaissance faciale devrait valoir 4.45 milliards de dollars en 2021 – et de nombreux gouvernements réclament cette technologie. Des fournisseurs comme AnyVision et Gorilla Technologies sont des fournisseurs présumés des prisons taïwanaises et des points de contrôle de l'armée israélienne en Cisjordanie. Huawei a testé un logiciel qui pourrait reconnaître le visage d'un membre du groupe minoritaire ouïghour. Et Clearview, qui a récupéré 10 milliards de photos électroniques sur le Web pour développer ses systèmes de reconnaissance faciale, prétend avoir 3,100 XNUMX clients des forces de l'ordre et du gouvernement, y compris le FBI et le US Customs and Border Protection.

En 2019, seulement la moitié des adultes américains ont déclaré qu'ils faisaient confiance aux forces de l'ordre pour utiliser la reconnaissance faciale de manière responsable, selon à un sondage du Pew Research Center. Une pluralité d'employés du gouvernement eux-mêmes considèrent les technologies d'IA comme la reconnaissance faciale avec suspicion. Selon un récent Gartner po, seuls 53 % des employés des agences publiques d'Asie-Pacifique, d'Europe, d'Amérique latine et d'Amérique du Nord qui ont travaillé avec les technologies d'IA pensent que les technologies fournissent des informations pour mieux faire leur travail. Parmi ceux qui n'ont pas utilisé l'IA, la part était de 34 %, ce qui reflète les inquiétudes concernant l'impact de la technologie.

Au lieu de la réglementation fédérale américaine, certains États, villes et même des entreprises ont pris les choses en main. Oakland et San Francisco en Californie et Somerville, Massachusetts font partie des métros où il est interdit aux forces de l'ordre d'utiliser la reconnaissance faciale. Dans l'Illinois, les entreprises doivent obtenir le consentement avant de collecter des informations biométriques de toute nature, y compris des images faciales. New York récemment passé un moratoire sur l'utilisation de l'identification biométrique dans les écoles jusqu'en 2022, et les législateurs du Massachusetts et du Maine ont avancé un suspension de l'utilisation par le gouvernement de tout système de surveillance biométrique au sein du Commonwealth. Plus récemment, le Maine a approuvé une initiative de vote interdisant l'utilisation de la reconnaissance faciale par la police et les agences municipales. Et Amazon, IBM et Microsoft se sont eux-mêmes imposé des moratoires sur la vente de systèmes de reconnaissance faciale.

Mais comme en témoignent les ouvertures de l'UE, il devient clair que des directives plus complètes seront nécessaires pour réglementer les technologies de reconnaissance faciale qui seront utilisées par le secteur public. Les sénateurs américains Bernie Sanders (I-Vt.), Elizabeth Warren (D-Mass.) Et Ron Wyden (D-Ore.), Entre autres, ont proposé des solutions législatives, mais compte tenu de l'impasse actuelle sur Capitol Hill, ils sont susceptibles de rester au point mort dans un avenir prévisible.

Pour la couverture de l'IA, envoyez des conseils d'actualités à Kyle Wiggers - et assurez-vous de vous abonner au Bulletin hebdomadaire AI et ajoutez notre chaîne IA à vos favoris, La Machine.

Merci pour la lecture,

Kyle Wiggers

Rédactrice AI