AI Weekly: EU-verbod op gezichtsherkenning benadrukt behoefte aan Amerikaanse wetgeving

Deze week heeft het Europees Parlement, het orgaan dat verantwoordelijk is voor het aannemen van wetgeving van de Europese Unie (EU), een niet-bindende resolutie aangenomen waarin wordt opgeroepen tot een verbod op het gebruik van gezichtsherkenningstechnologie door wetshandhavers op openbare plaatsen. De resolutie, die ook een moratorium voorstelt op de inzet van voorspellende politiesoftware, zou het gebruik van biometrische identificatie op afstand beperken, tenzij het gaat om de bestrijding van “ernstige” criminaliteit, zoals ontvoering en terrorisme.

De aanpak staat in contrast met die van Amerikaanse instanties, die gezichtsherkenning blijven omarmen, zelfs in het licht van onderzoeken die de mogelijkheid van etnische, raciale en gendervooroordelen aantonen. Een recent verslag van het Amerikaanse Government Accountability Office ontdekte dat tien afdelingen, waaronder de ministeries van Landbouw, Handel, Defensie en Binnenlandse Veiligheid, van plan zijn hun gebruik van gezichtsherkenning tussen 10 en 2020 uit te breiden, terwijl ze maar liefst 2023 verschillende gezichtsherkenningssystemen implementeren.

Commerciële systemen voor gezichtsanalyse zijn de afgelopen tien jaar, zo niet langer, bekritiseerd door zowel wetenschappers als activisten. De technologie en technieken – alles van sepia-getinte film tot digitale camera’s met laag contrast – geven vaak de voorkeur aan een lichtere huid, wat raciale vooroordelen in algoritmen codeert. Onafhankelijke benchmarks van de systemen van leveranciers door de Geslacht Shades project en anderen hebben aangetoond dat gezichtsherkenningstechnologieën vatbaar zijn voor een reeks vooroordelen die worden verergerd door misbruik in het veld. Bijvoorbeeld, een verslag van Georgetown Law's Center on Privacy and Technology beschrijft hoe de politie gebrekkige gegevens van gezichtsherkenningssoftware voedt, waaronder samengestelde schetsen en foto's van beroemdheden die fysieke kenmerken delen met verdachten.

Ten minste drie mensen in de VS – allemaal zwarte mannen – zijn ten onrechte gearresteerd op basis van slechte gezichtsherkenningsmatches. In Detroit, dat in 2017 begon met het testen van gezichtsherkenningssoftware, gebruikte de politie in 2020 de technologie om meer dan 100 huiszoekingen uit te voeren bij verdachten en meer dan 80 arrestaties te verrichten in gevallen waarin een mogelijke match werd geïdentificeerd, aldus het politiebureau van Detroit. openbaar register. In het buitenland bleek de gezichtsherkenningstechnologie die in 2019 door de Britse Metropolitan Police werd gebruikt 81% te zijn onnauwkeurig, waarbij ten onrechte vier van de vijf onschuldige mensen als gezochte verdachten werden aangemerkt, zo bleek uit een whitepaper van de Universiteit van Essex in opdracht van Scotland Yard.

Toch wordt verwacht dat de mondiale markt voor gezichtsherkenning in 4.45 een waarde van 2021 miljard dollar zal hebben – en veel regeringen schreeuwen om de technologie. Verkopers als AnyVision en Gorilla Technologies zijn vermeende leveranciers voor Taiwanese gevangenissen en controleposten van het Israëlische leger op de Westelijke Jordaanoever. Huawei heeft software getest die naar verluidt het gezicht van een lid van de Oeigoerse minderheidsgroep zou kunnen herkennen. En Clearview, dat 10 miljard mugshots van internet heeft geschraapt om zijn gezichtsherkenningssystemen te ontwikkelen, beweert 3,100 klanten van wetshandhavings- en overheidsinstanties te hebben, waaronder de FBI en de Amerikaanse douane en grensbescherming.

In 2019 zei slechts de helft van de Amerikaanse volwassenen dat ze erop vertrouwden dat de politie op verantwoorde wijze gezichtsherkenning zou gebruiken. volgens naar een peiling van het Pew Research Center. Een groot aantal overheidsmedewerkers bekijkt AI-technologieën zoals gezichtsherkenning zelf met argwaan. Volgens een recente Gartner inchis slechts 53% van de werknemers bij overheidsinstanties in Azië-Pacific, Europa, Latijns-Amerika en Noord-Amerika die met AI-technologieën hebben gewerkt, van mening dat de technologieën inzichten bieden om hun werk beter te kunnen doen. Onder degenen die geen AI hebben gebruikt, was dit aandeel 34%, wat de bezorgdheid over de impact van de technologie weerspiegelt.

In plaats van de Amerikaanse federale regelgeving hebben sommige staten, steden en zelfs bedrijven het heft in eigen handen genomen. Oakland en San Francisco in Californië en Somerville, Massachusetts behoren tot de metropolen waar wetshandhavers geen gezichtsherkenning mogen gebruiken. In Illinois moeten bedrijven toestemming krijgen voordat ze biometrische informatie van welke aard dan ook verzamelen, inclusief gezichtsopnamen. Onlangs New York voorbij een moratorium op het gebruik van biometrische identificatie op scholen tot 2022, en wetgevers in Massachusetts en Maine hebben een opschorting van het overheidsgebruik van welk biometrisch surveillancesysteem dan ook binnen het Gemenebest. Meer recentelijk keurde Maine een steminitiatief goed dat het gebruik van gezichtsherkenning door politie en gemeentelijke instanties verbiedt. En Amazon, IBM en Microsoft hebben zelf een moratorium ingesteld op de verkoop van gezichtsherkenningssystemen.

Maar zoals blijkt uit de toenaderingen van de EU wordt het duidelijk dat er meer alomvattende richtlijnen nodig zullen zijn om gezichtsherkenningstechnologieën te reguleren die in de publieke sector worden gebruikt. Onder andere de Amerikaanse senatoren Bernie Sanders (I-Vt.), Elizabeth Warren (D-Mass.) en Ron Wyden (D-Ore.) hebben wetgevende oplossingen voorgesteld, maar gezien de huidige patstelling op Capitol Hill zullen ze dat waarschijnlijk ook doen. blijven de komende tijd stil liggen.

Voor nieuws over AI stuur je nieuwstips naar Kyle Wiggers - en abonneer je op het AI Wekelijkse nieuwsbrief en bookmark ons ​​AI-kanaal, De machine.

Bedankt voor het lezen,

Kyle Wiggers

AI Personeel Schrijver