Polisen borde förbjudas att använda allmän ansiktsigenkännande övervakning för att identifiera personer som inte är misstänkta för brott. Vissa privata databaser över människors ansikten för identifieringssystem borde också förbjudas.
Det är känslan hos majoriteten av ledamöterna i Europaparlamentet den här veckan. I en rösta på onsdagen stödde 377 parlamentsledamöter en upplösning begränsning av brottsbekämpande myndigheters användning av ansiktsigenkänning, 248 röstade emot och 62 avstod från att rösta.
"AI-baserade identifieringssystem felidentifierar redan etniska minoritetsgrupper, HGBTI-personer, seniorer och kvinnor i högre grad, vilket är särskilt oroande i samband med brottsbekämpning och rättsväsende", heter det i ett uttalande från parlamentet.
"För att säkerställa att grundläggande rättigheter upprätthålls när man använder dessa tekniker, bör algoritmer vara transparenta, spårbara och tillräckligt dokumenterade, frågar parlamentsledamöterna. Om möjligt bör offentliga myndigheter använda programvara med öppen källkod för att vara mer transparenta.”
Förutom detta anser de flesta av företrädarna att teknik för ansiktsigenkänning inte bör användas av polisen vid automatisk massövervakning av människor i allmänhet, och övervakning bör begränsas till endast de som anses ha brutit mot lagen. Datauppsättningar som samlats in av privata företag, som Clearview AI, för att identifiera medborgare bör också förbjudas tillsammans med system som tillåter poliser att förutsäga brott utifrån människors beteende och bakgrund. Här är specifikt vad parlamentet uttalade:
Att rangordna personer med sociala poäng, tilldelade efter deras personlighet, beteende och vad har du, fick också tummen ner.
"Grundläggande rättigheter är ovillkorliga", sade Peter Vitanov, en parlamentsledamot som representerar det bulgariska socialistpartiet. "För första gången någonsin kräver vi ett moratorium för utbyggnaden av ansiktsigenkänningssystem för brottsbekämpande ändamål, eftersom tekniken har visat sig vara ineffektiv och ofta leder till diskriminerande resultat.
"Vi är helt klart emot förutsägande polisarbete baserat på användningen av AI såväl som all bearbetning av biometriska data som leder till massövervakning. Detta är en enorm vinst för alla europeiska medborgare.”
Omröstningen är icke-budgivande, vilket innebär att den inte direkt kan leda till någon lagändring. Istället castades det för att avslöja om medlemmarna kan stödja kommande lagförslag som AI-lagen, säger en talesperson för EU-parlamentet Registret.
"Resolutionen är en icke uttömmande lista över AI-användningar som parlamentsledamöter inom området inrikes frågor upplever som problematiska. De ber om ett moratorium för att distribuera nya ansiktsigenkänningssystem för brottsbekämpning, och ett förbud mot den smalare kategorin av privata ansiktsigenkänningsdatabaser”, tillade talesmannen.
Det krävde också att gränskontrollsystemen skulle sluta använda biometriska data för att spåra resenärer över hela EU också. ®
En Black Uber-förare i Storbritannien, som förlorade sitt jobb efter att han stängdes ute från appen när dess ansiktsigenkänningssystem inte kunde identifiera honom, vidtar rättsliga åtgärder mot teknikjätten. Han kommer att få stöd av The Independent Workers' Union of Great Britain (IWGB).
Det påstås att färgade personer löper fem gånger större risk att bli felidentifierade av Ubers autentiseringsmekanism för ansiktsigenkänning. Facket har krävt en 24-timmars bojkott av Uber för att uppmuntra bilbranschen att ändra sitt sätt.
"Ubers fortsatta användning av en ansiktsigenkänningsalgoritm som är ineffektiv på färgade personer är diskriminerande," sade Henry Chango Lopez, generalsekreterare för IWGB, på tisdagen.
Källa: https://go.theregister.com/feed/www.theregister.com/2021/10/07/eu_facial_ban/
