AI Weekly: MIT sigter mod at forene datadeling med EU's AI-regler

"Virksomheder vil gerne lovligt dele data for at lave kollaborative analyser, og forbrugere ønsker privatlivets fred for deres data, placering og billeder, og vi vil gerne adressere begge scenarier," fortalte Devadas, en meddirektør for initiativet, til VentureBeat via e-mail. “Initiativet er fokuseret på lovlig deling, brug og behandling af data … Nogle af de nye [EU] regler forbyder brugen af ​​visse teknologier, undtagen af ​​sikkerhedsmæssige årsager. Jeg kan for eksempel forestille mig, at overvågningskameraer producerer krypterede videostreams, og ansigtsgenkendelsesteknologi anvendes kun i et scenarie, hvor sikkerheds- og sikkerhedshensyn er i højsædet. Dette kan betyde, at de krypterede streams behandles uden dekryptering - noget der faktisk er muligt med tilgængelige teknologier."

Initiativet er udtænkt af MIT Computer Science and Artificial Intelligence Laboratory administrerende direktør Lori Glover og Danny Weitzner, som driver Internet Policy Research Initiative ved MIT. Som Devadas forklarer, er målet at integrere forskning i privatlivspolitik med privatlivsbevarende teknologier for at skabe en god cyklus af F&U og regulering. "På mange områder, såsom medicinsk diagnostik og finans, kan deling af data give væsentligt bedre resultater og forudsigelser, men deling er ikke tilladt af [love] såsom HIPAA," sagde Devadas. "Der er private kollaborative analyseteknikker, der kan hjælpe med dette problem, men det er ikke altid klart, om bestemte teknikker eller tilgange opfylder reglerne, fordi reglerne ofte er vage. Initiativet vil gerne løse dette problem.”

Især inden for sundhedsvæsenet er forbrugerne ofte ikke helt klar over, at deres oplysninger er inkluderet i de datasæt, der bruges til at træne AI-systemer. I 2019, The Wall Street Journal rapporterede detaljer om Project Nightingale, Googles partnerskab med Ascension, som er USA's næststørste sundhedssystem, der indsamler de personlige helbredsdata for titusinder af patienter med det formål at udvikle AI-baserede tjenester til medicinske udbydere. En britisk tilsynsmyndighed konkluderede, at The Royal Free London NHS Foundation Trust, en afdeling af Storbritanniens National Health Service baseret i London, forudsat Googles moderselskab Alphabet's DeepMind med data om 1.6 millioner patienter uden deres samtykke. Og i 2019 var Google og University of Chicago Medical Center sagsøges for angiveligt at undlade at skrubbe tidsstempler fra anonymiserede lægejournaler. (En dommer smed dragten i september.)

EU-reglerne stiller krav til "højrisiko"-applikationer af kunstig intelligens, herunder medicinsk udstyr og udstyr. Virksomheder, der udvikler dem, bliver nødt til at bruge træningsdata af "høj kvalitet" for at undgå skævhed, acceptere "menneskeligt tilsyn" og skabe detaljeret dokumentation, der forklarer, hvordan softwaren fungerer for både regulatorer og brugere. I et forsøg på at give gennemsigtighed om, hvilke teknologier der er i brug, vil alle højrisiko AI-systemer blive indekseret i en EU-dækkende database.

Devadas ser en række teknologier, der muliggør etiske tilgange til kunstig intelligens, der stemmer overens med EU-reglerne. For eksempel kan sikker flerpartsberegning bruges til at nå frem til en aggregeret statistik på en måde, der ikke afslører brugernes data. I horisonten er tilgange som sikker hardware og homografisk kryptering, som gør det muligt for AI at udlede indsigt fra krypterede data. Mens homomorf kryptering er mulig i dag, er det op mod 100,000 gange langsommere end usikrede teknikker. Hvad angår sikker hardware, er den ofte ikke uden sikkerhedssårbarheder og kræver fuld tillid til hardwareproducenter.

"Der er mange teknikker, der måske er tæt på at kunne implementeres, men ikke helt der," sagde Devadas. "[Men] flere projekter i initiativet vil direkte adressere dette præstationskløft."

For AI-dækning, send nyhedstip til Kyle Wiggers - og sørg for at abonnere på AI ugeligt nyhedsbrev og bogmærke vores AI-kanal, maskinen.

Tak for læsning,

Kyle Wiggers

AI personaleskribent