AI Weekly: Cilj MIT je uskladiti izmenjavo podatkov s predpisi EU o umetni inteligenci

"Podjetja bi si želela zakonito deliti podatke za skupno analizo, potrošniki pa želijo zasebnost svojih podatkov, lokacije in slik, mi pa bi radi obravnavali oba scenarija," je Devadas, so-direktor pobude, povedal za VentureBeat po e-pošti. „Pobuda je osredotočena na pravno izmenjavo, uporabo in obdelavo podatkov ... Nekatere nove uredbe [EU] prepovedujejo uporabo nekaterih tehnologij, razen iz varnostnih razlogov. Lahko si na primer predstavljam, da nadzorne kamere proizvajajo šifrirane video tokove, tehnologija prepoznavanja obrazov pa se uporablja le v primeru, ko so varnostni in varnostni vidiki najpomembnejši. To lahko pomeni, da se šifrirani tokovi obdelajo brez dešifriranja - kar je dejansko mogoče z razpoložljivimi tehnologijami. "

Pobuda je zamisel direktorja laboratorija za računalništvo in umetno inteligenco MIT Lori Glover in Dannyja Weitznerja, ki pri MIT vodi pobudo za raziskave internetne politike. Kot pojasnjuje Devadas, je cilj združiti raziskave o politiki zasebnosti s tehnologijami, ki ohranjajo zasebnost, da bi ustvarili krepak cikel raziskav in razvoja ter predpisov. "Na številnih področjih, kot sta medicinska diagnostika in finance, lahko izmenjava podatkov prinese bistveno boljše rezultate in napovedi, vendar [zakoni], kot je HIPAA, prepovedujejo skupno rabo," je dejal Devadas. „Obstajajo zasebne tehnike sodelovalne analitike, ki lahko pomagajo pri tej težavi, vendar ni vedno jasno, ali določene tehnike ali pristopi izpolnjujejo predpise, saj so predpisi pogosto nejasni. Pobuda bi rada rešila to vprašanje. "

Potrošniki se zlasti v zdravstvenem varstvu pogosto ne zavedajo popolnoma, da so njihove informacije vključene v nabore podatkov, ki se uporabljajo za usposabljanje sistemov umetne inteligence. Leta 2019 Wall Street Journal je poročal o podrobnostih o projektu Nightingale, Googlovem partnerstvu z Ascension, ki je drugi največji ameriški zdravstveni sistem, ki zbira osebne zdravstvene podatke več deset milijonov bolnikov za namene razvoja storitev, ki temeljijo na umetni inteligenci za ponudnike zdravstvenih storitev. Britanski regulator je zaključil, da The Royal Free London NHS Foundation Trust, oddelek britanske nacionalne zdravstvene službe s sedežem v Londonu, če Googlovo nadrejeno podjetje Alphabet's DeepMind s podatki o 1.6 milijona pacientov brez njihovega soglasja. In leta 2019 sta bila Google in Medicinski center Univerze v Chicagu tožen ker naj ne bi izbrisal časovnih žigov iz anonimiziranih zdravstvenih kartotek. (Sodnik vrgel obleko v septembru.)

Predpisi EU nalagajo zahteve za "visoko tvegane" aplikacije umetne inteligence, vključno z medicinskimi pripomočki in opremo. Podjetja, ki jih razvijajo, bodo morala uporabiti "visokokakovostne" podatke o usposabljanju, da bi se izognila pristranskosti, se strinjala s "človeškim nadzorom" in ustvarila podrobno dokumentacijo, ki razlaga, kako programska oprema deluje tako regulatorjem kot uporabnikom. Poleg tega bodo vsi visoko tvegani sistemi umetne inteligence indeksirani v zbirko podatkov po vsej EU, da bi zagotovili preglednost uporabljenih tehnologij.

Devadas vidi številne tehnologije, ki omogočajo etične pristope k umetni inteligenci, ki so v skladu s predpisi EU. Na primer, varno večstrankarsko računanje lahko uporabimo za pripravo agregirane statistike na način, ki ne razkriva podatkov uporabnikov. Na obzorju so pristopi, kot sta varna strojna oprema in homografsko šifriranje, ki AI omogočata vpogled v šifrirane podatke. Čeprav je danes možno homomorfno šifriranje, je to več kot 100,000-krat počasneje od nezavarovanih tehnik. Kar zadeva varno strojno opremo, pogosto ni brez varnostnih ranljivosti in zahteva popolno zaupanje v proizvajalce strojne opreme.

"Obstaja veliko tehnik, ki so morda blizu uvedbi, vendar ne povsem tam," je dejal Devadas. "[Vendar] bodo številni projekti v pobudi neposredno odpravili to vrzel v uspešnosti."

Za pokritost AI pošljite nasvete za novice na Kyle Wiggers - in se obvezno naročite na Tedensko glasilo AI in zaznamujte naš AI kanal, Stroj.

Hvala za branje,

Kyle Wiggers

AI osebni pisatelj