Den 21. april 2021 udgav Europa-Kommissionen en længe ventet forslag til forordning om kunstig intelligens (AI). Forslaget er udarbejdet af Kommissionen og dens rådgivere og spiller en central rolle i Kommissionens ambitiøse Europæisk strategi for data.
Mens reguleringen har en lang vej, før den bliver færdiggjort, bør virksomhederne være forberedt på betydelig regulering på dette område. Gennem denne advarsel har Foley Hoag til hensigt at give dig det grundlæggende i forslaget, herunder trin, som din virksomhed kan tage nu for at forberede sig på de typer ændringer, som denne forordning vil kræve.
Hvem er berørt af forordningen?
Som skrevet vil de foreslåede regler omfatte:
- udbydere, der markedsfører eller tager AI-systemer i brug, uanset om disse udbydere er etableret i Den Europæiske Union eller i et tredjeland
- brugere af AI-systemer i EU; og
- udbydere og brugere af AI-systemer, der er placeret i et tredjeland, hvor output produceret af systemet bruges i EU.
Hvordan definerer Kommissionen AI?
Udtrykket "AI-system" har en bred definition: "software, der...kan, for et givet sæt af menneskedefinerede mål, generere output såsom indhold, forudsigelser, anbefalinger eller beslutninger, der påvirker miljøer, de interagerer med."
Er der nogen former for handlinger, der er forbudt i henhold til forslaget?
Ja, forslaget opregner en række AI-praksis, der er forbudt:
- Markedsføring, ibrugtagning eller brug af et kunstig intelligenssystem, der anvender subliminale teknikker ud over en persons bevidsthed for at forvrænge en persons adfærd materielt på en måde, der forårsager denne person eller en anden person fysisk eller psykisk skade.
- Markedsføring, ibrugtagning eller brug af et kunstig intelligenssystem af offentlige myndigheder eller på deres vegne til vurdering eller klassificering af troværdigheden af fysiske personer med den sociale score, der fører til skadelig eller ugunstig behandling, der enten ikke er relateret til de sammenhænge, hvori dataene blev oprindeligt genereret eller uberettiget eller ude af proportioner.
- Brug af "realtids" fjerntliggende biometriske identifikationssystemer i offentligt tilgængelige rum til retshåndhævelsesformål. Dette forbud giver mulighed for brede undtagelser, der er underlagt specifikke krav, herunder forudgående retslig eller administrativ tilladelse for hver enkelt anvendelse.
Er ansigtsgenkendelse omfattet af forslaget?
Ja, visse retshåndhævende anvendelser af ansigtsgenkendelsessystemer beregnet til offentlige rum er dækket af forbudt kunstig intelligens.
Hvilke områder er hovedfokus i forslaget?
Forslaget fokuserer på områder med høj risiko for kunstig intelligens. Dette omfatter:
- Produktsikkerhedslovgivning, såsom EU-lovgivning om maskiner, legetøj, trykbærende udstyr eller medicinsk udstyr.
- AI-systemer, der bruges til biometrisk identifikation og kategorisering af fysiske personer, forvaltning og drift af kritisk infrastruktur, uddannelse og erhvervsuddannelse, beskæftigelse, retshåndhævelse, migration, asyl og grænsekontrol samt retspleje og demokratiske processer.
Hvordan skal virksomheder gribe selvregulering af AI an?
Udkastet til forordning vedtager en "udvikling gennem implementering"-tilgang. Det betyder, at højrisiko AI-systemer er genstand for kontrol, før de bringes på markedet eller tages i brug, såvel som gennem hele deres livscyklus.
Hvilke protokoller eller systemer bør virksomheder overveje for deres AI-styring for at opfylde regulatoriske benchmarks?
Virksomheder kan begynde at implementere interne styringsprocesser nu. Ifølge udkastet til forordning bør virksomheder overveje at etablere et obligatorisk risikostyringssystem, strenge krav til databrug og datastyring, krav til teknisk dokumentation og registrering samt overvågning og rapportering af hændelser efter markedsføring.
Hvordan kan virksomheder opfylde disse krav?
Virksomheder bør overveje eksterne vurderinger for AI-overholdelse. Udkastet til forordning anbefaler en overensstemmelsesvurdering, der udføres enten af en tredjepart eller af udbyderen selv. Forpligtelserne til at overholde forslaget kan påvirke alle involverede parter: udbyderen, importøren, distributøren og brugeren af AI.
Hvad med gennemsigtighed?
AI-systemer skal designes og udvikles på en sådan måde, at menneskelig overvågning er garanteret.
Derudover er der særlige bestemmelser i forordningen vedrørende gennemsigtighed for at sikre, at folk ved, at de har at gøre med et AI-system, i stedet for menneskecentrerede beslutningsprocesser.
Hvem er ansvarlig for håndhævelsen?
Eksisterende regulering vedrørende kunstig intelligens, ligesom Frankrigs vedtægter for ansigtsgenkendelse, skal harmoniseres med EU-forordningen, når den vedtages.
Hvis den vedtages, vil forordningen blive håndhævet af EU-medlemslandene. Men i fremtiden forudser forslaget oprettelse af et europæisk AI-råd, der vil være ansvarligt for: at bistå de nationale tilsynsmyndigheder og Kommissionen med at sikre en konsekvent anvendelse af forordningen; afgive udtalelser og anbefalinger; og indsamling og deling af bedste praksis blandt medlemslandene.
Når først forordningen er vedtaget, træder den i kraft 20 dage efter offentliggørelsen i Den Europæiske Unions Tidende. Bestemmelserne vil kunne håndhæves 24 måneder efter denne dato, hvilket skaber en lang henstandsperiode til at tage højde for innovation, der kan forekomme mellem udarbejdelsen og vedtagelsen.
Hvad sker der nu?
Udkastet til forordning vil sandsynligvis ikke blive vedtaget i nogen tid på grund af kompleksiteten af kunstig intelligens og antallet af involverede nationer og interessenter. Europa-Parlamentet og Rådet vil deltage i yderligere overvejelser og debat og overveje ændringer.
Dette udkast til forordning vil dog sandsynligvis sætte benchmark for etisk kunstig intelligens. Det bør overvejes nøje af virksomheder i mangel af anden vejledning for at give en indikation af, hvor den nationale lovgivning og international konsensus bevæger sig om spørgsmål omkring AI.
__
Denne artikel blev oprindeligt offentliggjort i Foley Hoags nyhedsbrev. Tilmeld link..
- 2021
- Konto
- Vedtagelse
- AI
- Alle
- blandt
- Anvendelse
- april
- tilladelse
- Grundlæggende
- benchmark
- BEDSTE
- bedste praksis
- board
- grænse
- virksomhed
- virksomheder
- Circle
- klassificering
- Indsamling
- Kommissionen
- Virksomheder
- Compliance
- Bevidsthed
- Konsensus
- anser
- indhold
- Rådet
- Oprettelse af
- Kritisk infrastruktur
- data
- beskæftiger
- debat
- Enheder
- Uddannelse
- beskæftigelse
- udstyr
- EU
- europæisk
- europæisk kommission
- europæiske Union
- ansigtsgenkendelse
- Fokus
- fremtiden
- regeringsførelse
- HTTPS
- Identifikation
- billede
- Herunder
- Infrastruktur
- Innovation
- internationalt
- involverede
- spørgsmål
- IT
- Retfærdighed
- Lov
- retshåndhævelse
- førende
- Lovgivning
- Lister
- Lang
- ledelse
- Marked
- MassTLC
- medicinsk
- medicinsk udstyr
- overvågning
- måned
- officiel
- Udtalelser
- Andet
- Mennesker
- Forudsigelser
- tryk
- produceret
- Forbud
- forslag
- offentlige
- Regulering
- regler
- Krav
- Risiko
- risikostyring
- regler
- Sikkerhed
- sæt
- Social
- Space
- starte
- Stater
- Strategi
- systemet
- Systemer
- Teknisk
- Grundlæggende
- Fremtiden
- tid
- Kurser
- Gennemsigtighed
- behandling
- union
- brugere
- Hjemmeside