President Biden signerer ordre om å takle AI-sikkerhet

Publisert av Platon

Følgere: 0

USAs president Joe Biden utstedte en executive order i dag som setter på plass noen sikkerhetstiltak som kan redusere samfunnsrisiko som stammer fra stadig kraftigere AI-teknologi.

Den feiende ordren håper å løse en rekke problemer, inkludert sikkerhet og personvern, innovasjon, tap av jobb, samt algoritmisk diskriminering.

"Handlingene som president Biden ledet i dag er viktige skritt fremover i USAs tilnærming til trygg, sikker og pålitelig AI," kunngjorde Det hvite hus i en uttalelse Mandag. "Mer handling vil være nødvendig, og administrasjonen vil fortsette å samarbeide med kongressen for å forfølge topartilovgivning for å hjelpe Amerika med å lede veien innen ansvarlig innovasjon."

Biden ønsker at selskaper bygger såkalte grunnmodeller – store nevrale nettverk trent på enorme mengder data som er i stand til å utføre flere forskjellige oppgaver – for å varsle den amerikanske regjeringen hvis de trener et slikt system som kan utgjøre en "alvorlig risiko" for nasjonal sikkerhet, nasjonal økonomisk sikkerhet eller nasjonal folkehelse .

National Institute of Standards and Technology, bedre kjent som NIST, vil utvikle tekniske standarder for å sette en bar for sikkerheten til maskinlæringsteknologi. Utviklere må kjøre disse røde team-testene på modellene sine og dele resultatene med myndighetspersoner før de kan lanseres offentlig eller distribueres i kommersielle omgivelser.

Disse testene vil undersøke systemets evne til å hjelpe brukere med å lage skadelige biologiske våpen eller desinformasjon, for eksempel. For å takle det siste problemet, har handelsdepartementet fått i oppgave å utvikle retningslinjer for å merke AI-generert innhold ved hjelp av vannmerketeknikker. Andre føderale byråer vil følge de nye reglene og ta i bruk teknikkene for å autentisere all offentlig kommunikasjon.

I mellomtiden vil det nasjonale sikkerhetsrådet og stabssjefen i Det hvite hus etablere et nasjonalt sikkerhetsmemorandum som instruerer militære og etterretningsbyråer om hvordan de skal bruke AI «sikkert, etisk og effektivt» for å utføre oppdrag og kjempe mot motstandere. Biden-administrasjonen oppfordret også Kongressen til å vedta ny lovgivning for å beskytte amerikanernes data, inkludert finansiering av nye forsøk på å bygge kryptografiske verktøy som er i stand til å bevare deres privatliv, for eksempel personlig identifiserbar informasjon som er skrapet fra internett.

Eksekutivordren tar også sikte på å beskytte borgerrettigheter og arbeidere. "Uansvarlig bruk av kunstig intelligens kan føre til og forsterke diskriminering, skjevhet og andre overgrep innen rettsvesen, helsevesen og bolig," sa administrasjonen. Justisdepartementet og føderale sivile rettighetskontorer vil fortsette å etterforske og straffeforfølge sivile AI-brudd som algoritmisk diskriminering i bolig-, finans- eller juridiske industrier.

Den amerikanske regjeringen lovet å utgi en rapport som beskriver de potensielle virkningene AI vil ha på arbeidsmarkedet for å identifisere jobber som står i fare for å bli erstattet og bedre støtte ansatte. Til gjengjeld vil den skissere nye prinsipper og beste praksis for å veilede arbeidsgivere og arbeidstakere om jobbsøknader og kompensasjon etter hvert som maskinene blir stadig kraftigere.

Til slutt håper Biden å øke innovasjon og rettferdig konkurranse ved å hjelpe små bedrifter og gründere med å skaffe de nødvendige tekniske ressursene for å utvikle sine egne AI-teknologier. Han lovet også å strømlinjeforme visum for å oppmuntre innvandrere med ekspertkunnskap i emnet til å jobbe i USA.

USA er engasjert i internasjonale diskusjoner med flere land, og Det hvite hus sa at Bidens eksekutivordre støtter andre forsøk på å regulere teknologien, inkludert Japans G-7 Hiroshima-prosess, Storbritannias toppmøte om AI-sikkerhet, Global Partnership on AI ledet av India , og andre initiativ fra FN. ®