Google, Meta, Microsoft, OpenAI och fler går med på frivilliga AI-skyddsåtgärder

Flera av de främsta amerikanska företagen som utvecklar AI har gått med på att arbeta med den amerikanska regeringen och förbinder sig till flera principer för att säkerställa allmänhetens förtroende för AI, sade Vita huset i fredags.

Amazon, Anthropic, Google, Inflection, Meta, Microsoft och OpenAI skrev alla ut på åtaganden för att göra AI säker, säker och pålitlig. I maj hade Biden-administrationen sagt att det skulle göra det träffa ledande AI-utvecklare för att säkerställa att de var förenliga med USA:s politik.

Åtagandena är inte bindande och det finns inga påföljder för att inte följa dem. Policyerna kan inte heller retroaktivt påverka AI-system som redan har distribuerats – en av bestämmelserna säger att företagen kommer att åta sig att testa AI:n för säkerhetsbrister, både internt och externt, innan de släpper den.

Ändå är de nya åtagandena utformade för att försäkra allmänheten (och i viss mån lagstiftare) att AI kan distribueras på ett ansvarsfullt sätt. Biden-administrationen hade redan föreslagit att använda AI inom regeringen för att effektivisera uppgifter.

De kanske mest omedelbara effekterna kommer att märkas på AI konst, eftersom alla parter gick med på digital vattenmärkning för att identifiera ett konstverk som AI-genererat. Vissa tjänster, som t.ex Bings bildskapare, gör redan detta. Alla undertecknarna åtog sig också att använda AI för allmänhetens bästa, såsom cancerforskning, samt att identifiera områden med lämplig och olämplig användning. Detta definierades inte, men kan inkludera de befintliga skyddsåtgärderna som förhindrar till exempel ChatGPT från att hjälpa till att planera en terroristattack. AI-företagen lovade också att bevara datasekretessen, en prioritet som Microsoft har upprätthållit företagsversioner av Bing Chat och Microsoft 365 Copilot.

Alla företag har åtagit sig att testa interna och externa säkerhetstester av sina AI-system innan de släpps, och dela information med industrin, regeringar, allmänheten och akademin om hantering av AI-risker. De lovade också att ge tredjepartsforskare tillgång till att upptäcka och rapportera sårbarheter.

Microsofts president Brad Smith godkändes de nya åtagandena, och noterar att Microsoft har varit en förespråkare för att upprätta ett nationellt register över högrisk AI-system. (A Kaliforniens kongressledamot har krävt ett federalt kontor som övervakar AI.) Google avslöjade också sitt eget "röda team" av hackare som försöker bryta AI med attacker som snabba attacker, förgiftningsdata och mer.

"Som en del av vårt uppdrag att bygga en säker och fördelaktig AGI kommer vi att fortsätta att göra det pilotera och förfina konkreta styrningsmetoder som är specifikt skräddarsydda för mycket kapabla grundmodeller som de vi producerar, säger OpenAI i ett uttalande. "Vi kommer också att fortsätta att investera i forskning inom områden som kan hjälpa till att informera om reglering, till exempel tekniker för att bedöma potentiellt farliga egenskaper i AI-modeller."