Az Egyesült Államok főügyészei nemzeti törvények elfogadását kérik az AI CSAM elleni küzdelemhez

Az Egyesült Államok főügyészei nemzeti törvények elfogadását kérik az AI CSAM elleni küzdelemhez

Időbélyeg: 5. szeptember 2023. 10:45
Forrás csomópont: 2255284

A National Association of Attorneys General – az a testület, amelyet az Egyesült Államok valamennyi állama és területe használ a jogi kérdések közös megoldására – sürgette a Kongresszust, hogy fogadjon el olyan jogszabályt, amely tiltja a mesterséges intelligencia használatát gyermekek szexuális zaklatását ábrázoló képek készítésére.

Egy levélben [PDF] a Szenátus és a Képviselőház vezetőinek kedden a Legfőbb Ügyészség szakértő kijelölését kérte a törvényhozóktól, hogy vizsgálja meg, hogyan használható a tartalomkészítő gépi tanulási technológia a gyermekek kizsákmányolására, új törvények, szabályok megállapítása céljából. , vagy a mesterséges intelligencia által generált gyermekek szexuális zaklatását használó anyagok (CSAM) elleni védelemre vonatkozó szabályozások.

A generatív mesterséges intelligencia technológia fejlődése megkönnyítette a valósághű képek készítését, amelyek valós embereket ábrázolnak erősen kompromittáló vagy zavaró kitalált forgatókönyvekben, vagy hamis embereket fiktív körülmények között. Az online biztonsági csoportok és a bűnüldöző szervek rendelkeznek észrevette az úgynevezett mélyhamisítások, képek vagy videók számának növekedése, amelyekben egy valós személy arcát valaki más testére ragasztják, hogy hamis tartalmat állítsanak elő. A gyermekek fotóinak mélyhamisításai felhasználhatók a meglévő CSAM módosítására, hogy még több ilyen aljas tartalom kerüljön elő.

Az online szöveget képpé alakító eszközök olyan CSAM-ot is készíthetnek, amely valósághűnek tűnik, de nem ábrázol valódi gyermeket. Bár a szöveg-kép szolgáltatásokat és szoftvereket üzemeltető vállalatok szigorú szabályzatokkal rendelkeznek, és gyakran blokkolják a meztelenséget tartalmazó képeket, a felhasználók néha találhatnak módot a korlátozások megkerülésére. A nyílt forráskódú modellek CSAM-ot is generálhatnak, és nehezebb ellenőrizni őket, mivel helyben futtathatók.

Valós embereket ábrázoló pornográf mélyhamisítványok készítése illegális az Egyesült Államok legalább egyes részein. Az év elején a New York állambeli Long Island ügyészei vádat emeltek egy férfi ellen, amiért olyan nyíltan szexuális hamisítványokat készített és osztott meg, amelyek „több mint egy tucat kiskorú nőt” ábrázoltak, a közösségi média profiljairól készített képek felhasználásával. Ezt a géppel készített anyagot pornóoldalakon osztották meg az áldozatok személyes adataival együtt, és felszólították a perverz társaikat, hogy zaklatsák őket. A 22 éves férfi volt elítélt hat hónap börtönbüntetésre és tíz év próbaidőre, jelentős szexuális bűnelkövetői körülmények között.

Azonban egyetlen szövetségi jogszabály sem tiltja az NSFW mélyhamisítások beleegyezés nélküli készítését. A törvények homályosabbak, ha teljesen hamis mesterséges intelligencia által generált CSAM-ról van szó, amelyben az áldozatok nem valódi emberek.

Az Országos Legfőbb Ügyészek Szövetsége azzal érvelt, hogy az ilyen anyagok nem áldozatok, mivel az ilyen képek készítésére alkalmas eszközöket valószínűleg a tényleges CSAM-re képezték ki, amelynek létrehozása tényleges gyermekeket károsított. A teljes mértékben virtuális mesterséges intelligencia létrehozása ezért további gyermekkizsákmányolást eredményezhet, és több felháborító és illegális tartalmat terjeszthet az interneten.

Az AG-k ezért törvényeket vagy más eszközöket akarnak a mélyhamisított pornó elleni küzdelemhez, legyen szó valódi emberekről, akiket engedély nélkül hamis helyzetekbe manipulálnak, vagy teljesen hamis dolgokat, amelyeket valószínűleg tényleges illegális anyagokból fejlesztettek ki.

"Egy napon a közeljövőben egy gyermekmolesztáló képes lesz mesterséges intelligencia segítségével hamisított videót készíteni az utcán lévő gyermekről, amint egy általa választott szexuális aktust hajt végre" - mondta Dave Yost, Ohio állam főügyésze. „A gyermekek szexuális zaklatásának grafikus ábrázolása csak gonosz vágyakat táplál. Annak a társadalomnak, amelyik nem tudja megvédeni gyermekeit, szó szerint nincs jövője” – mondta.

A levél élén Alan Wilson dél-karolinai főügyész állt. szerint az AP-hoz.

„Először is a Kongresszusnak fel kell állítania egy szakértői bizottságot, hogy tanulmányozza a mesterséges intelligencia azon eszközeit és módszereit, amelyek kifejezetten a gyermekek kizsákmányolására használhatók, és megoldásokat javasoljon az ilyen kizsákmányolás megakadályozására és kezelésére” – áll a dokumentumban.

„Másodszor, a szakértői bizottság ajánlásainak mérlegelése után a Kongresszusnak intézkednie kell a gyermekek kizsákmányolásának megakadályozása és kezelése érdekében, például a CSAM-ra vonatkozó meglévő korlátozások kiterjesztésével, hogy kifejezetten az AI által generált CSAM-ra is kiterjedjenek. Ez biztosítja, hogy az ügyészek rendelkezzenek a gyermekeink védelméhez szükséges eszközökkel.”

A hamis CSAM kezelése bonyolult. Az illegális tartalom észlelésének tipikus technikái az interneten terjesztett ismert képek kivonatolásán alapulnak. Ezért nehéz azonosítani az új képeket, különösen, ha azokat szoftverrel kezelték. A Legfőbb Ügyészek azonban úgy vélik, hogy a törvényhozóknak cselekedniük kell, mert a technológia tovább fog fejlődni.

„Versenyfutást folytatunk az idővel, hogy megvédjük hazánk gyermekeit a mesterséges intelligencia veszélyeitől. Valóban, a város közmondásos falait már át is törték. Itt az ideje, hogy cselekedjünk” – zárul a levél. ®

Időbélyeg:

Még több A regisztráció