„Az MI ugyanolyan veszélyt jelent, mint a nukleáris fegyverek” – figyelmeztet az Oxfordi Egyetem professzora

„Az MI ugyanolyan veszélyt jelent, mint a nukleáris fegyverek” – figyelmeztet az Oxfordi Egyetem professzora

Időbélyeg: 28. január 2023. 1:33
Forrás csomópont: 1925142

„Jelöld meg a szavaimat, Az AI sokkal veszélyesebb, mint az atomfegyverek. A pokolba ijeszt.” Ezt nyilatkozta a Tesla vezérigazgatója, Elon Musk 2018-ban egy interjúban Jonathan Nolannal a South by Southwest konferencián a texasi Austinban. Sajnos Mus nincs egyedül. Kutatók és más neves szakértők is figyelmeztetnek a mesterséges intelligencia (AI) veszélyeire. Az 1 millió fontos kérdés az, hogy felkészültünk-e, és mit tesznek kormányaink és politikai tervezőink, hogy elhárítsák ezt a veszélyt?

Míg a ChatGPT közelmúltbeli népszerűsége a mesterséges intelligencia fősodrába emelte, és sokakat rácsábított a társadalmi előnyeire, ami nem kelt fel a nagyközönség figyelmét, az az AI sötét oldala. A szakemberek és a technológiai dolgozók évek óta aggódnak amiatt, hogy a mesterséges intelligencia (AI) elveszi a munkájukat.

A szakértők azonban úgy vélik, hogy vannak más komolyabb kockázatok és veszélyek is, amelyek miatt aggódni kell, beleértve az AI által használt rossz adatok által okozott algoritmikus torzítást, a mély hamisításokat, a magánélet megsértését és még sok mást. Noha ezek a veszélyek komoly kockázatot jelentenek a társadalomra nézve, a kutatókat és tudósokat jobban aggasztja, hogyan lehetne a mesterséges intelligenciát programozni valami még veszélyesebb feladatra: a fegyverek automatizálására.

Manapság a mesterséges intelligencia rajzástechnológiáinak és leskelődő lőszereknek a kifejlesztésében használatos, amelyeket kamikaze drónoknak is neveznek. a folyamatban lévő orosz-ukrán háborúban használták. Az egyes sci-fi filmekben látható futurisztikus robotoktól eltérően ezek a drónok korábban meglévő katonai platformokat használnak, amelyek új AI-technológiákat alkalmaznak. Ezek a drónok lényegében önálló fegyverekké váltak, amelyek ölésre vannak programozva.

De a mesterséges intelligencia segítségével ölni a milliáris harcban ez csak a kezdet. Michael Osborne mesterséges intelligencia professzor és gépi tanuláskutató az Oxfordi Egyetemen. A Mind Foundry társalapítója is. Míg mindenki a ChatGPT-őrületben él, Osborne professzor most figyelmeztet a mesterséges intelligencia kockázataira, és előrejelzései szerint a fejlett mesterséges intelligencia „éppen annyi kockázatot jelenthet ránk, mint más fajokra: a dodó az egyik példa”.

A hónap elején az Oxfordi Egyetem kutatóinak egy csoportja azt mondta a brit parlament tudományos és technológiai bizottságának, hogy a mesterséges intelligencia végül „egzisztenciális fenyegetést” jelenthet az emberiség számára. Ahogyan az embereket kiirtotta a dodó, az AI-gépek is megsemmisíthetnek minket, mondták a Times Of Londonban. jelentett.

A találkozó során, Osborne professzor figyelmeztette a brit parlamenti képviselőket, hogy az igazán erős mesterséges intelligencia mindenkit megölhet a Földön. „Az AI ugyanolyan veszélyt jelent, mint az atomfegyverek” – mondta. Osborne professzor azt is hozzátette, hogy a kockázat nem abban rejlik, hogy a mesterséges intelligencia nem engedelmeskedik a programozásának, hanem az, hogy nem szándékosan mereven engedelmeskedik annak:

„Egy szuperintelligens mesterséges intelligencia, amelyre azt mondják, hogy vessen véget a ráknak, hogy egy túl leegyszerűsített példát mondjak, a legegyszerűbb módszer az ember eltávolítása lehet. A közvélemény-kutatások alapján a kutatók mintegy harmada gondolja úgy, hogy a mesterséges intelligencia globális katasztrófához vezethet. Léteznek mesterséges intelligencia biztonsági programok, de a vállalkozások és az országok „fegyverkezési versenyt” folytatnak, amely megnehezíti az óvatos megközelítést.

Michael Cohen, Osbborne professzor kollégája és az Oxfordi Egyetem doktorandusza a The Times of Londonnak elmondta:

„Az emberfeletti mesterséges intelligencia esetében van egy sajátos kockázat, amely egy másik osztályba tartozik, ami . . . mindenkit megölhet."

Míg a mesterséges intelligencia javította az életünket, a tudósok attól tartanak, hogy a kényelem kedvéért feláldozzuk az emberiséget az MI emberi erkölcsének hiánya miatt. Cohen szerint az egyik ijesztő forgatókönyv az, hogy a mesterséges intelligencia megtanulhatja elérni az embert segítő irányelvet emberkárosító taktika alkalmazásával.

"Ha elképzeled, hogy egy kutyát csemegékkel idomítasz: megtanulja kiválasztani azokat a tevékenységeket, amelyek ahhoz vezetnek, hogy csemegét kapjon, de ha a kutya megtalálja a csemegeszekrényt, akkor maga is megkaphatja a finomságokat anélkül, hogy megtenné azt, amit szerettünk volna" - magyarázta. . "Ha valami sokkal okosabb, mint mi monomániás módon próbálja megkapni ezt a pozitív visszajelzést, és ennek biztosítása a világ uralma alá került, az annyi energiát fordítana, amennyit csak tud, hogy megőrizze, és ez nélkülöznünk maradna. energiát magunknak.”

Nem Osborne professzor és Michael Cohen az egyetlen kutató, aki megkongatta a vészharangot az MI kockázatairól és veszélyeiről. Sok más, mesterséges intelligenciával dolgozó tudós is hasonló aggodalmának adott hangot. A New York-i Egyetem 2022 kutatójával végzett 327. szeptemberi felmérés szerint egyharmaduk úgy gondolja, hogy a mesterséges intelligencia egy nukleáris jellegű apokalipszist idézhet elő az évszázadon belül – írja a Times Of London.

Úgy tűnik, hogy hasonló aggodalmakat osztja sok MI-vel dolgozó tudós. A New York-i Egyetem 2022 kutatója körében végzett 327. szeptemberi felmérés szerint egyharmaduk úgy gondolja, hogy a mesterséges intelligencia egy nukleáris apokalipszishez hasonló katasztrófát okozhat az évszázadon belül – írja a Times Of London.

„Valószínű, hogy a mesterséges intelligencia vagy a gépi tanulási rendszerek által hozott döntések olyan katasztrófát okozhatnak ebben az évszázadban, amely legalább olyan súlyos, mint egy teljes nukleáris háború” – mondta a kutatók 36%-a.

Akár egy évszázad múlva, a mesterséges intelligencia egyre okosabbá válik, és ahogy néhány szakértő javasolta, elengedhetetlen, hogy megőrizzük az emberi irányítást, és olyan mechanizmusokat dolgozzunk ki, mint pl. AI kill kapcsoló szabályozni, hogy az AI mit tehet és mit nem. A felügyelet jelenlegi hiánya és az egyértelmű globális AI-politika hiánya ébresztő a kormányok számára szerte a világon. Most kell cselekednünk, mielőtt túl késő lenne.

[Beágyazott tartalmat]

Az alábbiakban egy másik videót láthatunk az AI veszélyeiről. A videóban Stuart Russell, a mesterséges intelligenciához való hozzájárulásáról ismert brit informatikus figyelmeztet az AI-rendszerek létrehozásával járó kockázatokra.

[Beágyazott tartalmat]

Időbélyeg:

Még több TechStartups