»Umetna inteligenca je tako primerljiva nevarnost kot jedrsko orožje,« opozarja profesor z univerze v Oxfordu

»Umetna inteligenca je tako primerljiva nevarnost kot jedrsko orožje,« opozarja profesor z univerze v Oxfordu

Časovni žig: 28. januar 2023 1:33
Izvorno vozlišče: 1925142

»Zapomni si moje besede, Umetna inteligenca je veliko bolj nevarna od jedrskega orožja. To me zelo prestraši.” To je bila izjava Teslinega izvršnega direktorja Elona Muska leta 2018 med intervjujem z Jonathanom Nolanom med konferenco South by Southwest v Austinu v Teksasu. Mus pa žal ni sam. Na nevarnosti umetne inteligence (AI) opozarjajo tudi raziskovalci in drugi priznani strokovnjaki. Vprašanje za 1 milijon funtov je, ali smo pripravljeni in kaj počnejo naše vlade in načrtovalci politik, da preprečijo to nevarnost?

Medtem ko je nedavna priljubljenost ChatGPT pripeljala umetno inteligenco v mainstream in mnoge zvabila v njene družbene koristi, je tisto, kar ne pritegne pozornosti splošne javnosti, temna stran umetne inteligence. Strokovnjake in tehnološke delavce že vrsto let skrbi, da jim bo umetna inteligenca (AI) odvzela delovna mesta.

Vendar pa strokovnjaki verjamejo, da obstajajo druga resnejša tveganja in nevarnosti, ki jih je treba skrbeti, vključno z algoritemsko pristranskostjo, ki jo povzročajo slabi podatki, ki jih uporablja umetna inteligenca, globoki ponaredki, kršitve zasebnosti in še veliko več. Medtem ko te nevarnosti predstavljajo resna tveganja za družbo, so raziskovalci in znanstveniki bolj zaskrbljeni, kako bi lahko umetno inteligenco programirali za nekaj še bolj nevarnega: avtomatizacijo orožja.

Danes se umetna inteligenca zdaj uporablja pri razvoju tehnologij rojenja in lebdečega streliva, imenovanih tudi brezpilotna letala kamikaze, kot so uporabljen v sedanji rusko-ukrajinski vojni. Za razliko od futurističnih robotov, ki jih vidite v nekaterih znanstvenofantastičnih filmih, ti droni uporabljajo že obstoječe vojaške platforme, ki izkoriščajo nove tehnologije umetne inteligence. Ti droni so v bistvu postali avtonomno orožje, ki je programirano za ubijanje.

Toda uporaba umetne inteligence za ubijanje v vojaških bojih je šele začetek. Michael Osborne je profesor AI in raziskovalec strojnega učenja na univerzi Oxford. Je tudi soustanovitelj Mind Foundry. Medtem ko so vsi navdušeni nad ChatGPT, profesor Osborne zdaj opozarja na tveganja umetne inteligence in napoveduje, da bi lahko napredna umetna inteligenca "za nas predstavljala enako tveganje, kot smo ga predstavljali za druge vrste: dodo je en primer."

V začetku tega meseca je skupina raziskovalcev z univerze v Oxfordu odboru za znanost in tehnologijo v britanskem parlamentu povedala, da bi lahko umetna inteligenca sčasoma predstavljala "eksistencialno grožnjo" človeštvu. Tako kot je ljudi izbrisal dodo, bi lahko stroji z umetno inteligenco odstranili nas, so rekli, Times Of London poročali.

Med srečanjem je dr. Profesor Osborne posvaril britanske parlamentarce, da bi resnično močna umetna inteligenca lahko ubila vse na Zemlji. "AI je tako primerljiva nevarnost kot jedrsko orožje," je dejal. Profesor Osborne je še dodal, da tveganje ni v tem, da umetna inteligenca ne uboga svojega programiranja, ampak ga togo uboga na nenamerne načine:

»Superinteligentna umetna inteligenca, ki ji je bilo naročeno, da konča raka, če navedem preveč poenostavljen primer, bi morda ugotovila, da je najlažja metoda odstranjevanje ljudi. V anketi približno tretjina raziskovalcev meni, da bi umetna inteligenca lahko povzročila globalno katastrofo. Varnostni programi umetne inteligence obstajajo, vendar so podjetja in države vpleteni v »oboroževalno tekmo«, ki otežuje previdne pristope.«

Michael Cohen, kolega profesorja Osbborna in doktorski študent na Univerzi v Oxfordu, je za londonski Times povedal:

»Pri nadčloveški umetni inteligenci obstaja posebno tveganje, ki je drugačne vrste, to je . . . lahko ubije vsakogar."

Medtem ko je umetna inteligenca izboljšala naša življenja, se znanstveniki bojijo, da smo v nevarnosti, da žrtvujemo človeštvo zaradi udobja zaradi pomanjkanja človeške morale umetne inteligence. Po Cohenovem mnenju je en zastrašujoč scenarij ta, da bi se umetna inteligenca lahko naučila doseči direktivo o pomoči človeku z uporabo taktike škodovanja človeku.

"Če si predstavljate, da psa trenirate s priboljški: naučil se bo izbrati dejanja, ki vodijo do tega, da bo dobil priboljške, a če pes najde omarico s priboljški, lahko sam dobi priboljške, ne da bi naredil tisto, kar smo želeli," je pojasnil. . »Če imate nekaj veliko pametnejšega od nas, ki monomansko poskuša pridobiti te pozitivne povratne informacije, in je svet prevzet, da bi to zagotovil, bi usmeril čim več energije v to, da bi to obdržal, in to bi nas pustilo brez energijo zase."

Profesor Osborne in Michael Cohen nista edina dva raziskovalca, ki opozarjata na tveganja in nevarnosti umetne inteligence. Mnogi drugi znanstveniki, ki delajo z AI, so izrazili podobne pomisleke. Raziskava iz septembra 2022, v kateri je sodelovalo 327 raziskovalcev na Univerzi v New Yorku, je pokazala, da jih tretjina verjame, da bi lahko umetna inteligenca povzročila apokalipso v jedrskem slogu v tem stoletju, piše Times Of London.

Zdi se, da podobne pomisleke delijo številni znanstveniki, ki delajo z umetno inteligenco. Raziskava iz septembra 2022, ki je vključevala 327 raziskovalcev na Univerzi v New Yorku, je pokazala, da tretjina verjame, da bi lahko umetna inteligenca v stoletju povzročila katastrofo, podobno jedrski apokalipsi, poroča Times Of London.

»Verjetno je, da bi lahko odločitve, ki jih sprejmejo AI ali sistemi strojnega učenja, povzročile katastrofo v tem stoletju, ki bi bila vsaj tako huda kot popolna jedrska vojna,« je dejalo 36 % raziskovalcev.

Ne glede na to, ali je čez stoletje, umetna inteligenca postaja vse bolj pametna in kot so predlagali nekateri strokovnjaki, je nujno, da ohranimo človeški nadzor in razvijemo mehanizme, kot je AI kill stikalo nadzorovati, kaj AI lahko in česa ne. Trenutno pomanjkanje nadzora in odsotnost jasne globalne politike umetne inteligence je opozorilo za vlade po vsem svetu. Ukrepati moramo zdaj, preden bo prepozno.

[Vgrajeni vsebina]

Spodaj je še en video o nevarnosti umetne inteligence. V videoposnetku Stuart Russell, britanski računalničar, znan po svojih prispevkih k umetni inteligenci, opozarja na tveganja, povezana z ustvarjanjem sistemov AI.

[Vgrajeni vsebina]

Časovni žig:

Več od TechStartupi