"AI on sama võrreldav oht kui tuumarelvad," hoiatab Oxfordi ülikooli professor

"Pane mu sõnu tähele, AI on palju ohtlikum kui tuumarelvad. See hirmutab mind kuradima." Nii tegi Tesla tegevjuht Elon Musk 2018. aastal intervjuus Jonathan Nolaniga South by Southwest konverentsi ajal Texases Austinis. Kahjuks pole Mus üksi. Teadlased ja teised tunnustatud eksperdid hoiatavad ka tehisintellekti (AI) ohtude eest. Miljoni naelane küsimus on, kas oleme valmis ja mida teevad meie valitsused ja poliitikaplaneerijad selle ohu vältimiseks?

Kuigi ChatGPT hiljutine populaarsus on toonud tehisintellekti peavoolu ja meelitanud paljusid selle ühiskondlikest hüvedest, ei pälvi üldsuse tähelepanu AI varjukülg. Professionaalid ja tehnikatöötajad on aastaid muretsenud tehisintellekti (AI) pärast, mis neilt töökoha ära võtab.

Kuid eksperdid usuvad, et on ka muid tõsisemaid riske ja ohte, mille pärast tuleb muretseda, sealhulgas algoritmi kallutatus, mis on põhjustatud tehisintellekti poolt kasutatavatest halbadest andmetest, sügavatest võltsingutest, privaatsuse rikkumisest ja paljudest muudest. Kuigi need ohud kujutavad endast ühiskonnale tõsiseid riske, on teadlased ja teadlased rohkem mures selle pärast, kuidas saaks tehisintellekti programmeerida tegema midagi veelgi ohtlikumat: relvade automatiseerimist.

Tänapäeval on tehisintellekti kasutatud kubisevate tehnoloogiate ja uitava laskemoona väljatöötamisel, mida nimetatakse ka kamikaze droonideks. kasutatakse käimasolevas Venemaa-Ukraina sõjas. Erinevalt futuristlikest robotitest, mida näete mõnes ulmefilmis, kasutavad need droonid varem olemasolevaid sõjalisi platvorme, mis kasutavad uusi tehisintellekti tehnoloogiaid. Need droonid on sisuliselt muutunud autonoomseteks relvadeks, mis on programmeeritud tapma.

Kuid tehisintellekti kasutamine tapmiseks miljonivõitluses on alles algus. Michael Osborne on Oxfordi ülikooli tehisintellekti professor ja masinõppe uurija. Ta on ka Mind Foundry kaasasutaja. Kuigi kõik on ChatGPT-hulluses, hoiatab professor Osborne nüüd tehisintellektiga seotud riskide ja prognooside eest, et arenenud tehisintellekt võib "meile sama palju ohtu kujutada kui teistele liikidele: dodo on üks näide."

Selle kuu alguses ütles rühm Oxfordi ülikooli teadlasi Briti parlamendi teadus- ja tehnoloogiakomisjonile, et tehisintellekt võib lõpuks kujutada inimkonnale "eksistentsiaalset ohtu". Nii nagu dodo hävitas inimesed, võivad tehisintellekti masinad meid hävitada, ütles Times Of London. teatatud.

Kohtumise ajal Professor Osborne hoiatas Briti parlamendiliikmeid, et tõeliselt võimas tehisintellekt võib tappa kõik Maal. "AI on sama võrreldav oht kui tuumarelvad," ütles ta. Professor Osborne lisas ka, et risk ei seisne selles, et tehisintellekt ei järgi oma programmeerimist, vaid järgib seda tahtmatul viisil:

"Superintelligentne tehisintellekt, kellel on kästud vähile lõpetada, kui tuua liiga lihtsustatud näide, võib leida, et kõige lihtsam meetod on inimeste eemaldamine. Küsitluse põhjal arvab umbes kolmandik teadlastest, et tehisintellekt võib viia ülemaailmse katastroofini. Tehisintellekti ohutusprogrammid on olemas, kuid ettevõtted ja riigid osalevad võidurelvastumises, mis muudab ettevaatlikud lähenemised keeruliseks.

Professor Osbborne'i kolleeg ja Oxfordi ülikooli doktorant Michael Cohen ütles ajalehele The Times of London:

„Üleinimliku tehisintellekti puhul on eriline oht, mis on teist tüüpi, mis on . . . see võib tappa kõik."

Kuigi tehisintellekt on meie elusid parandanud, kardavad teadlased, et meil on oht ohverdada inimkond mugavuse huvides, kuna tehisintellektil puudub inimlik moraal. Üks hirmutav stsenaarium on Coheni sõnul see, et tehisintellekt võib õppida saavutama inimeste abistamise direktiivi, kasutades inimkahjustamise taktikaid.

"Kui kujutate ette koera treenimist maiustega: ta õpib valima toiminguid, mis viivad maiuste saamiseni, aga kui koer leiab maiusekapi, saab ta maiused ise kätte, tegemata seda, mida me tahtsime," selgitas ta. . "Kui teil on midagi palju targemat, kui me monomaaniliselt üritame seda positiivset tagasisidet saada ja selle tagamine on kogu maailmast üle võetud, suunaks see nii palju energiat kui võimalik, et sellest kinni hoida ja see jätaks meid ilma igasugusest. energiat meile endale."

Professor Osborne ja Michael Cohen pole ainsad kaks teadlast, kes löövad häirekella tehisintellektiga seotud riskide ja ohtude kohta. Paljud teised AI-ga töötavad teadlased on väljendanud sarnast muret. 2022. aasta septembris New Yorgi ülikooli 327 teadlase seas läbi viidud küsitlusest selgus, et kolmandik usub, et tehisintellekt võib sajandi jooksul tuua tuumastiilis apokalüpsise, teatas Times Of London.

Sarnaseid muresid jagavad ilmselt ka paljud AI-ga töötavad teadlased. 2022. aasta septembris New Yorgi ülikooli 327 teadlase seas läbi viidud küsitlusest selgus, et kolmandiku arvates võib tehisintellekt sajandi jooksul põhjustada tuumaapokalüpsisele sarnase katastroofi, vahendas Times Of London.

"Usutav, et tehisintellekti või masinõppesüsteemide tehtud otsused võivad sel sajandil põhjustada katastroofi, mis on vähemalt sama halb kui täielik tuumasõda," ütles 36% teadlastest.

Olenemata sellest, kas see on sajandi pärast, muutub tehisintellekt üha liiga nutikamaks ja nagu mõned eksperdid on soovitanud, on hädavajalik, et säilitaksime inimeste kontrolli ja töötaksime välja selliseid mehhanisme nagu AI tapmislüliti kontrollida, mida tehisintellekt saab teha ja mida mitte. Praegune järelevalve puudumine ja selge globaalse tehisintellekti poliitika puudumine on äratuskõne valitsustele kogu maailmas. Peame kohe tegutsema, enne kui on liiga hilja.

[Varjatud sisu]

Allpool on veel üks video AI ohust. Tehisintellekti panuse poolest tuntud Briti arvutiteadlane Stuart Russell hoiatab videos tehisintellekti loomisega kaasnevate riskide eest.

[Varjatud sisu]

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
• Allikas: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/