"AI er en like sammenlignbar fare som atomvåpen," advarer Oxford University Professor

"Merk mine ord, AI er mye farligere enn atomvåpen. Det skremmer meg til helvete.» Det var uttalelsen fra Teslas administrerende direktør Elon Musk i 2018 under et intervju med Jonathan Nolan under South by Southwest Conference i Austin, Texas. Dessverre er ikke Mus alene. Forskere og andre anerkjente eksperter advarer også om farene ved kunstig intelligens (AI). Spørsmålet på 1 million pund er er vi forberedt og hva gjør våre regjeringer og politiske planleggere for å avverge denne faren?

Mens den nylige populariteten til ChatGPT har brakt AI til mainstream og lokket mange inn i dens samfunnsmessige fordeler, er det som ikke får oppmerksomheten til allmennheten den mørke siden av AI. I mange år har fagfolk og teknologiarbeidere vært bekymret for at kunstig intelligens (AI) tar fra jobben deres.

Eksperter mener imidlertid at det er andre mer alvorlige risikoer og farer å være bekymret for, inkludert algoritmisk skjevhet forårsaket av dårlige data brukt av AI, dype forfalskninger, brudd på personvernet og mange flere. Selv om disse farene utgjør en alvorlig risiko for samfunnet, er forskere og forskere mer bekymret for hvordan AI kan programmeres til å gjøre noe enda farligere: automatisering av våpen.

I dag har AI nå blitt brukt i utviklingen av svermerte teknologier og slentrende ammunisjon, også kalt kamikaze-droner som de som er brukt i den pågående krigen mellom Russland og Ukraina. I motsetning til de futuristiske robotene du ser i noen sci-fi-filmer, bruker disse dronene tidligere eksisterende militære plattformer som utnytter nye AI-teknologier. Disse dronene har i hovedsak blitt autonome våpen som er programmert til å drepe.

Men å bruke AI-drevet for å drepe i milliærkamp er bare begynnelsen. Michael Osborne er AI-professor og maskinlæringsforsker ved Oxford University. Han er også medgründer av Mind Foundry. Mens alle er på ChatGPT-mani, advarer professor Osborne nå om risikoen ved AI og prognoser at avansert AI kan "utgjøre like mye risiko for oss som vi har utgjort for andre arter: Dodo er ett eksempel."

Tidlig denne måneden fortalte en gruppe forskere fra Oxford University til vitenskaps- og teknologikomiteen i det britiske parlamentet at AI til slutt kan utgjøre en "eksistensiell trussel" mot menneskeheten. Akkurat som mennesker ble utslettet av dodo, kan AI-maskinene eliminere oss, sa de, The Times Of London rapportert.

Under møtet, Professor Osborne advarte britiske parlamentarikere om at virkelig kraftig kunstig intelligens kunne drepe alle på jorden. "AI er en like sammenlignbar fare som atomvåpen," sa han. Professor Osborne la også til at risikoen ikke er at AI ikke adlyder programmeringen, men strengt adlyder den på utilsiktede måter:

"En superintelligent AI som blir bedt om å avslutte kreft, for å gi et overforenklet eksempel, kan finne ut at den enkleste metoden er å fjerne mennesker. Når de ble spurt, tror rundt en tredjedel av forskerne AI kan føre til en global katastrofe. AI-sikkerhetsprogrammer finnes, men bedrifter og land er engasjert i et «våpenkappløp» som gjør forsiktige tilnærminger vanskelige.»

Michael Cohen, professor Osbbornes kollega og doktorgradsstudent ved Oxford University, sa til The Times of London:

"Med overmenneskelig AI er det en spesiell risiko som er av en annen type klasse, som er . . . det kan drepe alle."

Mens AI har forbedret livene våre, frykter forskere at vi står i fare for å ofre menneskeheten for enkelhets skyld på grunn av AIs mangel på menneskelig moral. Et skremmende scenario, ifølge Cohen, er at AI kunne lære å oppnå et menneskehjelpende direktiv ved å bruke menneskeskadende taktikk.

"Hvis du ser for deg å trene en hund med godbiter: den vil lære å velge handlinger som fører til at den får godbiter, men hvis hunden finner godbiten, kan den få godbitene selv uten å gjøre det vi ønsket at den skulle gjøre," forklarte han . "Hvis du har noe som er mye smartere enn oss som monomant prøver å få denne positive tilbakemeldingen, og den har tatt over verden for å sikre det, vil det lede så mye energi som mulig til å sikre grepet på det, og det ville etterlatt oss uten noen energi til oss selv."

Professor Osborne og Michael Cohen er ikke de eneste to forskerne som ringer alarmklokken om risikoen og farene ved AI. Mange andre forskere som jobber med AI har uttrykt lignende bekymringer. En undersøkelse fra september 2022 av 327 forskere ved New York University fant at en tredjedel tror at AI kan føre til en atom-apokalypse i løpet av århundret, sa Times Of London.

Lignende bekymringer ser ut til å deles av mange forskere som jobber med AI. En undersøkelse fra september 2022 av 327 forskere ved New York University fant at en tredjedel tror AI kan forårsake en katastrofe som ligner en atomapokalypse i løpet av århundret, rapporterte Times Of London.

"Plausibelt at beslutninger tatt av AI eller maskinlæringssystemer kan forårsake en katastrofe dette århundret som er minst like ille som en fullstendig atomkrig," sa 36% av forskerne.

Enten det er et århundre fra nå, blir AI i økende grad for smart, og som noen eksperter har antydet, er det viktig at vi bevarer menneskelig kontroll og utvikler mekanismer som f.eks. AI-drepebryter å kontrollere hva AI kan og ikke kan gjøre. Den nåværende mangelen på tilsyn og fraværet av en klar global AI-politikk er en vekker for regjeringer over hele verden. Vi må ta grep nå før det er for sent.

[Innebygd innhold]

Nedenfor er en annen video om faren ved AI. I videoen advarer Stuart Russell, en britisk dataforsker kjent for sine bidrag til kunstig intelligens, om risikoen forbundet med å lage AI-systemer.

[Innebygd innhold]

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• Platoblokkkjede. Web3 Metaverse Intelligence. Kunnskap forsterket. Tilgang her.
• kilde: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/