„AI este un pericol la fel de comparabil ca și armele nucleare”, avertizează profesorul de la Universitatea Oxford

"Ia aminte, AI este mult mai periculoasă decât armele nucleare. Mă sperie naibii.” Aceasta a fost declarația făcută de CEO-ul Tesla, Elon Musk, în 2018, în timpul unui interviu cu Jonathan Nolan în timpul Conferinței South by Southwest din Austin, Texas. Din păcate, Mus nu este singur. Cercetătorii și alți experți renumiți avertizează, de asemenea, cu privire la pericolele inteligenței artificiale (AI). Întrebarea de 1 milion de lire este oare suntem pregătiți și ce fac guvernele și planificatorii politici pentru a preveni acest pericol?

În timp ce recenta popularitate a ChatGPT a adus inteligența artificială în mainstream și a atras pe mulți să beneficieze de beneficiile sale societale, ceea ce nu atrage atenția publicului larg este partea întunecată a inteligenței artificiale. De mulți ani, profesioniștii și lucrătorii din domeniul tehnologiei s-au îngrijorat de faptul că inteligența artificială (AI) le va retrage locurile de muncă.

Cu toate acestea, experții cred că există și alte riscuri și pericole mai serioase de care trebuie să vă îngrijorați, inclusiv părtinirea algoritmică cauzată de date proaste utilizate de AI, falsuri profunde, încălcări ale confidențialității și multe altele. În timp ce aceste pericole prezintă riscuri serioase pentru societate, cercetătorii și oamenii de știință sunt mai îngrijorați de modul în care AI ar putea fi programată pentru a face ceva și mai periculos: automatizarea armelor.

Astăzi, inteligența artificială a fost folosită acum în dezvoltarea tehnologiilor de roire și a munițiilor rătăcite, numite și drone kamikaze ca cele care sunt folosit în războiul în curs de desfășurare între Rusia și Ucraina. Spre deosebire de roboții futuriști pe care îi vedeți în unele filme SF, aceste drone folosesc platforme militare existente anterior, care folosesc noile tehnologii AI. Aceste drone au devenit în esență arme autonome care sunt programate să ucidă.

Dar folosirea AI pentru a ucide în lupte miliare este doar începutul. Michael Osborne este profesor AI și cercetător în învățarea automată la Universitatea Oxford. El este, de asemenea, co-fondatorul Mind Foundry. În timp ce toată lumea este în nebunia ChatGPT, profesorul Osborne avertizează acum despre riscurile AI și prognozează că IA avansată ar putea „prezenta la fel de mult risc pentru noi precum am reprezentat-o ​​pentru alte specii: dodo este un exemplu”.

La începutul acestei luni, un grup de cercetători de la Universitatea Oxford a declarat comisiei de știință și tehnologie din parlamentul britanic că inteligența artificială ar putea reprezenta în cele din urmă o „amenințare existențială” pentru umanitate. Așa cum oamenii au fost distruși de dodo, mașinile AI ne-ar putea elimina, au spus ei, Times Of London raportate.

În timpul întâlnirii, profesorul Osborne a avertizat parlamentarii britanici că inteligența artificială cu adevărat puternică ar putea ucide pe toți cei de pe Pământ. „AI este un pericol la fel de comparabil ca armele nucleare”, a spus el. Profesorul Osborne a adăugat, de asemenea, că riscul nu este ca AI să nu se supună programării sale, ci să o asculte cu rigiditate în moduri neintenționate:

„Un AI superinteligent căruia i se spune să pună capăt cancerului, pentru a da un exemplu prea simplificat, ar putea găsi că cea mai ușoară metodă este îndepărtarea oamenilor. La sondaj, aproximativ o treime dintre cercetători cred că inteligența artificială ar putea duce la o catastrofă globală. Există programe de siguranță AI, dar întreprinderile și țările sunt angajate într-o „cursă înarmărilor” care îngreunează abordările prudente.”

Michael Cohen, colegul profesorului Osbberne și doctorand la Universitatea Oxford, a declarat pentru The Times of London:

„Cu IA supraomenească există un risc deosebit, care este de un alt tip de clasă, care este . . . ar putea ucide pe toți.”

În timp ce AI ne-a îmbunătățit viețile, oamenii de știință se tem că riscăm să sacrificăm umanitatea de dragul confortului din cauza lipsei de moralitate umană a AI. Un scenariu înspăimântător, potrivit lui Cohen, este că AI ar putea învăța să realizeze o directivă de ajutor uman prin folosirea tactici de a vătăma uman.

„Dacă vă imaginați că antrenați un câine cu mâncăruri: va învăța să aleagă acțiuni care să-l conducă să primească mâncăruri, dar dacă câinele găsește dulapul cu mâncăruri, va putea primi mâncărurile fără să facă ceea ce am vrut să facă”, a explicat el. . „Dacă ai ceva mult mai inteligent decât noi, care încearcă monomaniac să obțină acest feedback pozitiv și a fost luat peste tot în lume pentru a-l asigura, ar îndrepta cât de multă energie ar putea să-și asigure stăpânirea pe asta și asta ne-ar lăsa fără niciun fel. energie pentru noi înșine.”

Profesorul Osborne și Michael Cohen nu sunt singurii doi cercetători care trag un semnal de alarmă cu privire la riscurile și pericolele AI. Mulți alți oameni de știință care lucrează cu inteligența artificială și-au exprimat îngrijorări similare. Un sondaj din septembrie 2022 a 327 de cercetători de la Universitatea din New York a constatat că o treime crede că AI ar putea provoca o apocalipsă în stil nuclear în decursul secolului, a spus Times Of London.

Preocupări similare par să fie împărtășite de mulți oameni de știință care lucrează cu AI. Un sondaj din septembrie 2022 a 327 de cercetători de la Universitatea din New York a constatat că o treime consideră că IA ar putea provoca un dezastru similar cu o apocalipsă nucleară în decursul secolului, a raportat Times Of London.

„Este plauzibil că deciziile luate de AI sau sistemele de învățare automată ar putea provoca o catastrofă în acest secol, cel puțin la fel de gravă ca un război nuclear total”, au spus 36% dintre cercetători.

Fie că va fi peste un secol, IA devine din ce în ce mai inteligentă și, așa cum au sugerat unii experți, este imperativ să păstrăm controlul uman și să dezvoltăm mecanisme precum un Comutator de ucidere AI pentru a controla ce poate și nu poate face AI. Lipsa actuală de supraveghere și absența unei politici globale clare privind inteligența artificială reprezintă un semnal de alarmă pentru guvernele din întreaga lume. Trebuie să luăm măsuri acum înainte să fie prea târziu.

[Conținutul încorporat]

Mai jos este un alt videoclip despre pericolul AI. În videoclip, Stuart Russell, un informatician britanic cunoscut pentru contribuțiile sale la inteligența artificială, avertizează asupra riscurilor pe care le implică crearea sistemelor AI.

[Conținutul încorporat]

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
• Sursa: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/