Oxford Üniversitesi Profesörü, "AI, nükleer silahlar kadar karşılaştırılabilir bir tehlikedir" uyarısında bulunuyor

"Kelimelerimi işaretle, AI, nükleer silahlardan çok daha tehlikelidir. Bu beni çok korkutuyor.” Bu, Tesla'nın CEO'su Elon Musk tarafından 2018'de Austin, Teksas'ta düzenlenen South by Southwest Konferansı sırasında Jonathan Nolan ile yaptığı röportajda yapılan açıklamaydı. Ne yazık ki Muş yalnız değil. Araştırmacılar ve diğer tanınmış uzmanlar da yapay zekanın (AI) tehlikeleri konusunda uyarıda bulunuyor. 1 milyon sterlinlik soru, hazırlıklı mıyız ve hükümetlerimiz ve politika planlayıcılarımız bu tehlikeyi önlemek için ne yapıyor?

ChatGPT'nin son zamanlardaki popülaritesi, yapay zekayı ana akım haline getirmiş ve birçok kişiyi toplumsal faydalarına çekmiş olsa da, genel halkın dikkatini çekmeyen şey, yapay zekanın karanlık yüzüdür. Uzun yıllardır profesyoneller ve teknoloji çalışanları, yapay zekanın (AI) işlerini ellerinden almasından endişe ediyorlar.

Ancak uzmanlar, yapay zeka tarafından kullanılan kötü verilerin neden olduğu algoritmik önyargı, derin sahtekarlıklar, mahremiyet ihlalleri ve daha pek çok şey dahil olmak üzere endişe edilecek daha ciddi riskler ve tehlikeler olduğuna inanıyor. Bu tehlikeler toplum için ciddi riskler oluştursa da, araştırmacılar ve bilim adamları yapay zekanın daha da tehlikeli bir şeyi yapmak için nasıl programlanabileceği konusunda daha fazla endişe duyuyorlar: silah otomasyonu.

Bugün, yapay zeka artık sürü teknolojilerinin ve aylak aylak dolaşan cephanelerin geliştirilmesinde kullanılıyor; devam eden Rusya-Ukrayna savaşında kullanılan. Bazı bilimkurgu filmlerinde gördüğünüz fütüristik robotların aksine, bu insansız hava araçları, yeni yapay zeka teknolojilerinden yararlanan önceden var olan askeri platformları kullanıyor. Bu dronlar özünde öldürmeye programlanmış otonom silahlar haline geldi.

Ancak yapay zeka destekli askeri savaşta öldürmek için kullanmak sadece başlangıç. Michael Osborne, Oxford Üniversitesi'nde yapay zeka profesörü ve makine öğrenimi araştırmacısıdır. Aynı zamanda Mind Foundry'nin kurucu ortağıdır. Herkes ChatGPT çılgınlığındayken, Profesör Osborne şimdi yapay zekanın riskleri konusunda uyarıda bulunuyor ve gelişmiş yapay zekanın "bizim için de diğer türler için oluşturduğumuz kadar risk oluşturabileceğini tahmin ediyor: dodo buna bir örnek."

Bu ayın başlarında, Oxford Üniversitesi'nden bir grup araştırmacı, İngiliz parlamentosundaki bilim ve teknoloji komitesine AI'nın sonunda insanlık için "varoluşsal bir tehdit" oluşturabileceğini söyledi. Tıpkı insanların dodo tarafından yok edildiği gibi, yapay zeka makineleri de bizi ortadan kaldırabilir, dediler, Times Of London rapor.

Toplantı esnasında, Profesör Osborne İngiliz parlamenterleri, gerçekten güçlü bir yapay zekanın dünyadaki herkesi öldürebileceği konusunda uyardı. "AI, nükleer silahlar kadar karşılaştırılabilir bir tehlikedir" dedi. Profesör Osborne, riskin yapay zekanın kendi programına itaatsizlik etmesi değil, ona istenmeyen şekillerde katı bir şekilde itaat etmesi olduğunu da sözlerine ekledi:

"Aşırı basitleştirilmiş bir örnek vermek gerekirse, kanseri bitirmesi söylenen süper zeki bir yapay zeka, en kolay yöntemin insanları ortadan kaldırmak olduğunu görebilir. Anket yapıldığında, araştırmacıların yaklaşık üçte biri yapay zekanın küresel bir felakete yol açabileceğini düşünüyor. AI güvenlik programları var, ancak işletmeler ve ülkeler, temkinli yaklaşımları zorlaştıran bir "silahlanma yarışına" giriyor."

Profesör Osbborne'un meslektaşı ve Oxford Üniversitesi'nde doktora öğrencisi olan Michael Cohen, The Times of London'a şunları söyledi:

"Süper insan yapay zekasında, farklı türden bir sınıfa ait belirli bir risk vardır, ki bu . . . herkesi öldürebilir.”

Yapay zeka hayatımızı iyileştirmiş olsa da, bilim adamları, yapay zekanın insan ahlakından yoksun olması nedeniyle, kolaylık uğruna insanlığı feda etme riskiyle karşı karşıya olduğumuzdan korkuyor. Cohen'e göre korkutucu bir senaryo, yapay zekanın insanlara zarar verme taktikleri kullanarak insanlara yardım eden bir yönergeye ulaşmayı öğrenebileceğidir.

"Bir köpeği ödül mamaları ile eğittiğinizi hayal ederseniz, köpek mama almasına neden olacak eylemleri seçmeyi öğrenecektir, ancak köpek ikram dolabını bulursa, yapmasını istediğimiz şeyi yapmadan ikramları kendisi alabilir" diye açıkladı. . "Bu olumlu geribildirimi saplantılı bir şekilde elde etmeye çalışan bizden çok daha zekice bir şeye sahipseniz ve bunu güvence altına almak için dünyayı ele geçirmişseniz, onu kontrol altına almak için elinden geldiğince çok enerji harcar ve bu da bizi hiçbir şeye ihtiyaç duymadan bırakır. Kendimiz için enerji.”

Profesör Osborne ve Michael Cohen, AI'nın riskleri ve tehlikeleri hakkında alarm zillerini çalan sadece iki araştırmacı değil. AI ile çalışan diğer birçok bilim insanı da benzer endişelerini dile getirdi. Times Of London, New York Üniversitesi'ndeki 2022 araştırmacının Eylül 327'de yaptığı bir ankette, üçte birinin yapay zekanın yüzyıl içinde nükleer tarzı bir kıyamet getirebileceğine inandığını ortaya çıkardı.

Benzer endişeler, AI ile çalışan birçok bilim insanı tarafından paylaşılıyor gibi görünüyor. Times Of London'ın bildirdiğine göre, Eylül 2022'de New York Üniversitesi'ndeki 327 araştırmacının katıldığı bir anket, üçüncü kişinin yapay zekanın yüzyıl içinde nükleer kıyamete benzer bir felakete neden olabileceğine inandığını ortaya çıkardı.

Araştırmacıların %36'sı, "Yapay zeka veya makine öğrenimi sistemleri tarafından alınan kararların, bu yüzyılda en az topyekun bir nükleer savaş kadar kötü bir felakete neden olabileceği makul" dedi.

İster bir asır sonra olsun, AI giderek daha fazla akıllı hale geliyor ve bazı uzmanların öne sürdüğü gibi, insan kontrolünü korumamız ve aşağıdaki gibi mekanizmalar geliştirmemiz zorunludur. AI öldürme anahtarı yapay zekanın neleri yapıp neleri yapamayacağını kontrol etmek için. Mevcut gözetim eksikliği ve net bir küresel AI politikasının olmaması, dünya çapındaki hükümetler için bir uyandırma çağrısıdır. Çok geç olmadan şimdi harekete geçmeliyiz.

[Gömülü içerik]

Aşağıda AI tehlikesiyle ilgili başka bir video var. Videoda, yapay zekaya yaptığı katkılarla tanınan İngiliz bilgisayar bilimcisi Stuart Russell, yapay zeka sistemlerinin oluşturulmasının içerdiği riskler konusunda uyarıda bulunuyor.

[Gömülü içerik]

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/