“AI sama berbahayanya dengan senjata nuklir,” Profesor Universitas Oxford memperingatkan

“Tandai kata-kataku, AI jauh lebih berbahaya daripada nuklir. Itu membuatku takut.” Itu adalah pernyataan yang dibuat oleh CEO Tesla Elon Musk pada tahun 2018 saat wawancara dengan Jonathan Nolan selama South by Southwest Conference di Austin, Texas. Sayangnya, Mus tidak sendirian. Peneliti dan ahli terkenal lainnya juga memperingatkan tentang bahaya kecerdasan buatan (AI). Pertanyaan 1 juta pound adalah apakah kita siap dan apa yang dilakukan pemerintah dan perencana kebijakan kita untuk mencegah bahaya ini?

Sementara popularitas ChatGPT baru-baru ini telah membawa AI ke arus utama dan memikat banyak orang ke dalam manfaat sosialnya, yang tidak menarik perhatian masyarakat umum adalah sisi gelap AI. Selama bertahun-tahun, para profesional dan pekerja teknologi khawatir tentang kecerdasan buatan (AI) yang menghilangkan pekerjaan mereka.

Namun, para ahli yakin ada risiko dan bahaya lain yang lebih serius yang perlu dikhawatirkan termasuk bias algoritmik yang disebabkan oleh data buruk yang digunakan AI, pemalsuan mendalam, pelanggaran privasi, dan banyak lagi. Sementara bahaya ini menimbulkan risiko serius bagi masyarakat, para peneliti dan ilmuwan lebih khawatir tentang bagaimana AI dapat diprogram untuk melakukan sesuatu yang lebih berbahaya: otomatisasi senjata.

Hari ini, AI sekarang telah digunakan dalam pengembangan teknologi pengerumunan dan amunisi berkeliaran, juga disebut drone kamikaze seperti yang ada digunakan dalam perang Rusia-Ukraina yang sedang berlangsung. Tidak seperti robot futuristik yang Anda lihat di beberapa film sci-fi, drone ini menggunakan platform militer yang sudah ada sebelumnya yang memanfaatkan teknologi AI baru. Drone ini pada dasarnya menjadi senjata otonom yang diprogram untuk membunuh.

Tetapi menggunakan tenaga AI untuk membunuh dalam pertempuran miliaran hanyalah permulaan. Michael Osborne adalah Profesor AI dan peneliti pembelajaran mesin di Universitas Oxford. Dia juga salah satu pendiri Mind Foundry. Sementara semua orang menggilai ChatGPT, Profesor Osborne sekarang memperingatkan tentang risiko AI dan memperkirakan bahwa AI tingkat lanjut dapat "menimbulkan risiko yang sama besarnya bagi kita seperti yang telah kita lakukan pada spesies lain: dodo adalah salah satu contohnya."

Awal bulan ini, sekelompok peneliti dari Universitas Oxford mengatakan kepada komite sains dan teknologi di parlemen Inggris bahwa AI pada akhirnya dapat menimbulkan "ancaman eksistensial" bagi umat manusia. Sama seperti manusia yang dimusnahkan oleh dodo, mesin AI mungkin memusnahkan kita, kata mereka, Times Of London melaporkan.

Selama pertemuan, Profesor Osborne memperingatkan anggota parlemen Inggris bahwa kecerdasan buatan yang sangat kuat dapat membunuh semua orang di Bumi. “AI sama bahayanya dengan senjata nuklir,” katanya. Profesor Osborne juga menambahkan bahwa risikonya bukanlah AI tidak mematuhi programnya, tetapi secara kaku mematuhinya dengan cara yang tidak diinginkan:

“AI superintelligent yang disuruh mengakhiri kanker, untuk memberikan contoh yang terlalu disederhanakan, mungkin menemukan metode termudah adalah menghilangkan manusia. Saat disurvei, sekitar sepertiga peneliti berpikir AI dapat menyebabkan bencana global. Ada program keamanan AI, tetapi bisnis dan negara terlibat dalam "perlombaan senjata" yang membuat pendekatan yang hati-hati menjadi sulit."

Michael Cohen, kolega Profesor Osbborne dan seorang mahasiswa doktoral di Universitas Oxford, mengatakan kepada The Times of London:

“Dengan AI manusia super, ada risiko tertentu dari jenis kelas yang berbeda, yaitu . . . itu bisa membunuh semua orang.”

Sementara AI telah meningkatkan kehidupan kita, para ilmuwan khawatir bahwa kita berisiko mengorbankan umat manusia demi kenyamanan karena AI tidak memiliki moralitas manusia. Salah satu skenario yang menakutkan, menurut Cohen adalah bahwa AI dapat belajar mencapai arahan yang membantu manusia dengan menggunakan taktik yang merugikan manusia.

“Jika Anda membayangkan melatih seekor anjing dengan camilan: ia akan belajar memilih tindakan yang membuatnya mendapatkan camilan, tetapi jika anjing menemukan lemari camilan, ia bisa mendapatkan camilan itu sendiri tanpa melakukan apa yang kami inginkan,” jelasnya. . “Jika Anda memiliki sesuatu yang jauh lebih pintar dari kami yang secara monomaniak mencoba mendapatkan umpan balik positif ini, dan diambil alih dunia untuk mengamankannya, itu akan mengarahkan energi sebanyak mungkin untuk mengamankan cengkeramannya, dan itu akan membuat kami tanpa energi untuk diri kita sendiri.”

Profesor Osborne dan Michael Cohen bukan satu-satunya dua peneliti yang menyuarakan peringatan tentang risiko dan bahaya AI. Banyak ilmuwan lain yang bekerja dengan AI telah menyatakan keprihatinan serupa. Sebuah survei September 2022 terhadap 327 peneliti di Universitas New York menemukan bahwa sepertiga percaya bahwa AI dapat membawa kiamat gaya nuklir dalam abad ini, kata Times Of London.

Kekhawatiran serupa tampaknya dimiliki oleh banyak ilmuwan yang bekerja dengan AI. Sebuah survei September 2022 terhadap 327 peneliti di Universitas New York menemukan bahwa sepertiga percaya AI dapat menyebabkan bencana yang mirip dengan kiamat nuklir dalam abad ini, Times Of London melaporkan.

“Masuk akal bahwa keputusan yang dibuat oleh AI atau sistem pembelajaran mesin dapat menyebabkan bencana abad ini yang setidaknya sama buruknya dengan perang nuklir habis-habisan,” kata 36% peneliti.

Entah satu abad dari sekarang, AI semakin menjadi terlalu pintar dan seperti yang disarankan beberapa ahli, sangat penting bagi kita untuk mempertahankan kendali manusia dan mengembangkan mekanisme seperti Sakelar pembunuh AI untuk mengontrol apa yang AI bisa dan tidak bisa lakukan. Kurangnya pengawasan saat ini dan tidak adanya kebijakan AI global yang jelas merupakan peringatan bagi pemerintah di seluruh dunia. Kita perlu mengambil tindakan sekarang sebelum terlambat.

[Embedded content]

Di bawah ini adalah video lain tentang bahaya AI. Dalam video tersebut, Stuart Russell, seorang ilmuwan komputer Inggris yang dikenal karena kontribusinya pada kecerdasan buatan, memperingatkan tentang risiko yang terlibat dalam pembuatan sistem AI.

[Embedded content]

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/