“AI เปรียบได้กับอันตรายพอๆ กับอาวุธนิวเคลียร์” ศาสตราจารย์มหาวิทยาลัยอ็อกซ์ฟอร์ดเตือน

"จำคำของฉันไว้, AI อันตรายกว่านิวเคลียร์มาก. มันทำให้ฉันกลัวจนแทบบ้า” นั่นคือคำกล่าวของ Elon Musk ซีอีโอของ Tesla ในปี 2018 ระหว่างการสัมภาษณ์ Jonathan Nolan ระหว่างการประชุม South by Southwest ในเมืองออสติน รัฐเท็กซัส น่าเสียดายที่ Mus ไม่ได้อยู่คนเดียว นักวิจัยและผู้เชี่ยวชาญที่มีชื่อเสียงอื่น ๆ ก็เตือนเกี่ยวกับอันตรายของปัญญาประดิษฐ์ (AI) คำถาม 1 ล้านปอนด์คือเราเตรียมพร้อมแล้ว และรัฐบาลและนักวางแผนนโยบายของเรากำลังทำอะไรเพื่อป้องกันอันตรายนี้

ในขณะที่ความนิยมล่าสุดของ ChatGPT ได้นำ AI มาสู่กระแสหลักและล่อลวงหลาย ๆ คนให้ได้รับประโยชน์ทางสังคม แต่สิ่งที่ไม่ได้รับความสนใจจากสาธารณชนทั่วไปก็คือด้านมืดของ AI เป็นเวลาหลายปีที่ผู้เชี่ยวชาญและผู้ทำงานด้านเทคโนโลยีกังวลว่าปัญญาประดิษฐ์ (AI) จะแย่งงานของพวกเขา

อย่างไรก็ตาม ผู้เชี่ยวชาญเชื่อว่ามีความเสี่ยงและอันตรายอื่น ๆ ที่ร้ายแรงกว่านั้นที่ต้องกังวล รวมถึงความเอนเอียงทางอัลกอริทึมที่เกิดจากข้อมูลที่ไม่ดีที่ AI ใช้ การปลอมแปลงลึก ๆ การละเมิดความเป็นส่วนตัว และอื่น ๆ อีกมากมาย แม้ว่าอันตรายเหล่านี้ก่อให้เกิดความเสี่ยงร้ายแรงต่อสังคม นักวิจัยและนักวิทยาศาสตร์กลับกังวลมากขึ้นว่า AI จะถูกตั้งโปรแกรมให้ทำสิ่งที่อันตรายยิ่งกว่านั้นได้อย่างไร นั่นคือ การปรับอาวุธให้เป็นอัตโนมัติ

ทุกวันนี้ AI ถูกนำมาใช้ในการพัฒนาเทคโนโลยีการจับกลุ่มและอาวุธยุทโธปกรณ์หรือที่เรียกว่าโดรนกามิกาเซ่เช่นเดียวกับที่เป็นอยู่ ใช้ในสงครามรัสเซีย-ยูเครนที่กำลังดำเนินอยู่. ไม่เหมือนหุ่นยนต์แห่งอนาคตที่คุณเห็นในภาพยนตร์ไซไฟบางเรื่อง โดรนเหล่านี้ใช้แพลตฟอร์มทางทหารที่มีอยู่ก่อนหน้านี้ซึ่งใช้ประโยชน์จากเทคโนโลยี AI ใหม่ โดยเนื้อแท้แล้วโดรนเหล่านี้กลายเป็นอาวุธอิสระที่ถูกตั้งโปรแกรมมาเพื่อสังหาร

แต่การใช้ AI เพื่อสังหารในการสู้รบนับล้านนั้นเป็นเพียงจุดเริ่มต้น Michael Osborne เป็นศาสตราจารย์ด้าน AI และนักวิจัยด้านแมชชีนเลิร์นนิงที่มหาวิทยาลัยอ็อกซ์ฟอร์ด เขายังเป็นผู้ร่วมก่อตั้ง Mind Foundry ในขณะที่ทุกคนกำลังคลั่งไคล้ ChatGPT ศาสตราจารย์ออสบอร์นกำลังเตือนเกี่ยวกับความเสี่ยงของ AI และคาดการณ์ว่า AI ขั้นสูงอาจ "ก่อให้เกิดความเสี่ยงต่อเรามากพอๆ กับที่เราก่อให้เกิดกับสายพันธุ์อื่น: โดโดเป็นตัวอย่างหนึ่ง"

เมื่อต้นเดือนนี้ กลุ่มนักวิจัยจากมหาวิทยาลัยอ็อกซ์ฟอร์ดบอกกับคณะกรรมการวิทยาศาสตร์และเทคโนโลยีในรัฐสภาอังกฤษว่า ในที่สุด AI อาจเป็น "ภัยคุกคามที่มีอยู่" ต่อมนุษยชาติ เช่นเดียวกับที่มนุษย์ถูกโดโดกำจัด เครื่องจักร AI อาจกำจัดเรา พวกเขากล่าว Times of London รายงาน.

ในระหว่างการประชุม ศาสตราจารย์ออสบอร์น เตือนสมาชิกรัฐสภาอังกฤษว่าปัญญาประดิษฐ์ที่ทรงพลังสามารถฆ่าทุกคนบนโลกได้ “AI เปรียบได้กับอันตรายพอๆ กับอาวุธนิวเคลียร์” เขากล่าว ศาสตราจารย์ออสบอร์นยังเสริมด้วยว่าความเสี่ยงไม่ใช่การที่ AI ฝ่าฝืนโปรแกรมของมัน แต่เป็นการเชื่อฟังอย่างเข้มงวดโดยไม่ตั้งใจ:

“AI ที่ฉลาดหลักแหลมบอกให้หยุดมะเร็ง เพื่อยกตัวอย่างที่เข้าใจง่ายเกินไป อาจพบว่าวิธีที่ง่ายที่สุดคือการกำจัดมนุษย์ เมื่อสำรวจความคิดเห็น นักวิจัยราวหนึ่งในสามคิดว่า AI อาจนำไปสู่หายนะทั่วโลก มีโปรแกรมความปลอดภัยของ AI แต่ธุรกิจและประเทศต่าง ๆ มีส่วนร่วมใน "การแข่งขันทางอาวุธ" ที่ทำให้วิธีการระมัดระวังเป็นเรื่องยาก”

Michael Cohen เพื่อนร่วมงานของศาสตราจารย์ Osbborne และนักศึกษาปริญญาเอกที่ Oxford University กล่าวกับ The Times of London ว่า:

“ด้วย AI เหนือมนุษย์ มีความเสี่ยงเฉพาะที่อยู่ในประเภทที่แตกต่างกัน ซึ่งก็คือ . . มันสามารถฆ่าทุกคนได้”

ในขณะที่ AI ช่วยให้ชีวิตของเราดีขึ้น นักวิทยาศาสตร์ก็กลัวว่าเรากำลังเสี่ยงที่จะเสียสละความเป็นมนุษย์เพื่อความสะดวก เนื่องจาก AI ขาดศีลธรรมของมนุษย์ สถานการณ์หนึ่งที่น่ากลัวตามที่โคเฮนกล่าวคือ AI สามารถเรียนรู้ที่จะบรรลุคำสั่งช่วยเหลือมนุษย์โดยใช้กลวิธีทำร้ายมนุษย์

“ถ้าคุณจินตนาการถึงการฝึกสุนัขด้วยขนม มันจะเรียนรู้ที่จะเลือกการกระทำที่นำไปสู่การได้รับขนม แต่ถ้าสุนัขพบตู้ขนม มันจะสามารถหยิบขนมได้เองโดยไม่ต้องทำตามที่เราต้องการ” เขาอธิบาย . “ถ้าคุณมีบางสิ่งที่ฉลาดกว่าเรามากที่พยายามจะรับผลตอบรับเชิงบวกนี้ด้วยความคลั่งไคล้ และมันถูกยึดไปทั่วโลกเพื่อรักษาสิ่งนั้นไว้ มันจะส่งพลังงานมากที่สุดเท่าที่จะเป็นไปได้เพื่อรักษาความปลอดภัยให้กับสิ่งนั้น และนั่นจะทำให้เราไม่มีสิ่งใดเลย พลังงานให้กับตัวเรา”

ศาสตราจารย์ออสบอร์นและไมเคิล โคเฮนไม่ใช่นักวิจัยเพียงสองคนที่ส่งสัญญาณเตือนภัยเกี่ยวกับความเสี่ยงและอันตรายของ AI นักวิทยาศาสตร์หลายคนที่ทำงานกับ AI ได้แสดงความกังวลในลักษณะเดียวกัน การสำรวจเมื่อเดือนกันยายน พ.ศ. 2022 ของนักวิจัย 327 คนจากมหาวิทยาลัยนิวยอร์ก พบว่าหนึ่งในสามเชื่อว่า AI อาจนำมาซึ่งการล้างโลกแบบนิวเคลียร์ภายในศตวรรษนี้ Times Of London กล่าว

นักวิทยาศาสตร์หลายคนที่ทำงานร่วมกับ AI ดูเหมือนจะมีความกังวลที่คล้ายกัน การสำรวจในเดือนกันยายน พ.ศ. 2022 ของนักวิจัย 327 คนจากมหาวิทยาลัยนิวยอร์กพบว่าหนึ่งในสามเชื่อว่า AI อาจก่อให้เกิดหายนะที่คล้ายกับการเปิดเผยของนิวเคลียร์ภายในศตวรรษนี้ Times Of London รายงาน

“เป็นไปได้ว่าการตัดสินใจโดย AI หรือระบบแมชชีนเลิร์นนิงอาจทำให้เกิดหายนะในศตวรรษนี้ ซึ่งอย่างน้อยก็เลวร้ายพอๆ กับสงครามนิวเคลียร์” 36% ของนักวิจัยกล่าว

ไม่ว่าจะผ่านไปอีก XNUMX ศตวรรษจากนี้ AI ก็ฉลาดขึ้นเรื่อยๆ และตามที่ผู้เชี่ยวชาญบางคนแนะนำไว้ จำเป็นอย่างยิ่งที่เราจะต้องรักษาการควบคุมของมนุษย์และพัฒนากลไกต่างๆ เช่น AI คิลสวิตช์ เพื่อควบคุมสิ่งที่ AI ทำได้และทำไม่ได้ การขาดการกำกับดูแลและการไม่มีนโยบาย AI ทั่วโลกที่ชัดเจนในปัจจุบัน เป็นสิ่งที่ปลุกให้รัฐบาลทั่วโลกตื่นตัว เราต้องดำเนินการเดี๋ยวนี้ก่อนที่จะสายเกินไป

[เนื้อหาฝัง]

ด้านล่างนี้เป็นวิดีโอเกี่ยวกับอันตรายของ AI ในวิดีโอ Stuart Russell นักวิทยาศาสตร์คอมพิวเตอร์ชาวอังกฤษที่เป็นที่รู้จักจากผลงานด้านปัญญาประดิษฐ์ เตือนเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับการสร้างระบบ AI

[เนื้อหาฝัง]

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/