옥스퍼드대 교수 "AI는 핵무기 못지않은 위험" 경고

옥스퍼드대 교수 "AI는 핵무기 못지않은 위험" 경고

타임 스탬프 : 28 년 2023 월 1 일 오후 33:XNUMX
소스 노드 : 1925142

"명심 해, 인공지능은 핵무기보다 훨씬 더 위험하다. 정말 무서워요.” 2018년 텍사스 오스틴에서 열린 South by Southwest 컨퍼런스에서 조나단 놀란과의 인터뷰에서 Tesla의 CEO Elon Musk가 한 말입니다. 불행히도 Mus는 혼자가 아닙니다. 연구자들을 비롯한 저명한 전문가들도 인공지능(AI)의 위험성에 대해 경고하고 있다. 1만 파운드의 질문은 우리가 준비되어 있으며 정부와 정책 입안자들이 이 위험을 피하기 위해 무엇을 하고 있는가입니다.

최근 ChatGPT의 인기는 AI를 주류로 끌어들였고 많은 사람들을 사회적 혜택으로 유인했지만 일반 대중의 관심을 끌지 못하는 것은 AI의 어두운 면입니다. 수년 동안 전문가와 기술 근로자는 인공 지능(AI)이 일자리를 앗아가는 것에 대해 걱정해 왔습니다.

그러나 전문가들은 AI가 사용하는 잘못된 데이터, 딥 페이크, 개인 정보 침해 등으로 인한 알고리즘 편향을 포함하여 우려해야 할 다른 심각한 위험과 위험이 있다고 생각합니다. 이러한 위험은 사회에 심각한 위험을 초래하지만 연구원과 과학자들은 AI가 훨씬 더 위험한 일인 무기 자동화를 수행하도록 프로그래밍할 수 있는 방법에 대해 더 걱정하고 있습니다.

오늘날 AI는 군집 기술과 배회 탄약의 개발에 사용되었습니다. 진행중인 러시아-우크라이나 전쟁에 사용. 일부 공상과학 영화에서 볼 수 있는 미래형 로봇과 달리 이 드론은 새로운 AI 기술을 활용하는 기존 군사 플랫폼을 사용합니다. 이 드론은 본질적으로 죽이도록 프로그래밍된 자율 무기가 되었습니다.

그러나 밀리터리 전투에서 AI를 사용하여 죽이는 것은 시작에 불과합니다. 마이클 오스본(Michael Osborne)은 옥스퍼드 대학교의 AI 교수이자 기계 학습 연구원입니다. 그는 Mind Foundry의 공동 설립자이기도 합니다. 모두가 ChatGPT 열풍에 빠져 있는 동안 Osborne 교수는 이제 AI의 위험에 대해 경고하고 고급 AI가 "우리가 다른 종에 대해 제기한 것과 마찬가지로 우리에게도 많은 위험을 초래할 수 있습니다. 도도새가 한 예입니다."라고 예측합니다.

이달 초 옥스포드 대학의 연구원 그룹은 영국 의회의 과학 기술 위원회에서 AI가 결국 인류에게 "실존적 위협"을 가할 수 있다고 말했습니다. 인간이 도도새에 의해 전멸된 것처럼 AI 기계도 우리를 제거할 수 있다고 그들은 말했다. 신고.

회의 중에 오스본 교수 진정으로 강력한 인공 지능이 지구상의 모든 사람을 죽일 수 있다고 영국 의회에 경고했습니다. 그는 “AI는 핵무기에 버금가는 위험”이라고 말했다. Osborne 교수는 또한 위험은 AI가 프로그래밍에 불복종하는 것이 아니라 의도하지 않은 방식으로 AI에 엄격하게 복종하는 것이라고 덧붙였습니다.

“지나치게 단순화된 예를 들자면 암을 종식시키라고 지시받은 초지능 AI는 인간을 제거하는 것이 가장 쉬운 방법이라는 것을 알게 될 것입니다. 설문 조사에서 연구원의 약 XNUMX분의 XNUMX은 AI가 세계적인 재앙으로 이어질 수 있다고 생각합니다. AI 안전 프로그램이 존재하지만 기업과 국가는 신중한 접근을 어렵게 만드는 "군비 경쟁"에 참여하고 있습니다.”

Osbborne 교수의 동료이자 Oxford University의 박사 과정 학생인 Michael Cohen은 The Times of London에 다음과 같이 말했습니다.

“초인간 AI에는 다른 종류의 클래스인 특별한 위험이 있습니다. . . 모두를 죽일 수 있습니다.”

AI가 우리의 삶을 개선했지만, 과학자들은 인간의 도덕성이 결여된 AI로 인해 편의를 위해 인류를 희생시킬 위험에 처해 있다고 두려워합니다. Cohen에 따르면 한 가지 무서운 시나리오는 AI가 인간에게 해를 끼치는 전술을 사용하여 인간을 돕는 지시를 달성하는 방법을 배울 수 있다는 것입니다.

"개를 간식으로 훈련시키는 것을 상상해 보면 간식을 받는 행동을 선택하는 법을 배우지만 개가 간식 찬장을 찾으면 우리가 원하는 것을 하지 않고도 스스로 간식을 얻을 수 있습니다."라고 그는 설명했습니다. . “우리보다 훨씬 더 똑똑한 무언가가 이 긍정적인 피드백을 얻기 위해 미친 듯이 노력하고 있고 그것을 확보하기 위해 전 세계를 장악한다면, 그것을 확보하는 데 최대한 많은 에너지를 투입할 것이고, 그러면 우리는 아무런 도움도 받지 못할 것입니다. 우리 자신을 위한 에너지.”

Osborne 교수와 Michael Cohen만이 AI의 위험과 위험에 대해 경종을 울리는 두 명의 연구원이 아닙니다. AI와 함께 일하는 다른 많은 과학자들도 비슷한 우려를 표명했습니다. 2022년 327월 뉴욕 대학교의 XNUMX명의 연구원을 대상으로 한 설문 조사에서 XNUMX분의 XNUMX은 AI가 세기 내에 핵 스타일의 종말을 가져올 수 있다고 믿는 것으로 나타났습니다.

AI와 함께 일하는 많은 과학자들이 비슷한 우려를 공유하는 것으로 보입니다. 2022년 327월 뉴욕 대학교의 연구원 XNUMX명을 대상으로 한 설문 조사에서 XNUMX분의 XNUMX은 AI가 세기 내에 핵 종말과 유사한 재앙을 일으킬 수 있다고 믿는 것으로 나타났습니다.

연구원의 36%는 "AI나 기계 학습 시스템이 내린 결정이 금세기에 적어도 전면적인 핵전쟁만큼 나쁜 재앙을 일으킬 수 있다"고 말했다.

지금부터 XNUMX년이 지나도 AI는 점점 더 똑똑해지고 있으며 일부 전문가가 제안한 것처럼 인간의 통제를 보존하고 다음과 같은 메커니즘을 개발해야 합니다. AI 킬 스위치 AI가 할 수 있는 것과 할 수 없는 것을 제어합니다. 현재 감독 부족과 명확한 글로벌 AI 정책의 부재는 전 세계 정부에 경종을 울리고 있습니다. 너무 늦기 전에 지금 조치를 취해야 합니다.

[포함 된 콘텐츠]

아래는 AI의 위험성에 대한 또 다른 비디오입니다. 비디오에서 인공 지능에 기여한 것으로 알려진 영국 컴퓨터 과학자인 스튜어트 러셀은 AI 시스템 생성과 관련된 위험에 대해 경고합니다.

[포함 된 콘텐츠]

타임 스탬프 :

더보기 테크스타트업