구글, 'SynthID'를 사용해 AI 이미지를 쉽게 찾을 수 있게 해준다

구글, 'SynthID'를 사용해 AI 이미지를 쉽게 찾을 수 있게 해준다

타임 스탬프 : 30 년 2023 월 4 일 오후 14:XNUMX
소스 노드 : 2244152

Google은 AI 생성 이미지에 디지털 워터마크를 삽입할 수 있는 SynthID라는 새로운 AI 도구를 통해 딥페이크의 확산을 제한하는 데 한 걸음 더 다가갈 수 있습니다. 이는 AI가 생성한 이미지와 실제 이미지를 구별하는 데 도움이 되기 위한 것입니다.

생성 AI 도구가 계속해서 발전하고 실제처럼 들리는 이미지, 비디오, 오디오를 생성하는 기능이 향상됨에 따라 실제 콘텐츠와 AI 생성 콘텐츠를 구별해야 하는 필요성이 잘못된 정보의 확산을 억제하는 데 무엇보다 중요해졌습니다.

솔루션의 일부

에 따라 기사 워싱턴 포스트(The Washington Post)에 따르면, 구글의 워터마킹 기술은 조절하기가 매우 어렵기 때문에 딥페이크와 잘못된 정보의 확산을 제한하는 단계라고 말했습니다.

육안으로는 이를 감지할 수 없지만 Google은 AI 연구원의 제안에 따라 그렇게하도록 훈련된 컴퓨터로 쉽게 감지할 수 있다고 밝혔습니다. Google의 개발은 생성 AI의 함정 중 하나인 깊은가짜이는 업계를 길들이기 위해 긴급한 규제가 필요하게 된 과제입니다.

올해 XNUMX월 AI가 생성한 국방부 폭발 이미지가 입소문을 타면서 주식시장에 순간적인 동요를 일으켰다. 가짜 이미지 전 미국 대통령을 보여주는 도널드 트럼프 경찰과의 싸움도 헤드라인을 장식했습니다. 기업들이 AI 생성 이미지에 라벨을 붙이려고 시도했지만 사용 가능한 기술은 쉽게 사용할 수 있으므로 AI 이미지가 여전히 실제 이미지로 전달될 수 있습니다.

선거철엔 가드레일 불가피

구글 Deepmind CEO 데미스 허사비스(Demis Hassabis)는 2024년 대선을 앞두고 미국이 AI 이미지를 감지할 수 있는 시스템을 만드는 것이 중요하다고 강조했다. 허사비스는 새로운 도구가 이미지 자체를 변경하지 않고도 이미지의 픽셀에 워터마크를 삽입할 수 있다고 말했다. 그 품질.

“이미지나 이미지의 품질, 이미지에 대한 경험은 바뀌지 않습니다. 그러나 자르기, 크기 조정, 정상적이고 전통적이며 단순한 워터마크를 우회하기 위해 수행할 수 있는 모든 작업 등 다양한 변형에 강력합니다.”라고 그는 말했습니다.

현재 SynthID는 Google의 클라우드 컴퓨팅 서비스를 사용하는 유료 고객에게만 제공되며 Google의 Imagen 이미지 생성기를 사용하여 생성된 이미지에서만 작동하는 것으로 보고되었습니다. 보고서 도구가 아직 실험적임을 나타냅니다. 따라서 Google에서는 고객 여러분의 양해를 부탁드립니다.

또한 읽기 : SEC는 Impact Theory에 의해 판매되는 NFT가 랜드마크 케이스의 '증권'이라고 말합니다.

구글 CEO, 지난해 226억12,000만 달러 벌어들인 뒤 직원 XNUMX만XNUMX명 해고

구글 CEO, 지난해 226억12,000만 달러 벌어들인 뒤 직원 XNUMX만XNUMX명 해고

아직 더 해야 할 일

DeepMind 부사장 Pushmeet Kohli는 이것이 내장된 워터마크를 사용하여 이미지를 쉽게 위조할 수 있는 시스템을 만들려는 시도이지만 사용자는 새로운 워터마킹 도구가 아직 완전히 검증되지 않았다는 점을 알아야 한다고 말했습니다.

“임베디드 워터마킹을 위한 다른 기술이 있지만 우리는 그것이 그다지 신뢰할만하다고 생각하지 않습니다.”라고 그는 말했습니다.

기술 회사들은 이미 이번 행사에서 약속했습니다. 백악관 AI 생성 콘텐츠에 워터마크를 표시할 수 있는 도구를 만듭니다. Microsoft는 워터마킹 도구 개발을 안내하는 표준을 만들기 위해 기술 회사 연합을 주도했습니다. The Washington Post에 따르면 OpenAI의 이미지 생성기 Dalle-E도 눈에 보이는 워터마크를 추가합니다. 이는 책임감 있는 방식으로 혁신을 허용하는 한 가지 방법으로 여겨져 왔습니다.

Google의 SynthID 도구는 Google이 비즈니스 고객에게 새로운 기능을 선보이는 Cloud Next 컨퍼런스에서 출시되었습니다. AI 도구의 발전이 진전되면서 AI가 생성한 콘텐츠를 식별하는 데 많은 노력을 기울이고 있는 것으로 보이며, 이미지 생성기도 더욱 좋아질 것으로 예상됩니다. SynthID와 같은 도구는 앞으로 잘못된 정보를 억제하는 데 도움이 될 것입니다.

타임 스탬프 :

더보기 메타뉴스