AI를 보호하기 위해 AI를 신뢰할 수 있습니까?

이제 AI가 IT 아키텍처의 주류로 진입함에 따라 기업의 통제 범위를 벗어나는 데이터 소스에 노출될 때 AI의 보안을 유지하기 위한 경쟁이 시작되고 있습니다. 데이터 센터에서 클라우드, 엣지에 이르기까지 AI는 AI 자체에 의해 주도되는 다양한 취약점과 점점 더 복잡해지는 위협에 맞서 싸워야 합니다.

한편, AI가 현대 생활 방식을 지원하는 데 중요한 의료, 교통, 금융 및 기타 부문의 중추를 제공할 가능성이 높다는 점을 고려할 때 위험은 점점 더 높아질 것입니다. 따라서 조직이 AI를 이러한 분산 아키텍처에 너무 깊이 적용하기 전에 잠시 멈춰서 적절하게 보호될 수 있는지 확인하는 것이 도움이 될 수 있습니다.

신뢰와 투명성

최근 VentureBeat와의 인터뷰에서 IBM 최고 AI 책임자(CEO) 세스 도브린(Seth Dobrin) 그 건물에 주목했다 전체 AI 데이터 체인에 대한 신뢰와 투명성 기업이 투자로부터 최대 가치를 창출하기를 원한다면 매우 중요합니다. 바이러스 및 맬웨어에 의해 손상되면 단순히 종료되거나 데이터를 강탈할 수 있는 기존 아키텍처와 달리 AI는 엔드포인트에서 수신하는 데이터를 통해 스스로 재교육하도록 학습할 수 있기 때문에 AI에 대한 위험은 훨씬 더 큽니다.

“엔드포인트는 데이터를 수집하는 REST API입니다.”라고 Dobrin은 말했습니다. “우리는 AI를 중독으로부터 보호해야 합니다. 성능뿐 아니라 편견에 대해서도 AI 엔드포인트가 안전하고 지속적으로 모니터링되도록 해야 합니다.”

이를 위해 Dobrin은 IBM이 다음을 구축하기 위해 노력하고 있다고 말했습니다. 적대적 견고성 Watson과 같은 플랫폼의 시스템 수준에서. 다른 AI 모델을 조사하여 의사 결정 프로세스를 설명하고 해당 모델이 표준에서 벗어나면 수정하는 AI 모델을 구현함으로써 기업은 오늘날 빠르게 변화하는 디지털 경제의 속도에 맞춰 보안 태세를 유지할 수 있습니다. 그러나 이를 위해서는 악의적인 코드를 추적하고 저지하는 것에서 일반 데이터로 보이는 것에 대한 AI의 반응을 모니터링하고 관리하는 것으로 생각의 전환이 필요합니다.

이미 AI를 속여 코드를 유해한 방식으로 변경하도록 데이터를 조작하는 다양한 독창적인 방식에 대한 보고서가 유포되기 시작했습니다. 짐 뎀프시UC 버클리 로스쿨 강사이자 스탠포드 사이버 정책 센터 수석 고문인 그는 ML 알고리즘에게는 음성처럼 들리지만 사람에게는 들리지 않는 오디오를 생성하는 것이 가능하다고 말합니다. 이미지 인식 시스템과 심층 신경망은 인간의 눈으로 감지할 수 없는 교란으로 인해 잘못된 길로 빠질 수 있으며, 때로는 단일 픽셀을 이동하는 것만으로도 문제가 발생할 수 있습니다. 게다가 이러한 공격은 가해자가 모델 자체나 모델 훈련에 사용된 데이터에 접근할 수 없는 경우에도 실행될 수 있습니다.

예방 및 대응

이에 대응하기 위해 기업은 두 가지에 집중해야 합니다. 첫째, 말한다 Dell Technologies 글로벌 CTO John Roese따라서 공격을 예방하고 대응하는 데 더 많은 자원을 투입해야 합니다. 대부분의 조직은 AI 기반 이벤트 정보 관리 서비스 또는 관리형 보안 서비스 제공업체를 사용하여 위협을 탐지하는 데 능숙하지만 심각한 위반을 적절하게 완화하기에는 예방 및 대응이 여전히 너무 느립니다.

이는 기업이 구현해야 하는 두 번째 변화로 이어진다고 말합니다. Rapid7 CEO 코리 토마스: 더 많은 AI로 예방과 대응을 강화합니다. 이는 본질적으로 AI가 데이터 환경을 변경할 수 있는 여지를 제공하기 때문에 대부분의 조직에서 삼키기 힘든 약입니다. 그러나 토마스는 AI가 주요 기능을 인간 운영자에게 유보하면서 가장 능숙하게 처리할 수 있는 보안 측면에서 기능할 수 있도록 하는 방법이 있다고 말합니다.

결국 신뢰로 귀결됩니다. AI는 현재 사무실에 새로 온 아이이므로 금고 열쇠를 갖고 있어서는 안 됩니다. 그러나 시간이 지남에 따라 초급 환경에서 그 가치가 입증됨에 따라 다른 직원과 마찬가지로 신뢰를 얻게 될 것입니다. 이는 잘 수행되면 보상하고, 실패하면 더 잘하도록 가르치며, 올바른 일과 올바른 방법을 이해할 수 있도록 항상 적절한 리소스와 적절한 데이터가 있는지 확인하는 것을 의미합니다.

출처: https://venturebeat.com/2022/02/04/can-you-trust-ai-to-protect-ai/