Bạn có thể tin tưởng AI để bảo vệ AI?

Giờ đây, AI đang hướng tới xu hướng chủ đạo của kiến ​​trúc CNTT, cuộc đua đang diễn ra để đảm bảo rằng nó vẫn an toàn khi tiếp xúc với các nguồn dữ liệu nằm ngoài tầm kiểm soát của doanh nghiệp. Từ trung tâm dữ liệu, đám mây đến biên, AI sẽ phải đối mặt với rất nhiều lỗ hổng và một loạt các mối đe dọa ngày càng phức tạp, gần như tất cả đều do chính AI điều khiển.

Trong khi đó, rủi ro sẽ ngày càng cao, vì AI có khả năng cung cấp xương sống cho chăm sóc sức khỏe, vận tải, tài chính và các lĩnh vực quan trọng khác để hỗ trợ lối sống hiện đại của chúng ta. Vì vậy, trước khi các tổ chức bắt đầu đưa AI vào quá sâu các kiến ​​trúc phân tán này, có thể nên tạm dừng một chút để đảm bảo rằng nó có thể được bảo vệ đầy đủ.

Tin cậy và minh bạch

Trong một cuộc phỏng vấn gần đây với VentureBeat, Giám đốc AI của IBM Seth Dobrin lưu ý rằng việc xây dựng sự tin cậy và minh bạch trong toàn bộ chuỗi dữ liệu AI là rất quan trọng nếu doanh nghiệp hy vọng thu được giá trị tối đa từ khoản đầu tư của mình. Không giống như các kiến ​​trúc truyền thống chỉ có thể bị tắt hoặc bị cướp dữ liệu khi bị vi-rút và phần mềm độc hại xâm phạm, mối nguy hiểm đối với AI lớn hơn nhiều vì nó có thể được dạy để tự đào tạo lại dữ liệu mà nó nhận được từ điểm cuối.

Dobrin cho biết: “Điểm cuối là API REST thu thập dữ liệu. “Chúng ta cần bảo vệ AI khỏi bị nhiễm độc. Chúng tôi phải đảm bảo các điểm cuối AI được an toàn và được giám sát liên tục, không chỉ về hiệu suất mà còn về độ sai lệch.”

Để làm được điều này, Dobrin cho biết IBM đang nỗ lực thiết lập sự mạnh mẽ của đối thủ ở cấp độ hệ thống của các nền tảng như Watson. Bằng cách triển khai các mô hình AI thẩm vấn các mô hình AI khác để giải thích quy trình ra quyết định của chúng và sau đó sửa các mô hình đó nếu chúng đi chệch khỏi các quy chuẩn, doanh nghiệp sẽ có thể duy trì các trạng thái bảo mật với tốc độ của nền kinh tế kỹ thuật số phát triển nhanh ngày nay. Nhưng điều này đòi hỏi phải thay đổi tư duy từ việc săn lùng và ngăn chặn mã bất chính sang theo dõi và quản lý phản ứng của AI đối với những gì dường như là dữ liệu thông thường.

Hiện tại, các báo cáo đang bắt đầu lan truyền về nhiều cách khéo léo trong đó dữ liệu đang bị thao túng để đánh lừa AI thay đổi mã của nó theo những cách có hại. Jim Dempsey, giảng viên tại Trường Luật UC Berkeley và là cố vấn cấp cao của Trung tâm Chính sách Mạng Stanford, cho biết có thể tạo ra âm thanh giống như lời nói đối với thuật toán ML nhưng không giống với con người. Hệ thống nhận dạng hình ảnh và mạng lưới thần kinh sâu có thể bị lạc hướng bởi những nhiễu loạn mà mắt người không thể nhận thấy, đôi khi chỉ bằng cách dịch chuyển một pixel. Hơn nữa, những cuộc tấn công này có thể được thực hiện ngay cả khi thủ phạm không có quyền truy cập vào chính mô hình hoặc dữ liệu được sử dụng để huấn luyện nó.

Ngăn chặn và ứng phó

Để chống lại điều này, doanh nghiệp phải tập trung vào hai việc. Đầu tiên, nói CTO toàn cầu của Dell Technologies John Roese, nó phải dành nhiều nguồn lực hơn để ngăn chặn và ứng phó với các cuộc tấn công. Hầu hết các tổ chức đều thành thạo trong việc phát hiện các mối đe dọa bằng cách sử dụng dịch vụ quản lý thông tin sự kiện do AI điều khiển hoặc nhà cung cấp dịch vụ bảo mật được quản lý, nhưng việc ngăn chặn và ứng phó vẫn còn quá chậm để có thể giảm thiểu thỏa đáng một vi phạm nghiêm trọng.

Điều này dẫn tới sự thay đổi thứ hai mà doanh nghiệp phải thực hiện. Giám đốc điều hành Rapid7 Corey Thomas: tăng cường khả năng phòng ngừa và ứng phó với nhiều AI hơn. Đây là một viên thuốc khó nuốt đối với hầu hết các tổ chức vì về cơ bản nó giúp AI mất nhiều thời gian để thực hiện các thay đổi đối với môi trường dữ liệu. Nhưng Thomas cho biết có nhiều cách để thực hiện điều này cho phép AI hoạt động trên các khía cạnh bảo mật mà nó xử lý thành thạo nhất trong khi dành các khả năng chính cho con người vận hành.

Cuối cùng, nó phụ thuộc vào sự tin tưởng. Hiện tại AI là nhân viên mới trong văn phòng nên lẽ ra nó không có chìa khóa kho tiền. Nhưng theo thời gian, khi nó chứng tỏ được giá trị của mình trong môi trường cấp độ đầu vào, nó sẽ giành được sự tin tưởng giống như bất kỳ nhân viên nào khác. Điều này có nghĩa là khen thưởng khi nó hoạt động tốt, dạy nó làm tốt hơn khi nó thất bại và luôn đảm bảo rằng nó có đủ nguồn lực và dữ liệu phù hợp để đảm bảo rằng nó hiểu điều đúng đắn cần làm và cách thức đúng đắn để làm điều đó.

Nguồn: https://venturebeat.com/2022/02/04/can-you-trust-ai-to-protect-ai/