AIを信頼してAIを保護できますか？

AI が IT アーキテクチャの主流になりつつある現在、企業の制御を超えるデータ ソースにさらされた場合に AI の安全性を確保するための競争が繰り広げられています。 データセンターからクラウド、エッジに至るまで、AI は多種多様な脆弱性とますます複雑化する一連の脅威に対処する必要があり、そのほとんどすべてが AI 自体によって引き起こされるようになります。

一方、AI が医療、運輸、金融、および現代の生活様式をサポートするために不可欠なその他のセクターのバックボーンを提供する可能性が高いことを考えると、賭け金はますます高くなるでしょう。 したがって、組織がこれらの分散型アーキテクチャに AI を深く押し込み始める前に、少し立ち止まって AI が適切に保護されていることを確認することが役立つ場合があります。

信頼と透明性

VentureBeat との最近のインタビューで、 IBMの最高AI責任者セス・ドブリン その建物に注目した AI データチェーン全体への信頼と透明性 企業がその投資から最大の価値を引き出すことを望んでいる場合、これは非常に重要です。 ウイルスやマルウェアによって危険にさらされたときに単にシャットダウンしたり、データを盗んだりすることができる従来のアーキテクチャとは異なり、AI の危険性ははるかに大きくなります。AI はエンドポイントから受信したデータから再トレーニングするように教えることができるからです。

「エンドポイントはデータを収集する REST API です」と Dobrin 氏は言います。 「AIを中毒から守る必要があります。 AI エンドポイントが安全であり、パフォーマンスだけでなくバイアスについても継続的に監視されていることを確認する必要があります。」

これを行うために、Dobrin 氏は、IBM が確立に取り組んでいると述べました。 敵対的堅牢性 Watson などのプラットフォームのシステム レベルで。 他の AI モデルに問い合わせて意思決定プロセスを説明し、基準から逸脱している場合はそれらのモデルを修正する AI モデルを実装することで、企業は今日のペースの速いデジタル経済の速度でセキュリティ体制を維持できるようになります。 しかし、これには、悪意のあるコードを探して阻止することから、通常のデータと思われるものに対する AI の反応を監視および管理することへと考え方を転換する必要があります。

すでに、AI をだましてそのコードを有害な方法で変更させるためにデータが巧妙に操作されているという報告が広まり始めています。 ジム・デンプシーカリフォルニア大学バークレー校ロー スクールの講師であり、スタンフォード サイバー ポリシー センターのシニア アドバイザーである . 画像認識システムとディープ ニューラル ネットワークは、時には XNUMX ピクセルをシフトするだけで、人間の目には感知できない摂動によって道に迷う可能性があります。 さらに、これらの攻撃は、加害者がモデル自体またはモデルのトレーニングに使用されるデータにアクセスできない場合でも開始できます。

予防と対応

これに対抗するには、企業は XNUMX つのことに注力する必要があります。 まず、言う Dell Technologies グローバル CTO のジョン・ローズ、攻撃の防止と対応により多くのリソースを投入する必要があります。 ほとんどの組織は、AI 主導のイベント情報管理サービスまたはマネージド セキュリティ サービス プロバイダーを使用して脅威を検出することに長けていますが、重大な侵害を適切に軽減するには、防御と対応がまだ遅すぎます。

これは、企業が実装しなければならない XNUMX 番目の変更につながります。 Rapid7 CEO コーリー・トーマス: より多くの AI で予防と対応を強化します。 これは、基本的に AI にデータ環境を変更する余地を与えるため、ほとんどの組織にとって飲み込むのが難しい薬です。 しかし、Thomas は、人間のオペレーターに主要な機能を確保しながら、AI が最も得意とするセキュリティの側面で機能できるようにする方法があると述べています。

結局は信頼に尽きる。 AI は現在、オフィスの新入りなので、金庫の鍵を持っているべきではありません。 しかし、時間が経つにつれて、初心者レベルの設定でその価値が証明されるにつれて、他の従業員と同じように信頼を得るはずです. これは、パフォーマンスが良い場合は報酬を与え、失敗した場合は改善するように教え、適切なリソースと適切なデータを常に確保して、正しいことと正しい方法を確実に理解できるようにすることを意味します。

出典：https://venturebeat.com/2022/02/04/can-you-trust-ai-to-protect-ai/