ディープフェイク – ボットが私にそうさせた

愛する人が誘拐されたというディープフェイク映像が恐ろしい未来を描く ディープフェイク – 実際のデータから特別に構築されたビデオ – テクノロジーの次をもたらすことを目的としています。機械学習は、Instagram のセルフィーやウェビナー、カンファレンスのプレゼンテーション、または YouTube からの休暇ビデオのナレーションによる解説などから毎日作成される大量の画像を取り込むと、ほぼ誰の非常に鮮明な画像、ビデオ、音声を描画することができます。その人が深刻な問題に陥っているように見せかけ、特別に細工された偽のコミュニケーションを使用します。

テクノロジーはこれを実現するものではなく、助けるものであるはずでした。

多額の送金を要求する上司の音声クリップを処理して合成した偽の電話から始まり、次世代のディープフェイクは、議論の余地がないほど明瞭で説得力のある音声を約束します。

機械学習システムに十分なデータを入力すると、2019 年に英国に拠点を置く企業に対する大胆なリアルタイム音声ベースの攻撃で目撃されたように、その音声は恐ろしいほど現実に近づきます。 エネルギー会社、彼らをだまして243,000米ドルを騙し取った。

Black Hat USA 2021 でこのテーマについてプレゼンテーション, セントラルフロリダ大学シミュレーション・トレーニング研究所のサイバーセキュリティ研究教授マシュー・キャナム博士は、新型コロナウイルス感染症によるロックダウンが始まって以来、電子ギフトカードボット攻撃が820％増加しており、多くの場合上司の指示になりすましたと述べた。カードを注文する労働者。攻撃は「忙しいですか」という一般的な冒頭で始まり、被害者が応答すると、加害者は議論を電子メールなどの別のチャネルに移し、ボットの自動化から遠ざけます。

ギフト カードとテキストおよび電子メール メッセージの例は、基本的なものを表しています。 ソーシャルエンジニアリング攻撃;悪意のある攻撃者がビデオや音声を偽装して上司や同僚になりすますことを可能にするディープフェイク技術と重ね合わせた場合、アクションの要求はより重大な問題を引き起こす可能性があります。本物だと思われるものとのビデオ会話の形でフィッシング攻撃が行われる可能性 誰か 非常に現実的な見通しになりつつあります。愛する人が誘拐されたとされるディープフェイク動画についても同様です。

キャナム博士はまた、ディープフェイク技術は、やってもいないことで人々を非難するためにも使用される可能性があると指摘した。誰かが不適切な行動をしている様子を映したビデオは、たとえ偽造されたものであっても、その人に影響を与える可能性があります。同僚が告発し、説得力があると思われるビデオまたは音声証拠でそれを裏付けるシナリオを想像してください。本物ではないことを証明するのは難しいかもしれません。

これは普通の人には手の届かないものに聞こえるかもしれませんし、今日では創造するのが難しいかもしれません。 2019年 ジャーナリスト ティモシー・B・リー、Ars Technica、552ドルを費やして、マーク・ザッカーバーグの議会証言映像から合理的なディープフェイクビデオを作成し、彼の顔をデータ中佐の顔に置き換えました。 スター·トレック：次世代.

自分の目と耳を信じますか？

Canham 博士は、このような詐欺を回避するために私たち全員が実行できる、非常に有用な予防的な措置をいくつか提案しました。

• 信頼する必要がある人たちと共有する秘密の言葉を作成します。たとえば、従業員に送金を指示する上司は、従業員と財務部門の間でのみ知られる口頭で伝達される言葉を持っている可能性があります。誘拐の危険にさらされている人たちも同様です…ビデオが本物であることを示す生きている証拠の言葉やフレーズ。
• 従業員に絶対に求めない行動について従業員と同意します。ギフトカードの注文が「絶対にやってはいけない」行為である場合、そのことを全員に周知させ、そのようなリクエストは詐欺であることを確認してください。
• 多要素認証チャネルを使用してリクエストを検証します。コミュニケーションがテキストで始まる場合は、相手が知っている番号または電子メールを使用して、最初の連絡では要求されていない番号または電子メールに連絡して確認します。

悪意のあるディープフェイク動画や音声の作成にテクノロジーが使用されることは、サイバー犯罪者にとっては逃す可能性の低い機会であり、英国に本拠を置くエネルギー会社の例で証明されているように、非常に金銭的な利益をもたらす可能性があります。上記で提案した予防的なアクションは出発点です。すべてのサイバーセキュリティと同様に、指示を受けたときは、その指示を確認するまで、私たち全員が警戒を怠らず、不信感を抱くことから始めることが重要です。

出典: https://www.welivesecurity.com/2021/08/10/deepfakes-bot-made-me-do-it/