ディープフェイク技術の進歩のおかげで、人々の声を複製することが容易になりました。 ギャップを埋めるためのナレーションの作成など、この技術のいくつかの用途 ロードランナーこの夏に公開されたアンソニー・ボーディンに関するドキュメンタリーは無害である(とはいえ、この行動の倫理さえ厳しく批判された) 議論 映画が公開されたとき)。 しかし、ディープフェイクされた音声が、数百万ドルを盗むなど、明らかに極悪な目的に使用されるケースもあります。
An 記事 先週公開 フォーブス アラブ首長国連邦のサイバー犯罪者グループが銀行強盗の一環としてディープフェイク技術を使用し、総額35万ドルを国外に送金し、世界中の口座に送金したことを明らかにした。
マネー強盗、音声版
誰かの声の偽バージョンを作成するために必要なのは、その人の話している音声を録音することだけです。 入力データの量と質に基づいて出力が向上する他の機械学習システムと同様に、システムが学習する録音が多ければ多いほど、ディープフェイクされた音声はより本物のように聞こえます。
この事件では、犯罪者はディープフェイクソフトウェアを使用して、大企業の幹部の声を再現しました(会社の詳細、使用されたソフトウェア、およびソフトウェアを訓練するための録音は入手できないようです)。 その後、彼らはその幹部と以前から関係があった銀行支店長に電話をかけ、つまり銀行支店長は幹部の声を知っていたことになる。 また、なりすまし者は、要求された取引の詳細を確認する偽の電子メールを銀行支店長に送信しました。 電子メールと聞き覚えのある声の間で、幹部がマネージャーに口座間での数百万ドルの送金を承認するよう求めたとき、マネージャーは、そのまま実行することに問題はないと考えました。
詐欺は 2020 年 XNUMX 月に発生しましたが、関連する 裁判所文書 先週米国で申請されたばかりだ。 UAE当局は米国の捜査当局に対し、センテニアル銀行の米国の銀行口座に送金された盗難金400,000万ドルの追跡に協力を求めている。
私たちの声、私たち自身
昔ながらの方法 (この文脈での「古い」とは、機械学習が今日のように遍在する前を意味します) 偽の人間の声を作成するには、本物の人間の声を録音し、その録音を多数の異なる音声音節に分割し、それらの音節を無数に貼り付ける必要がありました。音声で言ってもらいたい言葉を順列に並べて作成します。 それは退屈で、まったく現実的に聞こえない声を生み出しました。
身近な人の声を区別したり、有名な声を認識したりするのは簡単ですが、私たちは声に寄与する多くの要素について深く考えることはあまりありません。 声を出す 個性的。 音色とピッチがあります。これは、声が低音から高音までの音符の範囲のどこに位置するかを指します。 話者のリズムとピッチの変化、および文のさまざまな単語や部分の強調であるリズムがあります。 発音にも、地域のアクセントや舌足らずさなどの癖もあります。
つまり、私たちの声は完全にユニークであり、それが合成的に再現しやすくなっているということをさらに不気味に感じます。
フェイクボイスの登場
UAEの銀行強盗はこれから起こる犯罪の前触れか? 残念ながら、答えはイエスである可能性が非常に高いです。 このような試みは初めてではありませんが、ディープフェイク音声を使用してこれほどの大金を盗むことに成功したのは初めてです。 2019年に犯罪者集団が 声を偽った 英国に本拠を置くエネルギー会社のCEOがハンガリーの銀行口座に243,000万XNUMXドルを送金されるというもの。
オーディオディープフェイクソフトウェアの多くの異なるバージョンがすでに市販されており、その中には次のような企業のバージョンも含まれます。 Lyrebird (わずかに止まっていてロボットのような偽声を作成するには、わずか XNUMX 分間の録音が必要です)、 説明, ソナント, Veritone、ほんの数名に。
これらの企業は自社の製品を良い目的で使用することを意図しており、いくつかの前向きな使用例は確かに存在します。 たとえば、言語障害や麻痺のある人は、このソフトウェアを使用して周囲の人々とコミュニケーションをとることができます。 Veritone は、製品の宣伝などのために自分の声のライセンスを取得したいと考えている有名人が使用できるように、自社のソフトウェアを販売しています。 Sonantic は最近、 ヴァル・キルマーの音声クローン咽頭がんとの闘いで声を失った。 オーディオブックやニュースポッドキャストの録音も、このテクノロジーの生産的な応用となる可能性があります。現時点では、人は何時間も声を出して本を読み続けるか、あまり聞き心地の悪いコンピュータ化された人工音声を聞くことになるからです。
他の企業はすでに AI を使用して AI に対抗しています。 Microsoft のビデオ認証システムはXNUMX年ちょっと前にリリースされ、ビデオや画像を分析し、人為的に操作された可能性の割合をユーザーに知らせる。 同様に、 AI Foundation のリアリティ ディフェンダー 合成メディア検出アルゴリズムを使用して偽のコンテンツを特定します。 Facebook, Twitter, YouTube 各社はディープフェイクを禁止し、サイトから削除する措置を講じている。
しかし、このテクノロジーは今後もさらに洗練され、音声、画像、ビデオなどあらゆる領域に広がります。 より多くの、またはより優れたテクノロジーでテクノロジーと戦うことは私たちの最大の望みかもしれませんが、ディープフェイクに対する意識を高め、オンラインで見るコンテンツに対する人々の幅広い懐疑感を植え付けることも重要です。
アラブ首長国連邦の銀行強盗事件が、銀行で働く人々に同様の疑念を植え付け、詐欺師が金を盗むのを手助けするディープフェイク音声がこれ以上一般的にならないことを祈るばかりだ。
画像のクレジット: ジョン・マクギージー/ウィキメディア·コモンズ
- 000
- 2019
- 2020
- AI
- アルゴリズム
- すべて
- 申し込み
- 周りに
- オーディオ
- 禁止
- 銀行
- 預金
- 銀行
- 戦い
- BEST
- ケイデンス
- 癌
- 例
- 最高経営責任者(CEO)
- コマンドと
- 企業
- 会社
- コンテンツ
- 作成
- クレジット
- 犯罪
- 犯罪者
- サイバー犯罪者
- データ
- ディープフェイク
- 検出
- ドキュメンタリー
- ドル
- エミレーツ航空
- 終了
- エネルギー
- 倫理
- エグゼクティブ
- 偽
- 膜
- 名
- フォーブス
- フォーム
- 詐欺
- 良い
- グループ
- ハイ
- HTTPS
- 識別する
- 画像
- 含めて
- 研究者
- IT
- 大
- LEARN
- 学習
- ライセンス
- 機械学習
- マーケティング
- メディア
- 百万
- お金
- ニュース
- オンライン
- その他
- のワークプ
- ポッドキャスト
- プロダクト
- 製品
- 品質
- 上げる
- 現実
- センス
- ショート
- サイト
- So
- ソフトウェア
- split
- 盗まれました
- 夏
- テク
- テクノロジー
- 伝える
- 声
- 世界
- 取引
- さえずり
- UAE
- ユナイテッド
- アラブ首長国連邦
- us
- users
- ビデオ
- 動画
- ボイス
- 声
- 週間
- 誰
- 言葉
- 仕事
- 世界
- 年
- ユーチューブ