ディープフェイクは、生成AIを使用して作成された、加工された音声、映像、テキストなどのコンテンツです。主に金銭的利益の獲得、詐欺、世論操作などを目的としてサイバー犯罪者によって悪用されています。
目次
ディープフェイク動画
AIで生成されたディープフェイク動画は、データセキュリティに重大なリスクをもたらします。これらはますます見分けがつきにくく、現実的で信頼できるかのように見える動画を作成できるためです。それらは一般に、政治家や有名人など、注目を集めている人物を描いているように見えますが、特定の個人の特徴を捉えて生成することもできます。作成者の目的によっては、偽情報を拡散したり、個人や組織を標的として詐欺を働いたり、機密データや資金を要求するために使用される場合があります。
ディープフェイク動画は、ソースコンテンツの複雑な分析を通じて生成されます。顔の特徴や動き、輪郭、肌のトーン、髪と目の色、ボディランゲージなどの重要な詳細をAIに学習させ、表現の正確性を可能な限り高めます。これは背景にも当てはまります。オフィス、役員室、またはその人物が登場する特定の場所が周知されている場合は、ソースとなる画像と動画を使用して、攻撃者が可能な限り正確に複製しようと試みます。
ディープフェイクアタックデモ動画（トレンドマイクロ制作）
※1:11から音声が流れます。
音声クローニング
ディープフェイク動画コンテンツの生成と同様に、オンラインで見つかった利用可能な学習データを使用して、AIで音声を生成できます。参照元となるデータには、ボイスメールメッセージ、通話音声、ポッドキャストやニュース番組でのゲスト出演、特定の個人またはグループの音声を含む元となるビデオコンテンツなどが含まれる傾向があります。
生成された音声は、元の音声に酷似した、非常に説得力のあるものにすることができ、可能な限り本物らしく聞こえるように作られます。攻撃者が使用する生成AIツールは、参考資料で話す人々のトーン、ピッチ、スピーチパターン、明瞭さ、発音、声色からうかがえる感情を含む、複数の重要な詳細を分析します。
チープフェイク
音声と映像は生成AIを使用してディープフェイクを作成できますが、チープフェイクはそのようなテクノロジが普及する以前から存在する手法です。代わりに、通常は個人またはグループを欺くために手動で作成されます。これらは、緊迫感や感情的なストレスを感じるなど、注意が散漫になっている人をだますことを目的とした視覚的、聴覚的、またはテキストベースの錯覚である傾向があります。米国国土安全保障省が指摘したように、チープフェイクはデジタル時代に先駆けて存在しました。つまり、攻撃者は、その手口を磨くために何世紀もの時間をかけてきたことを意味します。
チープフェイクの手法
- フィルムを物理的に切断・接合する
- 記録されたフレーズや文章の断片を盗用またはつなぎ合わせる
- 望ましい効果や印象を伝えるために、動画や音声コンテンツの再生速度を調整する
- 重要人物になりすます、そっくりな人物および/または声が似ている人物を撮影および/または録音する
- 低予算、低品質のコンピュータ生成画像(CGI)、モーションキャプチャ技術、グリーンスクリーンを使用する
ディープフェイクとチープフェイクの例
攻撃者は、ディープフェイクやチープフェイクを、以下を含むさまざまな目的で使用します。
- 新入社員を騙して会社や個人情報を開示させる
- 資金を得たり、誤った情報を広めたりするために、有名人や政治家になりすます
- 災害、負傷、または死亡したかのように偽装して保険金を請求する
- 偽のWebサイトを使用して、ユーザに本物であると信じ込ませる
- 経営幹部が登場したかのように装い、株式市場や投資家を操作する
- 個人の信用を傷つけ、評判を貶める
- 脅迫や強要を行うために、ターゲットが危険にさらされている状況にあるかのような動画を捏造する
ディープフェイクとチープフェイクの比較
ディープフェイク
チープフェイク
AI/ディープラーニング
基本的な編集ツール
極めて現実的
低から中程度のリアリズム
高い技術力と計算資源が必要
少ない労力で作成可能
検出が困難
検出が容易
巧妙な詐欺に利用
迅速な偽情報拡散のために使用
ディープフェイクからの保護対策
ディープフェイクまたはチープフェイクの標的となるリスクを減らすために講じることができるいくつかの対策があります。これには、次の対策が含まれます。そのうちのいくつかは、National Cybersecurity Allianceによって推奨されています。
- 不明な番号からの着信通話は出ずに、ボイスメールに転送する
- すべてのオンラインアカウントで多要素認証を設定する
- ユニークで長くて複雑なパスワードを使用する
- Webカメラを使用しないときは、レンズを覆うための物理的なシャッターが付いたWebカメラを使用する
- 写真や動画を共有する前にデジタルウォーターマークを追加する
- オンラインまたは電話で伝えられた情報を確認する（可能な場合）
- 句読点、トーン、文法など、メールの不審な点を精査する
ゼロトラストの原則とディープフェイク検出ソリューションを活用する
ゼロトラストアプローチはサイバーセキュリティにとって不可欠です。ディープフェイクに対する保護に関しても、その原則はリスクを最小限に抑えるための基本的な指針と見なすことができます。
例：
- 認証および認可プロセスが導入され、順守されていることを確認する
- 最小権限の原則を実装して、ユーザが役割に必要なリソースのみにアクセスできるようにする
- データとネットワークへのユーザアクセスをプロアクティブに管理・監視する
- 侵害を想定し、脅威を検出したときに被害範囲（ブラスト半径）を最小化する
さらに、専用のディープフェイク検査および検出ソリューションは、ユーザのID、安全、およびデータを保護するのに役立ちます。AIの技術革新が絶え間なく加速する現代において、人間が手動で検出することが難しいケースが多いため、このようなツールは不可欠です。「音声合成アルゴリズムが改善され、より現実的になるにつれて、検出作業がより困難になると予測できます」と、この主題に関する詳細な2023年の国立医学図書館の報告書は指摘しています。「音声検出の難しさは、悪用の可能性とこの脅威に対する防御が必要であることを示唆しています。」
ディープフェイク対策
AIによって生成される詐欺の脅威が増大する中、組織とそこで働く人々を保護します。トレンドマイクロは、ディープフェイク検出ツールを通じてリアルタイムのAIを活用したディープフェイク検出を提供します。このツールはTrend Vision One™ にシームレスに統合されており、あらゆるデジタルインタラクションで信頼性、真正性、セキュリティを確保できます。