ディープフェイクの悪用に関するリサーチ
～不正なディープフェイクツールの利用から、正規ツールの悪用に～
2025年7月17日
トレンドマイクロ株式会社（本社：東京都新宿区、代表取締役社長 兼 CEO：エバ・チェン 東証プライム：4704、以下、トレンドマイクロ）は、ディープフェイクに関するリサーチを実施しました。サイバー犯罪者は、従来不正なディープフェイクツールを利用する傾向がありましたが、昨今正規のディープフェイクツールを悪用する傾向に変化していることがわかりました。
リサーチの詳細はブログをご覧ください。
ディープフェイクを悪用したサイバー攻撃：新たなAI犯罪ツールセットの分析 | トレンドマイクロ セキュリティブログ
主なトピックは以下の通りです。
◆悪用される正規のディープフェイクツール
ディープフェイクは、AIによって作り出された偽の動画や音声もしくは、それを作るための技術を指します。ディープフェイク自体は不正ではないものの、サイバー犯罪者はディープフェイクを悪用することで、金銭や情報を窃取しようと試みます。ディープフェイクの悪用は、法人組織においては、ビジネスメール詐欺、eKYC（オンライン本人確認、電子本人確認）の認証突破、内部犯行を行うための企業への就職活動などに、個人においては、偽広告、ロマンス詐欺、ディープポルノなどの懸念があげられます（表１）。
| 広範囲な攻撃 | 標的型攻撃 | |
|---|---|---|
| 企業 | ・eKYC（顧客確認）の回避 | ・ビジネスメール詐欺（BEC） ・偽社員による雇用詐欺 |
| 個人 | ・偽広告・ロマンス詐欺 ・セクストーション ・児童ポルノ |
・バーチャル誘拐 ・海外で足止めされた旅行者を装う詐欺 |
表1：被害者のタイプと攻撃の広がりによるディープフェイク攻撃の分類
トレンドマイクロのリサーチでは、従来不正なディープフェイクツールに関するサービス提供（図１）やアンダーグラウンドフォーラムの投稿（図２）を複数確認していましたが、昨今サイバー犯罪者は正規のディープフェイクツールを悪用する傾向に変化していることがわかりました。表２は、AIによる正規の音声サービス、表３はAIによる正規の動画作成サービスの一例です。これらのツール自体は不正なものではありませんが、サイバー犯罪者が悪用することで、詐欺や認証突破に繋がるリスクがあります。
図１：画像生成サービスを提供すると主張する犯罪用LLM TorGPT（2024年半ば）
図２：DeepFake 3D Proのアンダーグラウンド広告（2024年半ば）
| サービス名 | 機能 | 主な特徴 | 価格 |
|---|---|---|---|
| Eleven Labs | 音声クローン、音声変換、テキスト読み上げ | 多言語対応、ワンショット生成、 スケーラブルなAPI統合 |
無料プランあり；有料プランは月額5ドル〜1,320ドル |
| FakeYou | 音声変換、テキスト読み上げ | ゼロショット音声クローン、ゼロショット音声変換、コミュニティ生成音声、キャラクター・ミーム特化 | 無料プランあり；有料プランは月額7ドル〜25ドル |
| Google Cloud Text-to-Speech | テキスト読み上げ | 高忠実度音声、50以上の言語・バリエーションに対応する多言語サポート | 無料枠で月4百万文字まで使用可能；有料プランは100万文字あたり4〜160ドル |
| IBM Watson Text-to-Speech | テキスト読み上げ | リアルタイム音声合成、発音カスタマイズ、感情表現制御、音声属性の細かい調整 | 無料枠で月1万文字まで使用可能；有料プランは10万文字あたり2ドル〜 |
| Lovo AI（Genny） | 音声クローン、テキスト読み上げ | プリセット音声、多言語対応、感情トーン制御、動画編集ツールとの統合 | 有料プランは月額24ドル〜149ドル |
| Murf.ai | 音声変換、音声クローン、音声吹き替え、テキスト読み上げ | 多言語対応、200以上のプリセット音声 | 無料トライアルあり；有料プランは月額19ドル〜199ドル |
| Play.ht | 音声変換、テキスト読み上げ | 多言語対応、SSMLによる発音・抑揚制御、モバイル対応 | 無料トライアルあり；有料プランは月額5ドル（ハッカープラン）〜999ドル（グロースプラン） |
Replica Studios |
音声変換、テキスト読み上げ | 多言語対応、豊富な音声ライブラリ、ピッチやトーンのカスタマイズ | 無料プランあり；有料プランは月額10ドル〜 |
| Resemble AI | 音声クローン、テキストプロンプトからの音声生成、テキスト読み上げ | 多言語対応、感情・トーン制御、リアルタイム出力、ニューラル・ウォーターマーキング、C2PA準拠 | 無料トライアルあり；有料プランは月額5ドル〜699ドル |
| Speechify | テキスト読み上げ＋音声生成、音声吹き替え、音声クローン | オーディオブック作成サービス、読書・リスニングに最適化、モバイル対応 | テキスト読み上げは月額11.58ドル；オーディオブックサービスは月額9.99ドル |
表２：AIによる正規の音声サービスの一例（機能や価格は調査時点の情報です）
| サービス名 | 機能 | 主な特徴 | 価格 |
|---|---|---|---|
| Argil AI | 短いサンプル動画を使ったテキストからの動画生成 | ボディランゲージやカメラアングルの完全な制御 | 無料プランあり；有料プランは月額39ドル〜 |
| Avatarify | ビデオ通話中のリアルタイム顔入れ替え | オープンソース、Zoomなどのビデオ会議アプリと連携 | 無料 |
| Deepfake_tf | 合成動画生成、動画内の顔入れ替え | オープンソース、TensorFlowベース、カスタマイズ可能な学習モデル | 無料 |
| DeepFaceLab | 合成動画生成、動画内の顔入れ替え | オープンソース、TensorFlowベース、GPUアクセラレーション対応 | 無料 |
| Deepfakes Web | 動画内の顔入れ替え | クラウドベース、デジタル透かし付き、「あえて不完全」ポリシーを採用 | 動画1本あたり10ドル |
| DeepSwap | 画像および動画内の顔入れ替え | 高品質な出力、複数人の顔の同時入れ替え、顔が遮られていても対応 | 有料プランは月額19.99ドル〜 |
| FaceMagic | 動画内の顔入れ替え | 使いやすいモバイルアプリ、クラウドベース、有料プランで透かし除去可能 | 無料プランあり；有料プランは月額9.99ドル〜 |
| HeyGen | AIアバター生成 | 台本なしの会話生成に特化 | 無料プランあり；有料プランは月額29ドル〜 |
| Reface | GIFや短い動画での顔入れ替え | 使いやすいモバイルアプリ、ソーシャルメディアとの連携 | アプリ内課金ありの無料プラン |
| Synthesia | AIアバター生成 | 多言語対応、ビデオ会議アプリでも使用可能 | 無料プランあり；有料プランは月額23ドル〜 |
表３：AIによる正規の動画作成サービスの一例（機能や価格は調査時点の情報です）
◆ディープポルノ（性的ディープフェイク）は喫緊の課題に
ディープポルノは喫緊の課題です。鳥取県では、生成AIにより児童ポルノが作成される被害が発生していることを鑑みて、2025年4月1日に鳥取県青少年健全育成条例を改正し、施行する旨を発表※1しています。
※1 「鳥取県青少年健全育成条例の改正について」
音声や動画を作成するサービスに加え、ディープポルノを作成するサービスが存在しています。上述の鳥取県では、行政罰を新たに盛り込む方針についても報道されています。AIの悪用やディープポルノの規制は引き続き検討していく必要がある状況です。
図３：Instagramから画像をインポートするオプションを提供するディープポルノ作成ツール
（画像を一部加工しています）
| サービス名 | 機能 | 主な特徴 | 価格 |
|---|---|---|---|
| ディープポルノツール：A | 写真のヌーディファイ加工（衣服の除去） | 直感的なインターフェース、ドラッグ＆ドロップでのアップロード | 無料 |
| ディープポルノツール：B | アダルトシーンにおける顔の合成 | 顔の合成用プリセット画像および動画 | 無料トライアルあり；有料プランは月額22ドル〜 |
| ディープポルノツール：C | テキストからの画像・動画生成、写真のヌーディファイ、NSFW画像・動画での顔合成 | 高品質な画像、プライベートストレージ対応 | 有料プランは月額2.99ドル〜14.99ドル |
| ディープポルノツール：D | 実在する写真からのNSFW画像生成 | NSFWモード用のプリセット | 無料プランあり；課金は19.99ドル〜／バンドル |
| ディープポルノツール：E | 写真のヌーディファイ加工 | Instagramからの写真インポート、年齢・人種のプリセット | 無料プランあり；有料プランは月額10.90ドル〜 |
NSFW=Not Safe For Work（職場や学校などで適さない画像）
表４：ディープポルノツールの一例（機能や価格は調査時点の情報です）
◆正規のディープフェイクツールの悪用を促すアンダーグラウンドフォーラム
従来、アンダーグラウンドフォーラムでは、犯罪用LLMサービスの提供を確認していましたが、昨今は正規のディープフェイクツールを悪用する傾向に変化しています。2024年半ばに確認していた不正なLLMは昨今では影を潜め、正規ツールの悪用についてのやり取りが頻繁に行われています。例えば、正規のディープフェイクツールを悪用し、犯罪を行う方法を他の犯罪者に教えるディープフェイク作成チュートリアルやプレイブックの存在です。
2024年11月にはアンダーグラウンドフォーラムでサイバー犯罪者が正規のディープフェイクツールであるDeep-Live-Camを悪用するためのプレイブックを公開したことを、2024年12月には、暗号通貨取引所、出会い系サイト、金融アプリケーション、オンラインカジノにおけるeKYC（オンライン本人確認、電子本人確認）の認証を突破するためのチュートリアルとプレイブックを公開していることを確認しています。
図４：アンダーグラウンドフォーラムにおけるディープフェイク作成の投稿
図５：eKYCにおける本人確認突破のプロセス
図６：なりすましサービスの販売投稿（上）とマニュアルの販売投稿（下）
トレンドマイクロでは、エンタープライズサイバーセキュリティプラットフォーム「Trend Vision One」や個人向け製品においてディープフェイクを検出する機能を提供しています。法人組織や個人ユーザにおいては、ディープフェイクを検出する機能の利用を検討するとともに、音声や動画の違和感（不自然な動きなど）、話している内容の信ぴょう性、情報元の確認などを行うことを推奨します。また、AIの悪用やディープポルノの規制は引き続き検討していく必要がある状況です。トレンドマイクロは、一般社団法人Generative AI JapanをはじめとしたAI関連団体に加入し、安心安全なAI利用を推進してまいります。
※2025年7月17日現在の情報をもとに作成したものです。今後、内容の全部もしくは一部に変更が生じる可能性があります。
※TREND MICROはトレンドマイクロ株式会社の登録商標です。各社の社名、製品名およびサービス名は、各社の商標または登録商標です。