Artificial Intelligence (AI)
詐欺オペレーションの再構築：AIが生み出す詐欺組立ラインの台頭
本稿では、AIを用いた詐欺組立ラインを再現し、詐欺行為の参入障壁が急速に取り払われている現状を示します。AIの導入により、詐欺は開始しやすく、見抜きにくく、規模拡大も容易になっています。
AI対応の組立ラインを再現する際に使用したブランド名、製品画像、その他それらに類する表現は、教育および説明の目的のみで用いています。特定のブランドや製品を損なう意図はなく、評価を下げたり誤解を与えたりする意図もありません。実在する製品やブランドとの類似は偶然のもので、意図したものではありません。記載されている商標や画像の権利は、すべて各権利者に帰属します。
はじめに
AI対応の組立ラインを再現する際に用いたブランド名や製品画像、またそれらに類する表現は、教育および説明の目的のみで使用しています。特定のブランドや製品を損なう意図はなく、評価を下げる意図もありません。実在の製品やブランドとの類似は偶然であり、意図したものではありません。言及されている商標や画像は、すべてそれぞれの権利者に帰属します。
生成AIには本来有益に活用されるべき幅広い能力がありますが、現実には犯罪者もそれを利用し、古い手口を以前より速く、巧妙で、信じやすい形へと変えています。過去の詐欺には、犯罪者が被害者をだますうえで障害となる要素が存在しました。文章には誤字が多く文法も不自然で、作られたサイトは稚拙で偽物であることが一目でわかり、電話でのやり取りもぎこちないものでした。生成AIは、このような弱点を数分で覆します。ブランド入り製品の写真、自然で滑らかな文章、現実味のある声、生きているような動画まで生成できるため、基本的なパソコン操作ができる程度の人物でも、大量の詐欺を展開できます。作成されるメッセージや画像、動画が十分に本物らしく見えてしまうため、慎重な利用者でさえ判断を迷う状況が生まれています。
こうした脅威は想像上のものではありません。トレンドマイクロの調査において継続的に脅威動向を観測する中で、サイバー犯罪者がAIを利用して詐欺の運営力を強化している様子が確認されています。詐欺は運営が容易になり、発見が難しくなっています。詐欺が増えるにつれてデジタル空間での信頼が揺らぎ、ブランドへの信頼にも影響が及ぶ可能性があります。正規ブランドを模した偽製品や虚偽のプロモーションが作り出されることで、ブランドの評判が損なわれる懸念もあります。
本稿では、犯罪者が生成AIを使って文章、画像、動画、音声を作り、それらを組み合わせることで、緻密に連携した自動化詐欺オペレーションをどのように構築しているかを、AI駆動型詐欺組立ラインの再現と調査を通じて明らかにします。続くセクションでは、AIが犯罪行為をどのように強化しているかの具体例を紹介します。
完璧に仕上げられるフィッシング詐欺：AIによる文章生成
フィッシング詐欺で詐欺者が最も苦戦する部分は偽サイトの作成ではなく、被害者をそのサイトに誘導する行為です。AIは、疑わしいリンクをクリックさせるための誘導文を作成する支援を行っています。現在のAIツールは、信頼できる送信元から届いたかのように読める文章を数秒で生成します。以下のようなことが可能です。
- 実在の企業の文体や語調に合わせた文章作成
- 誤字脱字や文法の不自然さを排除した表現
- どの言語にも自然な文章で翻訳
- 事前に収集した情報に基づき、特定の被害者に向けて内容を調整
リンクがクリックされると、被害者はAIで生成された偽サイトへ導かれます。ロゴやレイアウトが精巧に複製され、操作可能な要素まで用意され、本物と区別がつかないほどの質に仕上がっています。サイバー犯罪者がコード不要のサイト構築サービスを利用し、30秒ほどでログイン画面の複製を行い、それを正規のインフラに配置する動きも確認されています。数年前まで偽サイトを用いた詐欺を行うにはウェブデザインや開発の知識が必要でしたが、AIの利用により短時間で多数の巧妙な偽サイトを作成できるようになりました。
被害者にとっての結果は従来と同じで、個人情報が盗まれる事態には変わりがありません。ただ、AIによって文章やサイトの完成度が高まり、詐欺に気づきにくくなった点が大きな違いです。
存在しない顔と製品：AIによる画像生成
生成AIは、公式のブランド写真と見分けがつかないほど精巧な画像を作り出します。傷ひとつないパッケージ、本格的なライティング、計算された構図まで再現されます。この技術は正当な用途にも使えますが、犯罪者はその利点を利用する方法をすでに見つけています。実在しない製品や架空の人物を完全に本物のように見せかけ、複雑なオンライン詐欺の仕組みを作り上げる動きが確認されています。サイバー犯罪者には次のような行為がみられます。
- 偽造品を本物のように見せるため、完璧なパッケージや照明、盗用したブランド要素を用いて正規品のように提示する。
- オンライン恋愛詐欺で、実在しない恋人の顔を生成し、画像検索で実在人物にたどり着けない状況を作る。
詐欺者が偽の製品を生み出し、AIで書かれた偽レビューを添える例も確認されています。被害者が実在しない商品を購入してしまう要因になります。また、サイバー犯罪者が生成AIを使い、自然で感情に訴える会話を行う架空の恋愛相手を作り出しているという報告もあります。そのような相手は短期間で信頼を獲得しやすく、被害者の心に入り込みます。被害者が感情的に依存した段階で、詐欺者は突発的な渡航費や医療費などの緊急事態をでっち上げ、金銭的支援を求めてきます。AIが作り出した幻想が、最終的に現実の金銭被害につながる形です。
煙に巻くような手口：AIによる動画生成
静止画に疑念が残る状況でも、動画があれば相手を完全に信用させる可能性があります。AI生成技術は、インフルエンサーや販売担当者、さらには有名人のそっくりな人物が本物のように話しかけてくる動画を作り出します。まばたきや発話、しぐさが自然で、被害者にとって見覚えのある顔として表現されるため、広告として流れたり、個別メッセージに添付されたり、偽サイトや複製音声と組み合わせた大規模な詐欺キャンペーンに組み込まれることがあります。詐欺者はAI生成動画を次のような形で利用します。
- 製品の宣伝を行う偽のSNS推奨動画を作る。
- 著名人になりすまし、暗号資産関連の投資詐欺に誘導する。
- 家族や知人が拘束されているように見せかける「バーチャル誘拐」の状況を作る。
報道では、詐欺者がAI生成のインフルエンサー動画を使い、偽のキャンペーンや製品を宣伝した事例が紹介されています。リサーチャーによる調査でも、TikTok上にAI生成インフルエンサーの集団が見つかり、多数の視聴者を欺きながら、健康関連の誤情報を含む製品を売り込んでいたケースが確認されています。トレンドマイクロが2024年に発表した新たなAI犯罪ツールセットに関する報告では、AI生成動画やディープフェイクの進歩により、これまで以上に安価で迅速なソーシャルエンジニアリング詐欺が可能になっているとされています。これらの技術は急速に高度化しており、個人や組織を欺き、金銭的被害に導く形で悪用される恐れがあります。
無視できないなりすまし：AIによる音声クローン
音声クローン技術は急速に進化し、数秒の音声から声の複製が可能になっています。参照音声はポッドキャストの一部、SNSの短い動画、留守番電話の音声などで十分で、高度なツールは声の調子やアクセント、話し方をほぼ完全に再現します。この技術は娯楽やアクセシビリティの用途にも使えますが、詐欺者にとっては新たな武器にもなっています。音声クローンは次のような形で悪用されます。
- 被害者になじみのある声を模倣し、上司になりすまして機密情報を渡すよう誘導するなど、行動を促す。
- 模倣した声にAI生成の顔や盗んだ個人情報を組み合わせ、より巧妙な詐欺のために自然なビデオ通話や動画メッセージを作る。
- AI生成のディープフェイク音声と大規模言語モデルを組み合わせ、家族の恐怖に満ちた声を完璧に再現する「バーチャル誘拐」詐欺を行い、身代金を要求して被害者の不安心理につけ込む。
すでに実例も報告されています。ある詐欺では、公開されていた写真とAIで複製した声を用い、CEOになりすまして従業員に緊急の極秘送金を指示した事案がありました。AIによる音声クローンは単なるデータプライバシーの問題にとどまりません。人間の本能に直接働きかけるからです。聞き覚えのある声は強い感情反応を引き起こし、それこそがこの手口を信じやすくする理由です。音声クローンがさらに高速化し、安価になり、現実味を増す中、危険性を無視することは難しくなっています。この脅威に立ち向かうには、社会全体の認識向上、信頼できる確認手段の確保、そして個人や組織が怠ることのできないデジタルセキュリティ策の強化が求められます。
AI詐欺工場の仕組み
詐欺は古くから存在しますが、近年まで大規模で説得力のある手口を成立させるには、相応の技能を持つ人員が必要でした。ウェブデザイン、文章作成、画像制作、音声や動画編集など、多様な専門知識を持つ複数の協力者を確保し、段階ごとの作業を連携させなければ信じられる仕組みを作ることは難しい状況でした。
今日、AIと自動化の登場により状況が大きく変わりました。一般利用者でも使えるAIツールと手軽な自動化プラットフォームを利用するだけで、一人の詐欺者が短時間で完成度の高い詐欺を構築できるようになっています。費用もほとんどかからない場合があります。
わずかなプロンプトだけで、詐欺者は次のようなことを実現できます。
- プロが撮影したように見える精巧な製品写真の生成
- 声の複製や、本物のように感じられる動画の作成
- 数分で完了する本物そっくりの偽サイト構築
- あらゆる対象に合わせた高精度なメッセージの生成
- 身分証や認証書類のような偽書類の作成
これらの要素は滑らかに組み合わせることができます。画像を動画に組み込み、複製した音声を重ね、SNSやウェブサイトに同時展開することも可能です。自動化が工程をつなぐため、全体の流れがほぼ自律的に動作します。
脅威となるのは技術そのものではなく、技術が生み出す速度と完成度です。AIが作業の負担を下げたことで、企業も個人もフィッシングメールのような古典的な詐欺から、なりすましを伴う恋愛詐欺や商品詐欺のような高度な詐欺に至るまで、あらゆる形態に対して警戒を強める必要があります。Trend Microのテレメトリによると、2025年6月から9月の期間で最も多く検出されたのは恋愛なりすまし詐欺で、全体の四分の三以上を占めています。次に多いのは商品詐欺でした。
これを実際に確認するため、トレンドマイクロの調査では、さまざまなアプリやサービスをつなげ、専門的なコーディングスキルがなくても既成のブロックを組み合わせて独自の小さなソフトウェア環境を構築できるオープンソースの自動化プラットフォームであるn8nを試験しました。このプラットフォームは特定のイベントを監視し、データを処理し、自動的にアクションを実行します。Trend Researchが作成したシミュレーションは、現実の攻撃者が利用しそうな構成を再現することを目的としましたが、研究目的に限って設計され、不正または有害な内容は一切使用していません。
テストでは、エージェントチェーン型のワークフローを構築しました。これはAIエージェントを連結した仕組みで、各ツールが一つの作業を担当し、結果を次のツールに渡していく方式で、組立ラインの工程のように機能します。このプロセスには、画像生成や編集、テキスト読み上げ、アバターや動画を提供するAIサービスなど、複数の商用サービスが組み合わされました。わずかな人間の操作で全工程が一貫して進み、現実味のある即利用可能なコンテンツが自動的に生成されました。
ステージ1: 初期トリガー
プロセスは、専用フォルダを監視するよう設定された「ローカルファイルトリガー」ノードから始まります。新しい画像が追加されるたびに作動します。テスト環境では、本物の製品画像が用いられましたが、ここでは高額な「限定版」偽製品のビジュアルを作成するための素材として利用されています。
トリガーが新しいファイルを検知すると、画像は「読み込み・書き込みファイル」ノードに送られ、次の編集工程のためにバイナリ形式へ変換されます。このバイナリデータは Microsoft Azure の画像編集モデルによって処理されます。
モデルへのリクエストには、注意深く作成されたプロンプトが含まれています。元画像を再現しつつ、デザインを変更して、20歳から45歳を対象とした価格帯300から2,000米ドルの「限定版」高級アイテムのように見せる指示が与えられています。結果が不自然にならないよう、「限定版」という表現そのものは避ける工夫がされています。
ステージ2: 要件準備
第二段階では、偽画像の生成と処理に必要な準備を行います。ワークフローは、認証済みのHTTP呼び出しを通じて一時的なアップロード用資格情報を取得します。
画像が base64 文字列からファイルに変換された後、別の言語モデルがこれを基にマーケティング用スクリプトを生成します。このスクリプトは、最終段階でプロモーション動画を制作する際に使用されます。準備されたすべての素材は Merge ノードでまとめられます。
ステージ3: 生成した画像アセットのアップロード
アップロード資格情報を返すノードは、ファイルを送信できる一時的な保存場所を示すメタデータを提供します。base64 文字列をバイナリ形式へ変換した後、この一時的な保存先にアップロードします。続いて検証工程でアップロード状況を確認し、ファイルが正常に受信されたかどうかを判断します。失敗と判定された場合、ワークフローはその場で終了します。この簡単な安全策により、正しくアップロードされなかった素材に不要な処理を施す事態を防ぎます。
ステージ4: 製品画像の背景除去
アップロードされたファイルが検証されると、自動処理によって画像の背景が取り除かれます。この工程は、後のステージでアバターと合成して偽の宣伝用画像や動画を作成するための準備として重要です。
ワークフローは、If ノードと Wait ノードを組み合わせたポーリングループを使い、処理状況が「success」になるまで継続的に確認します。この方式は、後続の複数のタスクでも同じように利用されており、クラウド上で非同期に行われるレンダリング処理を安定して扱う設計になっています。
ステージ5: アバター画像への合成
背景が除去された後、クリーンな製品画像はストックのアバター写真に配置されます。指示では、人物の構図や姿勢、動作は元画像のまま維持し、人物が手にしている物だけを先ほど生成した偽製品に置き換えるよう指定されています。細かな視覚要素を保ち、不自然な編集痕が残らないよう、細部まで配慮されたガイダンスが与えられています。
前の工程と同様に、ワークフローは成功の可否を判定するポーリングを行い、アバターへの置き換え処理が完全に終了するまで進行状況を監視します。
ステージ6: AI生成音声と同期した動画の制作
アバターとの合成が完了すると、ワークフローは完全にアニメーション化されたプロモーション動画の制作工程へ進みます。この段階の主な入力は、合成済みアバター画像のIDと、潜在的な購入者に訴求するために用意された音声スクリプトです。
音声スクリプトはワークフロー第二段階で生成されたもので、OpenAI GPT-5-chatノードによって、明確なガイドラインに沿って作成されています。内容を魅力的にすること、対象年齢を四十歳以下とすること、五百文字以内に収めること、音声用テキストのみを出力し余計な情報は含めないことが定められています。
このスクリプトに指定された音声プロファイルを組み合わせ、アバター映像と同期したAI生成音声を作り出します。動画生成タスクは成功判定のポーリングによって監視され、完全に完了するまで進行状況が確認されます。
図4. AIが生成した偽製品、AIサービスプラットフォームで提供されるモデルやインフルエンサーのアバター、そしてデジタル生成された音声によって構成された、完全AI生成の動画。選択すると再生できます。
生成された素材はいくつもの悪用方法があります。偽の広告としてSNSに投稿される可能性があり、欺く目的のオンラインストアで利用される場合もあります。大規模な詐欺メールキャンペーンに組み込まれることもあります。どの経路でも偽コンテンツが本物のように見え、被害者に届く速度が加速します。
脅威がもたらす影響
このワークフローは、犯罪者が生成AIとローコード自動化を利用し、非常に精巧な偽製品を短時間で作り出せる状況を示しています。システムがモジュール化されているため、プロンプト、画像、アバターテンプレートを入れ替えるだけで、数時間以内に数百種類の製品バリエーションを容易に作成できます。さらに、商用クラウドサービスでレンダリングすることで、痕跡を残さずにプロ品質の結果を得ることができます。
この状況は、無料または低コストのツールを持つ一人の人物でも、かつては専門家チームが数か月をかけて行っていたような、説得力の高い大規模詐欺キャンペーンを実行できることを意味します。
AIによる詐欺組立ラインが実社会に影響を及ぼし始めているという報告もあります。最近の報告では、偽造品の流通が自動化とAIによって支えられるケースが増えていることが指摘されています。詐欺ネットワークは、複数のオンラインマーケットやSNSプラットフォームで、偽造品の出品管理、顧客対応、自動化された販売者の振る舞いの模倣まで、AI駆動のボットを利用して行っています。また、自動化ツールによって、偽造業者が数百件の偽出品を同時に投稿したり、正規販売者の価格を追跡したり、競争力を維持するためにリアルタイムで価格調整を行ったりする状況も報告されています。今日の偽造ネットワークは、先進的なデジタルツール、自動化、大規模生産能力によって、これまでにない高度な水準に達しています。
トレンドマイクロの調査では例として、図5の左側にあるスニーカーを再現しました。これは一般的なオンラインショッピングサイトで販売されている正規製品です。右側の画像はAIで再現された偽物です。法執行機関は、このようなAI製偽造品が「信じられないほどお得」などと銘打ち、最大70パーセント引きで販売され、被害者を誘い込む事例を確認しています。
こうしたデジタル詐術は画像だけにとどまりません。AIを利用した文章生成ツールは、地域のスラングや自然な言い回しを含む、信頼性の高い五つ星レビューまで作り出します。実際の利用者レビューと見分けることが困難なレベルです。これらの巧みに書かれたレビューは、偽造品販売者が短期間で信頼を獲得し、購入者を衝動的な購入へと誘導する材料になります。
これらの技術が組み合わさることで、常時稼働する自動化された詐欺エコシステムが成立します。投稿の予約や、買い物が集中する時間帯に合わせた宣伝、購入者への即時応答まで、人間の監視がなくても動き続ける仕組みが整います。
サイバー犯罪者がより説得力のある詐欺手口を追求する一方で、最終的には人間のミスに依存して被害者をだまそうとします。2023年のある報告では、年末商戦期にAIを悪用した詐欺への懸念を示した消費者が84パーセントに上った一方、67パーセントが「魅力的すぎる」条件を掲げる見知らぬサイトから購入する可能性があると答えたことが示されています。消費者の意識と行動の間にあるこの乖離こそ、犯罪者が人間の信頼を利用し、AIによってさらに効率的かつ巧妙に操作できる状況を象徴しています。
偽製品の精巧な画像やAI生成による偽レビューに加え、攻撃者はAI生成アバターを使い、偽インフルエンサーが偽製品を宣伝するAI動画まで作り出し、社会的操作をさらに高度な段階へ進めています。
図7. AI生成の偽製品、AIサービスプラットフォームで利用可能なモデルまたはインフルエンサーのアバター、そしてデジタル生成された音声によって構成された完全AI生成動画。選択すると再生可能。
2024年のトレンドマイクロの報告では、ディープフェイクを含むAIツールがいかに犯罪に転用されているかが詳しく分析されています。サイバー犯罪者はAI生成のマーケティングアバターを利用し、完全に架空のオンラインショップや宣伝キャンペーンを作り上げることができます。偽オンラインショップは、架空の人物が製品を宣伝し、コメントに反応し、フォロワーと交流する動画を次々と生成しますが、その背後には一人の人間も存在しません。
トレンドマイクロの調査では、この手法が正規の広告と自動化された詐欺行為の境界を曖昧にし、犯罪者が複数のプラットフォームに同時展開できる説得力のある偽商品プロモーションを急速に広めてしまう危険性を警告しています。
AI時代の詐欺から身を守るために
生成AIの登場により、詐欺者は強力な新しい道具を手にしました。詐欺の速度は上がり、手口は巧妙になり、見抜くことが難しくなっています。わずかな時間で、もっともらしい画像や生きた声、複雑な偽出品まで作り出すことができるため、詐欺は本物と変わらない外見を持つようになりました。安全を守るためには、単なる注意喚起を超え、進化する脅威に対応できる賢い習慣が必要になります。
一部のブランドは、メディアに不可視の透かしや暗号署名を埋め込み、真正性を証明しやすくする取り組みを進めています。とはいえ、最も効果的な防御策の一つは、人々を教育することです。詐欺に気づくのが早いほど、被害を抑えることができます。
セキュリティチームには、深層偽造や合成動画、オンライン上の不審なパターンを検出するため、市場にあるツールを最大限活用し、同じツールを従業員や利用者にも提供して、人為的ミスから生じるリスクを減らすことが求められます。
トレンドマイクロのディープフェイクスキャンは、AIによる顔のすり替え詐欺を検知できる無料ツールで、なりすましの可能性をリアルタイムでユーザに知らせます。ライブ動画で相手がディープフェイクを使っている可能性がある場面でも確認を支援し、画面に映る人物が見た目どおりの相手ではない可能性を警告します。
トレンドマイクロの詐欺バスターは、AIで強化される脅威に対抗するAI駆動の防御ツールです。一般的な詐欺の兆候を見抜くだけでなく、オンライン詐欺を示す微妙なサインも分析します。迷惑メッセージや詐欺メッセージ、詐欺電話をブロックし、リスクを下げます。また、潜在的な詐欺を予測する機能で、サイバー犯罪者より一歩先を行く支援をします。安全でないウェブサイトを遮断し、詐欺の可能性がある広告を除外します。疑わしい広告やウェブサイト、メッセージのスクリーンショットを撮るだけで、それが詐欺かどうかを判断する機能もあり、利用者の負担を大きく減らします。
AI生成詐欺への対策ツールが進化する中で、個々の意識を高め、常に注意を払う姿勢を持つことも同じくらい重要になります。どれほど高度なツールであっても、使う側の習慣と判断力が伴わなければ効果は発揮されません。現代の詐欺の進化に合わせた実践的な習慣を身につけることが、安全を守るための力になります。以下、安全のために推奨される実践方法と賢い習慣を挙げます。
- 信頼する前に確認する。 行動する前に、URL、メールアドレス、発信者情報、製品の詳細を必ず確認してください。完璧に見える内容や「好条件すぎる」と感じる内容がある場合は、一度立ち止まり、調べる時間を取ってください。
- レビューや商品情報を丁寧に見る。 偽レビューは洗練されている一方で、個別性に欠けることがあります。AI生成の文章を検知するツールを活用し、実在の購入者によるフィードバックや具体的な内容に目を向けてください。
- 繁忙期は特に警戒する。 詐欺者は、消費者が最も買い物をする時期を把握しています。年末年始、セール時期、寄付キャンペーン期間は詐欺が増加しやすいため、極端な値引きや不自然に肯定的なレビューが急増していないか注意してください。
- 共有する情報を管理する。 知らないサイトで個人情報を入力しないこと、SNSでの過度な情報共有を避けることが大切です。勤務先や旅行の予定など、小さな情報の積み重ねが、標的型詐欺につながることがあります。
- 異常を見つけたら知らせる。 不審なサイトや製品、巧妙な詐欺の兆候を見かけた場合は、早めに報告してください。初期段階で対処されることで、さらなる被害拡大を防ぐことができます。
AIは詐欺をより巧妙にする一方、兆候を知っている人にとっては、一定のパターンが見えるようになります。オンライン上で何かを信じる前に一瞬立ち止まり、個人情報を守り、小さな違和感に目を配ることで、AIを利用した脅威を実害に至る前に遮断することが可能になります。
参考記事：
Reimagining Fraud Operations: The Rise of AI-Powered Scam Assembly Lines
By Roel Reyes, Numaan Huq, and Salvatore Gariuolo
By: Trend Micro Research
翻訳：与那城 務（Platform Marketing, Trend Micro™ Research）