トレンドマイクロ、サイバー攻撃用AIエージェントの調査を実施

◆サイバー攻撃用AIエージェントのアーキテクチャー

本レポートにおけるAIエージェントは「与えられた目標を達成するために、自律的に計画・実行・判断・学習できるAIシステム」とします。サイバー攻撃用AIエージェントのアーキテクチャーは、一般的なAIエージェントと同じように、エージェント層、オーケストレーション層、データ層、システム層、外部環境などで構成されます。但し、構成される要素が「サイバー攻撃」に特化しています。

それぞれのコンポーネントは以下の役割を担います。

＜エージェント層＞
攻撃対象のシステムに存在する脆弱性や侵入可能な経路を「偵察」するエージェントや、不正/正規のツール、ダークウェブ上のリソースと連携し攻撃を行う「ペイロード展開」エージェントなどが存在します。また、対象の標的に対してメール、ショートメッセージ、SNSなど様々な手法を用いて「詐欺」や「フィッシング」などを行うエージェントも含みます。

＜オーケストレーション層＞
攻撃プランナーや戦術・回避エンジンといった構成要素を用いてエージェントを指揮し、戦略を適応させ、違法な目的を達成するために一連の操作を順序立てて実行します。このオーケストレーション層はデータ層によって支えられており、盗まれたデータ、被害者プロファイリング情報、過去の成功事例の履歴などが上位層（エージェント層）から利用可能な形で蓄積されています。

＜データ層＞
オーケストレーション層による思考やエージェント層による実行を支援するためのデータ層です。過去に標的から窃取した情報やダークウェブ上の「盗難データ保管庫」、標的対象の氏名、メールアドレス、住所だけではなく、現実、インターネット双方の行動履歴などをもとにした「被害者プロファイリングデータベース」、法人組織の監視やセキュリティソフトを突破するための「戦術・回避エンジン」などが存在します。

＜システム層＞
犯罪グループが自ら構築、運用したインフラストラクチャに加えて、他のサイバー攻撃者から購入した「犯罪用ホスティング環境」、法人組織が用いる正規のクラウド環境などの脆弱性や設定不備などを悪用し、侵害したインフラストラクチャを利用しています。

◆「既存の犯罪ビジネスモデルのスケール拡大」と「低収益な攻撃の収益化」

サイバー攻撃用AIエージェントを用いることで、サイバー攻撃者は様々なメリットを得ることができてしまいます。例えば、既存の犯罪ビジネスのスピードや効率を向上することでスケールを拡大できます。具体的には、AIエージェントが、被害者の組織、所在地、ネットワーク環境、感染経路といった情報を特定、相関分析し、被害者を複数のカテゴリに分類します。各カテゴリに応じて、大規模な法人組織にはランサムウェア、一般消費者には情報窃取や詐欺、新興国にはデバイスのレジデンシャルプロキシ化、国家が関心を持つ標的に対してはAPTグループへの情報売買など、標的に最適化されたサイバー攻撃を行うことが想定されます。

また、従来はサイバー攻撃者にとって実入りが少ない（工数が掛かる割に収益性は低い）サイバー攻撃が、AIエージェントによる自動化、効率化などによって、高収益化することで、今まで行われていなかったサイバー攻撃が表面化する懸念があります。現在は法人組織に対するランサムウェアやビジネスメール詐欺（BEC）、一般消費者に対する詐欺（投資詐欺、フィッシング詐欺など）は、一度の成功で多額の金銭をサイバー攻撃者が得られる構造になっています。一方で、孫を騙り祖父母にお小遣いを要求するような少額の詐欺は、サイバー攻撃者にとって工数が掛かる割に収益性が低い犯罪ビジネスと言えます。サイバー攻撃用AIエージェントによって、これらの犯罪ビジネスが活発化する懸念があります。

◆自動車のナンバープレート読み取りを起点にした、標的型のフィッシングを実証

サイバー攻撃用AIエージェントの登場によって、従来では現実的ではない手法で標的にカスタマイズしたサイバー攻撃を可能にしてしまう恐れがあります。トレンドマイクロでは、自動車のナンバープレート読み取りを起点にした、標的型のフィッシングを実証しました。攻撃の手順は以下の通りです。

１．インターネットに接続されたデバイスを検索できるツールを用いて、インターネット上に公開されているカメラを特定
２．情報収集エージェントがナンバープレートの画像を取得
３．画像識別エージェントがプレート番号を抽出し、車両のメーカーや車種を特定
４．過去に実際に発生したデータ侵害のデータベース
（数百万件の車両および所有者情報とナンバープレートの情報）と照合
５．分析エージェントが、最近の違反者や価値の高い住所に紐づく車両など、サイバー攻撃者にとって魅力的なフィッシングの標的となる所有者を優先順位付け
６．コミュニケーションエージェントが、車両に関連付けた緊急性の高い表現を用いて、個別に最適化されたフィッシングメッセージを生成
（罰金、レッカー移動の警告、アカウント停止といった内容に言及）
７．オーケストレーターが、作成された誘導メッセージをSMSやメールにより配信

従来、手作業による負荷やデータ突合の難しさから、犯罪者はこのような攻撃を試みていませんでした。サイバー攻撃用AIエージェントは、パイプライン全体を自動化することでその前提を覆し、これまで存在しなかったサイバー犯罪の新たなビジネスモデルを生み出します。サイバー攻撃の対策側にとっては、サイバー攻撃用AIエージェントによって表面化、現実化するサイバー攻撃が何かを知ることや、サイバー攻撃の対策側もAIエージェントを駆使していくことが求められます。