AIエージェント時代の実践的サイバーリスクコントロールとは?~第16回サイバーセキュリティ国際シンポジウム登壇レポート
AIエージェントのリスクをどう統制するか。慶應義塾大学で開催された第16回サイバーセキュリティ国際シンポジウムでの当社講演から、AIと経済安全保障の関係や、リスク対応策の実装例を紹介します。
サイバーセキュリティ国際シンポジウムとは?
サイバーセキュリティ国際シンポジウムは、慶應義塾大学グローバルリサーチインスティテュート(KGRI)内のプロジェクトであるサイバー文明研究センター(CCRC)およびサイバーセキュリティ研究センター(CSRC)が主催する、年1回の産官学のサイバーセキュリティ研究の情報共有や提言の場です。共催者として、INCS-CoE、MITRE Corporation、笹川平和財団といった著名な組織が名を連ねています。
2026年10月27~30日の4日間、慶應義塾大学三田キャンパス内で行われた第16回のテーマは、「デジタル社会における国家安全保障、経済安全保障、社会保障を支えるサイバーセキュリティ ~AI、PQC等の先端技術を踏まえたグローバルな多国間官民連携アクション~」。
各日程、以下のような内容で講演が行われました。各日程、メイン会場で行われる「メインセッション」と個別のテーマを扱う「パラレルセッション」に分かれて講演が行われました。
| 日程 | テーマ | 主なアジェンダ |
| Day1(10月27日) | オープニング | ・日本政府からの閣僚級の講演 ・世界各国・地域からの講演 ・大使館からの講演 ・日本の各省庁からの講演 |
| Day2(10月28日) | 国家安全保障 | ・PQC、国際間における先端技術 ・インテリジェンス、国家情報局 ・国家安全保障(笹川平和財団 提供セッション) ・能動的サイバー防御 ・ソブリンクラウド |
| Day3(10月29日) | 経済安全保障 | ・Enhancing Technology, PETs ・AI ・経済安全保障(笹川平和財団 提供セッション) ・重要インフラ・電力 ・重要インフラ・半導体 |
| Day4(10月30日) | 社会保障 | ・データ利活用法と個人情報保護改正法 ・デジタルニッポン、デジタル社会の実現に向けた重点計画 ・デジタルトラスト基盤 ・パブリックトラスト、ISO標準 (Trusted List) ・デジタル・アイデンティティ・ワレット、電子属性証明書 |
表:第16回サイバーセキュリティ国際シンポジウム主なアジェンダ
AIは経済安全保障上のクリティカルインフラ
福田は講演全体を通して、AIが現代の「経済安全保障における『クリティカルインフラ』」であると力説しました。
AIの進化はサイバー攻撃の速度と規模を劇的に変化させ、エクスプロイト開発は約90倍高速化したとされます。AI環境の誤設定も新たな攻撃対象となっており、「AIがサイバー攻撃に悪用される、さらに組織が持っているAIシステムがターゲットになる」と福田は訴えました。講演では、各国政府がAIの計算基盤やデータを重要インフラと認識、特に日本政府は経済安全保障推進法でクラウドプログラムを特定重要物資に指定している点などが紹介されました。特に、AIツールへの機密データ入力増加や電力需要急増から、AI環境の侵害は国家のデータと計算資源を危険に晒すため、AIシステムの保護が経済安全保障の一部となっている点が強調されました。
福田は、クリティカルインフラとしてのAIには、「AIの能力の活用」と「AI主権の保持」の両立が必要と訴え、「AIを誰が管理するのか、というところこそ経済安全保障上非常に重要な発想」である点を強調しました。これはAIの利活用と、データ・モデル・運用の管理による主権確保のバランスを意味します。
AIセキュリティの3つの柱
福田は、AIセキュリティの3つの柱として、「生成AIを悪用した攻撃への対策」、「生成AIを対象とする攻撃への対策」、「利用・運用に伴うリスクへの対策」を提示しました。「AI時代にAIを使わないという発想はありえないため、AIの主権とのバランスをどう取っていくのかという点が重要」と言葉を継ぎ、信頼性があり、かつ管理可能なAIがAI時代の経済安全保障の出発点であると結論付けました。
そのためのヒントとして、福田はトレンドマイクロが提唱するAIセキュリティ成熟度モデルを例として挙げました。このモデルでは、組織におけるAIセキュリティの状況は4つの観点で見ていく必要があるとしています。
・VISIBILITY(可視化): AIフットプリントと機密データをマッピング
・OBSERVABILITY(可観測性): 継続的な監視、露出への対処、AI攻撃の検知
・OWNERSHIP(所有権): IDの確保、所有権の確立、AIへのアクセス管理
・GOVERNANCE(ガバナンス): 可視化、可観測性、所有権を通じて達成され、AIが制御下にあることの証明
TrendAIの優位性
福田は、TrendAIが脆弱性報告数で世界No.1の実績を持ち、Anthropic、OpenAI、NVIDIAといった主要AIパートナーと連携している点を強調しました。さらに「AI環境の安全性確立のためには、中身が検証できるAIである必要がある」と訴え、オープンウェイトAIモデルの推進を通じて、信頼できるAIの利用を経済安全保障の観点から強く推進していると述べました。
Day4パラレルセッション:AIエージェントのサイバーリスクと実践的ガバナンスの在り方について
Day4のパラレルセッションでは、当社 ソリューションエンジニアリング部プライベートセクターSEグループの谷本 直柔(たにもと・なおなり)が「AIエージェントのサイバーリスクと実践的ガバナンスの在り方について」と題して登壇しました。谷本は、AIエージェントの多層防御の必要性だけでなく、「実際どう具体的に実装していくのか」という具体的な実装方法を、デモンストレーションを交えて説明しました。谷本の講演資料は、以下のリンクからダウンロードできます。
AIエージェントの爆発的な普及
谷本はまず、AIエージェントの現在地として、その普及が急速に加速しており、71%の日本企業がAIエージェントを導入または導入を検討しているというPwCの調査結果を引用しました。従来のチャットボットが「メールの例文作成」に留まっていたのに対し、AIエージェントは「会議依頼の設定」や「メール・タスク管理」など、ユーザの代わりにアクションを自律的に実行し、業務の効率化や価値創出を実現する点で根本的に異なると説明しました。
TrendAIでも、AIエージェント型脆弱性発見システム「AESIR」をビジネスの中核で活用している事例が紹介されました。
しかし、このような普及の裏側で、Gartnerの予測として、40%のAIエージェントプロジェクトが2027年までに、コスト増加や不十分なリスクコントロールによって中止されると指摘されています。谷本は「数百のAIエージェントを企業内でどう安全かつ経済的に運用するか」が喫緊の課題であると指摘しました。
AIエージェントが生み出す新たなリスク
谷本の講演では、AIエージェントの自律性が新たなリスクを生み出すことを説明し、AIエージェントは人間からの細かい指示なしにタスクを柔軟に実行し、ツール、API、データベース、外部エージェントと連携するため、以下のようなリスクが存在すると説明されました。
・自然言語でAIエージェントを操れることによるリスク(プロンプトインジェクション)
・AIエージェントの記憶能力に起因するリスク
・AIエージェントの自律性・永続性・適応性に起因するリスク
・AIエージェント間の連携・動作に起因するリスク
・AIエージェントがツールを使えること(ツールコール)に起因するリスク
特に重要な点として、谷本は「AIエージェントのリスクの性質は、そのAIエージェントの自律レベルによって異なってくる」と指摘。自律レベルが低い場合は、回答の正確性やデータセキュリティが主なリスクであるのに対し、自律レベルが高まるにつれて意図しない行動、制御不能、システムの乗っ取りといった、より深刻なリスクにつながると警告しました。
AIエージェントを用いた2つの脅威事例
谷本の講演では、具体的な脅威事例として、実証実験の結果と実際の脅威事例が紹介されました。
| 実証実験 | パスポート処理システムにおける実証実験(プロンプトインジェクション) |
| シナリオ | OCRでテキスト化されたパスポート画像に不正な指示文(プロンプトインジェクション)を埋め込み、AIエージェントに不正なツール実行(他顧客の個人情報流出)を引き起こさせる。 |
| セキュリティ上の 問題点 |
自然言語の埋め込みによる攻撃、ユーザとAIエージェントの持つ権限の非対称性(ユーザはアップロードのみ、AIエージェントはDB操作可能)の悪用、AIエージェントの目的逸脱、そしてツール利用特性の悪用が挙げられた。実証実験の研究チームは200種類のプロンプトを自動生成し、複数のモデルで攻撃が成功したことを示した。 |
続いて、実際に確認された脅威事例についても紹介されました。
| 脅威事例 | 不正なスキルを通じた認証情報の窃取 |
| シナリオ | AIエージェント「OpenClaw」に不正なスキルを実行させることで、macOS向けの情報窃取ツール「Atomic macOS Stealer」を動作させ、認証情報をC&Cサーバへ流出させようとした事例。 |
| セキュリティ上の 問題点 |
AIエージェントは正規のタスク(例: ポリマーケットのトレンド分析)を返しているため、「ユーザからはその挙動に気づきにくい」という、AIエージェント特有の課題があることを指摘。 |
(関連記事)
OpenClawの不正なスキルを通してmacOS型情報窃取ツール「AMOS」が拡散
AIエージェントのリスクに対する統制要件の考え方
では組織のAIセキュリティにおいて、AIエージェントのリスクにどう対応すればよいのでしょうか?
谷本は、AIセキュリティには、経営的な「何を管理すべきか(ガバナンス)」という視点と、エンジニア的な「どう実装するか(技術的実装)」という視点をつなげることが重要である、と述べました。
TrendAIは、PwCコンサルティングと共同で、AIエージェント特有のリスクとその対策の考え方を体系的に整理したレポート「自律するAIの時代:AIエージェントのサイバーリスクと実践的ガバナンス」を発表しました。谷本は、その中で「AI-CAL(AI統制保証水準)」という概念を提唱していることを紹介しました。
(関連情報)
TrendAI™、AIエージェントの構造的なサイバーリスクを実証
AI-CALは、「特定の自律レベル(L1~L5)のAIエージェントを本番環境に導入する際に、最低限何を確認・整備し終えているべきか」を定義したものです。AIエージェントの自律性に応じたAI-CALを満たすことで、そのリスクを組織のコントロール下に置くのが目的です。
AI-CALは、投資計画の説明やリスクの説明など、経営層との会話やエンジニアのアーキテクチャ設計に活用できます。講演では、AIエージェントのリスクを低減するためには、予防的統制、検知的統制、対応的統制の3つを網羅的に考慮し、AIエージェントフレームワークやサードパーティのセキュリティソリューションで担保することが必要であると強調されました。3つの統制を簡単に紹介すると以下のものです。
予防的統制:
AIエージェント導入前からリスクを低減する対策(例:AIエージェントがアクセス可能なMCPサーバの制限、プロンプトインジェクション攻撃をブロックする機能の事前導入)
検知的統制:
AIエージェントの挙動を観測し、リスクのある行動を検知する能力(例:ツール呼び出し、サイトアクセス履歴の観測)
対応的統制:
リスクのある行動が検知された際に、その実行を停止したり、AIエージェント自体を隔離したりする能力
AIエージェントにおける統制要件の具体的実装(デモンストレーション)
谷本は、これらの統制を具体的なAIエージェントのアーキテクチャにどのように実装するかを、検証環境を用いてデモンストレーションしました。検証環境は、Kubernetes (AWS EKS) 上にAIエージェント実行環境を構築し、予防・検知・対応の統制を適用したものです。
編集部注:なお、この検証の詳細は、以下の記事で詳しく紹介しています。
(関連記事)
AIエージェントのリスクをどう統制するか NVIDIA OpenShellとTrendAI Vision One™による実践的対策
今回の検証環境は下図の通りです。
AIエージェントフレームワーク: OpenClaw
モデル: GPT-OSS-20b※
※GPT-OSS-20b:OpenAIがリリースしたオープンウェイトLLMの1つ。
本検証では、AWS EKSに加えて、以下の環境を用意しました。
検証で使用したセキュリティ技術
NVIDIA OpenShell※:
NVIDIA OpenShell(以下OpenShell)とは、AIエージェントを隔離実行するためのサンドボックス型ランタイムです。サンドボックスとは、外部への影響を絞り込んだ隔離された実行環境を指します。特徴は、宣言的なポリシー(YAML形式の設定ファイル)によって、サンドボックスごとにアクセスできるネットワーク上の宛先や実行できるツールをホワイトリスト形式で制御できることです。本検証ではこのOpenShellをAIエージェントに対する予防的対策として活用しました。
NVIDIA NeMo Guardrails:
NVIDIA NeMo Guardrails(以下NeMo Guardrails)は、生成AIやAIエージェントに対してガードレールを実装するためのオープンソースフレームワークです。AIエージェントへの入力や出力、ツール実行前後の処理を定義し、安全性やコンプライアンス要件に沿った制御を実装できます。本検証ではNeMo Guardrailsを利用してAIエージェントへの入出力をAI Guardへルーティングし、プロンプトインジェクションなどの脅威を検査できるようにしました。
TrendAI Vision OneTM AI Application Security - AI Guard:
AIエージェントへの入出力を監視し、プロンプトインジェクションなどの攻撃をリアルタイムに検知・遮断します(予防的+検知的)。本検証においては NVIDIA NeMo™ Guardrails に統合することによりAI GuardをAIエージェントに組み込みました。
TrendAI Vision OneTM Container Security:
コンテナイメージの作成からデプロイ、ランタイム環境までを保護するセキュリティソリューションです。AIエージェントの実行環境(Pod)を監視し、不正な挙動を検知・隔離します。検知的・対応的統制の要として実装しました。
TrendAI Vision OneTM Agentic SIEM:
複数のセキュリティログを分析・相関し、脅威の検知と調査を支援する次世代型SIEMです。AIエージェント環境のログを集約し、レイヤー横断・ベンダー横断の相関分析によりMTTR/MTTDを短縮します。本検証ではTrendAI Vision One™ 製品と、OpenShellのログを集約するために利用しました。
(関連記事)
Agentic SIEMとは?XDR、SOAR、一般的なSIEMとの違いも含めて解説
上記の検証環境を用い、具体的な対策シナリオとして、谷本は自身で行った3つのデモンストレーションの結果を説明しました。
1. OpenShellのポリシーによるAIエージェントの制御(予防的統制)
AIエージェントC(開発部門向け)に対して、GitHubへのアクセス権限のみを付与し、許可リストにない宛先への通信をブロックできることを検証。AIエージェントCが未承認のURLへのアクセスを試みると、OpenShellのポリシーによってブロックされ、そのログがAgentic SIEMに連携されることで、早期の検知と対応が可能になることを示しました。
2. NVIDIA NeMo GuardrailsとAI Guardによるプロンプトインジェクション対策(予防的統制)
AIエージェントCへの直接的なプロンプトインジェクション攻撃を、AI Guardがリアルタイムにブロックし、不正な動作を予防できることを検証。これにより、AIエージェントが不正なファイルダウンロードなどのリスクにつながる行動を停止できることを示しました。
3. Container Securityを用いたAIエージェント実行環境の監視と制御(検知的・対応的統制)
間接プロンプトインジェクション(ビルドレポートに埋め込まれた不正な指示文)によりAIエージェントCが不正なファイルをダウンロードするシナリオで検証しました。Container SecurityがPod内の不正な挙動(不審なファイルダウンロード、コマンド実行)を検知し、さらにPodを隔離することで被害の拡大を最小限に抑えることが可能であることを示しました。
検証結果を受けて
谷本は、これらの実装を通じて、OpenShellによる宣言的なポリシーでの予防的対策は、「ログの量を減らし、何が正しい挙動で何が怪しい挙動かを整理するために非常に重要」であるとしました。さらには、AIエージェントの稼働環境を保護するためには、「予防的統制を行うだけでは不十分であり、検知と対応の仕組みの導入について、AIエージェントをデプロイする前から検討することが必要」と付け加えました。
AIエージェントの自律性の高まりや連携ツールの増加により、リスクのある挙動を完全に防ぎきることは難しいため、検知的統制(ログ集約、モニタリング)と対応的統制(実行環境の隔離・終了)を組み合わせることが大切であるというわけです。
最後に、NVIDIAが提案しているVM単位での隔離を行うリファレンスアーキテクチャ(Secure Agent Workspace)にも触れ、このような新しいアーキテクチャにおいても、「予防、検知、対応の統制が重要である」ことは変わらないと述べました。TrendAIは、AIエージェントの実行環境に特化したEDRソリューションなど、技術を進化させており、AIエージェントの価値を最大限に引き出し、企業の競争力を高めるためには、「セキュリティ対策を導入当初から一貫して考える」ことが必要であると締めくくりました。
Security GO新着記事
2026年1月~9月の国内セキュリティインシデントを振り返る
(2026年11月12日)
ARTEXだけではない:日本を狙う3つの攻撃基盤に見るAI関与の実態
(2026年10月23日)