Artificial Intelligence (AI)
無秩序から統治へ：エージェント型AIにおけるガバナンスギャップの解消
エージェント型AIは、エンタープライズシステム全体において自律的な行動と意思決定を可能にするという、根本的な変化をもたらします。一方で、これまでにない複雑なリスクも新たに生じます。TrendAI™のAgentic Governance Gatewayは、この新たな領域においてエージェント型AIの理解・制御・信頼を可能にし、安全かつ確信を持って活用できるよう支援します。
- エージェント型AIシステムは、エンタープライズ環境全体で自律的に計画、推論、行動を行い、従来の人間主導によるソフトウェア実行という前提を覆すことで、前例のない能力とリスクをもたらします。
- エージェント型AIの導入はサイバーセキュリティの優先事項を変化させ、従来の防御を超えて、これらのシステムの自律性と適応性に対応した新たなガバナンス戦略の実装を求めます。
- TrendAI™はAgentic Governance Gatewayを導入し、エージェント型AIの挙動を発見・観測・理解・検知・統制することで、安全かつ信頼性の高い導入を実現します。
エージェント型AIの登場により、ソフトウェアが可視化されない形で意思決定し、行動することが初めて可能になりました。エージェント型AIシステムは、エンタープライズ環境全体にわたり、計画、推論、意思決定、そして最終的な実行までを担います。従来のソフトウェアが出力生成に限定されていたのに対し、APIの呼び出し、機密データへのアクセス、ワークフローの起動、他システムとの連携など、多様な新しい能力を備えています。
このような変化は、業務フローやプロセスの簡素化・自動化に大きな可能性をもたらしますが、同時に新たなリスクの領域も生み出します。サイバーセキュリティはこれまで、「ソフトウェアは人間の決定を実行する」という単純な前提の上に構築されてきました。しかし、エージェント型AIの登場により、この前提はもはや成立しません。
エージェント型AIシステムは、従来のソフトウェアとは異なり、完全に決定論的ではありません。これらは反復的なループを通じて動作し、新たな入力、ツールの出力、変化するコンテキストに適応します。自律的な適応を前提として設計されているため、その行動は初期の指示を超えて進化し得ます。この結果、各ステップで人間が直接関与しない場合、予測や追跡、制御が困難な結果を生む可能性があります。
このように、システムの在り方そのものが変化することで、これまでにない能力と可能性が生まれる一方で、新たに対処すべきリスクも生じています。
エージェント型AIにおけるセキュリティギャップ
エージェント型システムは、従来の攻撃チェーンを実質的に崩壊させます。プロンプトインジェクション、ツールの誤用、データ汚染といった単一の操作が、不釣り合いなほど大きな影響を引き起こし得るためです。エージェンシー（自律性）により、悪意ある意図は初期侵入からデータ流出、さらにはシステム全体の侵害へと急速に連鎖します。
OpenClawのようなソフトウェアは、この現実をさらに加速させます。数分で展開可能であり、導入直後からデータ、API、エンタープライズのワークフローへのアクセス権を付与できるためです。NVIDIA GTCでは、エージェントがいかに容易に導入され、複雑で多段階のワークフローをシステム間でリアルタイムにオーケストレーションできるかが、基調講演のデモンストレーションで示されました。
導入の容易さと広範なアクセスの組み合わせこそが、エージェント型システムを強力にすると同時にリスクの高いものにしています。エージェント型AIの高い可用性と急速な普及は、重大なギャップを浮き彫りにします。すなわち、ソフトウェアに行動する権限を与えている一方で、その行動がどのように展開されるのかについて、セキュリティチームが十分な可視性を持てていないという問題です。
なぜ既存のセキュリティモデルは通用しないのか
エージェント型AIの時代においては、制御ポイントそのものが変化しています。現在の多くのアプローチは、従来の制御手法を拡張しようとしています。
- モデルの保護
- アプリケーションの保護
- エンドポイントの保護
しかし、エージェント型システムは単一の境界内で動作するものではありません。エージェント型AIは相互作用の中で動作し、現在のリスクは次の領域に存在します。
- エージェント間の通信方法
- 意思決定の伝播の仕方
- 意図がどのように行動へと変換されるか
主要なセキュリティの制御ポイントは、もはやエンドポイントやアプリケーションではありません。TrendAI™はこの新たな制御ポイントを、エージェント型システムがどのように相互作用し、情報を交換し、行動を起こすかを捉えるチェックポイントとして定義しています。このインタラクション層は、エージェント、ツール、モデル、データ間をつなぐ通信基盤です。自律システムにおけるI/Oチェックポイントには、指示が受け渡される場所、コンテキストが交換される場所、意図が形成される場所、そして行動が引き起こされる場所が含まれます。
現時点では、この層はほとんど統制されていません。この層を可視化し制御できなければ、エージェント型システムの挙動を効果的に統治することはできません。
コンフィデンシャルコンピューティングのような技術の進展により、AIが稼働する環境自体の信頼性を高め、データ保護を確実にすることは可能になりつつあります。しかし同時に、新たな形の共有責任モデルが生まれています。インフラ側が実行環境を保護する一方で、組織はそのデータを用いて自律システムが何を行うのかを統治する責任を担う必要があります。
そのため、組織は次のような基本的な問いに向き合う必要があります。これらの問いへの答えが、自律システムをどれだけ適切に統治できるかを左右します。
- 自組織のエージェント型システムが何をしているのかを把握し、可視化できているか
- その行動は信頼できるものか
- 介入は可能か、またどの段階で実施できるか
エージェント型システムは、生産性と能力において大きな飛躍をもたらします。そのため、導入を遅らせるという選択肢は現実的ではありません。進むべき道は、これらのシステムを導入する判断と同じくらい、それらを統治する責任が重要であることを認識することです。Agentic Governance Gatewayは、このギャップを解消するために設計されています。
セキュリティからAgentic Governance Gatewayへ
TrendAI™は、行動が生成されるその地点で挙動を統治できる「Agentic Governance Gateway」を提供します。Agentic Governance Gatewayは、次のような機能を備えています。
- エージェントがどこに存在し、何にアクセスできるのかを把握する
- システム間でどのように相互作用しているかを観測する
- その相互作用の背後にあるコンテキストと意図を理解する
- 挙動が本来の目的から逸脱した場合に検知する
- ポリシーを適用し、安全でない行動を停止する
- 重要な意思決定ポイントで人間による承認を導入する
これは、大規模な航空管制に似ています。各フライトはリアルタイムで意思決定を行い、進路を変更し、他と相互作用しますが、システム全体が機能するのは、個々の要素が単独で安全であるからではなく、全体が調整されているからです。制御レイヤーがなければ、強力なシステムが動いていても、それらがどこへ向かっているのか、どのように相互作用しているのか、経路が衝突したときに何が起きるのかを明確に把握することはできません。
これまでのランサムウェア対応や侵害封じ込めの経験により、可視化、検知、対応の能力は大きく向上してきました。しかし、エージェント型システムの登場により、これらの能力を適用すべき場所が変化しています。AIエージェントが人間の承認なしに推論し、ツールを呼び出し、データにアクセスし、行動を実行できるようになると、ガバナンスは、意図が実装され行動が引き起こされるインタラクション層で機能する必要があります。Agentic Governance Gatewayは、既存の基盤を活かしつつ、意思決定が行動へと転換される地点において、可視性、調整、介入を提供する制御レイヤーとして機能します。
ガバナンスを成果へとつなげる
TrendAI Vision One™は、脅威リサーチ、エンドポイントおよびネットワークの検知・対応、AI主導の分析といった従来からの強みを、エージェント型システムが動作するインタラクション層へと拡張します。
Zero Day Initiative（ZDI）で培われた長年の知見と、クロスレイヤー検知におけるリーダーシップを基盤として、このプラットフォームは実証済みの能力を自律型AIへと適用します。
ガバナンスは、これらの馴染みあるセキュリティ機能を活用し、それを人間主導の活動だけでなく、意思決定を行うシステムそのものの統治へと拡張することで、実運用の中で機能するようになります。
TrendAI Vision One™のような統合プラットフォームアプローチにより、組織は実証済みのセキュリティ制御を自律システムへと拡張しながら、Agentic Governance Gatewayの運用を開始することが可能になります。
- AIエージェントのインベントリを構築し、それらがアクセスおよび実行可能な範囲を把握する
- 最小権限および最小エージェンシーの原則をデフォルトとして適用する
- エージェントのツール、スキル、拡張機能をサプライチェーンリスクとして扱う
- エンドポイントだけでなく、相互作用や通信のフローを監視する
- 影響の大きい自律的な行動に対してガードレールや承認プロセスを導入する
これらの取り組みは、AIコンポーネントの保護から自律的な挙動の統治への転換を示すものであり、エージェント型AIを確信と制御をもって導入するための基盤となります。
AI Fearlessly
AIの未来は、その進化の速さだけで決まるものではありません。組織がどれだけ安全かつ確信を持って活用できるかによって形作られます。エージェント型AIの導入によって生まれる新たな領域も、適切な統治によって自信を持って受け入れることが可能です。Agentic Governance Gatewayは、システムが何をしているのかを理解し、その動作を信頼し、重要な場面で結果を制御できるよう支援します。
前進しながら、確実な統制のもとで運用し、恐れずAIを活用（AI Fearlessly）していきましょう。
参考記事
From Anarchy to Authority: Closing the Governance Gap in Agentic AI
By Rachel Jin, Russell Meyers, Alifiya Sadikali, and Casey Mondoux
翻訳：与那城 務（Platform Marketing, Trend Micro™ Research）