Artificial Intelligence (AI)
AIエージェントのセキュリティは確保できる。私たちにはそれが可能です。
AIエージェントを安全に保護することの意義と恩恵について。
私は、AIエージェントに安全性とセキュリティを組み込もうとする業界の取り組みを強く支持しています。
ITおよびサイバーセキュリティのエンジニアとして、そしてCEOとして数十年間歩んできた中で、私は幸運にも技術革新の数々の大きな波を目の当たりにしてきました。
そして、その中で常に同じパターンが繰り返されるのを目撃してきました。
新たなテクノロジーは、新たな脆弱性を生み出します。
新たな脆弱性は、人々に不安や恐れをもたらします。
そして最終的には、エンジニアがそのテクノロジーの安全を確保し、大規模に役立てる手法を習得していくのです。
現在のAI、そしてAIエージェントもまさに同じサイクルを辿っています。
実際、現在の議論を見ていると、私は電力の黎明期における有名な「電流戦争」を思い出します。
電力は目に見えず、途ほうもない力を持ち、時には命を奪う危険性すらありました。人々が恐れを抱いたのはごく自然のことでした。
しかし、もし人類が次のように言っていたらどうなっていたでしょうか。
「電気は危険すぎる。今すぐ利用をやめるべきだ」と。
もしそうしていたら、現代の電力インフラも、コンピュータも、インターネットも、近代的な病院も、私たちが知る技術文明そのものも存在していなかったでしょう。
その代わりにエンジニアたちは、発電所、送電システム、絶縁体、接地（アース）、遮断器（ブレーカー）、安全基準、そして電気を安全に利用するための無数の装置を構築しました。
解決策は、電気を止めることではありませんでした。
電気の周りに「安全」を工学的に築き上げることこそが、その解決策だったのです。
AIについても同様であると私は確信しています。
AIは、いわば「知性のための電力」になりつつあります。ソフトウェアとして目に見えず、極めて強力であり、人間の生活のあらゆる側面に流れ込む力を秘めています。
しかし、真の課題はAIモデル単体にあるのではありません。
課題は、モデルを取り巻く「インフラストラクチャ」にあります。
どのようにテストするのか。
その挙動をどう測定するのか。
どう認証するのか。
権限をどう制御するのか。
どう隔離するのか。
その行動をどう監視するのか。
ガバナンスと説明責任をどう確立するのか。
そして何より重要なのは、
エージェントが境界を越えたとき、どうやって停止させるのか。
これらはすべて、サイバーセキュリティの問いに他なりません。
人間の知性であれ人工知能であれ、知性が「どのように思考するか」を完全に制御することは決してできないかもしれません。
大学で哲学を専攻した私は、今でもデカルトのこの言葉を愛しています。
「我思う、ゆえに我あり」
我思故我在。
人類の文明がここまで発展してきたのは、まさに私たちが人間の思考を完全に支配・統制してこなかったからこそです。
私たちは思考します。
疑問を抱きます。
想像をめぐらせます。
そして、革新を生み出します。
しかし同時に、文明はそれと同じくらい重要な教訓を学んできました。
それは、「人々の行動を統制するために、思考そのものを制御する必要はない」ということです。
これこそまさに、サイバーセキュリティがAIの時代に貢献できる領域です。
私たちはガードレールを構築できます。
アイデンティティ（認証）と認可の仕組みを構築できます。
隔離と監視の仕組みを構築できます。
安全性テストを構築できます。
ポリシーによる制御を構築できます。
監査可能性を構築できます。
そして、AIエージェントに停止ゲート（ストップゲート）を組み込むことができます。
言い換えるなら、
私たちは知性そのものを無理に制御する必要はありません。
その知性が「どのように行動することを許されるか」をエンジニアリングすればよいのです。
これこそが、サイバーセキュリティエンジニアが何十年にもわたって行ってきたことに他なりません。
私たちは過去にそれを成し遂げてきました。
そして、今度も再び成し遂げられると信じています。
AIは、医療や疾病、気候や気象、科学的発見、教育、生産性の向上、そして急速に変化する世界に向けた次世代の育成といった、人類が直面する最も重大な課題の解決に貢献する計り知れない可能性を秘めています。
AIが強力だからといって、その歩みを止めるべきではありません。
強力だからこそ、安全に使えるようにすべきなのです。
これこそが、AIエージェントの安全性を確保し、ガバナンスを効かせ、制御可能にする業界の取り組みを私が支持する理由です。
この新たな章において、サイバーセキュリティエンジニアには果たすべき極めて重要な役割があります。
私たちは、知性の周りに壁を築くためにここにいるのではありません。
知性が現実世界へと安全に入っていくための「架け橋」を築くためにいるのです。
あの名曲の歌詞にあるように。
「荒波にかかる橋のように（Like a bridge over troubled water）」
架け橋を築きましょう。
セーフガード（安全対策）を築きましょう。
ガバナンスを構築しましょう。
安全を守るエージェントを構築しましょう。
そして、人類がこの並外れた新たな知性の源を責任を持って活用できるよう、力を尽くそうではありませんか。
AIエージェントのセキュリティは確保できます。
私たちにはそれが可能です。
参考記事
AI Agents Can Be Secured. We Can Do It.
By : Eva Chen
翻訳：与那城 務（Platform Marketing, Trend Micro™ Research）