サイバー脅威
AIとセキュリティに関する意識調査：AI活用後の利点や実態、懸念事項などを概説
急速なAI導入により増大したサイバー脅威に対し、企業組織は、安全な導入方法について迅速かつ適切な判断を迫られています。
AI（人工知能 = Artificial Intelligence）は、現代社会の労働形態や生活様式を根本的に変革しつつあります。ビジネスリーダーは、AIを活用することでこれまで未開拓の市場動向を予測し、よりよい意思決定を行う機会を得ています。さらに組織はAIの活用により、単純作業を効率的に自動化させ、複雑な作業に人材を割り当てています。そして企業は、AIにより高度にパーソナライズされた方法（宣伝広告など）で革新的な新製品の情報やサービスを各顧客に提供しています。
同様にネットワーク管理者は、サイバー攻撃の一歩先を行く新たなセキュリティ戦略の一環として、AIが予測するサイバーリスクや攻撃経路に事前に対処することで、攻撃機会を速やかに減少させ、セキュアなIT環境の維持に役立てています。
しかし、AIがもたらすこれらの利点は、悪用された場合にリスクともなりえます。
攻撃者は、AIを攻撃対象 / 悪用手口と定めています。実際、AIの悪用事例は増加傾向にあり、攻撃者はAIを悪用して巧妙化させた自身の手口を大規模に展開しています。
トレンドマイクロは、これらの実態をより深く把握するために、様々な業種・組織規模のIT / サイバーセキュリティの意思決定者2,250人を対象にAIとセキュリティに関する意識調査を市場調査会社「Sapio Research」を介して実施しました。結果、調査対象者の大半がすでにサイバーセキュリティ対策にAIツールを活用していることに加え、より多くの組織がAI導入を計画している一方で、過半数の組織がそれらの技術が自組織の攻撃対象領域（アタックサーフェス）に与える影響について懸念していることもわかりました。併せて、AIを悪用したサイバー攻撃やそれらに対処する方法などについても危惧していることが判明しました。
AIがビジネスにおける業務効率化や自動化、成長促進に寄与する可能性
適切なサイバーセキュリティ戦略は、ビジネスリーダーがしばしば目にする「コストだけを発生させるサイロ化した部門」によるものでなく、「企業組織の技術革新や成長を阻害する要因」にもなりません。むしろ、能動的なサイバーセキュリティ体制が堅牢かつ適切に運用管理されている場合、ビジネスの成長を手助け、促進する力として機能します。セキュリティ成熟度が高い水準で維持されている場合、以下のようなメリットがもたらされます。
- 堅牢な防御策を導入した組織は、取引先 / 提携先企業との信頼関係を高めることができます。さらに競合他社との差別化に寄与し、競争優位性の構築にもつながります。
- デジタルトランスフォーメーション（DX）戦略を成功させるための基盤がもたらされます。
- 柔軟な働き方が可能となり、従業員の生産性の向上 / ワークライフバランスの改善につながります。
- 新市場への進出が支援される可能性があります（現地の法律や規制において高度なサイバーセキュリティレベルを構築する企業組織が求められている場合）。
同じ論理で、AIを活用したサイバーセキュリティを導入することで、上記のようなメリットをさらに享受できる可能性があります。今回実施した意識調査でも、回答者から同様の意見が得られたという印象です。実際、回答者の81％がすでにサイバーセキュリティ戦略の一環としてAIツールを活用しており、そのうち16％がさらなる選択肢（別のAIツールなど）を模索しています。さらに5分の2以上（42％）は、自動化ツール / AI駆動型ツール導入によるサイバーセキュリティ向上が今後12カ月間における最優先事項であると回答しました。加えて半数以上（52％）が、AIを日々のセキュリティ業務（IT資産の自動検出、リスクの優先順位付け、異常検知など）に用いることに満足していると答えています。AIがもたらすこれらのメリットは、氷山の一角に過ぎません。以下に示すようにAIは、サイバーセキュリティ環境の改善に役立つ豊富な機能を提供します。
データ保護：AIは、機密データの検出・分類・暗号化処理だけでなく、データの格納場所へのアクセスを監視し、セキュリティ侵害が発生した際に直ちに警告アラートを発令させることができます。
エンドポイントセキュリティ：AIは、EDR（Endpoint Detection and Response）において重要な役割を果たします。具体的には、挙動に係るデータやコンテキストを分析し、不審な動作やマルウェア、その他の脅威を検知した場合に実行を阻止します。
クラウドセキュリティ：AIのアルゴリズムは、クラウド環境でも上記（エンドポイント）と同様に機能します。AIは、「事前学習モデル」のベースラインから逸脱した異常な動作を監視し、検知した際にセキュリティチームに警告アラートを発令します。
高度な脅威ハンティング：AIツールは、膨大な量のネットワークデータを精査し、攻撃者が永続的な損失をもたらす前に攻撃活動を発見できるよう機能します。
アイデンティティおよびアクセス管理（IAM）：IAMシステムとは、認証されたユーザのアクティビティなど、特定の情報を基にアクセスを制御する機能のことです。AIにより自動最適化されたIAMシステムは、キー入力操作やマウスの動きなど、様々な側面からユーザ固有の行動プロファイルを作成します。これらの情報を用いて継続的な認証を実施することで、認証されたユーザのみがデータにアクセスできるようにします。IAMシステムの活用により、ゼロトラストの考えに基づいたセキュリティの強化につながります。
AIが攻撃対象領域に及ぼす影響
IT / セキュリティ部門のリーダーは、AIがサイバーセキュリティを変革する可能性について前向きに捉える一方で、AIがもたらす新たなリスクについても危惧しています。実際、回答者のほぼ全員（94%）が、今後3～5年のうちにAIがアタックサーフェスマネジメント（ASM）の取り組みに悪影響を及ぼすと推測しています。拡大 / 複雑化し続ける企業組織のデジタル攻撃対象領域は、IT / セキュリティリーダーにとって長年の懸念事項です。デジタル資産への投資がリスクを軽減させるよりも増大させる傾向にあることを目の当たりにしてきたからです。本調査時点でサイバーセキュリティリーダーは、新たなAIツール群の登場により、これらの問題解決がさらに困難になるのではないかと危惧しています。セキュリティリーダーの懸念事項は以下の通りです。
- 機密データの漏えい
- データ処理 / 保存時における情報の透明性の欠如
- 解釈性が低く信頼性に欠けるAIモデルによる自組織の独自データの窃取・悪用
- コンプライアンスに関わる問題
- エンドポイントやAPIなどの増加による監視業務の負担や経費などの増加
- セキュリティ部門の把握・承認していないシャドーAIや非公認AIがもたらす悪影響
上記のリストは、全てを網羅したものでない点にご留意ください。なお、特定非営利団体「OWASP（Open Worldwide（Web） Application Security Project）」は、大規模言語モデル（LLM）に係る重大なセキュリティリスクのTop 10を公開しています。英国国家サイバーセキュリティ当局（NCSC）は近年、開発者がこれらの大規模言語モデルに適切なセキュリティ対策を追加せずに市場投入を急いだ場合、サイバー攻撃に対して特に脆弱になる可能性があると注意喚起しています。同Top10で特に名の挙がった脅威は、プロンプトインジェクション、サプライチェーン攻撃、データポイズニングです。これらの脅威は、機密データの窃取や、LLMの不正操作により開発者の意図しない出力を生成させる可能性があり、運用業務が妨害されたり、別のシステムへの不正アクセスが拡大したりするおそれがあります。
AIが悪用された場合に懸念される脅威動向の高度化
AIが悪用された場合、グローバル企業にとって多面的な脅威となりえます。AIシステムそのものが攻撃対象領域となるリスクだけでなく、攻撃手口に悪用される可能性もあります。回答者の半数以上（53％）は、今後これらの攻撃の複雑性が増大し、影響範囲が劇的に拡大すると推測しており、サイバーリスクマネジメントを考慮した新たなセキュリティ手法が必要になると考えています。
以下のリストは、NCSCが注意喚起した脅威の一部であり、今後2年間で以下のような脅威情勢が予測されると警告しています。
- AIによる偵察活動、脆弱性の特定 / 悪用ツール（エクスプロイト）の開発（Vulnerability Research and Exploit Development、VRED）、ソーシャルエンジニアリング、基礎となるマルウェアの作成、データの外部送出など、サイバー脅威の「出現頻度と高度化・巧妙化した手口」の増加
- 「AI-as-a-service」を悪用する攻撃者の増加
- サイバー攻撃手法の様々な部分での自動化の増加
- AIによるゼロデイ脆弱性悪用ツールの開発
サイバーリスクマネジメント導入へのステップともたらされるメリット
回答者の約44％は、AIセキュリティツールを導入する前に、同技術についてもっと理解を深める必要があると答えています。「AIが攻撃対象領域を拡大させるのではないか」という懸念事項を考慮した場合、これは当然のことと言えます。回答者の半数近く（46％）は現在、サードパーティベンダの開示する脆弱性を定期的に評価・監視し、綿密なセキュリティ監査を実施することで、攻撃対象領域におけるリスクを管理しています。回答者の多くはAIを導入する前に、自組織で実施するこれらのセキュリティ検証をAIセキュリティベンダーにも実施してもらいたいと考えているはずです。
攻撃対象領域全体のリスクを管理するために検討すべきその他のステップとして、以下のものが推奨されます。
高度な脅威モデリング、脅威ハンティング、AIベースのリスク評価、AIセキュリティポスチャマネジメント（AI-SPM）、インシデント対応計画の詳細を組み込んだ、AIを活用した包括的なセキュリティ戦略を策定すること
可能な限り正確かつ有効なデータを出力させ、偏りやノイズなどの懸念に対処するために品質、完全性、信頼性の確かなデータをAIに学習させること
NIST (National Institute of Standards and Technology)、MITRE、OWASP、Google、ISO (International Organization for Standardization) などが提唱する業界標準のAIセキュリティフレームワークやベストプラクティスを導入すること
自組織のIT環境全体にわたって一元的かつ包括的な保護を実現させるためにAIセキュリティを既存のセキュリティ環境やサイバーセキュリティのプロセスと統合すること
企業組織内でAI活用を前提としたセキュリティ文化を醸成させるために定期的に従業員向けのセキュリティ意識向上トレーニングや研修を実施すること
脆弱性に対処するためにAIモデルを更新して修正プログラム（パッチ）を適用し、AIモデルの精度、パフォーマンス、信頼性を向上させること。これらを適切に実施するためにAIモデルを継続的に監視・評価して脆弱性を把握すること。
総じて企業組織は、AIを悪用した脅威の増大に対処するために、これまでの事後対処のセキュリティ戦略から、攻撃経路を予測して事前に予防するAI駆動型のプロアクティブセキュリティ戦略への移行を検討する必要があります。AIセキュリティツールは、以下のような点で役立ちます。
- 大量のデータを分析してリアルタイムで異常を検知し、警告アラートを発令する
- 脆弱性や設定不備、その他のセキュリティ上の弱点をスキャンにより見つけ出し、具体的な対処方法を提示する
- リアルタイムでサイバー攻撃を特定 / 軽減する
- 脅威の検知・可視化やインシデントの調査、原因特定、対処を自動化し、セキュリティチームの負担を軽減する
- 最新の脅威インテリジェンスを活用し、高度化するサイバー攻撃に先手を打つ
- 専門的なセキュリティアラートに対し、生成AIを活用して理解を促進することでSOC担当者が迅速にサイバー攻撃に対処できるようにするなど、経験や知識など異なるスキルレベルを持つSOCのセキュリティアナリストを支援する
セキュリティ対策において企業組織がAIの潜在能力を最大限に引き出すには、関連するサイバーリスクの発見、予測、抑制を積極的に行い、継続的に管理するサイバーリスク露出管理（CREM）を導入したプロアクティブセキュリティを実施する必要があります。攻撃が発生した後に速やかに対処して被害の拡大を防ぐ取り組み（リアクティブ＝事後対応）も依然として重要ですが、攻撃や被害が起きる前からリスクを把握・制御し、事前に手を打つ取り組み（プロアクティブ＝先回りの予防策）によって、より高い安全性と被害の抑制が期待できます。
参考記事：
AI Dilemma: Emerging Tech as Cyber Risk Escalates
By: Trend Micro
翻訳：益見 和宏（Platform Marketing, Trend Micro™ Research）