2024 Risk to Resilience World Tour Japan基調講演 開催レポート
トレンドマイクロは2024年7月23日および8月1日にサイバーセキュリティカンファレンス「2024 Risk to Resilience World Tour Japan ~"AI×セキュリティ"が進む先~」を開催しました。様々なセッションが開かれましたが、その中でも本記事では基調講演の様子を報告します。
2024年7月23日、8月1日にて東京・大阪の2会場で「2024 Risk to Resilience World Tour Japan」を開催しました。本記事では、このイベントの中でも基調講演の内容に焦点を当て、当日の様子をお伝えします。
なお、基調講演で使用された資料につきましては、こちらからダウンロードください。
大三川は講演の初めにトレンドマイクロがパートナーシップを結ぶNEOM McLAREN FORMULA E TEAMから会場のお客様向けに届いているVideoを紹介しました。
Videoの中では、なぜFORMULA E TEAMがトレンドマイクロとパートナーシップを結んだのか、の説明としてFormula Eで使用される大量のデータの安全性を高めることや、データを駆使したイノベーション、スピード、サステナビリティを重要視するという点でFORMULA E TEAMとトレンドマイクロが共通の哲学を持っているという点が語られました。
また、スクリーンには両社のパートナーシップを象徴する、Trend Microのロゴが入ったFormula Eのスタイリッシュな車体が大きく映し出されていました。
華々しいオープニングを経て、改めて今回のイベント全体のテーマ「AI×セキュリティが進む先」について話が進みます。
まず今回のイベントロゴに含まれる「Risk to Resilience」という言葉は、日々変化するサイバーリスクに適応し、事業の継続性を高めることを意味しています。トレンドマイクロはその思想を体現しており、これまで35年間様々に変化するIT環境の中で、ニーズに合わせたソリューションを先進的な技術を取り入れながら提供してきました。
そして2024年デジタルの世界に革新をもたらしているものが、AIです。またAIを取り巻く環境も変化しており、ビッグデータをクラウドで高速に処理するだけでなく、ローカル環境でも処理を行う技術が発展してきております。
これらを踏まえて大三川はOWASP(サイバーセキュリティのオンラインコミュニティ)が分類した5つの脅威について引用しました。自社がAIを利用していなくとも、競合他社やサイバー攻撃者などがAIを使用することによって、全ての組織がAI技術と何かしら関連したビジネスを行わざるを得ない「AI時代」に突入していることを示すためです。
「AI時代」の到来を裏付ける事象の一つとして、半導体メーカーのNVIDIAが時価総額世界首位になったことを話題に出しつつ、トレンドマイクロがNVIDIAとの「AIデータセンター保護ソリューション」の共同開発を行っていることにも触れられました。これは先日プレスリリースも行われた「Trend Vision One – Sovereign and Private Cloud」を指しています。このソリューションはプライベートクラウド内に設置されたセルフホスト型の生成AIシステムにも対応しています。
さらに大三川は「AI時代において多くのセキュリティリーダーがAIとセキュリティを活用し、社会が次の次元へと進んでいく。AIの利便性を享受しながらも、より安全に継続性を持って事業を続けていけるように、トレンドマイクロがこのイベントで『AI時代のサイバーリスクをコントロールする方法』を提示する」という強い意志を示しました。
最後に、「サイバー攻撃者はいなくなりませんが、それでもサイバーリスクはコントロールできます。」という言葉で講演は締めくくられました。
この時間を通して、今回のイベントのテーマやメッセージに関する説明と合わせて、これから到来する革新的な技術を、社会がより安全に使えるように、トレンドマイクロが今後も進化を続けていくことが表明されました。
満席の会場からの拍手には、トレンドマイクロが今後AI×セキュリティを牽引し、様々な組織のビジネスにおけるセキュリティのパートナーを目指すという意思に対し、大きな期待が寄せられていることが感じられました。
こちらの内容については、別途公開される開催レポートをご確認ください。
AIのためのセキュリティ セキュリティのためのAI
上席執行役員である新井 一人(あらい・かずと)のセッションも一本の動画から始まりました。「Project 2030」というトレンドマイクロが予測した2030年のサイバーセキュリティを取り巻く世界に関するドラマの予告編です。
このドラマでは、サイバー空間と現実のフィジカル空間の融合が進み、サイバー・フィジカル・システム(CPS)の実現に向かっているということを予期しています。
「トレンドマイクロは4年前にこの未来を予想しましたが、予想は変わっていません。むしろ確信が強まっています。」と新井は語り始めました。
IoT、5G/6G、エッジコンピューティングなどの技術の進化や普及を例に挙げ、CPSが現実となる日がそう遠くないことを新井は指摘します。
またこれらの技術の普及に伴って、これまでと比較にならない膨大のデータ処理が必要となること、またその一助を担うものとして人工知能、AIが使用されていくことについても触れられました。
「AI技術とセキュリティの関係性は逆転することになる。」と新井は続けます。これはどういう意味でしょうか。ChatGPTなどの生成AIの登場によって、AIの民主化が進みました。これまではセキュリティの分野においても膨大なデータによってAI技術が進歩してきました。しかし、これからはAI技術を前提としてセキュリティを考えるといった逆転現象が発生する、という説明がなされました。
しかしそういったAI時代においてもトレンドマイクロの掲げるビジョンである―「デジタルインフォメーションを安全に交換できる世界の実現」―これに変化はなく、AIの技術をフル活用するお客様のビジネスの成功や持続への支援をこれからも続けていく。新井からもトレンドマイクロの使命について強い意思が示されました。
さらにこの使命の実現に向けたトレンドマイクロの戦略についても言及されました。
前提として、トレンドマイクロはこれまで既に10年前からAI技術をソリューションに反映してきています。文体分析、機械学習、対話型セキュリティアシスタント機能などです。これらの技術を挙げつつ、「AIはトレンドマイクロの一部です」-。力強い口調で新井は続けます。
ではなぜ10年も前からAI技術に投資してきたか、その理由は次のように述べられました。「サイバー攻撃者は常に新しい技術を取り込み、悪用する。つまり、私たち防御側も常に最先端のテクノロジーを活用していかなければならないからです。」
攻撃者の狡猾さを知っているトレンドマイクロだからこそ、AIという最先端の技術に投資するという戦略を実施してきたことがここに示されています。
AI技術の悪用事例に関しても情報共有が行われました。具体的にはディープフェイク技術を使って2500万米ドルを支払わせた送金詐欺や仮想誘拐という、偽音声を利用して、あたかも子供を誘拐したように見せかけて脅迫を行う新手の手法です。すでにサイバー攻撃者が新しい技術を悪用して攻撃に組み込んできていることを示した事例と言えるでしょう。
一方、AIがもたらす良い面についても同様に情報共有が行われました。良い面については、「Security for AI」と「AI for Security」の二つの側面に分けて解説されました。
まず「Security for AI」に関しては、前提としてAIの民主化の波によってRAG(Retrieval Augmented Generation、検索拡張生成)の普及が予測されています。RAGとはLLM(大規模言語モデル)とLLMに含まれない外部情報を組み合わせたより各組織に最適化された生成AI技術のことで、カスタマーサポートなどの分野での活躍が期待されています。
これを踏まえて、今後の法人の重要課題として挙げられるのが「いかに自社の生成AIアプリケーションを守るか」ということだと新井は述べました。ここについてより深く説明を行うため、製品開発本部シニアスタッフエンジニアである服部 正和(はっとり・まさかず)が登壇し、説明を行いました。
そもそも生成AIとは、「プロンプト」と呼ばれる指示を記載したテキストなどの入力データからコンテンツ(文章、画像、プログラムコードなど)を生成するAI技術や深層学習AIモデルを指します。
生成AIアプリケーションでは外部データと連携させることにより、より各業務への最適化が可能とされています。例えばカスタマーサポートであればその企業の持つFAQのデータ、旅行計画サービスであれば交通案内情報や宿泊施設の情報などが外部データにあたります。生成AIの技術がこのような外部のデータと掛け合わされることにより、より高度なサービスが実現されます。
新井から説明のあったRAGとはこうした外部データを生成AIアプリケーションに組み込む手法を指しています。具体的にはユーザのプロンプトに対し、近似する意味合いのテキストを検索(Retrieval)し、さらに元のプロンプトを拡張*(Augmented)します。それに対するレスポンスを生成(Generation)するフローを伴う技術です。
*カスタマーサポート用アプリケーションであれば生成AIに対して、あなたはカスタマーサポート担当者です。という前提を加えるなど期待する動作を行うために元プロンプトに追加を行うこと。
このRAGのフローごとに生成AI特有のサイバー脅威が存在すると服部は指摘します。1つがプロンプトインジェクションです。例えば特定の指示を無視して、別の指示を実行させることなどがこれにあたります。この原因はユーザ自身の脱獄(悪用とAIに判断されないような言い回しでリクエストを行う)やサイバー攻撃者によるプロンプトの改ざんなどが考えられます。
2つ目が有害なレスポンスの実行です。これは上述したプロンプトインジェクションなどの結果、悪意のあるアクションの実行(機密情報を外部に送信する、マルウェアをダウンロードするなど)につながるなど有害な出力が生成AIアプリケーションによってなされることを意味しています。
3つ目がデータ窃取です。これはプロンプトインジェクションなどにより意図しないデータが盗みだされてしまうことや、不正な閲覧権限が奪取されることによって内部データや個人情報が出力されてしまうケースです。
こうした生成AIに向けられた脅威に対して、保護する技術が「Security for AI」の部分に該当します。実際にトレンドマイクロが実装している「Trend Vision One – Companion」のアーキテクチャを引用しつつ、生成AIアプリケーションに対してどのようなセキュリティ技術が実装できるか解説されました。
具体的にはエンドポイントにおけるデータの監視、入力されたプロンプトの検査、レスポンスに対するポリシーの適用、ロギングデータの送出などが当てはまります。特にロギングデータの送出は「誰が何をどこに送ったか」、「誰が何をどこから見たか」という情報を可視化することに繋がり、この可視化がなされて初めてポリシーが適用できると、服部は強調しました。
こういった生成AI技術を用いてビジネスを行う上で懸念されるリスクや脅威に対して、トレンドマイクロにすでに知見があることやその技術を守るための研究開発が行われていることを示し、服部は降壇しました。
再度登壇した新井からは、「Security for AI」の具体的な技術として、ゼロトラスト・セキュアアクセス、Eメールセキュリティ、ネットワーク異常検知、アタックサーフェスマネジメントの機能などを駆使して、お客様のAIアプリケーションの保護に努めることも付け加えられました。
次に「AI for Security」についても解説が始まりました。時代の変化に伴って働き方が多様化したと言われていますが、多様化したのは様々なデジタル資産も同様です。エンドポイント端末やサーバー環境を守ればよいという時代は終わり、クラウド、IoT、VPN、メールなど攻撃者が悪用する領域、つまり「アタックサーフェス」も多様化しました。「アタックサーフェスの増加は現代セキュリティにおける最大の課題になっている。」と新井は発言しました。
さらに増加したものはもう1つあります。それは「セキュリティアラートの数と種類」です。数10憶を越えるログデータに対し、数十以上のセキュリティツールを運用する状況において、データ収集、相関分析、アラートのトリアージといった仕事がSOCチームを忙殺しています。「セキュリティオペレーションの変革がAI時代のもう一つの最重要課題」と新井は指摘しました。
トレンドマイクロは「アタックサーフェスの増加」と「セキュリティオペレーションの変革」に対して、AI技術を活用したセキュリティソリューションを提案します。「『AI for Security』とは、AIを活用したサイバーリスクコントロールの実現です。トレンドマイクロのAIを活用したソリューションは、動的に変化するアタックサーフェスの管理とリスク評価、データ収集・分析・トリアージの高速化、そして復旧の最短化に貢献します。」と新井は続けました。
冒頭で大三川が発言した「AI時代のサイバーリスクをコントロールする方法」がここに提示されました。AI時代において組織が直面するビジネスリスクを、AI技術を用いたソリューションによってマネジメントしていく意思がはっきりと表れています。
これを踏まえて、今年トレンドマイクロが提供を予定しているAIソリューションについて情報共有がなされました。特にAIを活かして攻撃経路の予測やマルウェアの発生可能性の予測など「予測」関連の強力な新機能が紹介されました。他にもディープフェイク検知や脆弱性リスクの説明とトリアージなどについても触れられました。
これら「AI for Security」の技術は、統合サイバーセキュリティプラットフォーム「Trend Vision One」によって提供されます。様々なリスクの可視化による、「もっとも盲点が少ないサイバーセキュリティソリューション」を、イベント全体を通して体感できることが、新井より説明されました。
最後に全体の振り返りとして、「トレンドマイクロがAIを悪用するサイバー攻撃から保護する『Security for AI」、AIを活用したセキュリティを提供する『AI for Security』のアプローチの両面でサイバーリスクコントロールに貢献して参ります。」という言葉でセッションが締めくくられることとなりました。
「基調講演の最後となるこのセッションでは、サイバーセキュリティにおける「普遍的なもの」を考えていきます。」飯泉は語り始めました。これまでのAIにフォーカスした内容と異なり、より広い意味でのサイバーセキュリティについてこのセッションで取り扱うことを表明しました。
サイバーリスクの正体―一言で言っても、様々な側面があり、なかなか定義することは難しいものです。「重要になるのは、『サイバーリスクはどのように分布しているか』という統計的な事実です。」飯泉は続けます。正体、を明らかにすべくデータに基づく事実からその主張を始めました。
サイバーセキュリティに関する学術論文を引用し、サイバー事故被害額の「平均値」は「中央値」の約160倍だったという研究結果を提示しました。縦軸にサイバー事故の発生件数、横軸に被害額の大きさを表したグラフを作成すると、y=1/x²に似た形の曲線が描かれます。
ここで注目するべき部分は平均値と中央値の解釈です。上図よりサイバー被害額の「平均値」は約22憶ですが、13万件の事故のほとんどは、平均被害額に至っていないことが確認できます。一方で、発生確率は低いものの、平均値を大きく上回る壊滅的な被害があることも事実です。
「サイバーリスクは全くもって均一に分布していない、という事実を私たちは受け入れなければならない。これはサイバーセキュリティ戦略を考える上での第一歩です。」と飯泉は断言しました。よりわかりやすく分類するならば、「多発するが比較的軽微なリスク」と「万が一の壊滅的リスク」の二種類のサイバーリスクに組織がさらされている、と言い換えられます。それぞれ前者をRISK-A、後者をRISK-Xと定義し、飯泉は講演を続けます。
「リスクの性質に合わせて、適切なリスクマネジメント戦略を採用することが、戦略の条件となります。」RISK-AとXそれぞれに分けて、戦略を立てることが飯泉より推奨されました。
RISK-Aは具体的には毎日のように発生している単調な不正通信や、おかしな日本語で書かれた詐欺メールなどを指しており、発生がある程度予想できる、シンプルで原因がわかりやすいリスクにあたります。これは事前にある程度予測が立つことから、被害を未然に防ぐ「プロテクト戦略」が有効です。
RISK-Xは具体的には標的型サイバー攻撃や、内部不正などを指しており、いつ起こるかが誰にも分らない、複雑で、原因がわかりにくいリスクにあたります。このようなリスクは事前の排除が出来ないことから、RISK-Xに対しては、万が一の際に被害の影響を最小限に留めることを目的とした「レスポンス戦略」を導入すべきです。
「『プロテクト戦略』と『レスポンス戦略』。この全く異なる戦略の統合がビジネスを守るために必要な、セキュリティ戦略の軸となります。」全ての組織が実践すべき、二大戦略について飯泉から提案されました。これは「被害の発生を可能な限り防ぎ、万が一事故が発生した場合は、その影響を最小限に留める。」というセキュリティの鉄則に基づいており、物理空間もサイバー空間も変わらない原則と言えるでしょう。
また、プロテクト、レスポンスそれぞれに統率、識別、防御、検知、対応、復旧というセキュリティ体制上の機能が記載されていますが、これはNISTのサイバーセキュリティフレームワークで定義されるCoreと対応しています。
「プロテクト戦略とレスポンス戦略。この二つの戦略を実現するための具体的な方法を見つけていただくために、この後のブレイクアウトセッションでは『予防トラック』と『復旧トラック』を用意しました。」ここで、今回のブレイクアウトセッションがなぜ予防と復旧に分かれているのかということについて、説明がなされました。
最後に、イベントにおける各セッション、展示ブース、ピットインラウンジについての紹介を終え、飯泉は降壇しました。
予防トラック、復旧トラック、展示ブース(ラウンジ)それぞれのレポートにつきましては、こちらの記事をご参考ください。またそれぞれ個別のセッションにつきましても後日、レポート記事が掲載される予定です。
これら4つのセッションを経て、基調講演は終了しました。
最後に
会場は立ち見が出るほどの混雑となり大盛況でした。AI時代がもたらす恩恵はとても大きなものであり、想像もできなかったサービスが今後も生まれてくるでしょう。そうした中で誰もがサイバー攻撃の脅威にさらされることなく、安全にAI時代を体験できるように、トレンドマイクロは今後も進化を続けます。今回の基調講演では、そうした新たな時代に向けた私たちのメッセージがふんだんに込められたセッションを開催させていただきました。
最後になりましたが、ご参加いただきました来場の皆様へ深く御礼申し上げます。トレンドマイクロはサイバーセキュリティの側面から多くの人々のビジネスの持続的成功に貢献できるよう努力してまいります。今後ともよろしくお願いいたします。
本基調講演で使用された資料につきましては、こちらからダウンロードください。
Security GO新着記事
内部不正はなぜ起こるのか?~その発生のメカニズムを探る~
(2024年12月5日)
AIガバナンスの動向は?各国のAI法規制を概観
(2024年12月4日)
仮想通貨(暗号資産)取引所を狙う攻撃を考察
(2024年12月4日)