人工智慧
當風險管理遇上 AI 巨浪：第一線資安防禦者的真實告白
第一線資安人員如何以 AI 強化防禦、搶回主導權 ? AI 攻防實錄：趨勢科技 2025 資安人員調查報告深度解密
Save to Folio
科技無所謂善惡，端看您如何使用，若是有任何工具能證明這點，那絕對非 AI 莫屬。一方面，AI 能讓駭客製造出全新的威脅，發動前所未有的大規模攻擊。另一方面，AI 也為資安團隊帶來了全新的能力，讓他們強化資安防禦。
我們的 《2025 年趨勢科技資安人員調查報告》(Trend Micro Defenders Survey) 深入探討了 AI 的正反兩面。這份報告分析了 88 個國家 3,000 多名受訪者的回覆，點出一些讓資安人員輾轉難眠的 AI 風險，以及一些網路資安團隊可運用 AI 工具來改善資安態勢的契機。
以下是其中的一些重點：
假冒與詐騙是 AI 的首要風險
超過四分之一 (26%) 的受訪者表示，防範詐騙和 AI 驅動的身分假冒是他們在面對 AI 風險時最大的優先要務。其他重點還有：防範 AI 應用程式攻擊、避免資料或智慧財產經由 AI 工具外洩，以及更深入掌握員工如何使用 AI 解決方案，不論是經過核准的應用程式或是「影子 AI」(shadow AI)。
平心而論，這些重點全都反映出企業對於 AI 攻擊的了解及回應能力普遍感到焦慮。
好消息是，這並非無解，有 15% 的受訪者表示他們已經開始透過教育和訓練來提升 AI 風險意識。有超過 10% 的受訪者已優先封鎖未經核准的應用程式。另有 7% 的受訪者則將重心擺在防範資訊遭到不當存取。
還有很多企業正在研究一些既能讓他們負責任地管理 AI、又能盡量降低潛在風險的其他手段和作為。
資安人員正在反擊
受訪者表示，零信任架構、資料資安態勢管理 (DPSM) 以及加密，都是他們防範 AI 相關威脅的手段。可惜的是，主動進行測試的情況並不太普遍，僅有 6% 的受訪者表示他們會定期執行 AI 稽核，或透過紅隊演練來確保自己的資安防護能發揮最大作用。
儘管如此，這仍是個好兆頭，表示有越來越多企業會在 AI 導入流程的前期便讓網路資安團隊參與，其中有 23% 是在探索階段便開始參與，另有 25% 是在試行階段。
這種「向流程前期移動」的作法確實令人振奮，即使還有改善空間，而且目前看來顯然還有，因為有 17% 的受訪者只有在建置階段才讓資安團隊參與，而此時也許已經太晚；還有 10% 完全不知道他們資安團隊是何時開始參與；另有 6% 表示完全沒有讓資安團隊參與。
另一個可以讓資安團隊對抗 AI 威脅的明顯方式就導入 AI 工具，這樣的作法雖然已經開始出現，但還是有一些障礙需要清除。
對網路資安 AI 的信心
有將近 20% 的受訪者表示，其企業尚未開始使用基於 AI 的網路資安工具。還有大約同樣比例的受訪者表示，他們對於 AI 的準確度和可靠性仍存有疑慮，另有更少比例的受訪者表示隱私權風險或許是他們仍裹足不前的原因。
當然，任何希望透過部署 AI 防禦來讓他們有更多喘息時間的團隊，都應該會有些疑慮。AI 工具必須受到監控和訓練。重點在於訓練，而越早讓 AI 進入應用階段並開始學習，它們就會越變越好。
另一個成功的關鍵是確保 AI 網路資安工具/策略的運用與業務的需求一致。有 19% 的受訪者表示，他們面臨的最大挑戰是找出相關且有價值的應用情境。要達到這點，至少需要兩項條件：第一是技術及網路資安領導人必須和高階主管進行業務導向的對話，找出資安與業務目標重疊之處；第二是建立一套全企業適用的策略性資安風險管理實務，以便判斷 AI 工具該用在哪裡，以及如何使用。
AI 風險是資安風險管理的核心
順道一提，我們在前一篇有關《2025 年趨勢科技資安人員調查報告》的文章中，已經將這些 AI 風險放在整體資安風險框架當中來討論，並說明了企業當前的應對方式。希望您也查看一下那篇文章，當然，您也可以下載這份完整的報告。
今年的調查結果已明確指出，AI 是當前資安風險管理的重要一環，未來也將持續下去。現在的問題已經不再是：「AI 是敵人還是朋友？」 而是：「我們面臨的最大 AI 風險在哪裡？該如何應對？以及我們該如何利用 AI 來扭轉局勢以對抗駭客？」
答案就在本文扼要點出的調查結果，包括：提升意識與更多訓練、更成熟的公司政策、盡早讓資安團隊參與 AI 導入，以及善用 AI 帶來的全新進階網路資安功能。
下一篇文章，我們將換個角度探討企業該如何讓自己的雲端風險管理方法變得更加成熟。敬請持續保持關注。
下一步
請參閱以下其他文章來進一步了解如何管理雲端風險：