人工智能資訊保安是指企業用來保護其人工智能組合的工具、技術與措施，以及採用人工智能來強化網絡資訊保安系統，進而改善漏洞偵測、關聯與回應動作，讓您的資訊保安運作團隊從被動的資訊保安狀態變成主動的資訊保安狀況。
目錄
人工智能一詞最早出現在 20 世紀 50 年代，它描述了模仿人類大腦結構和功能的電腦和機器，用來執行複雜工作、解決複雜問題、預測未來成果，並從經驗中學習。
人工智能防護是網絡資訊保安的一個分支，涵蓋了企業保護人工智能組合、人工智能系統、資料和應用程式免受潛在威脅的所有流程、實務和措施。包括使用人工智能工具和技術來：
- 保護企業人工智能網絡的所有層面，從端點到人工智能模型
- 保護人工智能模型、系統和應用程式，防範各式各樣的網絡威脅、罪行和攻擊
- 在人工智能資訊保安與網絡資訊保安防禦漏洞遭到攻擊前預先加以發掘並防範
- 保護人工智能基礎架構與訓練資料，防範人工智能模型損毀、中毒或資料竊取
- 確保人工智能大型語言模型、生成式人工智能引擎及深度學習與機器學習流程資料的品質與完整性
- 解決潛在的道德問題，以及有關偏見、透明度、資料私隱與解讀性等問題的疑慮
- 確保所有人工智能的使用、資料與開發都完全符合相關法律、公司政策與產業規範
人工智能資訊保安與人工智能網絡資訊保安的比較
儘管這兩個詞彙聽起來幾乎完全相同，但人工智能防護與人工智能網絡資訊保安之間卻有很大的差異。
人工智能防護的重點在於保護人工智能本身，保護企業的人工智能組合，保護其人工智能系統、元件、網絡及應用程式。
人工智能網絡資訊保安（亦稱為「資訊保安專用人工智能」）的重點在於運用人工智能工具和技術來保護資訊科技基礎架構，防範網絡犯罪、網絡攻擊及其他網絡資訊保安威脅。包括使用人工智能來：
- 分析大量資料來偵測模式、發掘異常狀況，並且突顯潛在的資訊保安風險
- 掃瞄並消除企業網絡資訊保安防禦中的落差與漏洞
- 實時發掘並防範資料外洩與其他網絡攻擊
- 自動化威脅偵測與回應工具，降低對資訊保安團隊的需求，提升資訊保安防禦的速度與準確性
- 善用最新的威脅情報來隨時掌握黑客的攻擊、最新或新興的攻擊途徑
- 提升企業整體網絡資訊保安威脅管理策略與功能
保護人工智能系統的重要性
儘管人工智能的概念已經存在了數十年，但近年來人工智能技術的進步已經徹底改變了從交通運輸、醫療到網絡資訊保安等產業。不幸的是，人工智能的普及率已讓黑客掌握漏洞攻擊人工智能技術，令網絡攻擊的數量、範圍和精密度大幅攀升。
因此，企業必須盡可能確保人工智能資料完整性、機密性與可用性，保護人工智能工具和應用程式，防範新興的網絡資訊保安風險與網絡攻擊，並且保護其人工智能模型、系統與演算法，防範各種不斷演變的網絡威脅。
若未妥善保護人工智能系統以防範這些威脅，企業就有可能遭到攻擊，讓客戶和合作夥伴陷入危險，進而造成數百萬美元的修正費用、贖金要求、營業以及生產力損失。
人工智能防護有哪些風險？
人工智能徹底改變網絡資訊保安領域的潛力，顯然是大有前景的。但企業在建置一套有效的人工智能資訊保安策略時，需要考量的人工智能資訊保安風險與挑戰已越來越多。包括：
- 受攻擊面增加的風險：將專屬第三方產品人工智能模型整合至企業的人工智能基礎架構，可大幅擴大其受攻擊面，增加黑客可進行漏洞攻擊的弱點，讓人工智能系統更容易遭到更強大或更頻繁的網絡攻擊。
- 惡意或針對人工智能資料和演算法攻擊的風險：不法集團可以取得未經授權的人工智能工具和資料存取權限、篡改人工智能資料和演算法以插入漏洞或偏頗訊息、危害人工智能模型準確預測或防範未來攻擊的能力，以及篡改、濫用或竊取人工智能模型和演算法。
- 資料中毒、損毀及竄改的風險：網絡犯罪集團會刻意變更輸入資料或自行插入新資料來入侵人工智能工具和系統，進而破壞機器學習流程或人工智能模型。
- 人工智能訓練模型的風險：網絡犯罪集團可竊取、操控或逆向設計專屬的人工智能訓練模型。此外，也可能破壞、洩漏或篡改用來開發及訓練人工智能模型的資料，進而降低其準確性、效能和完整性。
- 偏見、歧視、資料私隱及缺乏透明度的風險：人為錯誤和網絡攻擊可能增加人工智能模型的資料隱私疑慮和偏見，並可能危害透明度、公平性與責任感的原則。
- 未能遵循產業與政府法規的風險—未妥善保護敏感、個人或機密資料可能導致政府和產業主管機關的嚴重懲罰和違規指控，包括歐盟通用資料保護法規（GDPR）。
- 攻擊第三方供應商的風險：黑客可利用第三方產品合作夥伴的人工智能網絡、元件、框架和軟件庫的弱點，攻擊企業供應鏈中任何人工智能系統，然後將這些漏洞用於攻擊供應鏈中任何地方的其他人工智能模型。
- 人工智能模型的漂移和衰變風險 — 隨著時間過去，所有人工智能模型都可能面臨漂移或衰變的風險。不法份子可利用漏洞攻擊變質或變異的人工智能模型來改變其行為，或犧牲其準確性和可靠性。
- 竊取聊天機器人登入憑證的風險：網絡犯罪集團可竊取 ChatGPT 這類人工智能廠商的聊天機器人登入憑證，或者在暗黑網站購買被竊的登入憑證，然後利用這些憑證來非法存取專屬的人工智能工具和系統。
- 深偽照片、影片和音訊風險：黑客可利用人工智能產生的深偽影像和影片來詐騙企業、勒索個人或企業、誘騙員工允許存取關鍵系統、揭露機密資訊，或是竊取珍貴資料。
- 直接和間接的快速注入攻擊風險：快速注入攻擊可能利用惡意程式碼來誘騙大型語言模型 和其他人工智能工具洩漏敏感資訊、允許未經授權的存取或刪除關鍵文件。
- 濫用人工幻覺的風險：黑客可利用常見的人工幻覺來刻意入侵人工智能模型所依賴資料並影響其決策。
- 雲端資產和基礎架構的風險：網絡犯罪集團可能侵入雲端人工智能模型，進而破壞或竊取資料和其他資產。
如果企業無法確保自己的人工智能保安與網絡資訊保安措施的完善、完整且隨時保持更新，那麼黑客就能透過漏洞攻擊這些風險來破壞人工智能模型的成效和可靠性、竊取敏感或私密資料，進而造成嚴重的財務和商譽損失。
人工智能防護能帶來什麼效益？
採用人工智能資訊保安措施來保護人工智能組合的企業，將得到很多益處，包括以下強化功能：
人工智能防護最佳實務守則
最有效的人工智能資訊保安方案，都遵循了許多業界標準的最佳實務守則來保護其人工智能工具及資源，並提升其資訊保安狀態。這些實務包括：
- 制定一套全方位的人工智能資訊保安策略，將進階威脅模型與追蹤活動結合人工智能導向的風險評估功能、全方位人工智能資訊保安控管，以及詳細的事件回應計劃和程序，以保護企業的人工智能系統和資料。
- 確保人工智能訓練資料的品質、完整性和可靠性，解決有關透明度、偏頗度和解讀性的問題，並確保人工智能模型盡可能準確有效。
- 建置符合業界標準的人工智能資訊保安框架來建立一套明確的標準和指南，以保護人工智能系統、消除人工智能防禦的任何落差或漏洞，並且符合所有相關人工智能資訊保安法規。包括整合資訊保安框架，如美國國家標準與技術研究所（NIST）人工智能風險管理框架、 人工智能系統（ATLAS）的 MITRE 對抗威脅情勢矩陣與人工智能防護的敏感法規架構、開放式 Web 應用程式安全專案（OWASP）大語言模型應用程式十大最佳實務守則、Google 的安全人工智能框架（SAIF）及 ISO/IEC 27001 資訊保安管理（ISMS）標準。
- 將人工智能防護與現有的資訊保安與網絡資訊保安措施整合，為所有人工智能和資訊科技 應用程式、工具、系統及網絡提供無縫接軌的端對端網絡威脅防護。
- 定期舉辦員工培訓與認知計劃，提升網絡資訊保安團隊與其他員工對於最新威脅與資訊保安措施的意識，並且持續改進企業文化。
- 持續監控、評估及更新人工智能模型以掃瞄及防範人工智能工具和系統的漏洞，隨時發掘新興威脅，並且不斷改進人工智能模型和應用程式來提升其準確性、效能和可靠性。
人工智能網絡資訊保安應用程式範例
隨著人工智能工具越來越先進，網絡資訊保安領域人工智能的潛在用途和應用程式也幾乎每天都在不斷擴展。
除了其他效益外，人工智能導向的網絡資訊保安應用程式還可大幅提升企業網絡資訊保安防禦的涵蓋範圍與成效，將威脅偵測與事件回應活動自動化，定期或持續執行漏洞掃描 與其他主動措施，並使用最新的威脅情報與資訊保安數據分析來預測、預先防範及保護新興的網絡資訊保安威脅。
人工智能網絡資訊保安最有效、最廣為採用的應用程式包括運用人工智能來提供資料防護、端點防護、雲端防護、進階威脅追蹤、詐騙偵測，以及身份與存取管理（IAM）。
- 資料防護
企業可利用人工智能來將機密或敏感資訊分類和加密、監控系統的存取狀況，更快、更準確地偵測資料、保護人工智能資料免於遺失或損毀，以及保護人工智能組合，避免未經授權的存取、使用或揭露。然而，人工智能環境的敏感資訊盲點可能導致嚴重的資料與合規問題，因此主動發掘及防範這些漏洞至關重要。
- 用戶端防護
採用人工智能技術的用戶端偵測及回應（EDR）方案有助於即時保護筆記本電腦、桌面電腦、伺服器、流動裝置及其他網絡端點，主動偵測並攔截惡意程式、勒索程式及其他網絡攻擊。
- 雲端防護
採用人工智能技術的雲端防護技術，可全天候監控及管控雲端環境的存取，發掘任何異常或可疑活動，隨時警示資訊保安團隊潛在的威脅，防範雲端資料和應用程式遭到未經授權存取和資料外洩。
- 進階威脅捕獵
進階人工智能威脅追蹤工具可快速、輕鬆地分析資料記錄檔、網絡流量模式及用戶活動和行為來尋找惡意攻擊，在網絡犯罪集團造成任何持續損害之前預先加以攔截，並且保護人工智能系統和基礎架構，防範進階持續性威脅及其他網絡攻擊。
- 詐騙偵測
銀行與金融服務界的企業可利用機器學習演算法、神經網絡及其他進階人工智能技術來偵測潛在的詐騙活動、封鎖銀行或其他網上帳號免受未經授權的存取，以及防範金融與電子商務交易的身份盜用。
- 身份識別與存取管理
採用人工智能的身份與存取管理方案可協助企業監控及保護認證、授權及存取管理流程的每一步，確保他們遵守所有人工智能公司的政策和程序手冊、遵循產業規範、防止未經授權的敏感資料存取，並防止黑客進入系統。
哪裡可以取得人工智能防護的協助？
Trend Vision One™ 是一個全方位的人工智能網絡資訊保安導向平台。
Trend Vision One 配備強大且領先業界的人工智能工具和技術，能比傳統的人手資訊保安團隊更快、更有效偵測、預測及防範網絡威脅。要實現有效的人工智能組合防護，需要保護每一層，從資料、基礎架構到用戶，確保對影子人工智能部署的可視性，強制實施嚴格的存取控管來達成合規要求，並建立人工智能 API 防護措施來防止誤用和模型中毒。這些功能可讓企業保護整個人工智能組合，並且在發生網絡攻擊前預先保護其人工智能資料、應用程式和系統。
Trend Vision One 還具備 Trend Cybertron，全球第一個真正的主動式網絡資訊保安人工智能。憑著趨勢科技久經驗證的大量語言模型、資料集、進階人工智能代理程式，以及在人工智能資訊保安領域 20 多年的經驗，Trend Cybertron 可分析歷史模式和資料來預測每位客戶特有的攻擊，讓企業達致比傳統事件回應快 99% 的修正時間，並且幾乎在一夜之間讓企業的資訊保安營運從被動轉為主動。
此外，Trend Cybertron 也持續不斷演進與調整，隨時因應企業的需求變化，隨時掌握網絡犯罪集團採用的最新手法、技巧與程序。如此一來，企業就能確保自己的人工智能資訊保安防護與人工智能網絡資訊保安防禦隨時保持穩定、完整及時刻更新。