人工智慧
開啟安全的 AI 推論：Trend Cybertron 與 NVIDIA 通用 LLM NIM 微服務
看看趨勢科技 Trend Cybertron 如何發揮 NVIDIA 通用 LLM NIM 微服務的強大威力。
NVIDIA 在 NVIDIA GTC Paris 2025 大會上宣布，NVIDIA NIM 將推出一種新的通用 LLM NIM 微服務來讓各種大型語言模型 (LLM) 可以快速、可靠地部署。這套新的微服務是專為將部署作業與後端最佳化分離而設計，讓許多企業享有前所未有的彈性、速度及擴充性。
對於早已融入 NVIDIA Enterprise AI Factory Validated Design 生態系的全球網路資安領導廠商趨勢科技來說，這項創新可說是一種戰略性催化劑。它讓我們將 Trend Cybertron 主動式網路資安 LLM 這套經過多年的風險情報、監測資料及駭客技巧所訓練出來的領域專精語言模型能夠導入營運環境，提供前所未有的效能與簡易性。它象徵了我們致力在最先進的基礎架構下提供安全、可擴充、AI 驅動網路資安解決方案的重大里程碑。
本文詳細探討這款通用 LLM NIM 微服務容器，說明它為何對發展安全的 AI 很重要，以及趨勢科技如何善用它來重新定義主權 AI 時代的網路資安。
當 Trend Cybertron 遇上通用 LLM NIM 微服務
趨勢科技投入了大量心力來開發專為網路資安量身打造的 Trend Cybertron LLM，這是一套真正了解資安語言的模型：從 MITRE ATT&CK 技巧、SIEM 記錄檔，到自然語言風險報告與紅隊演練等等。 通用 LLM NIM 微服務可讓我們直接在 NVIDIA Enterprise AI Factory 上執行我們的客製化模型，不論是在雲端、混合式或企業內環境。
為何這很重要：
- 快速創造價值：我們可以藉由通用 NIM 容器來部署專為即時偵測風險所打造的客製化 LLM 而不需等待客製引擎完成最佳化。
- 彈性的後端支援：不論我們是選擇 NVIDIA TensorRT-LLM 來提供高效能的推論，還是選擇 vLLM 來提供高效率的吞吐量與批次處理，通用 NIM 都能與後端的複雜性抽離。
- 為主權 AI 做好準備：趨勢科技能滿足企業和政府機關對資料主權與安全的嚴格要求。採用 NVIDIA Enterprise AI Factory 認證設計的企業內部署方式，我們就能提供可擴充、私密、值得信賴的 LLM 推論能力來配合政府對 AI 的要求。
- 深入核心的安全性：身為資安廠商，我們得益於自行開發模型的能力，並擁有訓練資料、智慧財產及客戶監測資料的掌控權，這一切對於 AI 是否值得信賴至關重要。
打造安全的主權 AI 工廠
Trend Cybertron 與通用 LLM NIM 微服務的整合，能協助政府和企業打造可擴充的主權 AI 工廠和 AI 代理。這對由本地端掌控、能自我改善且安全的 AI 系統來說是相當重要的條件。趨勢科技在資安領域的專業有助於確保 AI 代理和模型不單只是強大，而且還安全、可稽核，同時強韌。
有了 NVIDIA NIM 微服務，趨勢科技就能使用 Cybertron LLM 來打造強大的 AI 驅動網路資安功能：
- 模型偏離監控：有了通用 NIM 微服務帶來的快速部署週期，我們就能監控營運環境的推論行為，然後使用 NVIDIA NeMo Data Flywheel 來對模型進行重新訓練，確保長期一致的準確度。
- 零信任推論：當 NIM 部署在企業內，Cybertron 就能在零信任架構下運作，模型推論將受到嚴密控管，並且可稽核。
- RAG + 資安 LLM：藉由 NIM 與 AI-Q Blueprint 的整合，趨勢科技就能打造 AI 代理來即時執行資安知識庫、監測資料記錄檔以及威脅情報的推論。
- 快速實驗：有了不受限於後端的部署環境，我們的資安研究人員就能在 NVIDIA 基礎架構上立即測試新的 Cybertron 版本，在面對即時的風險時可縮短回應時間。
結合 NVIDIA 的高效能 AI 堆疊與趨勢科技在網路資安領域的專業，我們將共同實現以下目標：
- 讓安全、私有的 LLM 能快速部署。
- 實現端對端可觀察性來掌握 AI 代理如何處理敏感資料。
- 讓適應性的威脅感應 AI 系統能隨敵人而不斷演進。
既然 Trend Cybertron 現在可透過通用 NIM 微服務來部署，我們就能讓網路資安變得更快、更聰明、更安全，也更主動，將 AI 帶到數位防禦的第一線。
最後感想
通用 LLM NIM 微服務不僅是技術上的一大進步，更是企業導入 AI 的轉捩點。對趨勢科技來說，它將能徹底發揮 Trend Cybertron 主動式網路資安 LLM 的潛力，讓我們彈性快速地部署、改版及擴充 AI 防護解決方案。
在一個靈活性成為關鍵、風險每天都在不斷演進的時代，若能在一開始就安全地部署一套領域專精的 LLM，它將成為您改變遊戲規則的關鍵。不管是要保護雲端基礎架構、端點或企業網路，趨勢科技都在和 NVIDIA 攜手合作打造一個 AI 與網路資安齊頭並進的未來。