Cloud
Trend Cybertron trifft auf LLM NIM-Microservice
Der neue NVIDIA LLM NIM-Microservice-Container erlaubt es, unser domänenspezifisches Sprachmodell Cybersicherheits-LLM Trend Cybertron einfach in Produktionsumgebungen einsetzen. Der Vorteil: Aufbau sicherer souveräner KI-Fabriken.
Save to Folio
Auf der NVIDIA GTC in Paris kündigte NVIDIA die erweiterte Unterstützung von NVIDIA NIM für die schnelle und zuverlässige Bereitstellung einer Vielzahl von großen Sprachmodellen (LLMs) mithilfe eines neuen universellen LLM NIM-Microservices an. Er soll die Bereitstellung von der Backend-Optimierung zu entkoppeln, und bietet Flexibilität, Geschwindigkeit und Skalierbarkeit, die für viele Unternehmen bisher unerreichbar waren.
Trend Micro ist in das NVIDIA Enterprise AI Factory Validated Design-Ökosystem integriert, und diese Innovation bedeutet einen strategischen Katalysator. Damit können wir nun unser Cybersicherheits-LLM Trend Cybertron – ein domänenspezifisches Sprachmodell, das auf jahrelanger Risikoanalyse, Telemetrie und gegnerischen Taktiken trainiert wurde – einfach und mit hoher Leistung in Produktionsumgebungen einsetzen.
Wir haben viel in die Entwicklung proprietärer Cybertron LLMs investiert, die speziell auf Cybersicherheit zugeschnitten sind. Es geht um Modelle, die die Sprache der Sicherheit verstehen – von MITRE ATT&CK-Techniken und SIEM-Protokollen bis hin zu Risikoberichten in natürlicher Sprache und Red-Team-Narrativen. Der universelle LLM NIM-Microservice ermöglicht es, diese benutzerdefinierten Modelle direkt auf NVIDIA Enterprise AI-Fabriken auszuführen, unabhängig davon, ob in Cloud-, hybriden oder lokalen Umgebungen.
Es gibt mehrere Gründe, warum dies wichtig ist:
- Schnelle Amortisierung: Benutzerdefinierte LLMs für die Echtzeit-Risikoerkennung lassen sich mithilfe des universellen NIM-Containers bereitstellen, ohne auf benutzerdefinierte Optimierungen auf Engine-Ebene warten zu müssen.
- Flexible Backend-Unterstützung: Unabhängig davon, ob wir NVIDIA TensorRT-LLM für leistungsstarke Inferenz oder vLLM für effizienten Durchsatz und Batch-Verarbeitung wählen, abstrahiert Universal NIM die Komplexität des Backends.
- Souveräne KI-Bereitschaft: Trend bedient Unternehmen und Behörden mit strengen Anforderungen an die Datensouveränität und -sicherheit. Mit der lokalen Bereitstellung auf Basis des validierten Designs der NVIDIA Enterprise AI Factory können wir skalierbare, private und vertrauenswürdige LLM-Inferenz anbieten, die den nationalen KI-Vorgaben entspricht.
- Sicherheit im Mittelpunkt: Wir profitieren von der Möglichkeit, unsere Modelle selbst zu hosten und die Kontrolle über Trainingsdaten, geistiges Eigentum und Kundentelemetrie zu behalten – allesamt wesentliche Voraussetzungen für vertrauenswürdige KI.
Aufbau sicherer souveräner KI-Fabriken
Die Integration von Trend Cybertron in den universellen LLM-NIM-Microservice hilft Nationen und Unternehmen beim Aufbau skalierbarer, souveräner KI-Fabriken und –Agenten - ein entscheidender Wegbereiter für lokal kontrollierte, sich selbst verbessernde und sichere KI-Systeme. Durch die Nutzung der NVIDIA NIM-Microservices lassen sich mit Cybertron LLM robuste KI-gesteuerte Cybersicherheitsfunktionen aufbauen:
- Modell-Drift-Überwachung: Dank der schnellen Bereitstellungszyklen können das Inferenzverhalten in der Produktion überwacht und Modelle mit NVIDIA NeMo Data Flywheel neu trainiert werden, um eine konsistente Genauigkeit über einen längeren Zeitraum hinweg zu gewährleisten.
- Zero Trust Inference: Mit NIM vor Ort kann Trend Cybertron in Zero-Trust-Architekturen betrieben werden, in denen die Modellinferenz streng kontrolliert und überprüfbar ist.
- RAG + Security LLMs: Infolge der Integration von NIM in den AI-Q Blueprint lassen sich Trend KI-Agenten erstellen, die in Echtzeit über Sicherheitswissensdatenbanken, Telemetrie-Logs und Bedrohungsinformationen ihre Schlussfolgerungen ziehen können.
- Schnelles Austesten: Dank der Backend-unabhängigen Bereitstellung können unsere Sicherheitsforscher neue Cybertron-Varianten sofort auf der NVIDIA-Infrastruktur testen und so die Reaktionszeit bei Live-Risiken verbessern.
Durch die Kombination des KI-Stacks von NVIDIA mit der Fachkompetenz von Trend im Bereich Cybersicherheit ermöglichen wir gemeinsam:
- Schnelle Bereitstellung sicherer, privater LLMs
- End-to-End-Beobachtbarkeit für KI-Agenten, die mit sensiblen Daten umgehen
- Adaptive, bedrohungsbewusste KI-Systeme, die sich mit Angreifern weiterentwickeln können
Fazit
Der universelle LLM-NIM-Mikroservice ist nicht nur ein technischer Fortschritt, sondern ein Wendepunkt für die Einführung von KI in Unternehmen. Für Trend Micro erschließt er das volle Potenzial des Cybersicherheits-LLM Trend Cybertron und ermöglicht uns die flexible und schnelle Bereitstellung, Iteration und Skalierung von KI-Sicherheitslösungen.