Neue Forschungsergebnisse zeigen zunehmende Risiken auf Infrastrukturebene durch verschiedene Komponenten
Garching bei München, 31. Juli 2025 – Trend Micro, einer der weltweit führenden Anbieter von Cybersicherheitslösungen, veröffentlicht einen neuen Forschungsbericht zur Cybersicherheit im Bereich der künstlichen Intelligenz (KI). Der Trend State of AI Security Report fordert KI-Entwickler und IT-Führungskräfte dazu auf, bei der Entwicklung und Bereitstellung sicherer Systeme bewährte Best Practices zu beachten. Sie setzen sich sonst dem Risiko von Datendiebstahl, Data Poisoning (Datenvergiftung), Lösegeldforderungen und anderen Angriffen aus.
Der Bericht von Trend Micro hebt mehrere Sicherheitsherausforderungen im Zusammenhang mit KI hervor:
1) Schwachstellen/Exploits in kritischen Komponenten
Unternehmen, die KI-Anwendungen entwickeln, bereitstellen und nutzen möchten, müssen mehrere spezialisierte Software-Komponenten und -Frameworks einsetzen. Diese können Schwachstellen enthalten, wie sie auch in herkömmlicher Software zu finden sind. Der Bericht zeigt Zero-Day-Schwachstellen und Exploits in Kernkomponenten wie ChromaDB, Redis, NVIDIA Triton und NVIDIA Container Toolkit auf.
2) Versehentliche Exposition zum Internet
Schwachstellen sind oft das Ergebnis von überstürzten Entwicklungs- und Bereitstellungszeitplänen, ebenso wie Fälle, in denen KI-Systeme versehentlich vom Internet aus zugreifbar gemacht werden, wo sie von Angreifern untersucht werden können. Wie im Bericht ausführlich beschrieben, hat Trend Micro über 200 ChromaDB-Server, 2.000 Redis-Server und über 10.000 Ollama-Server gefunden, die ohne Authentifizierung zugänglich sind.
3) Sicherheitslücken in Open-Source-Komponenten
Viele KI-Frameworks und -Plattformen verwenden Open-Source-Softwarebibliotheken, um gängige Funktionen bereitzustellen. Open-Source-Komponenten enthalten jedoch häufig Sicherheitslücken, die sich in Produktionssysteme einschleichen und dort nur schwer zu erkennen sind. Beim jüngsten Pwn2Own-Hacking-Wettbewerb in Berlin, bei dem eine neue KI-Kategorie eingeführt wurde, entdeckten Forscher einen Exploit für die Vektordatenbank Redis, der auf eine veraltete Lua-Komponente zurückzuführen war.
4) Containerbasierte Schwachstellen
Ein Großteil der KI-Infrastruktur läuft auf Containern und ist somit denselben Sicherheitslücken und Bedrohungen ausgesetzt, die auch Cloud- und Containerumgebungen betreffen. Wie im Bericht dargelegt, konnten die Forscher beim Pwn2Own einen Exploit für das NVIDIA Container Toolkit aufdecken. Unternehmen sollten Eingaben bereinigen und das Laufzeitverhalten überwachen, um solche Risiken zu minimieren
„KI könnte für Unternehmen weltweit die Chance des Jahrhunderts sein. Wer jedoch zu schnell vorprescht, ohne angemessene Sicherheitsvorkehrungen zu treffen, kann am Ende mehr Schaden als Nutzen anrichten“, so Udo Schneider, Governance, Risk & Compliance Lead, Europe bei Trend Micro. „Wie unser Bericht zeigt, wird schon jetzt ein Großteil der KI-Infrastruktur aus ungesicherten bzw. ungepatchten Komponenten aufgebaut, was Angreifern Tür und Tor öffnet.“
Sowohl die Entwickler-Community als auch ihre Kunden brauchen ein besseres Gleichgewicht zwischen Sicherheit und Markteinführungszeit, um die oben genannten Risiken zu minimieren. Konkrete Schritte können sein:
Weitere Informationen
Mehr dazu, wie KI-Systeme geschützt, angegriffen und genutzt werden, gibt es hier im State of AI Security Report zum 1. Halbjahr 2025 von Trend Micro:
Über Trend Micro
Trend Micro, ein weltweit führender japanischer Anbieter von Cybersicherheit, schafft eine sichere Welt für den digitalen Datenaustausch zwischen Unternehmen, Behörden und Verbrauchern.
Mit jahrzehntelanger Expertise in IT-Sicherheit, globaler Bedrohungsforschung und kontinuierlicher Innovation nutzt Trend Micro modernste Technologien wie KI, um über 500.000 Unternehmen und Millionen von Einzelpersonen über Clouds, Netzwerke, Geräte und Endpunkte hinweg zu schützen.
Trend Micros Cybersecurity-Plattform für Unternehmen zentralisiert Cyberrisikomanagement, Security Operations und mehrschichtigen Schutz für lokale, hybride und Multi-Cloud-Umgebungen einschließlich souveräner Clouds. Das globale Bedrohungsforschungsteam von Trend liefert wertvolle Erkenntnisse, die in die Plattform einfließen und Unternehmen weltweit vor Hunderten Millionen von Bedrohungen täglich schützen.
Mit 7.000 Mitarbeitern in 70 Ländern versetzt Trend Sicherheitsverantwortliche in die Lage, Bedrohungen vorherzusagen und zu verhindern – und beschleunigt so proaktive Sicherheit in der gesamten digitalen Infrastruktur, einschließlich Umgebungen wie AWS, Google, Microsoft und NVIDIA.
Die deutsche Niederlassung von Trend Micro befindet sich in Garching bei München. In der Schweiz kümmert sich die Niederlassung in Wallisellen bei Zürich um die Belange des deutschsprachigen Landesteils, der französischsprachige Teil wird von Lausanne aus betreut; Sitz der österreichischen Vertretung ist Wien.
Proaktive Sicherheit beginnt hier. https://www.trendmicro.com/de_de/business.html
Media Contact:
Pressekontakt:
Akima Media GmbH
Christina M. Rottmair
Hofmannstraße 54
D-81379 München
Telefon: + 49 (0) 89 17959 18 – 0
E-Mail: trendmicro@akima.de
Internet: www.akima.net
Unternehmenskontakt:
Trend Micro Deutschland GmbH
Tobias Grabitz
Parkring 29
D-85748 Garching bei München
Telefon: +49 (0) 170 144 23 68
E-Mail: tobias_grabitz@trendmicro.com
Internet: www.trendmicro.com