Hacking-Wettbewerb in Berlin: Hacker testen die Schwachstellen der KI

Garching bei München, 19. März 2025 – Trend Micro, einer der weltweit führenden Anbieter von Cybersicherheitslösungen, bringt erneut Hacker aus aller Welt zusammen – diesmal in Berlin. Der Hacking-Wettbewerb, der von 15. bis 17. Mai stattfindet, steht dabei ganz im Zeichen der Künstlichen Intelligenz (KI). Ziel der Veranstaltung ist es, die KI-Sicherheit zu stärken, indem ethische Hacker Zero-Day-Schwachstellen in KI-Technologien identifizieren und verantwortungsbewusst offenlegen.

Branchenanalysten warnen zunehmend vor den Sicherheitsrisiken, die von KI-gesteuerten Anwendungen ausgehen. Laut Gartner „führt der integrierte Ansatz zur Entwicklung von GenAI-Anwendungen und die Zusammenarbeit mit externen KI-Agenten zu neuen organisationsübergreifenden Sicherheitsrisiken, die zum Verlust sensibler Daten und zu Betriebsstörungen führen können.“

Während Unternehmen vermehrt in Large Language Models (LLMs), generative KI (GenAI) und andere Spitzentechnologien investieren, können sie unbeabsichtigt die Angriffsfläche für KI vergrößern. Davon können Container, Server, Datenbanken, LLM-Hosting-Tools sowie eine Reihe anderer Unternehmensressourcen betroffen sein.

Veranstaltungen wie der Pwn2Own Berlin spielen eine entscheidende Rolle bei der Beseitigung dieser aufkommenden Sicherheitslücken, indem sie Risiken aufdecken, bevor Bedrohungsakteure sie ausnutzen können.

Untersuchungen von Trend Micro von Dezember 2024 zeigen zahlreiche Schwachstellen in vielen dieser Komponenten auf, die Unternehmen potenziell Datendiebstahl, Data- und Model-Poisoning, digitaler Erpressung und anderen Bedrohungen aussetzen.

Der Pwn2Own-Wettbewerb findet vom 15. bis 17. Mai in Berlin statt und fordert die Teilnehmer dazu heraus, weitere dieser neuartigen Schwachstellen in den folgenden Produkten zu finden:

• Chroma: eine Open-Source-Datenbank für KI-Anwendungen.
• Postgres pgvector: eine Open-Source-Vektorähnlichkeitssuche für Postgres.
• Redis (Remote Dictionary Server): ein Open-Source-Projekt für In-Memory-Datenstrukturen.
• Ollama: Ein Tool, mit dem Benutzer mehrere LLMs lokal ausführen können.
• NVIDIA Triton Inference Server: Eine Open-Source-Software, die den Einsatz und die Ausführung von KI-Modellen für alle Workloads standardisiert.
• NVIDIA Container Toolkit: Ermöglicht Benutzern die Erstellung und Ausführung von GPU-beschleunigten Containern

Alle Zero-Day-Schwachstellen, die beim Wettbewerb entdeckt werden, werden verantwortungsvoll an die jeweiligen Anbieter zur Behebung weitergegeben.

Seit seiner Gründung im Jahr 2007 hat sich Pwn2Own zum weltweit größten Hacking-Wettbewerb entwickelt. Jährlich finden drei Veranstaltungen statt – darunter auch ein spezieller Pwn2Own Automotive-Wettbewerb, der sich auf die Sicherheit vernetzter Fahrzeuge konzentriert. Der Wettbewerb fördert Cybersicherheit maßgeblich, indem er Forscher dazu anregt, Schwachstellen zu finden und zu beheben, bevor sie als Waffe eingesetzt werden können.

 „Wenn es um KI geht, droht das Rennen um Wettbewerbsvorteile die Fähigkeit der Anbieter zu übersteigen, ihre Produkte zu sichern und ihre Kunden zu schützen.“, erklärt Dustin Childs, Head of Threat Awareness bei der Zero Day Initiative von Trend. „Die Aufnahme einer KI-Kategorie in den Pwn2Own trägt dazu bei, das Gleichgewicht wiederherzustellen und die Kompetenz, Entschlossenheit und Kreativität der ethischen Hackergemeinde zu nutzen. Indem wir Schwachstellen im KI-Ökosystem finden und beheben, bevor böswillige Akteure sie ausnutzen können, sorgen wir für mehr Sicherheit für alle.“

Weitere Informationen

Der nächste Pwn2Own findet vom 15. bis 17. Mai 2025 in Berlin statt.

Weitere Informationen zum Pwn2Own Berlin finden Sie unter:

https://www.trendmicro.com/de_de/research/25/c/erster-pwn2own-in-deutschland.html