Unter wessen Autorität und in welchem Umfang dürfen KI-Agenten handeln? Auf Basis der für KI-Agenten spezifischen Risikostruktur unterstützt unser Sicherheitsframework mit Methoden für technische und organisatorische Kontrollmaßnahmen.

KI-Angriffe gehen über böswillige Prompts hinaus und richten sich auch gegen die Tools, Modelle und Pipelines, auf die Unternehmen bereits vertrauen, zeigt unsere Analyse. Welche Kontrollmaßnahmen können Unternehmen ergreifen, um ihr Risiko zu verringern?

Prompt Injection kann auch als Verteidigungsmechanismus dienen. Mit Scarecrow gibt es ein Tool, das Anweisungen zur Verweigerung der Verarbeitung in Dokumenten verbirgt und somit dabei hilft, den KI-gesteuerten Zugriff auf sensible Dokumente zu unterbinden.

Earth Sirrush hat seine Tools und Verbreitungsmethoden wiederholt geändert, doch wir zeigen auch, wie gemeinsamer Code, wiederverwendete Artefakte und Infrastrukturmuster weiterhin die Verbindungen zwischen den einzelnen Kampagnen offenlegen.

Eine wohlmeinende Ausrichtung eines Modells kann die Anschlüsse, Tools und Daten, mit denen ein Agent zu tun hat, nicht schützen. Echte Agentensicherheit bedeutet, jede Ebene durch Vorschriften zu regeln, die der Agent selbst nicht außer Kraft setzen kann.

Was wäre, wenn ein Risiko-Assessment nicht mit der Übergabe eines Reports endet, sondern der Ausgangspunkt für eine langfristige Kundenbeziehung wird?

Im zweiten Quartal 2026 haben die Bedrohungen für den öffentlichen Sektor an Hartnäckigkeit zugelegt: Von KI-generierter Ransomware über Spionage durch Nationalstaaten bis hin zu Angriffen auf die Lieferkette – die Bandbreite an Risiken wächst.

Ein Testing-Framework soll die KI-native Angriffsfläche eines Agenten abbilden, indem es diesen systematisch angreift. Funktioniert dies bei mehreren Modellen, deutet das auf eine gemeinsame Schwachstelle hin – Grundlage für entsprechende Kontrollmaßnahmen.

Das erste Halbjahr 2026 bestätigte die Befürchtungen der Sicherheitsteams: KI führte keine neue Kategorie von Bedrohungen ein, sondern verstärkt vielmehr die alten. Und staatliche Akteure setzten KI in mehr Phasen des Angriffszyklus ein als je zuvor.

Quantifizierung von Cyberrisiken bedeutet, Risikodaten mit dem geschäftlichen Kontext zu verknüpfen, und damit eine Sprache zu finden, die Führungskräfte verstehen. Das Ergebnis ist nur so gut wie die Daten dahinter. Wie kann TrendAI™ CREM dabei helfen?

Eine mögliche Verlangsamung der KI-Entwicklung, um Risiken zu mindern, können Abwehrteams nicht mitmachen. Ihre Herausforderung besteht darin, die Geschwindigkeit zu erhöhen, mit der Schwachstelleninformationen in Schutzmaßnahmen umgesetzt werden.

Wie gefährlich ist KI? Zwischen Untergangsszenarien, Cyberangriffen und globalem Wettrüsten zeigen wir, worum es im Kern geht: korrekt definierte Kontrolle, Verantwortung für Schäden und die Frage, wie sich Unternehmen künftig schützen können und müssen