Künstliche Intelligenz (KI)
KI-Sicherheit: Regulierung statt Rüstungswettlauf
Wie gefährlich ist KI? Zwischen Untergangsszenarien, Cyberangriffen und globalem Wettrüsten zeigen wir, worum es im Kern geht: korrekt definierte Kontrolle, Verantwortung für Schäden und die Frage, wie sich Unternehmen künftig schützen können und müssen
Save to Folio
Es ist eine interessante Frage, die derzeit von den Anbietern der künstlichen Intelligenz aufgeworfen wird. Man denke offen darüber nach, die Bremsen anzuziehen und es geht um Regulatorik. Auffallend dabei… diese Anforderungen kommen von Firmen, die viel in KI investiert haben. Und sie kommt vor allem aus den USA. Aber was steckt dahinter?
Gefährlich?
Jede neue Technologie birgt Gefahren, speziell dann, wenn man damit Waffen bauen kann. Und das dürfte mit KI unbestritten machbar sein. Als Sicherheitsexperten haben wir bereits zu Beginn des Hypes vor der Ausnutzung durch Kriminelle gewarnt. Anfang 2026 gab es die ersten Angriffe mit Hilfe von KI-Systemen, bzw. autonom von diesen durchgeführt. Öffentlich bekannt wurde der „Unfall“ bei OpenAI, wobei nach eigener Angabe die KI aus einem abgeschotteten Bereich ausgebrochen sei und „selbständig“, ohne menschliche Anweisung, ein anderes Unternehmen angegriffen habe.
Aber es geht nicht nur um aktives Angreifen. Auch für die gut gemeinte Verteidigung gibt es Probleme. Anthropic behauptete im März, ihre Software habe zehntausende nicht-gepatchte Softwarelücken in Open Source gefunden und in Stichproben auch ausgenutzt. Ende August waren davon 500 mit Patches schließbar. Im September veröffentlichte Microsoft in nur einem Monat so viele Schwachstellen wie sonst in einem Jahr.
Dass es hier darum geht, die Verteidigung zu unterstützen, dürften die wenigsten Firmen so empfinden. Sie kommen aus den Patch-Zyklen schon gar nicht mehr heraus. Und bereits im Mai hatten Hacker in Berlin beim Pwn2Own, dem wichtigsten Hacking-Wettbewerb, bewiesen, dass man mit Hilfe von KI auch in Closed Source-Lösungen Schwachstellen finden und ausnutzen kann. Aus Cybersecurity-Sicht lässt sich deshalb sicher sagen, dass KI gefährlich ist. Sie ist es, im gleichen Sinne wie beispielsweise auch ein Messer oder ein Auto gefährlich sind. Doch das ist nicht gemeint.
Bedrohlich?
Wenn die Hersteller von Gefahren sprechen, meinen sie… ja, was eigentlich? Dass Terminatoren die letzten Reste der Menschheit aufspüren und vernichten würden? Dass die von ihnen designten Systeme ein eigenes Bewusstsein entwickeln und sich wie in Odyssee 2001 nicht mehr abschalten lassen? Das sind zumindest die Assoziationen, die die Warnungen hervorrufen.
Aber handelt KI wirklich unkontrolliert? Oder hat der Mensch einfach nur nicht richtig definiert, was er mit Kontrolle meint? Ein Hersteller, dessen System sich unabsichtlich zur gefährlichen Waffe entwickelt, kann diese abschalten. Zumindest aber wird er für die verursachten Schäden haftbar gemacht werden. Und das ist wohl auch das Dilemma. Systemen wurde beigebracht, wie Cyberangriffe funktionieren, und die Hersteller stellen nun fest, dass der Computer dieses Wissen anwendet, auch wenn ihm das nicht explizit aufgetragen wird. Und ja, die Kosten für Unfälle könnten hoch werden. Vor allem, weil man als US-Konzern juristisch angreifbar ist. Dass die Betroffenen da den Weg in die „Unzurechnungsfähigkeit“ der KI suchen, ist nachvollziehbar.
Die Konkurrenz aus China…
…tut sich da im Verhältnis leicht. Sie hat nicht den Anspruch, technologischer Vorreiter zu sein. Im Zweifel wird einfach kopiert, was man nicht selbst entwickelt. Sie treiben die Amerikaner damit vor sich her, und der technologische Vorsprung auf der einen Seite wird innerhalb weniger Monate auf der anderen Seite aufgeholt – zu einem Bruchteil des Preises. Nach der Ankündigung von Anthropic im März, Schwachstellen finden zu können, folgt im Juni Quihoo360 mit der Nachricht, die eigene KI könne das Gleiche, aber besser. Tut sie das? Anthropic hat keine geheimen Trainingsdaten verwendet, und auch die Algorithmen, mit denen KI-Systeme gebaut werden, sind bekannt. Darüber hinaus berichtet der Konzern, er sei ausspioniert worden.
Gleichzeitig investiert China enorme Summen in die Ausbildung von KI-Spezialisten und in die Energieversorgung und zeigt sich unbeeindruckt von Vorwürfen des Plagiats bzw. der Spionage. Es ist ein Rüstungswettlauf, der hier stattfindet. Kommerzielle Unternehmen allein können den nicht gewinnen, zumal auch die Umsätze nicht in dem Maße steigen, den sie sich erhofft hatten. Wenn jetzt eine Pause und neue Regeln gefordert werden, ist das eher die Frage eines Sprinters, der plötzlich feststellt, dass er an einem Marathon teilnimmt.
Angriffe durch KI
Unabhängig von der aktuellen Diskussion dürfte es klar sein, dass die Möglichkeit automatisierbarer Cyberwaffen für viele Regierungen ein verlockendes Potenzial bietet. Anders als die geächteten ABC-Waffen ist die Wahrscheinlichkeit (derzeit) gering, Menschenleben mit „digitalen“ Waffen zu gefährden. Darüber hinaus sind die meisten Angriffe kaum zu ihrem Ursprung zurückzuverfolgen, und im Zweifel lässt sich ja behaupten, dass die KI „unkontrolliert“ zugeschlagen habe.
Damit dürfte klar sein, dass es weitere Investitionen in diese Fähigkeiten geben wird. Die spannende Frage wird sein, wer dann darauf Zugriff hat. Damit ist speziell die „illegale“ privatwirtschaftliche Nutzung von Kriminellen gemeint. Hier ist die Prognose düster. Sogar harmlos erscheinende KI-Systeme werden bereits jetzt von Hackern für ihre Zwecke verwendet.
Des Weiteren erkennen wir unter anderem auch aufgrund der geopolitischen Situation, dass manche Regierungen sich nicht vor der Zusammenarbeit mit Kriminellen scheuen. Warum auch? Diese sitzen meist im eigenen Land und können überwacht und im Zweifel verhaftet werden. Derart überzeugende Argumente auf der einen und potenzieller Reichtum auf der anderen Seite sind auch für die Piraten des 21. Jahrhunderts ein Anreiz, die Kaperbriefe ihrer Nation aufzunehmen. So machen Regierungen sich offiziell nicht einmal die Hände schmutzig, wenn die Wirtschaft anderer Nationen Schäden in Milliardenhöhe verkraften muss.
Und die Verteidigung?
Aus Sicht der Cybersicherheit ist die Diskussion um Regulierung irrelevant. „Wer“ aus „welchen“ Motiven hier „was“ fordert, ändert nicht die grundsätzliche Prognose. KI-Systeme werden weiterhin angreifen, und ob es ein Versehen, Ziel oder Kollateralschaden ist, spielt für die Betroffenen keine Rolle.
Die Kiste der Pandora ist nun geöffnet. Selbst wenn wir sie wieder schließen, bleibt die Technik in der Welt. In der Mythologie wird die Kiste ein weiteres Mal geöffnet, und heraus kommt die Hoffnung. Gleiches gilt für die Verteidigung. Verwendung von KI in der IT-Sicherheit ist nicht mehr nur optional. Hier geht es darum, eine Chance zu haben, sich gegen künftige Angriffe zu verteidigen. KI ist dafür eine spannende Technologie -- aber sie ist nicht unfehlbar, zum Glück.
In der Cybersicherheit gibt es Bereiche, in denen diese Tatsache mal der einen und mal der anderen Seite hilft. Beim Angriff auf ein Unternehmen ist dabei klar die attackierende KI im Vorteil. Sie kann entscheiden, wann, wo und wie angegriffen wird. Die Verteidigung kann nur reagieren. Der Spieß dreht sich um, sobald der Angriff erfolgreich war und es nun darum geht, sich im Netzwerk zu verbreiten. Hier kann die verteidigende KI den Angreifer als Anomalie wahrnehmen. Es ist nun eine Frage der Geschwindigkeit, bei der Millisekunden eine Rolle spielen.
Fazit
Auch wenn KI durch die gegenwärtige Situation in der Kritik ist und über das Platzen einer Blase gesprochen wird, so sollte der Nutzen der Technik nicht übersehen werden. Für manche Branchen steht ihr Wert außer Zweifel. Und IT-Sicherheit ist eine dieser Branchen.
TrendAI™-Lösungen sind gebaut worden, um mit modernen Angriffsgeschwindigkeiten mitzuhalten. Wir können dabei auch Produkte anderer Hersteller mit einbinden. Auch hier hilft uns KI, diesmal als Übersetzer für Log-Sprachen. So können wir ein umfassendes Bild einer IT-Umgebung erstellen und Anomalien erkennen und behandeln. Cybersicherheitslösungen wie TrendAI™ Vision One werden als Plattformen aufgesetzt, über die eine Koordination der Verteidigung erfolgt. Auch dieser Schritt ist nicht mehr optional. Für Unternehmen gilt, die Geschwindigkeit der Angreifer aufzunehmen. Deshalb ist KI in der Verteidigung unverzichtbar.