Cyberbedrohungen
Sicherheitsmythos: KI wählt immer die wahrscheinlichste Antwort
Das ist prinzipiell richtig. Doch gibt es ein Aber: Anwender haben die Möglichkeit, den Grad der Freiheit bei der Auswahl der Optionen zu bestimmen. Das nennt man dann „Temperatur“. Je höher diese ist, desto kreativer die KI.
Save to Folio
Starten wir mit einem Witz: „Was haben HI (Human Intelligence) und KI (künstliche Intelligenz) gemeinsam? Antwort: Je höher die Temperatur, desto wahrscheinlicher wird halluziniert.
Tatsächlich gibt es im Bereich der künstlichen Intelligenz den Begriff der „Temperatur“. Sie kann erhöht oder verringert werden. Anders als beim Menschen handelt es sich dabei allerdings um bewusste Entscheidungen derjenigen, die eine solche Technologie einsetzen. Aber warum gibt es diesen virtuellen Schieberegler überhaupt, und was bewirkt er?
Large Language Models (LLMs) wie ChatGPT oder Claude berechnen ihre Ausgabe anhand von Wahrscheinlichkeiten, soweit so klar. Je mehr Kontext die Eingabe des menschlichen Nutzers beinhaltet, desto genauer geraten die Aussagen. Dabei hat ein LLM aber gewisse Freiheiten. Vereinfacht ausgedrückt, muss sie nicht automatisch die wahrscheinlichste Antwort nehmen, sondern kann aus den wahrscheinlichen Antworten eine auswählen.
Die Frage dabei ist, was noch in den Bereich der „wahrscheinlichen Antworten“ fällt. Dafür gibt es den „Schieberegler“ der Temperatur. Er bestimmt den Grad der Freiheit, die eine KI bei der Auswahl ihrer Optionen hat. Dabei gilt, je höher die Temperatur, desto größer die Varianz. Die Antworten werden entsprechend kreativer. Das hat bei gewissen Anwendungsszenarien Vorteile. Geht es beispielsweise darum, eine Geschichte zu erzählen oder einen Marketingslogan zu kreieren, sorgt eine hohe Temperatur für spannende und kreative Vorschläge.
Eine niedrige Temperatur hat den gegenteiligen Effekt. Die Antworten werden mathematischer, präziser. Im Wahrheitsgehalt auch verlässlicher. Das eignet sich beispielsweise für die Programmierung oder eine Erklärung. Welche Temperatur man wählt, hängt dabei vom Anwendungsfall ab.
Und Halluzinationen? Ja, KIs können unabhängig von ihrer Temperatur halluzinieren. Die Wahrscheinlichkeit, dass sie es tun, hängt allerdings direkt damit zusammen, wie viele zulässige Auswahlmöglichkeiten sie hat. Mit anderen Worten, je höher ihre Temperatur, desto höher die Wahrscheinlichkeit einer halluzinierten Aussage. Und damit sind wir bei meinem anfänglichen Witz. Tatsächlich stimmt es, dass mit zunehmender Temperatur die Wahrscheinlichkeit einer Halluzination steigt. Die Begrifflichkeiten passen dabei einfach so gut zusammen, dass man fast von Absicht sprechen könnte.
Doch lassen Sie sich nicht beirren: Auch bei einer äußerst geringen Temperatur berechnet die KI nach wie vor lediglich die wahrscheinlichste nächste Antwort -- und kann sich dabei irren. Auch wenn es Maßnahmen gibt, das Vorkommen solcher Halluzinationen zu reduzieren, lassen sie sich gegenwärtigen Sprachmodellen nicht grundsätzlich abtrainieren. Oder anders ausgedrückt… „It’s not a bug, it’s a feature!“
Im Einsatz bei Unternehmen sollte die Temperatur an den Einsatzzweck angepasst sein. Die nach AI Act vorgeschriebenen Schulungen könnten beinhalten, wie Mitarbeitende bei den vom Unternehmen eingesetzten Werkzeugen vorgehen können, falls man ihnen überhaupt diese Freiheiten geben möchte. Überall dort, wo KIs der Entscheidungsfindung dienen sollen oder präzise Aufgaben erfüllen müssen, ist eine niedrige Temperatur empfohlen. Dennoch gilt, ein menschlicher Entscheider sollte noch einmal prüfen, was die KI vorgeschlagen hat. Die Technologie kann unterstützen, die Verantwortung abnehmen kann sie nicht.