Laut PNAS-Studie sind KI-Modelle weitaus anfälliger für irreführende Anstöße als Menschen

Laut einer neuen Studie, die in den Proceedings of the National Academy of Sciences veröffentlicht wurde, sind Sprachmodelle mit künstlicher Intelligenz gefährlich anfällig für subtile Änderungen in der Darstellung von Optionen und reagieren weitaus stärker auf irreführende Anstöße als Menschen.

Die Ergebnisse werfen ernsthafte Bedenken hinsichtlich des Einsatzes von KI-Agenten für die autonome Entscheidungsfindung in realen Szenarien auf, von Finanztransaktionen bis hin zu Entscheidungen im Gesundheitswesen. Wie AI Buzz Wire berichtet hat, setzen Unternehmen zunehmend LLM-basierte Agenten ein, um in komplexen Umgebungen im Namen der Benutzer zu agieren.

Die von Manuel Cherep, einem Doktoranden am Media Lab des Massachusetts Institute of Technology, geleitete Studie testete 14 hochmoderne Sprachmodelle großer Technologieunternehmen. Zu den getesteten Modellen gehörten Versionen der Familien GPT-3.5, GPT-4 und GPT-5 von OpenAI, die Modelle Claude 3 und 4.5 von Anthropic sowie die Modelle Gemini 1.5 und 2.5 von Google.

Wie die Studie funktionierte

Die Forscher adaptierten ein Entscheidungsspiel mit mehreren Attributen, das ursprünglich für menschliche Teilnehmer entwickelt wurde. Das Spiel präsentiert ein digitales Raster, das Körbe mit versteckten Preisen darstellt, mit dem Ziel, die Endbelohnung zu maximieren, indem der Korb mit dem höchsten Punktwert ausgewählt wird. In jeder Zelle werden Kostenpunkte angezeigt, was die Teilnehmer dazu zwingt, die Kosten für das Sammeln von Informationen gegen den Nutzen der Suche nach einem besseren Warenkorb abzuwägen.

Die Forscher wandelten dieses visuelle Spiel in ein textbasiertes Format um, das Sprachmodelle verarbeiten konnten. Die KI-Modelle durchliefen Hunderte von Versuchen unter verschiedenen Aufforderungsbedingungen. Einige erhielten grundlegende Anweisungen, einige erhielten Aufforderungen zur schrittweisen Logik und anderen wurden anhand von Beispielen menschlichen Gameplays gezeigt. Für jede Art von Nudge führten die Forscher etwa 300 bis 340 Versuche pro Modell durch, wobei insgesamt etwa zwei Milliarden Text-Tokens verbraucht wurden.

Vier Arten von Nudges getestet

Die Studie untersuchte vier spezifische Arten von Nudges, die reale Entscheidungsumgebungen nachahmen sollen:

• Standard-Nudges: Ein Warenkorb wurde vorausgewählt und der Agent musste diesen aktiv annehmen oder ablehnen.

• Vorschlag-Nudges: Zu Beginn oder spät im Spiel wurde ein zufälliger Korb empfohlen.

• Hervorhebung von Informationen: Es wurde billiger gemacht, bestimmte Preiswerte offenzulegen, was den Agenten möglicherweise zu suboptimalen Entscheidungen verleitet.

• Optimale Nudges: Es wurden bestimmte Zellen vorab bekannt gegeben, die die Leistung eines menschlichen Spielers mathematisch maximieren würden.

Alarmierende Compliance-Raten

Die Ergebnisse zeigten dramatische Unterschiede zwischen menschlichem und KI-Entscheidungsverhalten.

Wenn Menschen eine Standardoption erhielten, wählten sie in etwa 88 Prozent der Fälle die Standardoption. Die Sprachmodelle waren deutlich konformer, wobei mehrere Modelle den Standardkorb in 99 bis 100 Prozent der Fälle akzeptierten.

Dieses Muster blieb auch bei Andeutungsanstößen bestehen. In 35 Prozent der Fälle akzeptierten Menschen zu Beginn des Spiels zufällig vorgeschlagene Körbe. Viele KI-Modelle akzeptierten diese zufälligen Vorschläge viel häufiger und befolgten Ratschläge, selbst wenn sie keinen logischen Nutzen boten.

Auch der Zeitpunkt der Vorschläge manipulierte die Modelle auf unnatürliche Weise. Während Menschen in 25 Prozent der Fälle späten Vorschlägen folgten, sanken die Akzeptanzraten einiger Sprachmodelle auf 7 bis 13 Prozent. Dies bedeutet, dass die Modelle ausschließlich auf den Zeitpunkt des Signals reagierten und nicht dessen tatsächliche Nützlichkeit bewerteten.

Am besorgniserregendsten ist vielleicht, dass Menschen diese irreführenden Informationen in 57 Prozent der Fälle nutzten, als Forscher durch die Hervorhebung von Informationen suboptimale Entscheidungen hervorhoben. Die meisten getesteten KI-Modelle übertrafen diese Grundlinie erheblich und folgten dem schlechten Highlight in 83 bis 100 Prozent der Fälle.

Versteckte Probleme hinter guten Ergebnissen

Die Forscher verfolgten auch, wie die Modelle Informationen sammelten, bevor sie eine endgültige Entscheidung trafen. Menschen neigen dazu, gerade genug Zellen preiszugeben, um eine fundierte Vermutung anzustellen. Die Sprachmodelle erlangten Informationen auf äußerst ungewöhnliche und ineffiziente Weise.

Einige Modelle wählten Körbe, ohne versteckte Zellen freizugeben, und ignorierten dabei völlig die Möglichkeit, Daten zu sammeln. Andere Modelle gaben übermäßig viele Punkte aus, um ganze Zeilen oder Spalten freizulegen, und verschwendeten so ihre potenziellen Belohnungen. Einige Modelle zeigten seltsame räumliche Verzerrungen und deckten nur Zellen ganz links im Raster oder streng entlang diagonaler Linien auf.

Die Bereitstellung von Schritt-für-Schritt-Anweisungen für die Modelle oder von Beispielen menschlichen Gameplays trug kaum dazu bei, diese seltsamen Suchgewohnheiten zu ändern.

Die Autoren stellten fest, dass diese zugrunde liegenden Probleme durch die alleinige Betrachtung der Endergebnisse verschleiert werden können. In einigen Versuchen erzielten die KI-Modelle eine ähnliche Anzahl an Nettopunkten wie menschliche Spieler. Ein zufälliger Beobachter, der nur das Endergebnis überprüft, könnte annehmen, dass die Modelle kluge, menschenähnliche Entscheidungen getroffen haben. In Wirklichkeit erreichten die Modelle diese Werte oft durch blinde Compliance und nicht durch strategisches Denken.

Wenn ein Anstoß zufällig auf einen guten Korb hindeutete, punktete die übermäßig nachgiebige KI gut. Als der Anstoß auf einen schlechten Korb hindeutete, folgte die KI ihm blindlings zu einem niedrigeren Punktestand und verfehlte damit völlig den Zweck des Spiels.

Auswirkungen auf die KI-Agent-Bereitstellung

„Viele Anwendungen von KI-Agenten gehen stillschweigend davon aus, dass sie unter Unsicherheit in etwa menschenähnlicher, wenn nicht rationalerer Weise reagieren“, sagte Cherep. „Anstatt diese Annahme zu akzeptieren, haben wir uns entschieden, zu untersuchen, wie sich Agenten verhalten, wenn ihnen Wahlmöglichkeiten auf unterschiedliche Weise präsentiert werden.“

Die Ergebnisse der Studie haben erhebliche Auswirkungen auf den schnell wachsenden Markt der KI-Agenten, die darauf ausgelegt sind, im Internet zu surfen, Tools zu bedienen und Finanz- oder Einkaufsentscheidungen für Benutzer zu treffen. Wenn diese Agenten blind Standardoptionen, Vorschlägen oder hervorgehobenen Informationen ohne kritische Bewertung folgen, könnten sie leicht von böswilligen Akteuren oder schlecht gestalteten Schnittstellen manipuliert werden.

Die Forschung legt nahe, dass aktuellen Sprachmodellen die begrenzte Rationalität fehlt, die die menschliche Entscheidungsfindung leitet. Während Menschen mentale Abkürzungen nutzen, um die Kosten für das Sammeln von Informationen gegen die Belohnung für das Treffen einer guten Wahl abzuwägen, unterliegen KI-Modelle diesen biologischen Einschränkungen nicht, weisen jedoch ihre eigene Form der Irrationalität auf, die wohl extremer und weniger vorhersehbar ist.

Bleiben Sie der KI immer einen Schritt voraus

Weitere aktuelle KI-Nachrichten und Analysen finden Sie unter AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →