Studienergebnisse zeigen, dass KI-Beratung Menschen dreimal weniger genau, aber doppelt so sicher macht

Laut einer neuen Studie von Forschern dreier europäischer Universitäten führt der Zugang zu Ratschlägen mit künstlicher Intelligenz dazu, dass Menschen deutlich schlechter auf Fragen antworten können, während sie gleichzeitig viel mehr Vertrauen in ihre falschen Antworten haben. Die am 19. Juli 2026 veröffentlichten Ergebnisse stellen einen wichtigen Datenpunkt zu einer wachsenden Zahl von Beweisen dar, dass KI-Tools unabhängige Urteile eher unterdrücken als verstärken können.

Die Studie, die untersuchte, wie Menschen reagieren, wenn sie KI-Unterstützung erhalten, wurde in aktuellen KI-Nachrichten veröffentlicht, in denen wachsende Bedenken hinsichtlich einer übermäßigen Abhängigkeit des Menschen von automatisierten Systemen verfolgt wurden. Die Ergebnisse waren verblüffend: Die Menschen wurden ungefähr dreimal ungenauer, aber fast doppelt so sicher, wenn eine KI zur Beratung zur Verfügung stand.

Ein Zusammenbruch der Bereitschaft, Unwissenheit zuzugeben

Die Studie wurde von Valerio Capraro, einem außerordentlichen Professor an der Universität Mailand-Bicocca, zusammen mit Chiara Marcoccia von der École Normale Supérieure und Walter Quattrociocchi von der Universität Sapienza in Rom verfasst. Die Forscher haben ihr Experiment bewusst auf Fragen ausgerichtet, bei denen KI-Modelle normalerweise versagen – visuelle Details aus Filmen, wie etwa die Farbe der Uniform eines Teams in „Bend It Like Beckham“.

Um sicherzustellen, dass etwaige Leistungseinbußen nicht auf eine sinnvolle Delegation an ein zuverlässiges Tool zurückzuführen sind, nutzte das Team Step 3.5 Flash, ein Modell, das bei genau diesen Fragen normalerweise falsch lag. Der Aufbau testete nicht, ob KI helfen könnte, sondern ob ihre bloße Anwesenheit das menschliche Urteilsvermögen verfälschen würde.

Die Ergebnisse waren eindeutig. Als keine KI verfügbar war, waren 44 % der Teilnehmer bereit zu sagen: „Ich weiß nicht.“ Als KI-Beratung vorlag, sank diese Zahl auf nur 3 %. Die Genauigkeit sank von 27 % auf 9 %, während die Zuverlässigkeit von 30 % auf 76 % stieg.

> Den Menschen ging es viel schlechter. Die Genauigkeit betrug nur ein Drittel, aber sie waren doppelt so sicher.

Dieses Zitat von Capraro fasst die zentrale Erkenntnis zusammen: Einige Teilnehmer, die selbst richtig geantwortet hätten, konsultierten die KI und lagen am Ende falsch – fühlten sich aber mit ihren Antworten besser als zuvor.

Monetäre Anreize haben kaum geholfen

In der Hoffnung, dass finanzielle Belohnungen dem Effekt entgegenwirken könnten, boten die Forscher den Teilnehmern einen finanziellen Anreiz für richtige Antworten. Der Eingriff half, aber nur geringfügig. Die Bereitschaft, Unwissenheit einzugestehen, stieg von 3 % auf 8 % und die Genauigkeit verbesserte sich von 9 % auf 16 % – beide liegen immer noch weit unter den Basiswerten ohne KI von 44 % und 27 %.

Die Implikation ist erheblich. Selbst wenn Menschen einen konkreten finanziellen Grund haben, sorgfältig nachzudenken und sich gegen Fehler abzusichern, bleibt die Anziehungskraft einer selbstbewussten KI-Antwort stark genug, um ein besseres Urteilsvermögen außer Kraft zu setzen.

Das Phänomen der „kognitiven Kapitulation“.

Die Ergebnisse spiegeln frühere Arbeiten von Forschern der Wharton School wider, die in diesem Jahr den Begriff „kognitive Kapitulation“ prägten, um dasselbe Muster zu beschreiben. In ihrer Studie akzeptierten die Menschen in etwa 80 % der Fälle falsche KI-Antworten und gaben gleichzeitig ein höheres Selbstvertrauen an als diejenigen, die ohne KI-Unterstützung arbeiteten.

Was die neue europäische Studie hinzufügt, ist ein präziserer Mechanismus. Es ist nicht nur so, dass Menschen falschen KI-Antworten vertrauen, wenn sie auf sie stoßen. Es liegt daran, dass die Verfügbarkeit einer KI-Meinung die kognitive Gewohnheit unterdrückt, die Grenzen des eigenen Wissens zu erkennen – die grundlegende Fähigkeit, innezuhalten und zu sagen: „Ich weiß nicht.“

Für den Menschen ist die Fähigkeit, Unsicherheit anzuerkennen, von grundlegender Bedeutung für Lernen und Entscheidungsfindung. Capraro sagte, er mache sich besonders Sorgen um Kinder, die mit diesen Systemen aufwachsen, bevor sie ausgereifte Fähigkeiten zum kritischen Denken entwickelt haben.

Umfassendere Implikationen für das KI-Produktdesign

Die Forschung findet inmitten einer breiteren Debatte darüber statt, wie KI-Tools erstellt und eingesetzt werden. Googles Überarbeitung seines Suchprodukts ersetzte traditionelle Links durch KI-generierte Zusammenfassungen, die mit konsistenter Autorität sprechen, und die Interessenvertretung Common Sense Media bezeichnete dieses Design diese Woche als „inakzeptables Risiko“ für Studenten.

Das von den Forschern identifizierte Muster ist bei allen Produkten konsistent: KI-Systeme sind so konzipiert, dass sie antworten und fast nie sagen: „Ich weiß nicht.“ Die Beweise deuten darauf hin, dass die Menschen, die sie verwenden, lernen, dasselbe zu tun.

Das hat Konsequenzen, die weit über Belanglosigkeiten über Filme hinausgehen. An Arbeitsplätzen, in Krankenhäusern und in Klassenzimmern könnte ein Tool, das die Bereitschaft untergräbt, auf Unsicherheit hinzuweisen, stillschweigend die Entscheidungsqualität verschlechtern, auch wenn es sich ermutigend anfühlt. Das dadurch vermittelte Vertrauen ist in vielen Fällen genau das Gegenteil von dem, was die zugrunde liegende Genauigkeit rechtfertigt.

Was als nächstes kommt

Die Forscher argumentieren, dass die Ergebnisse die Gestaltung von KI-Assistenten verändern sollten. Wenn das Standardverhalten einer KI darin besteht, unabhängig von der Zuverlässigkeit eine sichere Antwort zu liefern, dann liegt die Last der Erkennung von Unsicherheiten vollständig bei den Benutzern, die, wie die Daten zeigen, schlecht dafür gerüstet sind. Der Aufbau von Systemen, die ihre eigene Unsicherheit kalibrieren und kommunizieren können – und die eher zögern, als sie zu behaupten, wenn die Beweise dünn sind – kann entscheidend sein, um das menschliche Urteilsvermögen aufrechtzuerhalten.

Bis dahin bietet die Studie eine einfache, wenn auch unbequeme Lektion: Eine KI, die sicher klingt, ist nicht dasselbe wie eine KI, die Recht hat. Und der menschliche Instinkt, einer selbstbewussten Stimme zu vertrauen, selbst einer falschen, ist möglicherweise die stärkste Kraft, die die Technologie bisher freigesetzt hat.

Bleiben Sie der KI immer einen Schritt voraus

Das Tempo des Wandels in der künstlichen Intelligenz ist unerbittlich und die Auswirkungen betreffen jede Branche. Verfolgen Sie die [neuesten KI-Entwicklungen] (https://aibuzzwire.news), um eine kontinuierliche Berichterstattung über Forschung, Regulierung und Produkte zu erhalten, die unsere Arbeits- und Denkweise verändern.

Weitere KI-Neuigkeiten lesen →