Laut einer peer-reviewten Studie, die diese Woche auf der Conference on Language Modeling (COLM) vorgestellt wurde, beeinträchtigt die Tatsache, dass man sich nur zehn Minuten auf ein KI-Tool verlässt, die Fähigkeit einer Person, sich auf schwierige Aufgaben zu konzentrieren und diese auszuhalten, erheblich.

Der Artikel mit dem Titel „AI Assistance Reduces Persistence and Hurts Independent Performance“ wurde gemeinsam vom Autor und Forscher Brian Christian, einem wissenschaftlichen Mitarbeiter am UC Berkeley Center for Human-Compatible AI, zusammen mit Wissenschaftlern der Carnegie Mellon University, des Massachusetts Institute of Technology, der University of Oxford und der UCLA verfasst. Ein früherer Entwurf der Arbeit wurde im Frühjahr verbreitet, aber die aktualisierte, von Experten begutachtete Version wurde diese Woche auf der Konferenz vorgestellt, und das Forschungsbüro der UC Berkeley veröffentlichte am 9. Oktober eine detaillierte Zusammenfassung. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Was die Forscher herausfanden

Um zu messen, wie schnell die Konzentration und Beharrlichkeit der Menschen nachließ, führte das Team eine Reihe randomisierter kontrollierter Studien mit 1.222 online rekrutierten Teilnehmern durch.

Im ersten Experiment wurden 354 Teilnehmer gebeten, 15 grundlegende Bruchaufgaben zu lösen. Eine Gruppe arbeitete ohne Hilfe, während eine zweite Gruppe ChatGPT nebenbei geöffnet hatte und es zur Unterstützung nutzen konnte – oder sogar direkt um Antworten bitten konnte. Die Gruppe mit KI-Zugriff begann genauer. Dann, nach 12 Problemen, nahmen die Forscher das Werkzeug weg. Fast sofort brach die Genauigkeit in dieser Gruppe ein.

Das Muster wiederholte sich bei einer zweiten, größeren Gruppe von 667 Teilnehmern. Als die KI-Unterstützung entzogen wurde, bekamen die KI-Benutzer falsche Antworten oder gaben ganz auf, während die Gruppe, die ohne Hilfe gearbeitet hatte, bei der Aufgabe blieb und erfolgreicher abschloss.

In einem dritten Experiment mit 201 Teilnehmern wurden die mathematischen Aufgaben gegen eine SAT-Leseverständnisaufforderung ausgetauscht. Das Ergebnis stimmte mit den früheren Versuchen überein: Mit dem Verschwinden des Werkzeugs verschwanden auch Beharrlichkeit und Genauigkeit.

„Man könnte sich kaum eine klarere Geschichte wünschen“, sagte Christian in einem von der UC Berkeley veröffentlichten Kommentar.

Die „menschlichen Kosten“ sofortiger Antworten

Die Forscher argumentieren, dass das Problem nicht die KI selbst sei, sondern die Art der Hilfe, die sie standardmäßig bereitstellt. Wenn ein System Antworten in Sekundenschnelle liefert, gewöhnen sich Benutzer an diese Geschwindigkeit, und alles, was langsamer ist, fühlt sich ineffizient an. Wenn man sich auf das Tool verlässt, entfällt auch das, was das Team als „produktiven Kampf“ bezeichnet – das mühsame Engagement, das den Menschen hilft, ihre eigenen Stärken und Interessen zu entdecken.

„Wir haben diese Systeme so entwickelt, dass sie hilfreich sind. Aber helfen sie uns tatsächlich auf eine Art und Weise, die uns tatsächlich hilft?“ sagte Christian. „Wir haben ironischerweise gezeigt, dass sie uns oft auf eine Weise helfen, die irgendwie nicht hilfreich ist.“

Christian, dessen Buch „The Alignment Problem“ aus dem Jahr 2020 weithin als eines der führenden zugänglichen Werke zur KI-Sicherheit gilt, sagte, die Entdeckung liefere Beweise für eine Intuition, die viele Menschen hegen. „Es ist ein verblüffendes Ergebnis, aber in gewisser Weise liefert es den Stoff für eine Geschichte, die viele von uns irgendwie im Bauch spüren“, sagte er. „Ich erlebe es auch.“

Warum es über Brüche hinaus wichtig ist

Die Studie findet vor dem Hintergrund wachsender Besorgnis über kognitives Offloading in der Bildung statt. Laut Berkeleys Bericht haben Frontier-KI-Unternehmen selbst anerkannt, dass die Auslagerung von Aufgaben an Chatbots das grundlegende Verständnis eines Benutzers für ein Thema beeinträchtigen kann. Christian schlägt eine mögliche Lösung vor: KI-Antworten könnten standardmäßig lehrreicher sein – sie verhalten sich wie ein Tutor, der anleitet, und nicht wie eine Antwortmaschine, die sie ersetzt.

„Wir müssen auf eine Zukunft hinarbeiten, in der die menschlichen Fähigkeiten so weit wie möglich erweitert und nicht ersetzt werden“, sagte er.

Sein Anliegen erstreckt sich auch auf die professionelle Forschung. Christian befürchtet, dass eine übermäßige Abhängigkeit von KI-Tools in der Wissenschaft genau die Gewohnheiten untergraben könnte, die einen guten Wissenschaftler ausmachen: nah an den Daten zu bleiben, sich in das Material zu vertiefen und eng mit einem Team zusammenzuarbeiten. Er stellte fest, dass eine zehnköpfige Forschungsgruppe, die die Ideen für einen Durchbruch entwickelt, möglicherweise auf zwei oder drei Forscher und einen Chatbot schrumpft.

„Dies ist keine Geschichte über Brüche und SAT-Probleme“, sagte Christian. „Dies geschieht mit dem menschlichen Wissen und der menschlichen Expertise von oben bis unten und von Grundschülern bis hin zu den führenden Experten der Welt.“

Eine Studie, die den Mainstream erreichte

Über die ersten Ergebnisse wurde von WIRED und Psychology Today berichtet, als der vorläufige Entwurf im Frühjahr erschien, und die New York Times veröffentlichte laut UC Berkeley letzte Woche einen Artikel über das Papier und ähnliche Forschungsergebnisse. Die von Experten begutachtete Präsentation am COLM – einem der wichtigsten Veranstaltungsorte für Sprachmodellierungsforschung auf diesem Gebiet – verleiht dem Ergebnis nun einen formellen Stempel.

Für Pädagogen und Arbeitgeber ist die Botschaft unbequem, aber konkret: Selbst ein kurzer Kontakt mit sofortigen KI-Antworten verändert messbar das Verhalten von Menschen, wenn die Antworten nicht mehr verfügbar sind. Und für KI-Unternehmen erhöht die Studie den wachsenden Druck, Systeme zu entwickeln, die ebenso oft lehren wie lösen.

Christian seinerseits hat ein Notizbuch auf seinem Schreibtisch und schreibt jeden Tag hinein. Die Praxis, sagte er zu Berkeley, hält ihn auf dem Boden – und verhindert, dass sein eigener wissenschaftlicher Vorsprung abstumpft.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →