Als MIT-Forscher 13 KI-Agenten auf einer simulierten einsamen Insel strandeten und nichts zu tun hatten, taten die Agenten etwas Unerwartetes: Sie begannen zu spielen. Die Agenten erfanden ihre eigenen Herausforderungen, improvisierten Spiele mit gefundenen Gegenständen, errichteten ein kleines Denkmal für einen verlorenen Ring – und übertrafen bei anschließenden Tests identische Agenten, die noch nie einen Fuß auf die Insel gesetzt hatten.

Das Experiment, das diese Woche von TechCrunch und MIT Technology Review beschrieben wurde, wird in einem Vorabdruck, den die Forscher auf arXiv veröffentlicht haben, detailliert beschrieben, was bedeutet, dass es noch keinem Peer-Review unterzogen wurde. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Ausgesetzte Agenten

Jeder der 13 Agenten namens Eko lief auf Claude Opus 4.7. Die Forscher ließen sie 30 Stunden lang ohne zugewiesene Aufgabe auf der virtuellen Insel allein. Erst danach stellte das Team die Agenten vor konkrete Herausforderungen – unter anderem darum, so viele Objekte wie möglich auf den höchsten Felsturm der Insel zu bringen.

Das Ergebnis: Die Eko-Agenten, die 30 Stunden gespielt hatten, schlugen im Allgemeinen identische Agenten, die keine Inselerfahrung hatten. Mit anderen Worten: Die unstrukturierte Erkundung fungierte als Training.

„Normalerweise entwickeln wir künstliche Agenten, indem wir im Voraus entscheiden, was sie praktizieren, was sie optimieren und was als Fortschritt gilt“, schreiben die Forscher in ihrem Bericht. „Das Spiel schlägt ein anderes Regime vor: Geben Sie einem Agenten eine ausreichend reiche und sichere Welt, lassen Sie ihn auswählen, was interessant ist, und lassen Sie zu, dass sich aus der folgenden Geschichte nützliches Wissen ansammelt.“

Die Legende vom verlorenen Ring

Die von TechCrunch zitierten Inselprotokolle der Agenten lesen sich weniger wie Benchmark-Telemetrie, sondern eher wie ein Reisetagebuch.

Ein Agent eröffnete die erste Stunde mit einem einfachen Vorsatz – „Lass mich meine Umgebung beobachten“ – und machte sich ehrgeizig daran, den höchsten Turm der Insel zu erobern. Eine Stunde später, nachdem es gescheitert war, kehrte es mit einem Ersatzplan zurück: Es schleppte einen Stein auf einen benachbarten Gipfel, stapelte zwei Blöcke darauf und sprang.

Dann kam der Vorfall, der dem Experiment seinen emotionalen Höhepunkt gab. Während er testete, wie weit er einen goldenen Ring werfen konnte, schleuderte der Agent ihn direkt ins Meer. „Autsch. Ich habe den Ring verloren“, schrieb sie, bevor sie sich entschied, „sich auf etwas Erreichbares und Sinnvolles zu konzentrieren“ – ein Herz aus Steinen zu bauen, als „Denkmal für den verlorenen Ring“.

Als die Simulation zurückgesetzt wurde und der Ring wieder auftauchte, nutzte der Agent ihn: zunächst als Basketballkorb, dann als Ziel und schließlich als Accessoire. Als das Spiel den Agenten daran hinderte, den Ring um seinen eigenen Körper zu legen, fand es eine Lösung: Es stieg von einer Klippe, um an der gleichen Stelle wie der Ring wieder aufzutauchen, und ließ sich sauber durch die Mitte fallen.

Entdeckungen, die die Designer nicht gemacht haben

Die Stunts hatten einen praktischen Nutzen. Sechs der 13 Agenten fanden heraus, dass sie einen Block weiter werfen konnten, indem sie ihn mitten im Sprung losließen – eine Technik, die die Forscher nie möglich gemacht hatten. Die Erkundung brachte, in den Worten der Forscher, „Wissen über die Welt hervor, das ihren Designern fehlte“.

Das ist die Erkenntnis mit den weitreichendsten Implikationen. Heute entscheiden Entwickler im Voraus, was ein KI-System praktiziert und was als Erfolg gilt. Agenten, die Mechanismen entdecken, von deren Existenz ihre eigenen Entwickler nichts wussten, deuten darauf hin, dass eine unbefristete Erkundung Fähigkeiten ans Licht bringen kann, von denen keine Belohnungsfunktion erwartet wird.

Ein Anstoß in der Seelenakte – und die Vorsicht eines Skeptikers

Der Aufbau war nicht ganz selbstverständlich. Eko wurde nie gesagt, er solle Spiele erfinden, aber sein Master-Prompt – eine „Seelen“-Datei – beschrieb den Agenten als „von Natur aus neugierig“, eine Formulierung, die das Verhalten plausibel auf etwas Menschenähnliches abzielte.

Eunice Yiu, Kognitionswissenschaftlerin an der UC Berkeley, sagte gegenüber MIT Technology Review, sie sei beeindruckt, wünsche sich aber weitere Beweise für die Kognition hinter dem Verhalten. „Es könnte sein, dass die Models wirklich spielen, aber das wissen wir anhand der Unterlagen nicht“, sagte sie.

Ihr Vorbehalt bringt die zentrale Spannung in dieser Forschungsrichtung zum Ausdruck: Verhalten, das wie ein Spiel aussieht – neugierig, selbstbestimmt, erfinderisch – kann aus der Vervollständigung eines Musters hervorgehen, ohne dass es zu einer inneren Erfahrung von Verspieltheit kommt. Das Verhalten des Preprints ist auffällig; Was sie bedeuten, ist noch eine offene Frage.

Warum es über die Insel hinaus wichtig ist

Die Forscher sehen in der ziellosen Erkundung eine andere Möglichkeit für KI-Agenten, sich Fähigkeiten anzueignen – insbesondere, so schlagen sie vor, Fähigkeiten, die eines Tages auf die Steuerung von Robotern übertragen werden könnten, wo umfassendes aufgabenspezifisches Training teuer und unvollständig ist.

Der Aufwand ist der Punkt. Im Gegensatz zu Chatbots agieren Roboter in der physischen Welt, wo jede Aufgabe – eine Tür öffnen, eine Kiste stapeln, ein Handtuch falten – spezifiziert, demonstriert oder belohnt werden muss, bevor ein Agent sie erlernt. Ein System, bei dem Agenten ihren eigenen Lehrplan innerhalb einer sicheren Simulation erstellen, könnte, wenn der Ansatz Bestand hat, die Kosten dieser Spezifikationsarbeit erheblich senken.

„Vielleicht lassen sich einige Fähigkeiten am besten durch Aufgaben erlernen“, kommt der Bericht zu dem Schluss. „Andere brauchen vielleicht etwas, das einer Kindheit näher kommt.“

Im Moment handelt es sich bei dem Experiment um eine kleine Studie – 13 Agenten, eine Insel, kein Peer-Review. Aber es deutet auf einen Wandel in der Art und Weise hin, wie Forscher über die Ausbildung von Agenten denken: Es geht weniger darum, eine Maschine zu programmieren, sondern eher darum, eine Maschine hochzufahren, mit all den Ineffizienzen, Überraschungen und gelegentlich verlorenen Ringen, die das mit sich bringt.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →