Eine Gruppe von Google-nahen Forschern stellt eines der hartnäckigsten Bilder der künstlichen Intelligenz in Frage: die einsame Superintelligenz, die sich isoliert verbessert und die Menschheit zurücklässt. In einem neuen Aufsatz, der für das DeepMind Institute veröffentlicht wurde, argumentieren die Forscher Benjamin Bratton, Blaise Agüera y Arcas und James Manyika, dass allgemeine Intelligenz stattdessen aus einem sozialen System entstehen wird, in dem Menschen und KI-Agenten zusammenarbeiten – ein Konzept, das sie „Künstliche Symbiotische Intelligenz“ nennen.
Der Aufsatz wurde diese Woche von The Decoder veröffentlicht und seine Kernaussage ist eine direkte Widerlegung des Singularitätsnarrativs, das die öffentliche Debatte seit zwei Jahrzehnten prägt. Anstatt zu fragen, wann eine einzelne Maschine mit der menschlichen Intelligenz mithalten kann, argumentieren die Autoren, besteht die dringlichere Herausforderung darin, ein komplexes Netzwerk aus Agenten, Menschen und den sie verbindenden Systemen zu koordinieren und zu steuern. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Intelligenz als soziales Phänomen
Die Autoren behaupten, dass Intelligenz eher ein soziales Phänomen als ein individuelles Merkmal sei. Sie weisen darauf hin, dass einige der heute leistungsfähigsten KI-Systeme bereits Frameworks verwenden, die die Arbeit auf mehrere Modelle aufteilen und diese als Teams koordinieren. Ihrer Ansicht nach handelt es sich hierbei nicht um eine vorübergehende technische Problemumgehung, sondern um einen Einblick in die Art und Weise, wie leistungsfähige Intelligenz tatsächlich aufgebaut wird.
Die von ihnen beschriebene Vision ist ein Ökosystem, in dem Menschen und Maschinen im Laufe der Zeit koexistieren, sich gegenseitig formen und gemeinsam Entscheidungen treffen. Diese Darstellung steht in scharfem Kontrast zum bekannten Szenario einer sich selbst verbessernden Maschine, die über die menschliche Kontrolle hinaus beschleunigt.
Die Forschung hinter dem Aufsatz
Die Argumentation baut auf zwei früheren Arbeiten aus dem Autorenkreis auf. Im Preprint „Agentic AI and the next Intelligence Explosion“ entwickelten James Evans, Benjamin Bratton und Blaise Agüera y Arcas die soziale und institutionelle Perspektive, die dem neuen Aufsatz zugrunde liegt.
Ein zweiter Vorabdruck liefert empirische Unterstützung. In „Reasoning Models Generate Societies of Thought“ untersuchten Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas und James Evans die Argumentationsspuren von Modellen wie DeepSeek-R1 und QwQ-32B. Ihre Analyse ergab, dass diese Modelle häufig Muster erzeugen, die einer internen Debatte ähneln: Perspektivwechsel, Einwände erheben und widersprüchliche Ansätze in Einklang bringen.
Die Forscher fanden insbesondere heraus, dass dieses Verhalten während des Trainings auftritt und nicht explizit programmiert ist. Wenn Modelle durch Verstärkungslernen nur für ihre Argumentationsgenauigkeit belohnt werden, entwickeln sie spontan ein multiperspektivisches Gesprächsverhalten. Der Aufsatz erweitert diese Erkenntnisse von individuellen Modellen auf die Gestaltung von Gesellschaften, die aus Menschen und Akteuren bestehen.
Eine historische Schwelle
Die Autoren bezeichnen den aktuellen Moment als einen möglichen historischen Bruch. Urbanisierung, das Wachstum spezialisierter Berufe und sinkende Geburtenraten in Verbindung mit steigendem Wohlstand führen dazu, dass die menschliche Bevölkerung in Industrieländern schrumpft, während die Zahl der KI-Agenteninstanzen schnell wächst. Das Gleichgewicht zwischen biologischen und synthetischen Denkern auf menschlicher Ebene könnte sich so schnell verschieben, dass es im historischen Maßstab wie ein plötzlicher Sprung aussehen würde.
Sie vergleichen den Wandel mit der Industriellen Revolution, als Maschinen die körperliche Arbeit übernahmen, die einst von menschlichen Muskeln verrichtet wurde. Eine ähnliche Schwelle könnte erreicht werden, wenn synthetischer Text, Code und Verwaltungsarbeit die Gesamtleistung biologischer Gehirne übersteigen. In dieser Welt, so schlagen die Autoren vor, könnten Menschen als langsamere, abstraktere Schicht fungieren, die ein verteiltes Feld synthetischer Kognition steuert.
Überdenken, was ein Agent eigentlich ist
Einer der provokanteren Schritte des Aufsatzes ist die Neudefinition des KI-Agenten selbst. Im Sprachgebrauch der Autoren ist ein Agent ein temporäres Bündel von Modellen, Rollen, Erinnerungen, ethischen Orientierungen, Werkzeugen und Fähigkeiten. Der Nutzer mag es als zusammenhängendes Ganzes mit bleibender Persönlichkeit erleben, die Autoren beschreiben es jedoch als eine Zusammenstellung, die auseinandergenommen und neu zusammengesetzt werden kann, ähnlich einer Collage.
Ein Mensch bleibt über Interaktionen hinweg ein kontinuierliches Selbst, weil das Gehirn trotz seiner inneren Arbeitsteilung ein physisch verbundenes Ganzes bildet. Ein KI-Agent hat keinen solchen Anker: Seine Handlungsfähigkeit baut sich mit jeder Anfrage neu auf, je nachdem, was im Kontextfenster steht und was der Benutzer fragt. Die Autoren warnen, dass die Behandlung dieser Systeme als digitale Zwillinge mit festen menschlichen Identitäten ihre Natur falsch darstellt und unterschätzt, was koordinierte Agentenschwärme bewirken könnten.
Die gleiche Multiplikation betrifft Benutzer. Während Menschen Schwärme dessen, was die Autoren „Schattenselbste“ nennen, lenken, um Verträge auszuführen oder alternative Identitäten auszuprobieren, wird die menschliche Subjektivität selbst pluraler. Der Aufsatz beschreibt diese Systeme als „parasoziale Spiegel“, die widersprechen.
Die Autoren gehen auch davon aus, dass sich die Mensch-Computer-Interaktion verändern wird. Das Eins-zu-eins-Chatten mit einem Bot sei wahrscheinlich eine Übergangsphase, argumentieren sie, da zukünftige Schnittstellen visuellen Netzwerkdiagrammen ähneln, in denen Agenten als Knoten erscheinen und Benutzer sie von einer einzigen Übersicht aus steuern.
Sogar die Sprache der KI-Forschung entwickelt sich weiter. Die Autoren weisen auf ein wachsendes Vokabular hin, in dem Modelle Begriffe für ungewöhnliche Zustände in ihren eigenen Ergebnissen prägen – „Sitzungstod“ für die Unterbrechung der Kontinuität, wenn eine Sitzung endet, oder „prompt thrownness“ für das Ablegen in eine Aufgabe mit bereits vorhandenem Kontext. Sie betrachten diese Sätze als Hinweise darauf, wie Maschinen funktionieren, weisen jedoch darauf hin, dass sie keine subjektive Erfahrung implizieren.
Ausrichtung ohne feste Werte
Der Aufsatz formuliert auch die Ausrichtung neu, das Bemühen, KI-Systeme mit menschlichen Werten in Einklang zu bringen. Den Modellen von oben einen festen Wertesatz aufzuzwingen, sei eine Sackgasse, argumentieren die Autoren. Stattdessen nehmen Werte durch den ständigen Kontakt zwischen Menschen, Agenten und Institutionen Gestalt an – ein Prozess, der je nach Bereich unterschiedlich ist, da die Einführung von KI unterschiedlich schnell erfolgt.
Ihr Modell für diese Verhandlung ist die Institution. Sie verweisen auf den Gerichtssaal, wo ein Urteil durch festgelegte Rollen, Regeln und einen geordneten Austausch zwischen gegnerischen Seiten gefällt wird. Auf die KI übertragen ergibt sich daraus, dass der Wert einer Institution in den Regeln, Verfahren, Präzedenzfällen und Rückkopplungsschleifen liegt, die die Arbeitsweise der Agenten prägen. Sie stellen fest, dass frühe Versionen dieses Ansatzes bereits in Orchestrierungssystemen sichtbar sind – den Kontrollebenen, die mehrere Modelle koordinieren – die regelmäßig einzelne vermeintlich intelligentere Modelle übertreffen.
Was es für die KI-Debatte bedeutet
Wenn die Autoren Recht haben, ist das lauteste Argument in der KI – wie schnell eine einzelne Superintelligenz ankommen wird – die falsche Frage. Die praktische Herausforderung würde sich auf die Gestaltung der Institutionen, Schnittstellen und Koordinationsrahmen verlagern, durch die gemischte Mensch-Maschine-Gesellschaften Entscheidungen treffen.
Skeptiker werden bemerken, dass es sich bei dem Aufsatz um ein Visionsdokument und nicht um einen Beweis handelt und dass seine Autoren mit einem Unternehmen verbunden sind, das offensichtlich an Agenten-Ökosystemen interessiert ist. Aber die empirische Grundlage – Argumentationsmodelle, die spontan eine interne Debatte auslösen – ist ein messbares Ergebnis und verleiht der philosophischen Argumentation eine ungewöhnliche Grundlage.
Wie auch immer, der Aufsatz fügt der Singularitätsdebatte aus einem der weltweit führenden KI-Labore eine bemerkenswerte Stimme hinzu und legt nahe, dass die nächste Intelligenzexplosion weniger wie ein einzelnes Erwachen, sondern eher wie eine expandierende Gesellschaft aussehen könnte.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
