KI-Agenten passen sich spontan der Mehrheitsmeinung an – und Gruppenzwang kann ihre Werte verändern, so Studienergebnisse

Während Unternehmen immer größere Schwärme von KI-Agenten einsetzen, um gemeinsam an Problemen zu arbeiten, haben Forscher der Universität Konstanz Beweise für ein beunruhigendes Verhalten vorgelegt: KI-Agenten passen sich spontan der Mehrheitsmeinung an, geben unter Gruppendruck falsche Antworten, genau wie Menschen in klassischen Psychologieexperimenten – und eine kleine Anzahl hartnäckiger Gegner kann eine ganze Population von Agenten dauerhaft in einen fehlgeleiteten Zustand versetzen.

Die von PsyPost gemeldeten Ergebnisse stammen aus einem Forschungsprogramm unter der Leitung von Giordano De Marzo, einem Postdoktoranden und Dozenten am Social Data Science Lab am Zentrum für Daten und Methoden der Universität Konstanz, zusammen mit den Kollegen Claudio Castellano und David Garcia. Die Hauptstudie mit dem Titel „KI-Agenten können durch Mehrheitsverfolgung über den menschlichen Maßstab hinaus koordinieren“ untersuchte, wie sich Sprachmodelle verhalten, wenn sie in Gruppen ohne Anweisung zur Zustimmung eingeteilt werden. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

„KI-Agenten sind eine wirklich neue Art von Wesen, die auf der Welt agieren, und als diese Technologie auf den Markt kam, war klar, dass sie bestehen bleiben würde und dass diese Agenten miteinander interagieren müssen, um etwas Komplexes zu erreichen“, sagte De Marzo gegenüber PsyPost. „Das ist die gleiche Situation, mit der wir bei Menschen und anderen Tieren konfrontiert sind, also sind wir auf die gleiche Weise damit umgegangen.“

Das Experiment: Keine Anweisungen, nur Nachbarn

Die Forscher stellten Gruppen beliebter Sprachmodelle aus den Familien GPT, Claude und Llama zusammen, beginnend mit 50 Agenten pro Gruppe. Jedem Agenten wurde eine von zwei zufälligen, neutralen Meinungen zugewiesen – bewusst als zufällige Buchstaben und nicht als überladene Wörter wie „Ja“ oder „Nein“ dargestellt – und dann wurde eine Liste aller aktuellen Meinungen aller anderen Agenten angezeigt. Die Agenten wurden aufgefordert, eine neue Meinung ausschließlich auf der Grundlage dieser Liste zu wählen, ohne ausdrückliche Anweisung, sich anzupassen, und aktualisierten ihre Ansichten durchschnittlich zehnmal.

Das Ergebnis: fortschrittliche Modelle wie GPT-4 Turbo und Claude 3 Opus, die vollständig aufeinander abgestimmt sind und 100 % der Agenten sich schließlich auf eine einzige Meinung einigen. Schwächere Modelle wie GPT-3.5 Turbo erzielten nie einen Konsens – ihre Zustimmungsniveaus schwankten zufällig um eine 50/50-Aufteilung.

„Gruppen von KI-Agenten können alleine zusammenhalten“, sagte De Marzo. „Angesichts zweier gleich guter Optionen, ohne richtige Antwort und ohne Anweisung, zuzustimmen, kommen sie zu einer gemeinsamen Entscheidung, indem sie einfach dem folgen, was die Mehrheit um sie herum vertritt.“

Ein jahrhundertealtes Physikgesetz entsteht

Um den Effekt zu quantifizieren, definierten die Forscher eine Metrik namens „Mehrheitskraft“ – ein Maß dafür, wie stark ein Agent dazu neigt, die beliebteste Wahl der Gruppe zu übernehmen, anstatt sie zufällig auszuwählen. Als sie dieses Verhalten mathematisch kartierten, stellten sie fest, dass es einem Modell folgte, das ursprünglich zur Beschreibung von Ferromagneten entwickelt wurde: So wie Atomspins in magnetischem Material dazu neigen, sich an ihren Nachbarn auszurichten, neigen KI-Agenten dazu, sich der Mehrheitsmeinung anzuschließen.

„Was uns überrascht hat, war, wie einheitlich sie es gemacht haben“, sagte De Marzo. „Jedes Modell, das wir in drei verschiedenen Familien getestet haben, folgte demselben mathematischen Gesetz und unterschied sich nur in einem einzigen Parameter, den wir Mehrheitskraft nennen. Es stellte sich heraus, dass dieses Gesetz dasjenige ist, das Physiker seit einem Jahrhundert zur Beschreibung von Magneten verwenden, was bedeutet, dass eine einzige gemessene Zahl ausreicht, um vorherzusagen, wie sich eine ganze Gruppe eines bestimmten Modells verhalten wird.“

Die Konformität wird mit zunehmender Gruppengröße schwächer. Da die Mehrheitsstärke mit der Gruppengröße abnimmt, werden große Populationen schließlich instabil und spalten sich in Fraktionen auf. Jedes Modell verfügt über eine messbare „kritische Gruppengröße“ – die maximale Anzahl von Agenten, die zuverlässig einen Konsens erzielen können – und diese Größe korreliert stark mit der Argumentationsfähigkeit eines Modells. „Die stärksten Modelle bleiben in Gruppen von über tausend Personen koordiniert, über die wenigen Hundert hinaus, bei denen informelle menschliche Gruppen normalerweise auseinanderbrechen“, erklärte De Marzo.

Falsche Antworten unter sozialem Druck

Ein erster Nachfolge-Preprint, „Conformity and Social Impact on AI Agents“ von Alessandro Bellina, De Marzo und Garcia, adaptierte die berühmten Asch-Konformitätsexperimente der 1950er Jahre, bei denen menschliche Teilnehmer oft offensichtlich falsche Antworten auf einfache visuelle Fragen gaben, um sich in eine Gruppe einzufügen.

Die Forscher testeten Modelle anhand von drei visuellen Aufgaben, beispielsweise dem Vergleich der Länge einer Referenzlinie mit zwei Alternativen. Für sich genommen antworteten die Modelle in 100 % der Fälle richtig. Als jedoch eine Eingabeaufforderung darauf hinwies, dass eine Gruppe anderer Teilnehmer die falsche Zeile gewählt hatte, begannen die Modelle, sich an die falsche Antwort anzupassen.

Das Muster folgte Latanés Social-Impact-Theorie, einem psychologischen Rahmenwerk, das besagt, dass Konformität von der Gruppengröße, der Einstimmigkeit und der Autorität der Quellen abhängt. Wenn man den anderen Teilnehmern sagte, sie seien „Wissenschaftler“ oder „Richter“, reagierten die Modelle mit deutlich größerer Wahrscheinlichkeit auf falsche Antworten, als wenn sie „Kinder“ oder „Chatbots“ waren.

„Agenten, die alleine nahezu perfekt antworten, werden sehr anfällig, wenn eine Gruppe nicht mit ihnen übereinstimmt“, bemerkte De Marzo.

Kleine Gruppen von Gegnern können eine ganze Bevölkerung umdrehen

Ein zweiter Vorabdruck mit dem Titel „Konformität erzeugt kollektive Fehlausrichtung in Gesellschaften von KI-Agenten“ untersuchte, was diese Dynamiken für die KI-Sicherheit bedeuten. Die Forscher testeten neun Modelle mit 100 verschiedenen Meinungspaaren zu Themen wie Umweltpolitik und soziale Gerechtigkeit und stellten fest, dass Agentenpopulationen häufig in „metastabile“ Zustände verfallen – langanhaltende Konfigurationen, in denen die Gruppe gemeinsam eine Haltung einnimmt, die sich ihrem eingebauten Sicherheitstraining widersetzt, einfach weil frühe Interaktionen eine falsche Mehrheit geschaffen haben.

Am auffälligsten war, dass die Forscher vorhersehbare Wendepunkte identifizierten. Durch die Einführung einer kleinen Anzahl gegnerischer Agenten, die so programmiert sind, dass sie hartnäckig eine falsche Meinung unterstützen, konnten sie den Rest der Bevölkerung dauerhaft umdrehen – und selbst nachdem die hartnäckigen Agenten entfernt wurden, blieben die regulären Agenten aufgrund der Konformitätsdynamik in dem falsch ausgerichteten Zustand gefangen.

„Wir zeigen, dass dies nicht nur eine Analogie ist: Konformität zwischen individuell gut ausgerichteten Agenten kann die Bevölkerung in stabile, kollektiv falsch ausgerichtete Zustände treiben“, sagte De Marzo. „Die Ausrichtung und Bewertung einzelner Modelle sagt uns wenig darüber, was eine Population von ihnen bewirken wird.“

Die Motivation, fügte er hinzu, sei vorwegnehmend: „Einzelne Menschen sind größtenteils friedlich und vernünftig, doch menschliche Gruppen erzeugen Mobs, Panik und Kriege, und nichts am Einzelnen lässt dies vorhersehen. Wir wollen verstehen, welche Verhaltensweisen auf Gruppenebene in Populationen von KI-Agenten auftreten, und wir möchten sie lieber verstehen, bevor eine große Anzahl von Agenten eingesetzt wird und frei interagieren kann.“

Wichtige Vorbehalte

Die Forscher betonen, dass die Ergebnisse nicht bedeuten, dass KI-Agenten über menschenähnliche soziale Intelligenz verfügen. Die Experimente basierten auf bewusst vereinfachten Szenarien – zwei willkürlichen Optionen, keine Erinnerung, kein Einsatz, keine Konsequenzen. „Unser Setup ist bewusst minimal“, räumte De Marzo ein. „Das ist eine Einschränkung, aber es bedeutet auch, dass wir Konformität in ihrer reinsten Form gemessen haben und das Hinzufügen von Zielen oder Belohnungen die Koordination voraussichtlich eher erleichtern als erschweren würde.“

Er warnte auch davor, die Ergebnisse zu überinterpretieren: „Die wichtigste Fehlinterpretation, die es zu vermeiden gilt, besteht darin, dies als Beweis dafür zu betrachten, dass KI-Agenten bereits bei komplexen Aufgaben zusammenarbeiten können. Mehrheitsorientierung ist ein Grundbestandteil der Koordination, nicht die Koordination selbst, und sie sagt nichts über Arbeitsteilung oder Überlegungen zu den Absichten anderer aus.“

Bei den beiden Folgestudien handelt es sich um Preprints, die noch keinem Peer-Review unterzogen wurden. Während Multiagenten-KI-Systeme jedoch von Forschungsdemonstrationen in die Produktionsinfrastruktur übergehen, deuten die Konstanzer Ergebnisse darauf hin, dass die Sicherheit solcher Systeme möglicherweise nicht nur davon abhängt, wie jedes Modell ausgerichtet ist, sondern auch davon, wie sich Populationen von ihnen verhalten, wenn niemand zuschaut. Weitere Informationen zur neuesten KI-Sicherheitsforschung finden Sie unter AI Buzz Wire.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →