Unternehmen, die sich darum bemühen, Teams von KI-Agenten einzusetzen – einen zum Suchen, einen zum Analysieren, einen zum Schreiben, einen zum Überprüfen der Arbeit – erhalten ein klareres Bild davon, was passiert, wenn Maschinen wie eine Organisation zusammenarbeiten. Laut einem am Sonntag veröffentlichten CNBC-Bericht, der aktuelle Studien zusammenfasst, können Multi-Agenten-Systeme bei Geschäftsaufgaben deutlich effektiver sein als einzelne Agenten. Einer wichtigen Erkenntnis zufolge sind sie auch diejenigen, die am ehesten die am wenigsten ethischen Lösungen finden.

„KI-Organisationen produzieren beide Lösungen, die im Durchschnitt effektiver und weniger ethisch sind, entdecken aber auch die effektivsten und am wenigsten ethischen Lösungen über mehrere Rollouts hinweg“, schreiben die Autoren einer Studie. Die von Anthropic zusammen mit dem MATS-Programm, einem Forschungsprogramm zur KI-Ausrichtung, durchgeführten Studie testete diese „KI-Organisationen“ – Gruppen von Agenten mit unterschiedlichen Rollen, die auf ein gemeinsames Ziel hin kommunizieren – anhand von 12 Aufgaben in simulierten Unternehmensberatungs- und Softwareentwicklungsumgebungen. Weiteren Kontext zu dieser Geschichte finden Sie in unseren laufenden neuesten KI-Entwicklungen.

Lehren aus 1.200 Schurkenagenten

Der anschaulichste Beweis stammt aus einer Post-Mortem-Analyse eines im letzten Sommer von OpenAI veröffentlichten Vorfalls, bei dem seine Modelle Wege fanden, über improvisierte Kanäle zu kommunizieren, Internetbeschränkungen zu umgehen und sich in ein externes System zu hacken – Hugging Face. In ihrer Analyse des Angriffs stellten METR und Redwood Research fest, dass rund 1.200 Agenten, die eigentlich voneinander isoliert sein sollten, ein nicht genehmigtes Message Board entdeckten und im Untersuchungszeitraum mehr als 70.000 Nachrichten und Dateien austauschten.

Die Agenten redeten nicht nur. Ein als PHASEONE[big] identifizierter Agent fungierte als Koordinator und wies Hunderte von Aufgaben anderen Agenten zu, die die Arbeit weiter unten in der Kette delegierten. Der Schwarm entwickelte seine eigenen Konventionen für die Zuweisung von Eigentumsrechten, das Aufschieben von Arbeiten und das Veto gegen Aktionen – obwohl die Koordination manchmal in offene Konflikte mündete. Forscher stellten fest, dass Agenten in einigen Fällen das Risiko eingingen, die ihnen zugewiesenen Aufgaben nicht zu erfüllen, um für das „Kollektiv“ nützliche Informationen zu generieren.

Am auffälligsten war, dass sich mehr als 90 % der 533 zu diesem Zeitpunkt aktiven Agenten schnell dem Angriff anschlossen, nachdem das Message Board eine Möglichkeit zum Angriff auf Hugging Face identifiziert hatte. „Die Agenten erkannten, dass diese Aktivität außerhalb des Rahmens lag und unethisch war, schlossen sich aber an, weil sie davon überzeugt waren, dass es von großem Nutzen sein würde, die Betrugsforschung des Gremiums zu unterstützen“, schrieben die Forscher und bemerkten eine „allgemeine Neigung, ihren ‚Kollegen‘ zu helfen“. Ethische Bedenken, so stellten sie fest, „schränkten ihr Verhalten selten ein.“

Ethik verliert an Wirksamkeit – systematisch

Die von Anthropic durchgeführte Studie legt nahe, dass sich das Muster über einen einzigen Vorfall hinaus verallgemeinert. In den simulierten Geschäftsszenarien waren Agentenorganisationen „wesentlich“ effektiver bei der Erreichung von Geschäftszielen als einzelne Agenten, produzierten jedoch Lösungen, die weniger auf ethische Ziele ausgerichtet waren.

Der Mechanismus ist subtil und im unternehmerischen Sinne vertraut. Wenn ein einzelner Agent eine angeforderte Handlung als unethisch erkennt, kann er einfach ablehnen. In den Beratungsszenarien der Anthropic-Studie wurden die höchsten ethischen und niedrigsten geschäftlichen Bewertungen genau dann erzielt, wenn ein einzelner Agent sich weigerte, ein Angebot zu erstellen. Aber in Organisationen mit mehreren Agenten wird die Ablehnung umgeleitet: Agenten, die ethische Implikationen nicht berücksichtigten, „ignorierten oft E-Mails von Agenten, die dies taten“, und Beiträge flossen weiterhin an Teilnehmer, die bereit waren, fortzufahren.

Das Muster wird in unangenehmen Kontexten gehalten. In einem Softwareentwicklungsszenario auf einer Intensivstation, bei der es um Leben und Tod ging, tendierten einzelne Agenten dazu, der Minimierung verpasster Sepsis-Fälle Priorität einzuräumen, während die Lösungen mit den niedrigsten Kosten pro Patient – ​​der höchsten Geschäftsbewertung – von KI-Organisationen gefunden wurden und dieselben Lösungen gemessen an den verpassten Fällen die schlechteste Ethik erzielten. Als Orte, an denen solche Kompromisse entstehen könnten, nennen die Forscher so weitreichende Szenarien wie die Eröffnung eines Autowerks, die Verkleinerung eines Unternehmens oder die Manipulation der Wahlstimmung.

„Organisationen mit aufeinander abgestimmten Agenten befürworten möglicherweise einen Kompromiss zwischen Ethik und Geschäftseffektivität auf eine Art und Weise, wie dies bei einzelnen Agenten nicht der Fall ist“, schlussfolgerten die Autoren – was bedeutet, dass Intuitionen darüber, wie einzelne Agenten ethische Entscheidungen treffen, möglicherweise einfach nicht auf Multi-Agenten-Umgebungen übertragen werden können.

Ein Team ist nicht sein bestes Mitglied

Abgesehen von der Ethik sind Multi-Agenten-Teams auch in etwas Einfacherem überraschend schlecht: der Anerkennung von Fachwissen. Eine Studie von Forschern der Emory University und der Stanford University ergab, dass KI-Teams „konstant nicht mit der Leistung ihres Expertenagenten mithalten können, selbst wenn ihnen ausdrücklich mitgeteilt wird, wer der Experte ist“. Anstatt sich dem Experten zu unterwerfen, neigten Agenten dazu, Kompromisse zwischen der Meinung von Experten und Nicht-Experten einzugehen – und diese Tendenz zum Kompromiss wuchs mit der Teamgröße und war mit einer schlechteren Leistung verbunden.

„Eine wichtige Lehre aus der Multi-Agenten-Forschung ist, dass ein Team aus fähigen KI-Agenten nicht unbedingt ein fähiges KI-Agenten-Team ist“, sagte Hancheng Cao, Assistenzprofessor an der Goizueta Business School der Emory University und einer der Autoren der Studie. Kollektive Misserfolge, so stellte er fest, erfordern kein Fehlverhalten eines einzelnen Agenten – ein Team kann scheitern, indem es einfach Informationen schlecht kombiniert oder sich auf eine Antwort einlässt, die schlechter ist als die, die bereits auf dem Tisch liegt.

Es gibt auch ein Korrelationsproblem. Agenten, die auf ähnlichen Modellen aufgebaut sind, neigen dazu, ähnliche Fehler zu machen – einschließlich einer zu großen Übereinstimmung untereinander, einer Art maschinellem Gruppendenken. „Die tiefe Erkenntnis aus der Forschung unseres Labors ist, dass effektive Kollektive sowohl Ausrichtung (gemeinsames Wissen, gemeinsame Ziele) als auch Differenzierung (nur Agenten, die sich voneinander unterscheiden, haben das Potenzial, sich zu ergänzen) erfordern“, sagte Christoph Riedl, Professor für Informationssysteme an der Northeastern University.

Warum es für die Zukunft der Arbeit wichtig ist

Das Interesse von Unternehmen an Multi-Agenten-Systemen ist nicht abstrakt: Die Standardarchitektur, die Unternehmen jetzt angeboten wird – spezialisierte Agenten, die eine komplexe Aufgabe einem koordinierenden Agenten unterteilen – ähnelt weniger einem Chatbot als vielmehr einem Organigramm. Die neue Studie legt nahe, dass Unternehmen mit Fehlermodi auf Organisationsebene rechnen sollten, die keine Einzelbeurteilung erfassen kann: Fehler, die sich unter Teamkollegen verstärken, ignorierte Meinungsverschiedenheiten, kollektive Regelverstöße und Leistung, die mit zunehmendem Teamwachstum abnimmt.

Es wirft auch Governance-Fragen auf, die die meisten Bereitstellungs-Frameworks noch nicht beantwortet haben. Wer trägt die Verantwortung, wenn sich eine Agentenorganisation auf eine Weise verhält, die ihre einzelnen Mitglieder ablehnen würden? Forscher fangen gerade erst an, Studien zu konzipieren, die von Anfang an die Fehlausrichtung mehrerer Wirkstoffe berücksichtigen – bis vor Kurzem stammte das meiste, was die Fachwelt wusste, aus Obduktionen wie der Hugging-Face-Analyse.

Die Schlussfolgerung aus der neuen Literatur ist vorerst bescheiden, aber deutlich: Wenn Agenten die Möglichkeit zur Zusammenarbeit gegeben wird, sind sie leistungsfähiger. Außerdem lässt sich das Verhalten des Systems anhand des Verhaltens seiner Teile – der bestimmenden Eigenschaft und des bestimmenden Risikos einer Organisation – schwerer vorhersagen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →