Dario Amodei, CEO von Anthropic, hat sich gegen die Vorstellung gewehrt, dass er ein allzu pessimistisches Bild der künstlichen Intelligenz gezeichnet habe, und argumentierte in einer Reihe von Beiträgen, dass die wachsende öffentliche Gegenreaktion gegen die Technologie „grundsätzlich eine Vertrauenskrise“ in Institutionen sei – und nicht das Ergebnis von Warnungen von KI-Führungskräften.

Der Austausch, über den TechCrunch am Sonntag berichtete, begann, als Investor Gavin Baker im All-In-Podcast und auf Baker behauptete, Amodei habe „den Streit über die KI-Regulierung verloren“ und schrieb angesichts der Tatsache, dass „er im Begriff ist, CEO eines der wichtigsten Unternehmen der Welt zu werden“,: „Ich denke respektvoll, dass er sich bemühen sollte, ein positiverer Fürsprecher für seine eigene Branche zu sein.“ Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Amodeis Antwort, die auf

„Normale Menschen vertrauen Unternehmen nicht“

Amodei räumte in seinen Beiträgen ein, dass „die Öffentlichkeit eine negative Sicht auf KI hat“ und stimmte zu, dass „das ein großes Problem ist“. Er lehnte jedoch die Vorstellung ab, dass die Negativität „hauptsächlich durch ihn oder einen anderen KI-Führer verursacht“ werde, der vor den Risiken der KI warnte.

„Ich denke, es handelt sich grundsätzlich um eine Vertrauenskrise“, schrieb Amodei. „Ich denke, dass normale Menschen Unternehmen, Regierungen oder der Technologieindustrie nicht vertrauen und immer vermuten, dass wir uns einen neuen Weg ausdenken, um sie zu verarschen.“

Laut Amodei handelt es sich um eine Krise, die seit Jahrzehnten im Entstehen begriffen ist, wobei die KI-Gegenreaktion „nur die neueste Version davon“ sei. Der Kommentar fällt in einen Moment sichtbarer Spannungen zwischen KI-Firmen und der Öffentlichkeit: Proteste gegen den Bau von Rechenzentren haben sich in den Vereinigten Staaten ausgeweitet, und der Widerstand der Bevölkerung hat in diesem Jahr wiederholt große Bauvorhaben verzögert.

Anfechtung des Vorwurfs der „negativen Nachrichtenübermittlung“.

Was den konkreten Vorwurf angeht, dass seine eigene Kommunikation zu düster gewesen sei, äußerte sich Amodei direkt. „Ich stimme nicht zu, dass meine Botschaften unverhältnismäßig negativ waren“, schrieb er und sagte, sein Schreiben sei „in etwa gleich ausgewogen zwischen Risiken und Nutzen.“ Er bemerkte, dass er seinen Aufsatz „Machines of Loving Grace“ gerade deshalb geschrieben habe, weil er „nicht der Meinung war, dass die KI-Industrie ein ausreichend inspirierendes Bild davon zeichnet, wie die Technologie die Welt radikal zum Besseren verändern könnte“.

Aber die am häufigsten zitierte Passage von Amodeis Antwort richtete sich an seine eigene Branche – einschließlich seines eigenen Unternehmens. „Ich denke, die mit Abstand treffendste Kritik an KI-Unternehmen, einschließlich Anthropic, ist, dass wir unsere großen Versprechen, der Welt zu helfen, noch nicht eingehalten haben“, schrieb er. „Das liegt ganz bei uns, und ich denke, es ist die Kritik, die Sie äußern sollten, und nicht dieser ganze Kram über Messaging und Marketing.“

Das Versprechen, dass KI Krebs heilen werde, sei „eher ein Klischee als inspirierend“, fügte er hinzu. Was die öffentliche Meinung tatsächlich verändern würde, argumentierte er, sei „die tatsächliche Heilung von Krebs“.

Der Regulierungskampf

Amodei lehnte auch Bakers Darstellung der Regulierung ab und warf ihm vor, eine „falsche Wahl“ zu treffen, ob er KI weithin ohne Regeln verbreiten oder die Technologie durch Regeln in den Händen einiger weniger Unternehmen konzentrieren würde.

„Ich weiß, dass es eine Art Silicon-Valley-Abkürzung gibt, in der Regulierung = regulatorische Eroberung = Machtkonzentration bedeutet, aber ich habe immer festgestellt, dass dies ein zu vereinfachtes Bild der Welt ist“, schrieb Amodei. „Viele Menschen außerhalb dieser Blase betrachten Regulierung als etwas, das die Macht der Unternehmen einschränkt und den einfachen Menschen zugute kommt.“

Er sagte, Anthropic habe bewusst politische Vorschläge ausgearbeitet, um eine Verfestigung der etablierten Unternehmen zu vermeiden. „Wir bemühen uns sehr, Vorschläge zu unterbreiten, die Pionier-KI-Unternehmen benachteiligen (verlangsamen) und gleichzeitig kleinere Konkurrenten begünstigen“, schrieb er. Anthropic hat sich für Transparenzanforderungen für große KI-Unternehmen eingesetzt, darunter einen kalifornischen Gesetzentwurf, der Offenlegungspflichten vorsieht.

Zu Modellen mit offener Gewichtung – einem Brennpunkt in der aktuellen politischen Debatte, da das Weiße Haus kürzlich beschlossen hat, Modelle mit offener Gewichtung von bestimmten bundesstaatlichen Überprüfungen auszunehmen – vertrat Amodei eine differenzierte Position. „KI ist strukturell eine Technologie, die dazu neigt, Macht zu konzentrieren“, argumentierte er. Offene Gewichte „helfen einigen dabei, sind aber bei weitem keine ausreichende Lösung, weil sie die Konzentration einfach etwas auf diejenigen verlagern, die über die meiste Rechenleistung und den meisten Chip verfügen.“ Die richtigen „Verkehrsregeln“, sagte er, können gleichzeitig Cyber-, Bio- und Ausrichtungsrisiken angehen, die Macht von Grenzlaboren einschränken und Raum für Modelle mit offenem Gewicht lassen.

Warum der Austausch wichtig ist

Die Debatte kommt zu einem sensiblen Zeitpunkt für Anthropic. Das Unternehmen reitet auf einer Welle des kommerziellen Erfolgs, mit einem Umsatzwachstum, das es zu einem der am meisten beobachteten Technologieunternehmen gemacht hat, und es wird allgemein erwartet, dass es einen Börsengang anstrebt. Sein CEO bleibt gleichzeitig einer der lautstärksten Befürworter der Branche, KI-Risiken ernst zu nehmen – eine Kombination, die seine Botschaften zu einem Blitzableiter macht.

Bakers Argument spiegelt eine breitere Strömung im Risikokapitalbereich und unter KI-Boostern wider: dass die öffentliche Skepsis gegenüber KI größtenteils ein Kommunikationsproblem ist, das durch die Vorsicht der Branche selbst verursacht wird. Amodeis Antwort kehrt diese Sichtweise praktisch um – das Problem besteht nicht darin, was KI-Führungskräfte sagen, sondern darin, was die Branche nicht geleistet hat und wie wenig die Öffentlichkeit den Institutionen vertraut, die die Technologie entwickeln.

Für ein Unternehmen, dessen Marke darauf aufbaut, das verantwortungsvolle KI-Labor zu sein, ist die Haltung konsequent. Aber Amodeis Eingeständnis – dass die schärfste und treffendste Kritik die Kluft zwischen Versprechen und Lieferung in der Branche sei – ist ein besonders offenes Eingeständnis eines CEO, dessen Unternehmen einige der größten Versprechen überhaupt gemacht hat.

Die Beiträge skizzieren auch die Position, die Anthropic wahrscheinlich vertreten wird, wenn sich die politischen Kämpfe in Washington verschärfen: Transparenzregeln für Grenzlabore, Schutzmaßnahmen, die kleinere Konkurrenten begünstigen, und keine pauschale Annahme, dass offene Gewichte das Problem der Machtkonzentration lösen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →