Im Moscone Center in San Francisco kam es diese Woche zu einer ungewöhnlichen öffentlichen Meinungsverschiedenheit: Die Führungskräfte von Nvidia, Anthropic und OpenAI, die nur wenige Stunden voneinander entfernt auf derselben Bühne auf der Dreamforce-Konferenz von Salesforce auftraten, gaben völlig unterschiedliche Antworten auf die Frage, wie schnell die KI voranschreiten darf.

Jensen Huang, CEO von Nvidia, sagte gegenüber Salesforce-Chef Marc Benioff, dass die Formulierung von Geschwindigkeit versus Sicherheit falsch sei. „Es ist eine falsche Entscheidung“, sagte Huang laut CNBC. „Man könnte definitiv beides gleichzeitig haben.“ Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Seine Position stand in direktem Gegensatz zu der, die früher am Tag von Anthropic-CEO Dario Amodei und später von OpenAI-CEO Sam Altman in einer Debatte geäußert wurde, die sich innerhalb einer Woche von Forschungsblogs zu Konferenz-Keynotes in Washington verlagerte.

Amodeis Slowdown Pitch erhält eine Keynote-Plattform

Amodei erschien zuerst und begleitete Benioff bei der jährlichen Keynote von Salesforce vor einem Publikum von rund 12.000 Menschen. Dem Auftritt folgte ein Aufsatz, den Amodei am Wochenende veröffentlichte und in dem er die Branche aufforderte, das Tempo der Modellentwicklung zu verlangsamen. Dieser Vorschlag könne seiner Meinung nach die Geschwindigkeit, mit der sich die Fähigkeiten verbessern, bremsen, ohne „kommerzielle Vorteile oder den Vorsprung der Vereinigten Staaten in der KI zu opfern“.

Laut CNBC bezeichnete Amodei freiwillige Zurückhaltung als einen Führungstest für die Branche. „Ich denke, das ist der Weg, die Branche voranzubringen, ein Beispiel zu geben und zu sagen, dass jeder immer besser werden kann“, sagte er zu Benioff.

Der Aufsatz erhielt schnell öffentliche Unterstützung von anderen Führungskräften der Branche, darunter Sam Altman von OpenAI, Elon Musk, CEO von SpaceX, und Demis Hassabis, Vorsitzender von Google DeepMind. Es kam Tage, nachdem Branchenforscher Alarm geschlagen hatten, dass KI möglicherweise katastrophalen Schaden anrichten könnte, was dem Argument der Verlangsamung neue Dringlichkeit verlieh.

Huang: Marktkräfte, keine neuen Gesetze

Huang, dessen Unternehmen durch den Verkauf der Hardware, die Grenzmodelle trainiert und betreibt, zum wertvollsten der Welt wurde, lehnte sowohl die Prämisse eines Kompromisses als auch die Idee einer neuen Regulierung ab. Es gebe bereits Marktkräfte, die rücksichtsloses Verhalten disziplinieren, argumentierte er, und es liege an den Modellentwicklern, verantwortungsbewusst mit ihren Produkten umzugehen.

„Lauf so schnell du kannst“, sagte Huang zu Benioff. „Aber wenn Sie zu irgendeinem Zeitpunkt das Gefühl haben, dass das Unternehmen außer Kontrolle gerät oder das Produkt nicht sicher ist, machen Sie eine Pause und stellen Sie sicher, dass Sie es richtig machen.“

Die Unterscheidung ist wichtig: Huang argumentiert nicht, dass Unternehmen niemals innehalten sollten, sondern nur, dass die Entscheidung bei jedem Unternehmen liegen sollte und nicht durch Gesetze oder koordinierte branchenweite Vereinbarungen zur Taktung durchgesetzt werden sollte. Einen Tag zuvor, beim All-In Summit in Los Angeles, nahm Huang einen Freisprechanruf von Präsident Donald Trump entgegen, der seine Besorgnis darüber zum Ausdruck brachte, dass Menschen versuchen, den Bau von KI-Rechenzentren zu behindern. „Das werden wir nicht zulassen, Sir“, antwortete Huang.

Altman: Safety „sollte kein Qualifikationsmerkmal haben“

Altman kam später am Tag auf der Dreamforce-Bühne an die Reihe und positionierte sich näher an Amodei als an Huang. Während eines Kamingesprächs mit Benioff sagte Altman, dass Sicherheit und Überwachung angesichts der Leistungsfähigkeit aktueller Modelle Vorrang vor Fähigkeiten haben müssen.

Er zielte auf Unternehmen ab, die ihre Sicherheitsverpflichtungen vom Verhalten der Wettbewerber abhängig machen. „Es gibt Unternehmen, die Dinge sagen wie: ‚Wir übernehmen nur dann Verantwortung, wenn andere Unternehmen Verantwortung übernehmen‘“, sagte Altman und fügte hinzu, dass die Antwort keinen Raum für Bedingungen lassen sollte, wenn Leute fragen, was ein Unternehmen tun wird, um „egal was“ sicher zu sein. „Dazu sollte es keine Qualifikation geben.“

Benioff sitzt in der Mitte

Benioff, der Gastgeber aller drei Führungskräfte war, lehnte es ab, sich für eine Seite in Sachen Tempo zu entscheiden. „Wenn sie das Gefühl haben, dass sie langsamer werden sollten, dann sollten sie langsamer werden. Wenn sie das Gefühl haben, dass sie schneller werden sollten, sollten sie schneller werden“, sagte er gegenüber Reportern und fügte hinzu, dass Unternehmen „zur Verantwortung gezogen werden sollten.“

Die Konferenz zeigte auch, wie verflochten die Geschäftsbeziehungen geworden sind. Am Dienstag kündigten Salesforce und Nvidia ein neues Argumentationsmodell für die Agentforce-Plattform von Salesforce an, das auf einem der offenen Nemotron-Modelle von Nvidia basiert. Ende August erweiterten Salesforce und Anthropic ihre strategische Partnerschaft und stellten „Claudeforce“ vor, das Vertriebsmitarbeitern den Zugriff auf Salesforce-Daten aus Claude heraus ermöglicht.

Warum die Trennung wichtig ist

Der Dreamforce-Austausch hat herauskristallisiert, was zur zentralen Bruchlinie in den Debatten über die KI-Governance geworden ist: ob Zurückhaltung koordiniert und möglicherweise kodifiziert werden oder dem Wettbewerbsdruck und dem individuellen Urteilsvermögen der Unternehmen überlassen werden sollte.

Amodeis Vorschlag bleibt freiwillig, aber seine Unterstützung durch die CEOs von OpenAI, DeepMind und xAI ist das erste Mal, dass sich die Leiter der großen Grenzlabore öffentlich für eine Verlangsamung ausgesprochen haben. Huangs Gegenargument, das vom wertvollsten Unternehmen der Welt vorgebracht wurde, bietet Führungskräften und politischen Entscheidungsträgern Deckung, die argumentieren, dass die Vorschrift zur Vorsicht den Wettbewerbern, insbesondere in China, einen Vorteil verschaffen würde.

Präsident Trump hat sich gegen neue KI-Regeln ausgesprochen, eine Haltung, die die eigenen Forderungen der Branche nach einer Verlangsamung untergräbt, wie CNBC in einer entsprechenden Analyse feststellte. Dadurch fehlt jeder freiwilligen Tarifvereinbarung der Durchsetzungsmechanismus, den Sicherheitsbefürworter als notwendig erachten, und die Debatte über die Ehrensysteme von Unternehmen bleibt vorerst bestehen.

Da Forscher öffentlich vor katastrophalen Risiken warnen und die Führungskräfte der größten Unternehmen der Branche nun auf der Bühne offen anderer Meinung sind, wird die Frage der Taktung wahrscheinlich den nächsten politischen Zyklus in Washington dominieren – was auch immer der Markt in der Zwischenzeit beschließt.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →