OpenAI arbeitet seit mehreren Wochen eng mit den Konkurrenten Anthropic und Google DeepMind zusammen, um ein Rahmenwerk für die Sicherheit künstlicher Intelligenz zu entwickeln, bestätigte ein leitender Angestellter am Dienstag und enthüllte ein ungewöhnliches Maß an Zusammenarbeit zwischen Unternehmen, die in fast allen anderen Bereichen hart im Wettbewerb stehen.

Chris Lehane, der globale Leiter für Politik bei OpenAI, sagte Reportern bei einer Pressekonferenz in Washington, dass die drei Labore Sicherheitsinitiativen koordiniert hätten. „Es ist besser, zusammenzuarbeiten, um der Sicherheit Priorität einzuräumen“, sagte Lehane laut einem Bloomberg-Bericht über das Briefing. Seine Kommentare kamen Tage nach einer Reihe öffentlichkeitswirksamer Warnungen vor dem Artensterben von Forschern, die die größten Labore der Branche verließen. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.

Was die Kooperation eigentlich umfasst

Lehane ging nicht näher auf die konkrete Art der Arbeit ein, aber die Offenlegung folgt einer bemerkenswerten öffentlichen Positionierung der größten Namen der Branche. Am Samstag veröffentlichte Anthropic-Chef Dario Amodei einen Aufsatz, in dem er die KI-Branche aufforderte, bei der Verlangsamung der Entwicklung von Grenzmodellen zusammenzuarbeiten, um das zu vermeiden, was er als „katastrophale Risiken“ bezeichnete.

Der Aufruf erhielt überraschende Unterstützung aus allen Wettbewerbskreisen: Sam Altman von OpenAI, Demis Hassabis von Google und Elon Musk unterstützten alle diese Meinung. Altman ging noch weiter und sagte, OpenAI sei bereit, sich der Initiative von Anthropic anzuschließen, externe Gutachter in seine Entwicklungsteams einzubinden, um die KI-Sicherheit von innen zu überwachen. Jack Clark, Mitbegründer von Anthropic, erklärte gegenüber NPR, dass die Verlangsamung der KI im Grunde ein „kollektives Aktionsproblem“ sei, das kein einzelnes Labor allein lösen könne.

Allerdings hält nicht jeder innerhalb von OpenAI die Tempodebatte für dringlich. Finanzchefin Sarah Friar sagte gegenüber CNBC, sie mache sich keine Sorgen über eine Verlangsamung der KI-Entwicklung – eine Erinnerung daran, dass das Unternehmen gleichzeitig Investoren mit einem Wert von über einer Billion Dollar umwirbt.

Der kartellrechtliche Schatten über der Zusammenarbeit

Jede Koordinierung zwischen marktbeherrschenden KI-Laboren stößt auf ein offensichtliches rechtliches Problem: das Kartellrecht der Vereinigten Staaten. Rechtsexperten warnen davor, dass Vereinbarungen zwischen Wettbewerbern zur Begrenzung der Leistungsfähigkeit ihrer Produkte als „Produktionsbeschränkung“ ausgelegt werden könnten, ein Verstoß gegen den Sherman Act.

Diese Sorge hat sich bereits auf den Capitol Hill verlagert. Die Senatoren Jim Banks aus Indiana und Adam Schiff aus Kalifornien schlugen ein Gesetz vor – den Collaboration on Adversarial Threats and Security Risks Act –, das es KI-Laboren ermöglichen würde, auf Sicherheit zu reagieren, selbst wenn diese Maßnahmen andernfalls kartellrechtliche Probleme aufwerfen könnten. In Amodeis Essay wurde argumentiert, dass die Regierung erwägen sollte, den Unternehmen einen Verzicht auf Sicherheitskooperationen zu gewähren, obwohl Lehane Reportern sagte, dass er einen solchen Schritt für unnötig halte.

Nvidias Jensen Huang war noch unverblümter. Als er am Dienstag bei Dreamforce sprach, bezeichnete er Anthropics Vorschlag zur Kartellverzichtsbefreiung laut CNBC als „völlig unnötig“ und unterstrich damit die zunehmende Spaltung zwischen den Labors, die zur Zurückhaltung drängen, und dem Hardware-Riesen, der zur Beschleunigung drängt.

„Ein Kartell mit einem anderen Namen“

Kritiker der Kooperation äußerten sich scharf. Cohere-Geschäftsführer Aidan Gomez schrieb in einem Blogbeitrag als Antwort auf Amodeis Aufsatz, dass die Sicherheitsaufrufe wie ein Versuch der führenden KI-Labore aussehen, ein wettbewerbswidriges System zu verschleiern, das ihren Vorsprung bei der Entwicklung von Grenzmodellen wahren und es „marktbeherrschenden“ Laboren ermöglichen würde, die Regeln für alle anderen zu definieren.

„Diese Oligopole nutzen erneut ihre Angst unter dem Vorwand, die Öffentlichkeit zu schützen, und fordern nun, die Wettbewerbsregeln zu verbiegen und die Bedingungen für alle anderen diktieren zu dürfen“, schrieb Gomez und nannte die Vereinbarung „einen Wolf im Schafspelz, ein Kartell mit einem anderen Namen.“

Präsident Donald Trump hat Amodeis Aufruf zur Verlangsamung entschieden zurückgewiesen und in einem Beitrag auf Truth Social argumentiert, dass jede Verlangsamung es China ermöglichen würde, die Vereinigten Staaten im KI-Wettlauf zu überholen. David Sacks, der wichtigste KI-Berater des Weißen Hauses, sagte, die Befürchtungen, dass KI eine existenzielle Bedrohung darstellen könnte, seien übertrieben.

Analysten von CNBC stellten fest, dass sich in der Debatte über KI-Sicherheit und -Regulierung inzwischen zwei Lager vollständig herausgebildet haben: Das eine drängt darauf, langsamer zu werden, bevor etwas schief geht, und das andere – bestehend aus Nvidia, dem Weißen Haus und Befürwortern des offenen Modells – argumentiert, dass Zögern die größere Gefahr darstellt.

Capitol Hill Push von OpenAI

Lehanes Bemerkungen kamen während einer Medienbesprechung in Washington, wo er sich mit Gesetzgebern treffen sollte. Laut öffentlichen Erklärungen des Unternehmens und Berichten von Reuters und Politico setzt sich OpenAI für zwei parteiübergreifende Gesetzesentwürfe ein.

Der erste ist der FRONTIER Act, der einen bundesstaatlichen Rahmen für die KI-Sicherheit fordert und KI-Labore dazu verpflichten würde, neue Modelle zur Prüfung durch unabhängige Gutachter einzureichen. Laut CBS News unterstützt OpenAI auch eine Maßnahme, die unabhängige Prüfungen von KI-Modellen erfordern würde. Der zweite Vorschlag, der sich noch in der Entwicklung befindet, ist einer, den der Mehrheitsführer im Senat, John Thune, gemeinsam mit dem republikanischen Senator Ted Cruz und der demokratischen Senatorin Amy Klobuchar ausarbeitet. Laut Reuters würde dieser Gesetzentwurf dem Handelsminister die Befugnis geben, neue Modelle vor ihrer Veröffentlichung Sicherheitsprüfungen zu unterziehen. Laut Politico hat OpenAI separat parteiübergreifende Pläne zur Bekämpfung von KI-Bedrohungen befürwortet.

Die Konvergenz ist auffällig: Dieselben Unternehmen, die vor einer außer Kontrolle geratenen KI warnen, melden sich freiwillig zu unabhängigen Audits, während ihre Kritiker warnen, dass die Zusammenarbeit selbst die größere Gefahr darstellen könnte. Wie der Kongress diese Nadel einfädelt – die Ermöglichung einer Sicherheitszusammenarbeit ohne die Lizenzierung eines Kartells – könnte die KI-Politik über Jahre hinweg bestimmen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →