OpenAI hat bestätigt, dass es, Anthropic und Google DeepMind seit mehreren Wochen Gespräche über die Koordinierung der KI-Sicherheit führen, und erklärt, dass es Gesetze unterstützt, die Grenzlabore dazu zwingen würden, ihre Türen für unabhängige Verifizierungsorganisationen zu öffnen.
Laut TechCrunch gab Chris Lehane, Chief Global Affairs Officer von OpenAI, dies bei einem Treffen am Dienstag bekannt. Reuters und Bloomberg berichteten unter Berufung auf dieselben Bemerkungen, dass OpenAI mit Anthropic und Google an der KI-Sicherheit zusammenarbeitet. Die Bestätigung verwandelt wochenlange Andeutungen – darunter ein Fortune-Interview, in dem Sam Altman private Gespräche mit anderen KI-Führungskräften bestätigte – in ein ausdrückliches Eingeständnis, dass die drei weltweit führenden Grenzlabore sich darüber abstimmen, wie schnell sie sich bewegen und wie ihre Modelle überprüft werden.
Für Leser, die den breiteren politischen Kampf um eine Verlangsamung der KI verfolgen, reichte die Berichterstattung über [Updates zu künstlicher Intelligenz] (https://aibuzzwire.news) diese Woche von Anthropic-Mitbegründer Jack Clark, der einen obligatorischen Kill-Switch befürwortete, bis hin zu Präsident Trump, der Sicherheitsbefürchtungen während eines Bühnengesprächs mit Jensen Huang von Nvidia als Scherz bezeichnete.
Eine Konfirmation in Vorbereitung
Den Gesprächen folgt ein am Samstag veröffentlichter Aufsatz von Anthropic-CEO Dario Amodei, in dem er die Branche auffordert, zusammenzuarbeiten, um das Tempo der KI-Entwicklung zu verlangsamen, um katastrophale Risiken zu vermeiden. Der Brief fand Unterstützung aus der gesamten Branche, wobei Altman, Demis Hassabis von Google und Elon Musk alle den Aufruf zum Handeln unterstützten, und Altman sagte, OpenAI werde sich den Bemühungen anschließen.
Die Informationen berichteten anschließend, dass die drei Unternehmen daran gearbeitet hätten, ein Standardisierungsgremium für die KI-Branche zu schaffen. Hassabis hat eine Erfolgsbilanz bei dieser Idee: Im Juli forderte er die Vereinigten Staaten auf, ein neues Normungsgremium einzurichten, das als KI-Überwachungsgerät fungiert und die Befugnis hat, die fortschrittlichsten Modelle der Welt zu überprüfen und branchenweite Verlangsamungen zu koordinieren, wenn die Gefahren zunehmen.
Was Lehanes Bemerkungen hinzufügen, ist eine offizielle Bestätigung. Bisher hatten die Sprecher der Labore größtenteils auf einen informellen Dialog abgezielt; Der Leiter für globale Angelegenheiten von OpenAI hat die Koordination nun zu Protokoll gegeben.
Der Schatten des Kartellrechts
Jede Vereinbarung zwischen direkten Wettbewerbern, die Entwicklung zu verlangsamen, wirft offensichtliche kartellrechtliche Fragen auf, und die Labore wissen das. Altman selbst hat darauf hingewiesen, dass solche Gespräche die Unternehmen dem Risiko aussetzen könnten, gegen das Kartellrecht zu verstoßen, wenn sich herausstellen sollte, dass die Koordinierung den Wettbewerb unterdrückt. Amodeis Aufsatz schlug eine enge Ausnahmeregelung der Regierung vor, die eine Sicherheitskoordinierung ermöglichen würde, ohne das Wettbewerbsrecht auszulösen – ein Zeichen dafür, wie ernst das Thema in den Unternehmen genommen wird.
Kritiker haben schnell auf die Spannung hingewiesen, die der Vereinbarung zugrunde liegt: Die drei Unternehmen, die über die größten Marktanteile im Bereich Frontier AI verfügen und sich gemeinsam für eine Rationierung des Fortschritts entscheiden, sehen für Skeptiker wie Kartellverhalten mit Sicherheitshülle aus. Befürworter entgegnen, dass das Katastrophenrisiko genau die Art von Problem sei, die Wettbewerber nicht einseitig lösen könnten, da jedes Labor, das alleine langsamer werde, die Grenzen einfach an Konkurrenten überlasse.
OpenAI unterstützt Prüfungen durch Dritte
Die konkretesten politischen Neuigkeiten in Lehanes Ausführungen betreffen die Gesetzgebung. Er sagte, OpenAI unterstütze eine Bestimmung im FRONTIER Act, die von führenden Grenzlaboren verlangen würde, „unabhängige Verifizierungsorganisationen“ in ihren Unternehmen zuzulassen, um sicherzustellen, dass Modelle sicher entwickelt werden. Politico berichtete, dass OpenAI einen parteiübergreifenden Plan des Repräsentantenhauses unterstützt, der auf Sicherheitsbewertungen Dritter basiert.
Diese Position wäre vor zwei Jahren in der Branche undenkbar gewesen, als freiwillige Verpflichtungen und interne Red Teams der Branchenstandard waren. Es bringt OpenAI nun mit der Audit-First-Haltung in Einklang, die Anthropic seit langem vertritt, und schafft einen seltenen Punkt der Übereinstimmung zwischen den Labors und dem Flügel der politischen Debatte, der das Jahr damit verbracht hat, eine durchsetzbare Aufsicht zu fordern.
Es führt auch zu einer Kollision mit dem Weißen Haus. Präsident Trump hat Sicherheitsbedenken als Schwindel abgetan und argumentiert, dass jede Verlangsamung China einen Vorteil im KI-Wettbewerb verschaffen würde. Sein KI-Berater David Sacks, ein langjähriger Investor mit persönlichen Interessen in der gesamten Branche, bezeichnete die Ängste vor existenziellen Risiken als übertrieben. Im Vereinigten Königreich sind sich die Minister in dieser Frage nach wie vor öffentlich uneinig. Eine Fraktion fordert die Regierung auf, die Warnungen von Experten zu beherzigen, während Wirtschaftsminister Reynolds die Rede von einem Notausschalter für fortschrittliche Systeme zurückgewiesen hat.
Ein politischer Kampf ohne neutralen Boden
Die kommenden Wochen werden auf die Probe stellen, ob die Koordination der Labore den Kontakt mit Wettbewerbsbehörden und einer skeptischen Verwaltung übersteht. Ein aus drei Unternehmen aufgebautes Normungsgremium, das die Grenze kontrolliert, wird mit der Forderung konfrontiert, unabhängige Direktoren einzubeziehen, seine Kriterien zu veröffentlichen und sich einer staatlichen Überprüfung zu unterziehen – oder als privates Kartell in öffentlicher Kleidung abgetan zu werden.
Was den FRONTIER Act anbelangt, verschafft die Unterstützung von OpenAI den Befürwortern des Gesetzentwurfs einen Schlagzeilen-Unterstützer, aber auch eine neue Angriffslinie für Gegner, die argumentieren, dass die größten Labore lediglich das Feld durch Regulierungen erobern und nur Regeln schreiben, deren Befolgung sie sich leisten können. Kleinere Labore und die Open-Weights-Gemeinschaft, die bei den Gesprächen keinen Sitz hat, beobachten genau: Welches Verifizierungssystem auch immer entsteht, wird die Compliance-Kosten für alle hinter der Grenze bestimmen.
Was nicht mehr strittig ist, ist die Tatsache der Koordinierung selbst. Die drei Unternehmen, die den neuesten Stand der KI definieren, diskutieren jetzt offen darüber, wie schnell man laufen soll – und fordern die Regierung auf, beim Schiedsrichtern zu helfen.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
