OpenAI heeft bevestigd dat Anthropic en Google DeepMind al enkele weken gesprekken voeren over de veiligheidscoördinatie van AI, en zegt dat het wetgeving steunt die grenslaboratoria zou dwingen hun deuren te openen voor onafhankelijke verificatieorganisaties.

Chris Lehane, Chief Global Affairs Officer van OpenAI, maakte de onthulling dinsdag tijdens een bijeenkomst, volgens TechCrunch. Reuters en Bloomberg meldden, onder verwijzing naar dezelfde opmerkingen, dat OpenAI samenwerkt met Anthropic en Google op het gebied van AI-veiligheid. De bevestiging verandert wekenlange hints – waaronder een Fortune-interview waarin Sam Altman privégesprekken met andere AI-leiders erkende – in een expliciete erkenning dat de drie toonaangevende grenslaboratoria ter wereld coördineren over hoe snel ze bewegen en hoe hun modellen worden gecontroleerd.

Voor lezers die het bredere politieke vuurgevecht rond een AI-vertraging volgen, varieert de berichtgeving over [kunstmatige intelligentie-updates] (https://aibuzzwire.news) deze week van Anthropic mede-oprichter Jack Clark die een verplichte kill switch goedkeurde tot president Trump die veiligheidsangst een hoax noemde tijdens een gesprek op het podium met Jensen Huang van Nvidia.

Een bevestigingsweek in de maak

De gesprekken volgen op een essay dat zaterdag is gepubliceerd door Dario Amodei, CEO van Anthropic, waarin de industrie wordt opgeroepen samen te werken om het tempo van de grensverleggende AI-ontwikkeling te vertragen om catastrofale risico's te voorkomen. De brief kreeg steun uit de hele sector, waarbij Altman, Google's Demis Hassabis en Elon Musk allemaal de oproep tot actie onderschreven, en Altman zei dat OpenAI zich bij de inspanning zou aansluiten.

De Information meldde vervolgens dat de drie bedrijven hebben gewerkt aan het opzetten van een normalisatie-orgaan voor de AI-industrie. Hassabis heeft goede ervaringen met dit idee: in juli riep hij de Verenigde Staten op om een ​​nieuw normalisatie-orgaan op te richten dat als AI-waakhond zou optreden, met de macht om de meest geavanceerde modellen ter wereld te screenen en sectorbrede vertragingen te coördineren als de gevaren groter worden.

Wat de opmerkingen van Lehane toevoegen, is een officiële bevestiging. Tot nu toe hadden de woordvoerders van de laboratoria vooral een informele dialoog bepleit; Het hoofd mondiale zaken van OpenAI heeft de coördinatie nu vastgelegd.

De antitrustschaduw

Elke overeenkomst tussen directe concurrenten om de ontwikkeling te vertragen roept duidelijke antitrustvragen op, en de laboratoria weten dat. Altman zelf heeft opgemerkt dat dergelijke gesprekken de bedrijven het risico kunnen geven de antitrustwetgeving te overtreden als blijkt dat de coördinatie de concurrentie onderdrukt. In het essay van Amodei werd een beperkte ontheffing van de overheid voorgesteld die veiligheidscoördinatie mogelijk zou maken zonder dat het mededingingsrecht in werking zou treden – een teken van hoe serieus de kwestie binnen de bedrijven wordt genomen.

Critici hebben snel gewezen op de spanning die ten grondslag ligt aan de regeling: de drie bedrijven die de grootste marktaandelen op het gebied van grensoverschrijdende AI in handen hebben, besluiten gezamenlijk om de vooruitgangslooks, voor sceptici, te rantsoeneren als kartelgedrag met een veiligheidsdoekje. Voorstanders werpen tegen dat catastrofaal risico precies het soort probleem is dat concurrenten niet eenzijdig kunnen oplossen, omdat elk laboratorium dat alleen vertraagt ​​eenvoudigweg de grens afstaat aan rivalen.

OpenAI omarmt controles van derden

Het meest concrete beleidsnieuws in de opmerkingen van Lehane betreft wetgeving. Hij zei dat OpenAI een bepaling in de FRONTIER Act ondersteunt die vereist dat toplaboratoria ‘onafhankelijke verificatieorganisaties’ in hun bedrijven toelaten om ervoor te zorgen dat modellen veilig worden ontwikkeld. Politico meldde dat OpenAI een tweeledig huisplan steunt dat is opgebouwd rond veiligheidsbeoordelingen door derden.

Die positie zou twee jaar geleden ondenkbaar zijn geweest voor het veld, toen vrijwillige toezeggingen en interne rode teams de industrienorm waren. Het brengt OpenAI nu op één lijn met de audit-first-houding die Anthropic al lang promoot, en het creëert een zeldzaam punt van overeenstemming tussen de laboratoria en de vleugel van het beleidsdebat dat het hele jaar door heeft gepleit voor afdwingbaar toezicht.

Het veroorzaakt ook een botsing met het Witte Huis. President Trump heeft veiligheidsproblemen afgedaan als hoax en betoogde dat elke vertraging China een voordeel zou opleveren in de AI-race. Zijn AI-adviseur David Sacks, een ervaren investeerder met persoonlijke belangen in de hele sector, heeft de vrees voor existentiële risico's overdreven genoemd. In Groot-Brittannië blijven de ministers publiekelijk verdeeld over dezelfde kwestie, waarbij één factie er bij de regering op aandringt gehoor te geven aan waarschuwingen van deskundigen, terwijl minister van Zaken Reynolds de gesprekken over een ‘kill switch’ voor geavanceerde systemen heeft verworpen.

Een beleidsstrijd zonder neutraal terrein

De komende weken zullen we testen of de coördinatie van de laboratoria het contact met de mededingingsautoriteiten en een sceptische regering overleeft. Een normalisatie-instelling die is opgericht door drie bedrijven die de grens controleren, zal te maken krijgen met eisen om onafhankelijke directeuren erbij te betrekken, zijn criteria te publiceren en zich te onderwerpen aan toetsing door de overheid – anders zal hij worden afgedaan als een particulier kartel in publieke kleding.

Voor de FRONTIER Act geeft de steun van OpenAI de sponsors van het wetsontwerp een steun in de rug, maar ook een nieuwe aanvalslinie voor tegenstanders die beweren dat de grootste laboratoria eenvoudigweg de regelgeving in handen nemen en regels schrijven die alleen zij zich kunnen veroorloven te volgen. Kleinere laboratoria en de open-weights-gemeenschap, die geen zetel heeft bij de gesprekken, houden nauwlettend in de gaten: welk verificatieregime er ook ontstaat, het zal de nalevingskosten voor iedereen achter de grens bepalen.

Wat niet langer ter discussie staat, is het feit van de coördinatie zelf. De drie bedrijven die het snijvlak van AI definiëren, bespreken nu openlijk hoe snel ze moeten rennen – en nodigen de overheid uit om te helpen bij het scheidsrechteren.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →