OpenAI werkt al enkele weken nauw samen met rivalen Anthropic en Google DeepMind om een raamwerk voor de veiligheid van kunstmatige intelligentie te bedenken, bevestigde een senior executive dinsdag, waarbij een ongebruikelijke mate van samenwerking werd onthuld tussen bedrijven die op bijna al het andere hevig concurreren.
Chris Lehane, het mondiale hoofd beleid van OpenAI, vertelde verslaggevers tijdens een persconferentie in Washington dat de drie laboratoria de veiligheidsinitiatieven hebben gecoördineerd. “Het is beter om te proberen samen te werken om prioriteit te geven aan veiligheid”, zei Lehane, volgens een Bloomberg-rapport van de briefing. Zijn opmerkingen kwamen dagen na een reeks spraakmakende uitstervingswaarschuwingen van onderzoekers die de grootste laboratoria in de sector verlieten. Voor meer context over dit verhaal, zie ons AI-trends.
Wat de samenwerking feitelijk inhoudt
Lehane ging niet dieper in op de specifieke aard van het werk, maar de onthulling volgt op een opmerkelijk traject van publieke positionering door de grootste namen uit de branche. Zaterdag publiceerde Dario Amodei, CEO van Anthropic, een essay waarin hij de AI-industrie opriep om samen te werken aan het vertragen van het tempo van de ontwikkeling van grensmodellen om wat hij ‘catastrofale risico’s’ noemde te vermijden.
De oproep kreeg verrassende steun vanuit de concurrentiestrijd: Sam Altman van OpenAI, Demis Hassabis van Google en Elon Musk onderschreven allemaal het sentiment. Altman ging verder en zei dat OpenAI bereid zou zijn zich aan te sluiten bij het initiatief van Anthropic om externe beoordelaars in zijn ontwikkelingsteams in te sluiten om de AI-veiligheid van binnenuit te monitoren. Mede-oprichter van Anthropic, Jack Clark, vertelde ondertussen aan NPR dat het vertragen van AI in wezen een ‘collectief actieprobleem’ is dat geen enkel laboratorium alleen kan oplossen.
Niet iedereen binnen OpenAI beschouwt het tempodebat echter als urgent. Chief Financial Officer Sarah Friar vertelde CNBC dat ze zich geen zorgen maakt over het vertragen van de AI-ontwikkeling – een herinnering dat het bedrijf tegelijkertijd investeerders het hof maakt tegen een waardering van meer dan een biljoen dollar.
De antitrustschaduw over samenwerking
Elke coördinatie tussen dominante AI-laboratoria stuit op een duidelijk juridisch probleem: de antitrustwetgeving van de Verenigde Staten. Juridische experts hebben gewaarschuwd dat overeenkomsten tussen concurrenten om de mogelijkheden van hun producten te beperken, kunnen worden opgevat als ‘productiebeperking’, een overtreding van de Sherman Act.
Die zorg is al verplaatst naar Capitol Hill. Senatoren Jim Banks uit Indiana en Adam Schiff uit Californië stelden wetgeving voor – de Collaboration on Adversarial Threats and Security Risks Act – die AI-laboratoria in staat zou stellen op veiligheidsgebied in te grijpen, zelfs als die acties anders antitrustkwesties zouden kunnen veroorzaken. In het essay van Amodei werd betoogd dat de regering zou moeten overwegen om de bedrijven een ontheffing te verlenen voor veiligheidssamenwerking, hoewel Lehane tegen verslaggevers zei dat hij een dergelijke stap onnodig acht.
Jensen Huang van Nvidia is nog botter geweest. Tijdens zijn toespraak op Dreamforce op dinsdag noemde hij het voorstel tot ontheffing van de antitrustwetgeving van Anthropic “volkomen onnodig”, aldus CNBC, waarmee hij de groeiende kloof onderstreepte tussen de laboratoria die aandringen op terughoudendheid en de hardwaregigant die aandringt op versnelling.
"Een kartel met een andere naam"
De critici van de samenwerking zijn vernietigend. Cohere-topman Aidan Gomez schreef in een blogpost in reactie op het essay van Amodei dat de veiligheidsoproepen lijken op een poging van de beste AI-laboratoria om een concurrentieverstorend plan te verhullen dat hun voorsprong in de ontwikkeling van grensmodellen zou behouden, waardoor ‘marktdominante’ laboratoria de regels voor alle anderen zouden kunnen definiëren.
“Deze oligopolies maken opnieuw gebruik van angst onder het voorwendsel om het publiek te beschermen en vragen nu om de concurrentieregels te buigen en de voorwaarden voor iedereen te mogen dicteren”, schreef Gomez, die de regeling “een wolf in schaapskleren, een kartel met een andere naam” noemde.
President Donald Trump heeft de oproep van Amodei om tot een vertraging te komen ronduit afgewezen, met het argument in een post op Truth Social dat elke vertraging China in staat zou stellen de Verenigde Staten in te halen in de AI-race. David Sacks, de belangrijkste AI-adviseur van het Witte Huis, heeft gezegd dat de vrees dat AI een existentiële bedreiging zou kunnen vormen overdreven is.
Analisten bij CNBC merkten op dat er nu twee kampen volledig naar voren zijn gekomen in het debat over de veiligheid en regulering van AI: het ene dringt er bij de grens op aan om te vertragen voordat er iets misgaat, en het andere – bevolkt door Nvidia, het Witte Huis en voorstanders van een open model – met het argument dat aarzeling het grootste gevaar is.
Capitol Hill-push van OpenAI
De opmerkingen van Lehane kwamen tijdens een mediabriefing in Washington, waar hij een ontmoeting had met wetgevers. OpenAI steunt twee tweeledige wetsvoorstellen, volgens de openbare verklaringen van het bedrijf en rapportage door Reuters en Politico.
De eerste is de FRONTIER Act, die oproept tot een federaal raamwerk voor AI-veiligheid en vereist dat AI-laboratoria nieuwe modellen indienen voor audits door onafhankelijke beoordelaars. OpenAI steunt ook een maatregel die onafhankelijke audits van AI-modellen vereist, meldde CBS News. Het tweede voorstel, dat nog in ontwikkeling is, is er een dat Senaatsmeerderheidsleider John Thune samen met de Republikeinse senator Ted Cruz en de Democratische senator Amy Klobuchar aan het opstellen is. Volgens Reuters zou dat wetsvoorstel de minister van Handel de bevoegdheid geven om nieuwe modellen aan veiligheidsaudits te onderwerpen voordat ze worden vrijgegeven. OpenAI heeft afzonderlijk tweeledige plannen goedgekeurd om de biobedreigingen van AI aan te pakken, meldde Politico.
De convergentie is opvallend: dezelfde bedrijven die waarschuwen voor op hol geslagen AI bieden zich vrijwillig aan voor onafhankelijke audits, terwijl hun critici waarschuwen dat de samenwerking zelf misschien wel het grotere gevaar is. Hoe het Congres die naald insteekt – waardoor veiligheidssamenwerking mogelijk wordt gemaakt zonder vergunning te verlenen aan een kartel – kan het AI-beleid voor jaren bepalen.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
