OpenAI har bekräftat att det, Anthropic och Google DeepMind har fört samtal om AI-säkerhetskoordinering i flera veckor och säger att de stöder lagstiftning som skulle tvinga gränslaboratorier att öppna sina dörrar för oberoende verifieringsorganisationer.
Chris Lehane, OpenAI:s chef för globala frågor, avslöjade detta vid ett möte på tisdagen, enligt TechCrunch. Reuters och Bloomberg, med hänvisning till samma kommentarer, rapporterade att OpenAI arbetar med Anthropic och Google om AI-säkerhet. Bekräftelsen förvandlar veckor av tips – inklusive en Fortune-intervju där Sam Altman erkände privata diskussioner med andra AI-ledare – till ett uttryckligt erkännande att världens tre ledande gränslaboratorier samordnar hur snabbt de rör sig och hur deras modeller kontrolleras.
För läsare som följer den bredare politiska eldstriden kring en AI-avmattning har bevakningen av artificiell intelligens denna vecka sträckt sig från att Antropisk medgrundare Jack Clark godkände en obligatorisk kill switch till att president Trump kallade säkerhetsrädsla för en bluff under ett samtal på scenen med Nvidias Jensen Huang.
En konfirmationsveckor på gång
Samtalen följer en uppsats publicerad i lördags av Anthropics vd Dario Amodei som uppmanar branschen att arbeta tillsammans för att bromsa takten i frontier AI-utveckling för att undvika katastrofala risker. Brevet fick stöd från hela branschen, med Altman, Googles Demis Hassabis och Elon Musk som alla stödde uppmaningen till handling, och Altman sa att OpenAI skulle gå med i ansträngningen.
Informationen rapporterade därefter att de tre företagen har arbetat med att skapa ett standardiseringsorgan för AI-branschen. Hassabis har en meritlista när det gäller idén: i juli uppmanade han USA att inrätta ett nytt standardiseringsorgan för att fungera som en AI-vakthund, med makten att screena världens mest avancerade modeller och koordinera branschomfattande nedgångar om farorna fortskrider.
Vad Lehanes kommentarer lägger till är en officiell bekräftelse. Hittills hade labbens talespersoner till stor del gestikulerat mot informell dialog; OpenAI:s chef för globala angelägenheter har nu satt koordineringen på protokollet.
Antitrust Shadow
Varje överenskommelse mellan direkta konkurrenter om att bromsa utvecklingen bjuder på uppenbara antitrustfrågor, och laboratorierna vet det. Altman har själv noterat att sådana samtal kan innebära att företagen riskerar att bryta mot antitrustlagstiftningen om samordningen befanns undertrycka konkurrensen. Amodeis uppsats föreslog ett snävt statligt undantag som skulle tillåta säkerhetssamordning utan att utlösa konkurrenslagstiftningen - ett tecken på hur allvarligt frågan tas inom företagen.
Kritiker har varit snabba med att påpeka spänningen i hjärtat av arrangemanget: de tre företag som har de största marknadsandelarna inom gränsöverskridande AI som gemensamt beslutar sig för att rationera framsteg, för skeptiker, som kartellbeteende med en säkerhetsomslag. Supportrar motarbetar att katastrofrisker är just den typ av problem som konkurrenter inte kan lösa ensidigt, eftersom varje labb som saktar ner ensamt helt enkelt överlåter gränsen till rivalerna.
OpenAI anammar tredjepartskontroller
De mest konkreta policynyheterna i Lehanes anmärkningar rör lagstiftningen. Han sa att OpenAI stöder en bestämmelse i FRONTIER Act som skulle kräva att topfrontier-laboratorier tillåter "oberoende verifieringsorganisationer" i sina företag för att säkerställa att modeller utvecklas på ett säkert sätt. Politico rapporterade att OpenAI stöder en plan för två partier som bygger på säkerhetsbedömningar från tredje part.
Den positionen skulle ha varit otänkbar för fältet för två år sedan, när frivilliga åtaganden och interna röda team var branschstandarden. Den anpassar nu OpenAI till den första revisionsställning som Anthropic länge har förespråkat, och den skapar en sällsynt punkt för överenskommelse mellan labbet och den politiska debatten som har tillbringat året med att kräva verkställbar tillsyn.
Det skapar också en kollision med Vita huset. President Trump har avfärdat säkerhetsproblem som en bluff och hävdat att varje avmattning skulle ge Kina en fördel i AI-loppet. Hans AI-rådgivare David Sacks, en långvarig investerare med personliga intressen i branschen, har kallat rädslan för existentiella risker överdrivna. I Storbritannien förblir ministrar offentligt splittrade i samma fråga, med en fraktion som uppmanar regeringen att lyssna på expertvarningar medan affärsminister Reynolds har avvisat tal om en kill switch för avancerade system.
En politisk kamp utan neutral mark
De kommande veckorna kommer att testa om labbens samordning överlever kontakt med konkurrensmyndigheter och en skeptisk förvaltning. Ett standardiseringsorgan byggt av tre företag som kontrollerar gränsen kommer att möta krav på att inkludera oberoende styrelseledamöter, publicera sina kriterier och underkasta sig regeringens granskning - eller avfärdas som en privat kartell i offentliga kläder.
För FRONTIER Act ger OpenAI:s godkännande lagförslagets sponsorer en headlinebacker men också en ny attacklinje för motståndare som hävdar att de största labben helt enkelt reglerar fältet och skriver regler som bara de har råd att följa. Mindre labb och samhället med öppen vikt, som inte har någon plats i samtalen, tittar noga: vilken kontrollregim som än dyker upp kommer att definiera efterlevnadskostnaderna för alla bakom gränsen.
Det som inte längre är ifrågasatt är själva samordningen. De tre företagen som definierar spetsen för AI diskuterar nu öppet hur snabbt man ska springa - och uppmanar regeringen att hjälpa domare.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
