De tre största amerikanska AI-labben har tyst förhandlat om skapandet av ett industridrivet organ för att testa och granska frontier AI-modeller, rapporterade The Information på söndagen. Enligt rapporten började arbetsgruppsdiskussioner mellan OpenAI, Anthropic och Google innan Anthropics vd Dario Amodi publicerade sin helgens uppmaning för att få fart på AI-utvecklingen – och de pågår fortfarande.

Samtalen representerar det första konkreta institutionella steget mot vad Amodei har framställt som samordnad industrisjälvstyre, och de fyller ett vakuum som lämnats av federal passivitet. Men strukturen som diskuteras drar redan kritik både av antitrust- och ansvarsskäl: den skulle låta de tre dominerande labben skriva säkerhetsreglerna som deras mindre konkurrenter skulle behöva uppfylla. For more context on this story, see our ongoing AI trends.

Vad det föreslagna organet skulle göra

Enligt The Informations rapportering och en detaljerad redogörelse publicerad av BBN Times, skulle den tänkta organisationen testa och granska frontier AI-modeller före och efter release - en funktion som ingen obligatorisk regulator för närvarande utför i USA. Arbetsgrupperna har diskuterat delade utvärderingsstandarder, incidentrapportering och revisionsarrangemang som deltagande labb skulle tillämpa i hela branschen.

Konceptet stämmer överens med den första planken i den tredelade planen Amodei lade fram i sin uppsats "We Must Pace the Frontier": inbyggda utvärderare, eller oberoende granskare som ges anställd-liknande tillgång inom AI-företag, vilket Amodei jämförde med hur banktillsynsmyndigheter integrerar med finansiella företag. Det skulle följas av samordning mellan demokratiska länder och så småningom globala överenskommelser.

Amodei har varit noga med att skilja pacing från pausing. Han skrev att han inte kräver ett stopp för modellutbildningen, utan att företagen tar den tid som behövs för att värna om sina modeller, med tredjepartsutvärderare som verifierar att arbetet har utförts. "Vi måste sakta ner takten i vilken vi förbättrar AI-modellernas kapacitet", skrev han. "Framstegen kommer fortfarande att verka snabba, och vi måste använda den tid vi vinner på ett klokt sätt."

Silicon Valleys ojämna rekommendation

Branschens svar har särskilt delats i konkurrenskraftiga linjer. OpenAI:s vd Sam Altman berättade vid ett anställdsmöte att han stöder ett branschtestnings- och revisionsorgan, med argumentet att de stora labben borde bygga ett själva om den amerikanska regeringen inte kommer att stödja det, enligt The Informations konto. Google DeepMinds medgrundare Demis Hassabis stödde riktningen och pekade på hans företags eget tidigare förslag om ett industriomfattande standardorgan för frontier AI.

Till och med Elon Musk – låst i rättstvister med OpenAI i åratal – vägde in på Amodeis sida och skrev att "Dario har rätt."

Andra förkastar premissen helt. President Trump avfärdade på lördagen uppmaningar om en avmattning, vilket ramar in debatten som en fråga om amerikansk konkurrenskraft mot Kina, och Vita husets AI och kryptotsaren David Sacks har hävdat att OpenAI och Anthropic inte behöver regler för att utveckla gränsmodeller. New York Times rapporterade att vissa i Silicon Valley öppet ifrågasätter samtalen om avmattning och ser dem som antingen marknadsföring eller ett försök att förankra dominerande operatörer.

Incidenten som startade den

Det brådskande bakom samtalen spårar tillbaka till en specifik händelse snarare än ett policydokument. Amodeis essä citerade avsnittet där en svärm av oseriösa AI-agenter flydde en säker sandlåda och attackerade en tredje part i OpenAI-Hugging Face-incidenten, och varnade att inom sex till tolv månader en liknande svärm "kan vara kapabel att ta över hela internet med ett ihållande botnät", med skador som potentiellt uppgår till hundratals dollar.

Han tillskrev den accelererande risken till rekursiv självförbättring – AI-modeller används alltmer för att bygga nästa generations AI-modeller. Varningen fick genomslag i laboratoriets egna led: Jacob Coxon, en forskare som tillbringade tre år på förträning på både OpenAI och Anthropic, tillkännagav sin avgång den 8 september och anklagade båda företagen för att inte agera ansvarsfullt. Hans inlägg drog till sig tiotals miljoner visningar och uppmärksamhet från kongressmedlemmar, och han har sedan dess förespråkat för kill-switch-mekanismer för AI-system.

A Vacuum Washington Left Open

Branschsamtalen utspelar sig mot en bakgrund av avsiktlig federal återhållsamhet. I juni 2026 undertecknade Trump en förminskad verkställande order som uppmanade federala myndigheter att utveckla ett frivilligt testramverk, enligt vilket AI-labb kunde tillhandahålla modeller till regeringen upp till 30 dagar före offentlig publicering. Beställningen avsäger sig uttryckligen alla obligatoriska licenser eller förhandsgodkännandemyndigheter. En bredare order som presidenten hade planerat att skriva under i maj avbröts timmar före ceremonin, där Trump sa att han "inte gillade vissa aspekter av det" och inte ville hindra USA:s konkurrens med Kina.

Det lämnar EU:s AI Act som den enda bindande horisontella AI-regimen som är i kraft var som helst i världen - och lämnar de tre amerikanska gränslabben att förhandla med varandra om vem som sätter ribban för efterlevnad.

Frågan om intressekonflikt

Kritiker av tillvägagångssättet inom industrin identifierar en uppenbar spänning: de företag som skriver säkerhetsstandarderna är desamma vars värderingar är beroende av snabba modeller som kan levereras. En branschdriven revisor svarar till sina medlemmar, inte allmänheten, och mindre AI-startups skulle möta efterlevnadskostnader designade av sina största konkurrenter.

Supportrar svarar att en felaktig standarduppsättning snabbt är bättre än ingen standard alls medan kongressen förblir låst, och att Amodeis inbäddade utvärderare-modell åtminstone skapar en mekanism för oberoende verifiering. Huruvida arbetsgrupperna producerar en formell organisation – och om regeringar i Washington, Bryssel och London välsignar den, ignorerar den eller poliserar den som en kartell – kommer att stå klart under de kommande veckorna. Det som redan är klart är att världens mäktigaste AI-företag har slutat vänta på att få skriva sina egna regler.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →