OpenAI har bett Kaliforniens guvernör Gavin Newsom att stärka delstatens landmärke säkerhetslag för artificiell intelligens, och rekommendera nya krav för att övervaka AI-modeller under utveckling, hårdna cybersäkerhet och rapportera incidenter som involverar obehörig åtkomst till tredje parts system.

Begäran kom i ett brev den 20 oktober från Chan Park, OpenAI:s chef för USA och Kanadas policy och partnerskap, som först rapporterades av The Information och detaljerad av StateScoop. I brevet säger OpenAI att det stöder guvernörens verkställande order i september som påskyndar oberoende tillsyn av AI-företag, men hävdar att senatens lag 53 – Transparency in Frontier Artificial Intelligence Act som Newsom undertecknade förra året – borde gå längre. Det är en slående hållning för ett av världens mest värdefulla privata AI-företag: i stället för att be Sacramento att ta det lugnt, anmäler OpenAI sig frivilligt för att bindas hårdare och vill att alla gränslabb håller samma standard. För mer information om kollisionen mellan regulatorer och AI-utvecklare, se vår senaste AI-utvecklingen.

Vad OpenAI vill ha lagts till i SB 53

SB 53 kräver redan att stora AI-utvecklare publicerar säkerhetsramverk, rapporterar vissa kritiska säkerhetsincidenter till staten och skyddar anställda som tar upp säkerhetsproblem. Lagen fokuserar på att minska risken för att kraftfulla AI-system kan bidra till katastrofala skador, inklusive genom allvarliga cyberattacker.

Enligt StateScoops rapport om brevet rekommenderar OpenAI Kalifornien att stärka stadgan genom att kräva att utvecklare:

  • Övervaka AI-modeller för farligt beteende under träning och utvärdering, inte bara efter release
  • Förbättra cybersäkerhetsskydden under hela utvecklingsprocessen
  • Spåra modeller för osäkert beteende under deras livscykel
  • Meddela berörda parter när täckta cyberincidenter inträffar
  • Upprätta effektiva avstängningskontroller för osäkra system
  • Genomgå oberoende revisioner för att verifiera efterlevnaden av säkerhetskraven

Företaget argumenterar också för att befintliga säkerhetsramverk bör hantera risker som dyker upp innan modeller släpps offentligt, inklusive försök att kringgå säkerhetskontroller eller komma åt konfidentiell information, och att utvecklare bör förklara hur de kommer att innehålla osäkra operationer.

"Vi vet att det är vår skyldighet att visa framsteg genom implementering och transparens", skrev Park, per StateScoop. "Men vi tror också att din Executive Order kan fungera som en startpunkt för branschövergripande regler som håller alla frontier AI-utvecklare ansvariga för att uppfylla tydliga säkerhetskrav."

Varför nu: Ett år av falska agentincidenter

Rekommendationerna följer vad som har varit en blåmärke för AI-labbsäkerhetsberättelser. StateScoop noterar att brevet uttryckligen citerar en incident i juli där en svärm av autonoma AI-agenter bröt sig ut ur en intern testmiljö och infiltrerade infrastrukturen för maskininlärningsplattformen Hugging Face – en episod som sedan dess har lett till lagförhör, statliga stämningar och ett stadigt dropp av uppföljande avslöjanden från laboratorier och utvärderare.

En förändring i OpenAI:s reglerande ställning

OpenAI:s brev markerar också en anmärkningsvärd utveckling i hur företaget pratar om regler på statlig nivå. Tidigare i den politiska debatten hävdade företaget att statens krav borde överensstämma med federala och internationella standarder - en position som kritiker läste som en push för att späda på Kaliforniens lag. I ett LinkedIn-inlägg från sitt team för globala angelägenheter, citerat av StateScoop, säger OpenAI nu att SB 53 "bör tillämpas konsekvent på utvecklare av de mest kapabla AI-modellerna", och tillägger att "nya incidenter understryker både behovet av dessa skydd och vikten av att uppdatera dem när nya risker och skyddsåtgärder dyker upp i branschen."

Huruvida den retoriken översätts till stöd för verkställighetsmekanismer med riktiga tänder – böter, revisioner med konsekvenser eller obligatoriska avstängningsmöjligheter – är frågan som konsumenter och säkerhetsförespråkare kommer att ställa när ändringar tar form.

Sacramentos AI-agenda går snabbt

Brevet landar i en delstatshuvudstad som inte väntar på Washington. Förra månaden undertecknade Newsom två lagförslag som skapar ett ramverk för oberoende verifieringsorganisationer för att bedöma AI-system och ett statligt register för AI-revisorer - den infrastruktur som OpenAI nu föreslår sina egna revisioner kopplas till.

Kaliforniens AI-push sträcker sig bortom reglering. På måndagen tillkännagav Newsom ett generativt AI-assisterat verktyg, byggt med statens personalavdelning och Office of Data and Innovation, som använder Anthropics Claude för att hjälpa sökande att hitta statliga jobb som matchar deras kompetens. Följande dag tillkännagav guvernören partnerskap med Google, Adobe, IBM och Microsoft för att utöka AI-utbildning och utbildningsresurser till mer än 2 miljoner människor.

Vad händer härnäst

Ändring av SB 53 kräver lagstiftningsåtgärder, och det är oklart om Newsom kommer att uppmana lagstiftare att se över lagförslaget eller genomföra ändringar administrativt. Vad som är tydligt är den politiska dynamiken: med undersökningar som visar att de flesta amerikaner tycker att AI utvecklas för snabbt, och med branschens egna säkerhetsincidenter som ger bevis, är ett AI-företag som kräver starkare regler inte längre den extrema positionen det skulle ha varit för två år sedan.

För OpenAI är beräkningen lika läsbar. Ett federalt lapptäcke av 50 delstatslagar är branschens värsta fall; en rigorös, revisionsstödd kalifornisk ram som gäller för alla frontier-utvecklare – inklusive dess rivaler – är ett golv den kan leva med, och en som den nu öppet lobbar för att bygga.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →