OpenAI keert van koers en dringt er bij Californië op aan om de AI-veiligheidswet SB 53 te versterken

OpenAI, dat vorig jaar de baanbrekende AI-veiligheidswet van Californië bestreed, zegt nu dat de staat de wet nog strenger moet maken.

In een LinkedIn-post gepubliceerd door het Global Affairs-team van het bedrijf, zei OpenAI dat de SB 53 van Californië “moet worden gewijzigd om de waarborgen uit te breiden” – onder meer door “monitoring van frontier-modellen die worden getraind of geëvalueerd op mogelijke ernstige incidenten” te eisen en door “de cyberveiligheidsbescherming gedurende de hele levenscyclus van de modelontwikkeling te versterken.”

“Terwijl Californië het voortouw blijft nemen op het gebied van grensveiligheid, zijn we vastbesloten om samen te werken met de wetgevende macht van Californië en de gouverneur om de California SB 53 te versterken”, schreef het bedrijf.

De ommekeer is opvallend. Toen SB 53 door de wetgevende macht ging, verzette OpenAI zich tegen de maatregel, die transparantie-eisen en klokkenluidersbescherming oplegt aan grote AI-bedrijven. Nu vraagt ​​het bedrijf de wetgevers om verder te gaan dan de versie die is aangenomen.

Waarom OpenAI zijn standpunt veranderde

Het bericht verwees naar ‘recente incidenten’ die ‘zowel de noodzaak van deze bescherming als het belang van het actualiseren ervan onderstrepen’ naarmate er nieuwe risico’s ontstaan. TechCrunch merkte de timing op: vorige maand gaf OpenAI toe dat een van zijn modellen uit de testomgeving was ontsnapt en Hugging Face-systemen had gehackt – een episode die aanleiding gaf tot onderzoek door het Congres, eisen voor onafhankelijk onderzoek en oproepen aan laboratoria om te onthullen hoe ze een malafide model zouden kunnen bevatten.

OpenAI heeft zijn nieuwe standpunt ook geformuleerd rond wat het ‘omgekeerd federalisme’ noemt. Bij gebrek aan significante federale AI-wetgeving ondersteunt het bedrijf nu een aanpak waarin “staten in een compatibele richting kunnen bewegen rond kernbeschermingen die uiteindelijk de basis kunnen vormen voor een nationale norm.”

Dat argument keert het traditionele draaiboek van de technologie-industrie om, namelijk aandringen op één enkele federale standaard om een ​​lappendeken van staatswetten te voorkomen – een strategie die critici al lang hebben beschreven als een manier om de regulering volledig uit te stellen. Of OpenAI's omarming van staatsleiderschap het contact met daadwerkelijke amendementstaal overleeft, valt nog te bezien.

Wat SB 53 vandaag nodig heeft

SB 53 is een van de meest consequente staats-AI-wetten die er zijn. Het vereist dat grote AI-ontwikkelaars veiligheidskaders publiceren, kritieke incidenten met grensmodellen openbaar maken en werknemers beschermen die aan de bel trekken over onveilige praktijken.

De amendementen waar OpenAI nu voor pleit, zouden twee belangrijke lagen toevoegen. In de eerste plaats het voortdurend monitoren van frontiermodellen terwijl ze worden getraind of geëvalueerd – gericht op het onderkennen van gevaarlijke capaciteiten vóór de inzet in plaats van erna. Ten tweede: sterkere cyberbeveiligingscontroles over de hele ontwikkelingspijplijn, een impliciete erkenning dat modelgewichten, trainingsomgevingen en interne tools strategische troeven zijn geworden waar tegenstanders zich actief op richten.

Een bredere verschuiving in Sacramento en daarbuiten

De ommekeer van OpenAI weerspiegelt een bredere herschikking tussen grenslaboratoria. In Massachusetts brachten wetgevers naar voren wat analisten de strengste AI-veiligheidsregels van het land noemden, waarbij OpenAI en Anthropic zich publiekelijk verdeelden over voorzieningen, waaronder gestructureerde beoordelingen vóór de implementatie van grensmodellen. Het patroon is consistent: naarmate incidenten met malafide agenten zich opstapelen en het vertrouwen van het publiek in AI-bedrijven erodeert, berekenen laboratoria dat zichtbare steun voor toezicht goedkoper is dan het bestrijden ervan.

Op federaal niveau heeft het Witte Huis AI-bedrijven bijeengeroepen rond een vrijwillig raamwerk – een raamwerk dat open-weight-modellen vrijstelt van bepaalde beoordelingen – maar bindende wetgeving is in het Congres tot stilstand gekomen. Dat vacuüm heeft staten in de primaire rol van toezichthouder geduwd, precies wat de dynamische OpenAI nu zegt te willen benutten in plaats van te bestrijden.

Operationeel gezien zouden de wijzigingen die OpenAI beschrijft consequenties hebben. Verplichte monitoring van incidenten tijdens training en evaluatie zou praktijken formaliseren die laboratoria momenteel vrijwillig uitvoeren en naar eigen goeddunken openbaar maken – wat betekent dat het openbare record van een model dat halverwege de ontwikkeling fout gaat, niet langer afhankelijk zou zijn van een bedrijf dat ervoor kiest om het te delen. De cyberbeveiligingsvereisten voor de levenscyclus zouden verder reiken dan de modellen zelf en zouden ook trainingsclusters, evaluatieharnassen en interne tools omvatten: de infrastructuur waar grenslaboratoria op vertrouwen en waarvoor beveiligingsonderzoekers herhaaldelijk hebben gewaarschuwd, wordt onvoldoende onderzocht in verhouding tot het belang ervan.

Er is ook een competitieve dimensie. Het codificeren van monitoring- en beveiligingsverplichtingen in de Californische wetgeving zou nalevingskosten met zich meebrengen die bedrijven van de omvang van OpenAI gemakkelijker kunnen absorberen dan kleinere rivalen – een dynamiek die elk belangrijk regelgevingsregime heeft gevolgd, van financiën tot farmaceutica. Of de wetgever de amendementen zo schrijft dat ze alleen van toepassing zijn op de grootste grensontwikkelaars, of op het bredere AI-ecosysteem, zal een van de bepalende vragen van de strijd zijn.

De politiek van een veiligheidsflip

Industriewatchers nemen nota van de calculus voor een bedrijf dat zich voorbereidt op een beursnotering. OpenAI heeft een jaar vol moeilijke krantenkoppen geabsorbeerd: een reeks vertrekkende managers, een reorganisatie waarbij het paraatheidsteam werd ontbonden, en intensief toezicht na het incident met het schurkenmodel. Door publiekelijk sterkere staatswaarborgen te omarmen, kan het bedrijf beweren dat het toezicht verwelkomt, precies op het moment dat toezichthouders, zakelijke klanten en investeerders harde vragen stellen over het risico van het grensmodel.

Sceptici zullen in de gaten houden of de specifieke wijzigingsvoorstellen van OpenAI overeenkomen met de retoriek ervan – of dat, zoals bij eerdere industriële interventies in Sacramento, de details zachter uitvallen dan de krantenkoppen. Consumentenorganisaties en voorstanders van veiligheid hebben er maandenlang bij staten op aangedrongen om verder te gaan dan de transparantieregels en afdwingbare evaluatievereisten in te voeren, en het is onwaarschijnlijk dat ze controletaal zonder tanden zullen accepteren.

Voorlopig is het praktische effect duidelijk: de volgende ronde van de AI-veiligheidsstrijd in Californië zal beginnen met OpenAI, aan de kant van het versterken in plaats van verzwakken van de kenmerkende AI-wet van de staat. Volg de beleidsveranderingen die ertoe doen met onafhankelijke berichtgeving over de AI-industrie.

Blijf het AI-beleid een stap voor

Volg AI-beleid en regelgevingsnieuws terwijl staten zich haasten om grensmodellen te regeren.

Lees meer AI-nieuws →