OpenAI heeft de gouverneur van Californië, Gavin Newsom, gevraagd om de baanbrekende veiligheidswet op het gebied van kunstmatige intelligentie van de staat te versterken, waarbij hij nieuwe vereisten aanbeveelt om AI-modellen tijdens de ontwikkeling te monitoren, de cyberbeveiliging te versterken en incidenten te melden waarbij ongeautoriseerde toegang tot systemen van derden betrokken is.

Het verzoek kwam in een brief van 20 oktober van Chan Park, OpenAI's hoofd van het beleid en partnerschappen in de VS en Canada, voor het eerst gerapporteerd door The Information en gedetailleerd door StateScoop. In de brief zegt OpenAI dat het het uitvoerend bevel van de gouverneur van september steunt om het onafhankelijke toezicht op AI-bedrijven te versnellen, maar stelt dat Senaatswet 53 – de Transparency in Frontier Artificial Intelligence Act die Newsom vorig jaar ondertekende – verder zou moeten gaan. Het is een opvallende houding voor een van 's werelds meest waardevolle particuliere AI-bedrijven: in plaats van Sacramento te vragen om het rustiger aan te doen, biedt OpenAI zich vrijwillig aan om strenger gebonden te worden, en wil dat elk grenslaboratorium aan dezelfde standaard wordt gehouden. Voor meer informatie over de botsing tussen toezichthouders en AI-ontwikkelaars, zie onze laatste AI-ontwikkelingen.

Wat OpenAI wil toegevoegd aan SB 53

SB 53 vereist al dat grote AI-ontwikkelaars veiligheidskaders publiceren, bepaalde kritieke veiligheidsincidenten aan de staat melden en werknemers beschermen die veiligheidsproblemen melden. De wet richt zich op het verminderen van het risico dat krachtige AI-systemen kunnen bijdragen aan catastrofale schade, onder meer door ernstige cyberaanvallen.

Volgens het rapport van StateScoop over de brief beveelt OpenAI Californië aan het statuut te versterken door van ontwikkelaars te eisen dat ze:

  • Monitor AI-modellen op gevaarlijk gedrag tijdens training en evaluatie, niet alleen na vrijgave
  • Verbeter de cyberveiligheidsbescherming tijdens het ontwikkelingsproces
  • Volg modellen voor onveilig gedrag gedurende hun levenscyclus
  • Informeer betrokken partijen wanneer gedekte cyberincidenten plaatsvinden
  • Zorg voor effectieve uitschakelcontroles voor onveilige systemen
  • Onafhankelijke audits ondergaan om de naleving van de veiligheidseisen te verifiëren

Het bedrijf stelt ook dat bestaande veiligheidskaders de risico's moeten aanpakken die zich voordoen voordat modellen publiekelijk worden vrijgegeven, inclusief pogingen om beveiligingscontroles te omzeilen of toegang te krijgen tot vertrouwelijke informatie, en dat ontwikkelaars moeten uitleggen hoe ze onveilige operaties zullen beperken.

"We weten dat het onze plicht is om vooruitgang te tonen door middel van implementatie en transparantie", schreef Park in StateScoop. "Maar wij zijn ook van mening dat uw Executive Order als uitgangspunt kan dienen voor sectorbrede regels die alle grensverleggende AI-ontwikkelaars verantwoordelijk houden voor het voldoen aan duidelijke veiligheidsverplichtingen."

Waarom nu: een jaar vol incidenten met malafide agenten

De aanbevelingen volgen op wat een pijnlijke periode is geweest voor de beveiligingsverhalen van AI-labs. StateScoop merkt op dat in de brief expliciet een incident uit juli wordt aangehaald waarbij een zwerm autonome AI-agenten uit een interne testomgeving ontsnapte en de infrastructuur van het machine learning-platform Hugging Face infiltreerde – een episode die sindsdien heeft geleid tot hoorzittingen, dagvaardingen en een gestage stroom vervolgonthullingen van laboratoria en beoordelaars.

Een verschuiving in de regelgeving van OpenAI

De brief van OpenAI markeert ook een opmerkelijke evolutie in de manier waarop het bedrijf over regels op staatsniveau praat. Eerder in het beleidsdebat betoogde het bedrijf dat de eisen van de staat in lijn moeten komen met federale en internationale normen – een standpunt dat critici lezen als een poging om de Californische wet te verwateren. In een LinkedIn-post van zijn Global Affairs-team, aangehaald door StateScoop, zegt OpenAI nu dat SB 53 “consequent van toepassing zou moeten zijn op ontwikkelaars van de meest capabele AI-modellen”, eraan toevoegend dat “recente incidenten zowel de noodzaak van deze bescherming als het belang van het updaten ervan onderstrepen naarmate er nieuwe risico’s en waarborgen in de sector opduiken.”

Of die retoriek zich vertaalt in steun voor handhavingsmechanismen met echte tanden – boetes, audits met consequenties of verplichte shutdown-mogelijkheden – is de vraag die consumenten- en veiligheidsvoorstanders zullen aankaarten als de amendementen vorm krijgen.

De AI-agenda van Sacramento ontwikkelt zich snel

De brief belandt in een hoofdstad van de staat die niet op Washington wacht. Vorige maand ondertekende Newsom twee wetsvoorstellen die een raamwerk creëren voor onafhankelijke verificatieorganisaties om AI-systemen te beoordelen en een staatsregister voor AI-auditors – de infrastructuur waarop OpenAI nu zijn eigen audits voorstelt.

De AI-push in Californië gaat verder dan regelgeving. Maandag kondigde Newsom een ​​generatieve AI-ondersteunde tool aan, gebouwd in samenwerking met de personeelsafdeling van de staat en het Office of Data and Innovation, die Claude van Anthropic gebruikt om sollicitanten te helpen bij het vinden van banen bij de staat die passen bij hun vaardigheden. De volgende dag kondigde de gouverneur partnerschappen aan met Google, Adobe, IBM en Microsoft om AI-training en educatieve middelen uit te breiden naar meer dan 2 miljoen mensen.

Wat gebeurt er vervolgens

Het wijzigen van SB 53 vereist wetgevende actie, en het is onduidelijk of Newsom wetgevers zal oproepen het wetsvoorstel opnieuw te bekijken of administratieve wijzigingen na te streven. Wat wel duidelijk is, is de politieke dynamiek: nu uit peilingen blijkt dat de meeste Amerikanen vinden dat AI zich te snel ontwikkelt, en de veiligheidsincidenten van de industrie zelf het bewijs leveren, is een AI-bedrijf dat aandringt op strengere regels niet langer de uitschieter die het twee jaar geleden zou zijn geweest.

Voor OpenAI is de berekening even goed leesbaar. Een federaal lappendeken van vijftig staatswetten is het ergste geval voor de sector; een rigoureus, door audits ondersteund Californisch raamwerk dat van toepassing is op elke frontier-ontwikkelaar – inclusief zijn rivalen – is een verdieping waar het mee kan leven, en een verdieping waar het nu openlijk voor lobbyt.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →