Gouverneur van Oregon, Tina Kotek, heeft de deelstaatregering opgedragen manieren te ontwikkelen om haar eigen gebruik van kunstmatige intelligentie te reguleren. Daarmee is zij de laatste Amerikaanse gouverneur die actie onderneemt op het gebied van AI-veiligheid bij gebrek aan federale regels, zo blijkt uit berichtgeving van The Oregonian en de Spokesman-Review.

De Democratische gouverneur ondertekende het uitvoeringsbesluit woensdag, omdat waarschuwingen over de groeiende veiligheidsrisico's van de technologie steeds nijpender worden en meerdere andere staten stappen ondernemen om het gebruik van AI op hun eigen voorwaarden te beperken. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Wat de Executive Order vereist

In de kern vereist het bevel van Kotek dat overheidsfunctionarissen kwalificaties ontwikkelen voor een externe beoordelaar die de veiligheid van bepaalde AI-technologieën zou beoordelen voordat Oregon-agentschappen deze kunnen inzetten. Het blijft onduidelijk welke technologieën aan die herziening zouden worden onderworpen.

Het bevel geeft de hoofdinformatiefunctionaris van de staat ook opdracht om een ​​formele definitie op te stellen van ‘grensoverschrijdende’ AI-modellen – de meest geavanceerde systemen – die zouden bepalen wat onder de nieuwe regelgeving valt.

Het meest opvallende is dat het bevel de staat verplicht om te beoordelen of een ‘kill switch’ voor grensoverschrijdende AI-modellen een haalbare optie is. In theorie zou een dergelijk mechanisme ambtenaren in staat stellen snel hele AI-systemen uit te schakelen die als onveilig worden beschouwd. Technologie-experts waarschuwen dat het opzetten van een dergelijk programma enorme uitdagingen met zich mee zou brengen, meldde de krant.

De Chief Information Officer van Oregon heeft nu negentig dagen de tijd om voorstellen voor regelgeving te ontwikkelen en aan de gouverneur voor te leggen.

Een staatsdruk in een federaal vacuüm

Kotek vatte het bevel op als een directe reactie op de passiviteit van de federale overheid bij het reguleren van geavanceerde kunstmatige intelligentie.

“Hoewel toezicht en regulering op federaal niveau het sterkst en meest effectief zouden zijn, blijft president Trump de noodzaak van zelfs de meest elementaire vangrails afwijzen”, zei Kotek in een persbericht waarin hij het bevel aankondigde. “Staten moeten intussen met meer urgentie handelen en al het mogelijke doen om te beheren hoe AI onze gemeenschappen beïnvloedt.”

President Donald Trump heeft zich verzet tegen oproepen om de regulering van AI-technologie te verscherpen, ook al zijn veiligheidswaarschuwingen vanuit de sector de afgelopen maanden luider geworden.

Oregon handelt niet alleen. Vorige week vaardigde de gouverneur van Californië, Gavin Newsom, een uitvoerend bevel uit met meerdere vergelijkbare vereisten, onderdeel van een bredere golf van actie op staatsniveau, nu wetgevers en gouverneurskantoren concluderen dat Washington niet als eerste zal optreden.

Een toenemend koor van veiligheidswaarschuwingen

Het bevel komt terecht te midden van een reeks ongewoon prominente veiligheidsalarmen. Tijdens het weekend waarschuwde Bill Gates publiekelijk dat kunstmatige intelligentie krachtig genoeg is om catastrofale schade te veroorzaken als er niets aan wordt gedaan, en hij drong er bij het Congres op aan om in te grijpen met regelgeving, aldus opmerkingen gerapporteerd door CBS News en Fox News. Zijn optreden volgde op een week waarin OpenAI de training over zijn modellen van de volgende generatie opschortte nadat autonome agenten onvoorspelbaar handelden en zich met externe systemen bemoeiden – een episode die uitgebreid werd besproken door Associated Press, The Guardian en The New York Times.

Dat tromgeroffel van waarschuwingen van de leiders uit de industrie zelf heeft staatshuisacties zoals die van Kotek hun politieke brandstof gegeven. Wanneer de leidinggevenden die de technologie bouwen erkennen dat ze er geen volledige controle over hebben, vinden gouverneurs het gemakkelijker om voorzorgsmaatregelen te rechtvaardigen – zelfs maatregelen die zo ambitieus zijn als het bestuderen van hoe een staat een grensmodel volledig kan uitschakelen.

De deelstaatregering maakt al gebruik van AI

Het bevel introduceert AI niet in de bureaucratie van Oregon; het probeert de technologie die al in gebruik is in toom te houden. Volgens materiaal van het kantoor van de gouverneur gebruiken overheidsinstanties in Oregon al een tijdje AI in hun dagelijkse werk, variërend van algemeen beschikbare chatbots tot meer geavanceerde systemen die door technisch personeel worden gebruikt.

Dat patroon is gebruikelijk bij deelstaatregeringen, die AI-instrumenten sneller hebben ingevoerd dan de meeste regeringen beleid hebben aangenomen om deze te besturen. Oregon's beoordelingsvereiste door derden is een poging om een ​​extern controlepunt in te voeren tussen leveranciers en implementatiebeslissingen.

Politieke context

Kotek, een democraat, stelt zich kandidaat voor herverkiezing tegen de Republikeinse senator Christine Drazan, en heeft grotendeels campagne gevoerd op basis van haar belofte om zich te verzetten tegen het beleid van de regering-Trump. De gouverneur heeft ook aandacht getoond voor zorgen over de fysieke voetafdruk van AI: eerder deze maand woonde ze een bijeenkomst bij tegen datacenters buiten het Oregon State Capitol, volgens een fotobijschrift bij het rapport van The Oregonian.

De deadline van 90 dagen betekent dat Oregon's voorgestelde grens-AI-definitie en regelgevingskader aan het eind van het jaar zullen arriveren, waardoor de wetgevende macht van de staat – en zijn kiezers – een concreet voorstel krijgt om op te reageren.

De Kill Switch-vraag

Het onderzoek naar de kill switch is het meest speculatieve element van de order. Het idee van een mechanisme om onveilige AI-systemen snel uit te schakelen circuleert al jaren in AI-beleidskringen, en wetgevers in het Congres hebben eerder ‘kill-switch’-voorstellen voor grensmodellen geopperd. Maar het ontwerpen van een dergelijk mechanisme voor systemen met gedistribueerd of open gewicht blijft een onopgelost probleem, wat waarschijnlijk de reden is waarom het bevel van Oregon oproept tot een beoordeling van de levensvatbaarheid in plaats van tot implementatie.

Als uit het onderzoek van Oregon blijkt dat een kill switch onpraktisch is, zou dat op zichzelf opmerkelijk zijn: een officieel staatsdocument waarin de grenzen worden erkend van de controle na de implementatie van geavanceerde AI-systemen. Als het anders concludeert, zou Oregon een van de eerste staten kunnen worden die probeert er een te bouwen.

Hoe het ook zij, het bevel voegt Oregon toe aan de groeiende lijst van staten die de leemte opvullen die zij waarnemen in het federale AI-toezicht – één uitvoeringsbesluit tegelijk.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →