Het Witte Huis onderzoekt plannen om een onafhankelijke toezichthouder op te richten die zich toelegt op het toezicht op de veiligheid van kunstmatige intelligentie, een stap die een nieuwe vorm zou kunnen geven aan de manier waarop de federale overheid toezicht houdt op grensverleggende AI-modellen van bedrijven als OpenAI en Anthropic. Het voorstel, voor het eerst gerapporteerd door Bloomberg News, volgt op toenemende klachten uit Silicon Valley over de recente en soms onvoorspelbare beperkingen van de overheid op nieuwe AI-systemen.
Een FINRA voor AI
Volgens bronnen die bekend zijn met de zaak en die met Bloomberg hebben gesproken, wordt het plan momenteel beoordeeld door de stafchef van het Witte Huis, Susie Wiles. Er zou een onafhankelijk toezichthoudend orgaan worden opgericht dat zich specifiek richt op kunstmatige intelligentie en rapporteert aan de Securities and Exchange Commission, in een structuur naar het voorbeeld van de Financial Industry Regulatory Authority (FINRA).
FINRA is een zelfregulerende organisatie die toezicht houdt op beursvennootschappen en wisselmarkten in de Verenigde Staten. Het vertalen van dat model naar AI zou betekenen dat er een entiteit wordt opgericht met de autoriteit om normen vast te stellen, onderzoeken uit te voeren en naleving af te dwingen bij bedrijven die geavanceerde modellen ontwikkelen. Het doel is, volgens de bronnen van Bloomberg, om consistentie en voorspelbaarheid te brengen in een toezichtproces dat zowel technologiebedrijven als Wall Street-bedrijven heeft gefrustreerd.
Het voorstel komt op een moment van buitengewone spanning tussen de federale overheid en de AI-industrie. Vorige maand heeft de regering exportcontroles tegen Anthropic uitgevaardigd, waardoor het bedrijf zijn Fable 5- en Mythos 5-modellen tijdelijk moest uitschakelen. Daarnaast was OpenAI op verzoek van de overheid genoodzaakt grote wijzigingen aan te brengen in zijn nieuwste Sol-model voordat het werd uitgebracht. Beide bedrijven protesteerden tegen de beslissingen en voerden aan dat deze buitensporig waren gezien de veiligheidsproblemen die op het spel staan.
Waarom de drang naar gestructureerd toezicht
De belangstelling van het Witte Huis voor een toegewijde AI-toezichthouder weerspiegelt een groeiend besef dat de huidige ad-hocbenadering van toezicht onhoudbaar is. Binnen het bestaande raamwerk heeft de overheid een combinatie van uitvoeringsbesluiten, exportcontroles en vrijwillige overeenkomsten gebruikt om te beïnvloeden hoe en wanneer AI-bedrijven hun krachtigste modellen vrijgeven. Maar deze lappendeken heeft kritiek uit meerdere richtingen opgeleverd.
Technologiebedrijven beweren dat inconsistent toezicht het moeilijk maakt om productroadmaps te plannen, omdat regels plotseling en zonder duidelijke procedurele normen kunnen veranderen. Bedrijven uit Wall Street hebben intussen druk uitgeoefend op de regering om krachtiger actie te ondernemen tegen AI-gestuurde cyberveiligheidsrisico's, waarbij ze waarschuwden dat ongecontroleerde modelmogelijkheden geavanceerde aanvallen op de financiële infrastructuur mogelijk zouden kunnen maken.
Bronnen van Bloomberg zeiden dat het voorstel is ontworpen om beide problemen aan te pakken, meer zekerheid te bieden aan AI-ontwikkelaars en tegelijkertijd een formeel mechanisme in te voeren voor het evalueren en beperken van risico's. Door een FINRA-achtige entiteit te creëren hoopt de regering over te schakelen van reactieve interventies naar een proactief regelgevingsregime met gedefinieerde processen en verantwoordingsplicht.
Echo's van Hassabis' oproep tot normen
De beraadslagingen in het Witte Huis komen slechts enkele dagen nadat Demis Hassabis, CEO van Google DeepMind, publiekelijk opriep tot een door de Verenigde Staten geleide standaardenorganisatie om geavanceerde AI-modellen onafhankelijk te testen op bedreigingen voor de nationale veiligheid voordat ze worden vrijgegeven. In opmerkingen van de Financial Times waarschuwde Hassabis dat kunstmatige algemene intelligentie die in staat is om het menselijk brein voor een breed scala aan taken te matchen waarschijnlijk slechts een paar jaar verwijderd is, waardoor de samenleving een kostbaar venster overblijft om toezicht te vestigen.
Hassabis stelde specifiek voor om de organisatie te modelleren op basis van FINRA, hetzelfde raamwerk dat nu wordt overwogen binnen het Witte Huis. Hij suggereerde dat een door de VS geïnitieerd systeem de basis zou kunnen worden voor internationale normen, nu regeringen geconfronteerd worden met de risico’s van steeds capabelere AI-systemen.
De convergentie tussen het voorstel van Hassabis en de interne beraadslagingen in het Witte Huis suggereert een groeiende consensus rond het FINRA-model, ook al moet er nog worden onderhandeld over de details van reikwijdte, autoriteit en handhaving.
Bestaand pre-release-toezicht
De regering heeft al stappen ondernomen in de richting van toezicht voorafgaand aan de vrijgave. Een uitvoerend bevel dat in juni werd uitgevaardigd, vereiste vrijwillige toegang tot gedekte grensmodellen gedurende maximaal 30 dagen vóór de vrijgave, waardoor federale functionarissen geavanceerde cybercapaciteiten konden peilen. Google DeepMind, Microsoft en xAI kwamen allemaal overeen om modellen in te dienen voor federale nationale veiligheidstests in het kader van het raamwerk.
Deze maatregelen blijven echter vrijwillig en hebben een beperkte reikwijdte. Een toegewijde toezichthouder zou een veel bredere bevoegdheid hebben om transparantie af te dwingen, veiligheidstests verplicht te stellen en naleving af te dwingen, waardoor de relatie tussen AI-bedrijven en de federale overheid fundamenteel zou veranderen.
Wat komt erna
Het voorstel bevindt zich nog in de beginfase en er is geen garantie dat het in zijn huidige vorm vooruitgang zal boeken. Het creëren van een nieuwe regelgevende entiteit vereist actie van het Congres, en de politieke dynamiek rond AI-regulering blijft veranderlijk. Wetgevers hebben talloze hoorzittingen gehouden over de veiligheid van AI, maar moeten nog uitgebreide wetgeving aannemen.
Toch duidt het feit dat het Witte Huis actief een FINRA-achtige toezichthouder overweegt, op een verschuiving in ambitie. In plaats van te vertrouwen op uitvoeringsbesluiten en interventies per geval, lijkt de regering een meer permanent institutioneel raamwerk voor AI-toezicht te onderzoeken, een raamwerk dat elke afzonderlijke regering zou kunnen overleven en de consistentie zou kunnen bieden waar leiders uit de sector om hebben gevraagd.
Voor AI-bedrijven is het vooruitzicht van een toegewijde toezichthouder een tweesnijdend zwaard. Het zou de voorspelbaarheid kunnen opleveren waar ze om hebben gevraagd, maar het zou ook nieuwe nalevingslasten, rapportagevereisten en vertragingen bij het op de markt brengen van producten kunnen introduceren. Hoe deze afwegingen in evenwicht worden gebracht, zal het concurrentielandschap van de AI-industrie de komende jaren bepalen.
Blijf AI een stap voor
Voor voortdurende berichtgeving over AI-regelgeving, overheidsbeleid en de toezichtkaders die de industrie vormgeven, volgt u AI Buzz Wire voor rapportage over de beslissingen die er toe doen.
Lees meer AI-beleidsnieuws →
