De CEO van Google DeepMind, Demis Hassabis, heeft de oprichting voorgesteld van een onafhankelijk, door de VS geleid standaardenorgaan, gemodelleerd naar de Financial Industry Regulatory Authority (FINRA), om grensverleggende AI-modellen te evalueren en te reguleren voordat ze openbaar worden gemaakt, waarbij hij waarschuwt dat de mensheid een ‘kostbaar venster’ heeft om ervoor te zorgen dat kunstmatige algemene intelligentie veilig wordt ontwikkeld.

In een raamwerkdocument met de titel ‘A Framework for Frontier AI and the Dawning of a New Age’, dat dinsdagochtend op X werd gepubliceerd, heeft Hassabis een gedetailleerd voorstel uiteengezet voor hoe de Verenigde Staten een geloofwaardige regelgevingsinfrastructuur kunnen opzetten voor de krachtigste AI-systemen. Het plan roept op tot een nieuwe organisatie die grensmodellen zou testen en best practices zou ontwikkelen voor de inzet ervan – gefinancierd door de AI-industrie maar onafhankelijk van welk bedrijf dan ook zou opereren.

Voor het laatste breaking AI news en diepgaande beleidsanalyses volgt AI Buzz Wire de ontwikkelingen die de industrie vormgeven.

Hoe het voorgestelde normenorgaan zou werken

Volgens het voorstel van Hassabis zouden AI-laboratoria vrijwillig hun grensmodellen ter beoordeling delen met de normalisatie-instelling, tot 30 dagen vóór de publieke release. Deze beoordeling voorafgaand aan de implementatie zou modellen evalueren op het gebied van veiligheid, beveiliging en potentiële misbruikrisico's. Zodra het beoordelingsprotocol effectief en robuust is gebleken, voorziet het raamwerk in het formaliseren van het proces, zodat grensmodellen er aan moeten voldoen voordat ze op de Amerikaanse markt kunnen worden ingezet.

Het voorstel pakt rechtstreeks een leemte aan die is blootgelegd door recente evaluaties door de overheid van grensverleggende AI-systemen. Eerder dit jaar voerde de Amerikaanse regering ad-hocveiligheidsbeoordelingen uit van het Mythos-model van Anthropic en het Sol-model van OpenAI voordat ze respectievelijk werden uitgebracht. Die beoordelingen leverden veel kritiek op vanwege het gebrek aan technische diepgang en vanwege de ondoorzichtige besluitvorming over wanneer een model veilig genoeg werd geacht voor publieke inzet.

Onder het raamwerk van Hassabis zouden deze beslissingen worden afgehandeld door een toegewijde organisatie, bemand met technische experts, gesteund door de Amerikaanse regering maar geïsoleerd van politieke druk. Labs zouden ook moeten samenwerken met de standaardorganisatie om kritieke kwetsbaarheden aan te pakken die na de release zijn ontdekt.

Een 'kostbaar venster' vóór AGI

In interviews met Axios, CNBC en The Economist bij de release van het raamwerk benadrukte Hassabis dat het huidige moment een beperkte kans biedt om bestuursmechanismen op te zetten voordat kunstmatige algemene intelligentie arriveert. Hij beschreef deze periode als een ‘kostbaar raam’ – wat impliceert dat het raam niet voor onbepaalde tijd open zal blijven.

Hassabis is al lang een voorstander van proactief AI-beheer. Zijn raamwerk komt tot stand te midden van een intensiverend debat over de vraag of de Verenigde Staten een formele AI-regulator moeten creëren, en zo ja, welke vorm deze moet aannemen. Het FINRA-model is opmerkelijk omdat de zelfregulerende organisatie van de financiële sector wordt gefinancierd door aangesloten firma's, maar onder toezicht van de overheid opereert, waardoor deze zowel branche-expertise als publieke verantwoording krijgt.

Verzet van de regering-Trump

Het voorstel krijgt te maken met aanzienlijke politieke tegenwind. De regering-Trump heeft blijk gegeven van diepe scepsis ten aanzien van het creëren van nieuwe regelgevende instanties voor kunstmatige intelligentie. Witte Huis AI-adviseur en algemeen partner van a16z, Sriram Krishnan – die sindsdien zijn functie heeft neergelegd – heeft het idee van een AI-regulator binnen de uitvoerende macht publiekelijk verworpen en botweg verklaard dat “er geen FDA voor AI zal zijn.”

Dat standpunt heeft regeringsfunctionarissen op gespannen voet geplaatst met enkele van de meest prominente leiders in de sector. Hoewel bedrijven als Anthropic en OpenAI veiligheidstests voorafgaand aan de implementatie breed hebben gesteund, blijven het mechanisme en de autoriteit voor dergelijke tests betwist. Het voorstel van Hassabis probeert deze draad in gang te zetten door de normalisatie-instelling in eerste instantie te positioneren als door de industrie gefinancierd en vrijwillig, waarbij formalisering pas komt nadat het proces zijn waarde heeft bewezen.

Voortbouwen op bestaande inspanningen

Het raamwerk begint niet vanaf nul. Het bouwt voort op de vrijwillige toezeggingen die verschillende grensverleggende AI-bedrijven al hebben gedaan met betrekking tot veiligheidstests en red-teaming. Het maakt ook gebruik van internationale inspanningen, waaronder het Britse AI Safety Institute en het Hiroshima AI Process van de G7, die voorlopige kaders hebben vastgesteld voor het evalueren van geavanceerde modellen.

Het voorstel van Hassabis gaat echter verder door op te roepen tot een permanente, goed uitgeruste organisatie met een mandaat om elk grensmodel te testen voordat het wordt vrijgegeven – een niveau van controle dat geen enkel huidig ​​orgaan biedt. De FINRA-analogie suggereert een grootschalige, professionele operatie met honderden technische experts, en niet een klein adviespanel.

Het voorstel heeft ook betrekking op monitoring na de implementatie, waarbij laboratoria moeten samenwerken met de normalisatie-instelling op het gebied van kwetsbaarheden die worden ontdekt nadat een model openbaar beschikbaar is gekomen. Dit weerspiegelt de groeiende erkenning dat veiligheidsrisico's niet eindigen bij de lancering, zoals blijkt uit gevallen van jailbreaks en misbruik die naar voren zijn gekomen na verschillende spraakmakende modelreleases.

Reactie van de industrie en volgende stappen

Het raamwerk heeft veel aandacht gegenereerd binnen de AI-beleidsgemeenschap. Voorstanders beweren dat een geloofwaardig testregime voorafgaand aan de inzet het vertrouwen van het publiek in grensmodellen zou kunnen vergroten en het risico op catastrofaal misbruik zou kunnen verkleinen. Critici, waaronder enkele voorstanders van de vrije markt, waarschuwen dat een verplichte testvereiste grote gevestigde exploitanten zou kunnen verankeren door regelgevende barrières op te werpen voor kleinere bedrijven en open-sourceontwikkelaars.

Het voorstel van Hassabis specificeert niet welke modellen in aanmerking komen als ‘grensoverschrijdend’ – een drempelvraag die de reikwijdte van elk toekomstig regelgevingsregime zal bepalen. Het laat ook open hoe de normalisatie-instelling zou omgaan met geclassificeerde toepassingen of toepassingen voor tweeërlei gebruik, vooral gezien de recente zorgen over AI-modellen die worden gebruikt om geheime Amerikaanse systemen te kraken.

De timing van het voorstel is bewust gekozen. Nu AGI de komende jaren steeds plausibeler lijkt, dringt Hassabis erop aan dat de bestuursinfrastructuur nu moet worden opgebouwd, en niet nadat er een gevaarlijke mogelijkheid is ontstaan. Of Washington gevolg zal geven aan zijn oproep valt nog te bezien.

Blijf AI een stap voor

Bezoek [AI Buzz Wire] (https://aibuzzwire.new) voor uitgebreide berichtgeving over AI-beleid, regelgeving en sectorontwikkelingen.

Lees meer AI-nieuws →