Afgevaardigde Ro Khanna, een democraat uit Silicon Valley, zal wetgeving introduceren die AI-modellen verbiedt die zichzelf recursief kunnen verbeteren totdat de federale overheid een regelgevingssysteem opbouwt dat in staat is er toezicht op te houden – het meest ingrijpende AI-veiligheidsvoorstel dat tot nu toe in het Congres is beland.

Het wetsvoorstel, genaamd de Human Control Over AI Act, werd vóór de introductie ervan exclusief in samengevatte vorm met CNBC gedeeld. Het komt te midden van escalerende veiligheidsproblemen die de CEO's van OpenAI en Anthropic er al toe hebben aangezet om op te roepen tot het vertragen van de ontwikkeling van grensmodellen. Voor meer context over dit verhaal, zie ons AI-trends.

“Er bestaat feitelijk een risico dat de beschaving uitsterft”, zei Khanna maandag in een interview met CNBC. "Er is een veiligheidsrisico van verlies van controle, en dan is er een risico op misbruik, en we moeten beide serieus nemen."

Wat het wetsvoorstel zou verbieden

In de kern zou de Human Control Over AI Act AI-modellen verbieden die zichzelf recursief verbeteren of autonoom hun eigen kerndoelstellingen, inperkingsmechanismen of shutdown-controles wijzigen – tenzij er federale vangrails bestaan en een nieuwe overheidsinstantie de activiteiten goedkeurt.

In praktische termen richt dit zich op het vermogen waar veiligheidsonderzoekers het meest bang voor zijn: systemen die zichzelf opnieuw kunnen ontwerpen in een zelfgestuurde cyclus, waardoor mensen bij elke stap steeds minder toezicht krijgen. Het verbod zou van kracht blijven totdat de toezichthouders zijn toegerust om de risico's te beoordelen.

Een nieuw federaal agentschap voor grens-AI

Het wetsvoorstel zou een speciaal federaal agentschap creëren dat zich richt op de krachtigste AI-modellen – die ontwikkeld door OpenAI, Anthropic, Google DeepMind en xAI – aangezien deze bedrijven onder steeds intensiever toezicht staan.

Volgens de samenvatting die met CNBC is gedeeld, zou het bureau verantwoordelijk zijn voor:

  • Schrijven van veiligheidsvoorschriften voor grensverleggende AI-systemen
  • Het exploiteren van een licentiesysteem om modeltraining en -implementatie goed te keuren
  • Het uitvoeren van audits van grensverleggende AI-modellen
  • Het stellen van beveiligingsnormen voor continu testen en effectieve menselijke controle

Onafhankelijke auditors zouden in elk grenslaboratorium worden ingebed en rechtstreeks aan het agentschap rapporteren – een structurele controle die bedoeld is om ervoor te zorgen dat laboratoria niet zomaar hun eigen huiswerk kunnen nakijken. Het bureau zou ook normen vaststellen voor sandbox-testomgevingen, luchtspleten die testsystemen isoleren van het internet, kill-switches en controles die voorkomen dat modellen uit de laboratoriuminstellingen ontsnappen en over het open internet zwerven.

De wetgeving zou met name het federale toezicht uitbreiden tot de geavanceerde chips die grenslaboratoria gebruiken, inclusief mechanismen om te controleren of te controleren hoe deze processors worden ingezet.

Strafrechtelijke sancties en verplichte verzekering

Het wetsvoorstel gaat verder dan enig eerder voorstel over sancties. Het zou wat het definieert als ‘misdaden tegen de menselijkheid’ strafbaar stellen voor de inzet van AI-modellen die resulteren in de vernietiging van de burgerbevolking.

Werknemers van AI-bedrijven zouden te maken krijgen met strafrechtelijke sancties voor het uitschakelen van beveiligingen, kill-switches, houtkap- of insluitingssystemen – of voor het willens en wetens inzetten van een ongeautoriseerd systeem. AI-bedrijven zouden ook een uitgebreide aansprakelijkheidsverzekering moeten afsluiten voordat ze hun modellen vrijgeven, waardoor het financiële risico van mislukking op de sector zou worden afgewenteld in plaats van op het publiek.

Op geopolitiek vlak roept het wetsvoorstel de regering op om afdwingbare overeenkomsten en gerichte exportcontroles na te streven, bedoeld om China en andere tegenstanders ervan te weerhouden gevaarlijke AI-systemen te ontwikkelen.

Gebouwd met de veiligheidsgemeenschap, niet met de laboratoria

Khanna was expliciet over wiens inbreng het wetsvoorstel vormde. In plaats van te onderhandelen met de leidinggevenden van de bedrijven die het zou reguleren, zei hij dat de wetgeving was gemodelleerd naar gesprekken met AI-veiligheidsorganisaties, waaronder de onafhankelijke non-profitorganisaties Model Evaluation and Threat Research, het Machine Intelligence Research Institute en Palisade Research.

“Ik wil dat dit een model is om een ​​stem te geven aan de AI-veiligheidsgemeenschap”, vertelde Khanna aan CNBC. "Ik geloof dat ze ten onrechte zijn afgedaan als sciencefiction en niet serieus genoeg zijn genomen. Zij moeten dit debat aansturen, de AI-veiligheidsgemeenschap, en niet de leidinggevenden van grenslaboratoria."

Khanna beschreef de maatregel als de meest uitgebreide AI-veiligheidswetgeving die tot nu toe is voorgesteld.

Lange kansen in een verdeeld congres

De Human Control Over AI Act sluit zich aan bij een druk veld van AI-veiligheidsvoorstellen op Capitol Hill. Daartoe behoort de tweeledige FRONTIER Act van vertegenwoordigers Jay Obernolte, een Republikein uit Californië, en Lori Trahan, een Democraat uit Massachusetts, die onafhankelijke auditors in grenslaboratoria zou plaatsen en de overheid de bevoegdheid zou geven modellen te sluiten waarvan wordt aangenomen dat ze een catastrofaal risico opleveren. Een afzonderlijk voorstel van Sanders-Casar om kunstmatige superintelligentie te verbieden heeft publieke steun gekregen van tien Democraten in het Huis van Afgevaardigden, waaronder Khanna zelf.

De politieke realiteit is echter ontnuchterend. Er wordt verwacht dat er pas na de tussentijdse verkiezingen over de wetsvoorstellen van het Huis van Afgevaardigden zal worden gestemd, en dat de Senaat naar verwachting Washington zal verlaten en pas zal terugkeren nadat de kiezers naar de stembus zijn gegaan.

Die tijdlijn betekent dat de Human Control Over AI Act, althans voorlopig, zal functioneren als een markering: een gedetailleerde blauwdruk van wat de AI-veiligheidsgemeenschap zou bouwen als zij de pen vasthield – geïntroduceerd op precies het moment dat de mensen die grensverleggende AI bouwen, officieel waarschuwen dat de technologie haar controles te boven gaat.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →