Anthropic heeft Amerikaanse wetgevers stilletjes gepitcht over een ontwerp van federale wetgeving die de regering de vrijgave van een AI-model zou laten blokkeren – maar alleen in de meest extreme omstandigheden, volgens een rapport van Politico.

Het ontwerpvoorstel, dat Politico zegt te hebben gezien, zou federale interventie alleen toestaan ​​als een model een voorzienbaar, dreigend risico met zich meebrengt van meer dan $ 1 miljard aan schadevergoeding, of van het doden of ernstig schaden van meer dan 50 mensen. Het raamwerk weerspiegelt de poging van Anthropic om de regels voor de eigen sector vorm te geven voordat anderen ze schrijven – een poging waarvan het bedrijf bevestigt dat het al sinds juni bezig is.

Wat het wetsontwerp zou doen

Volgens het voorstel zou de overheid de introductie of het gebruik van een AI-model alleen onder een beperkt aantal catastrofale scenario's kunnen blokkeren. De gespecificeerde risico's moeten betrekking hebben op de creatie of vrijgave van een biologisch wapen, een AI-model dat de controle van de ontwikkelaar ontwijkt, of een cyberaanval.

De drempels zijn bewust hoog gehouden. In de rapportage van Politico wordt opgemerkt dat hoewel AI-laboratoria incidenten hebben geregistreerd waarbij hun agenten websites hebben gehackt of zich op andere manieren hebben misdragen, tot nu toe geen enkel AI-incident heeft geleid tot wijdverbreide sterfgevallen of meer dan $ 1 miljard aan schade. Met andere woorden: het wetsontwerp definieert de rode lijn van de regering ver boven waar de huidige mislukkingen zich daadwerkelijk voordoen.

Critici hebben dat ontwerp al overgenomen. Tom's Hardware typeerde het voorstel als een voorstel dat 'het ministerie van Handel in feite de enige instantie zou maken die in staat is een AI-model te stoppen', terwijl Mother Jones de drempel voor overheidsoptreden in het wetsvoorstel omschreef als 'alarmerend'. Voorstanders werpen tegen dat een hoge lat precies de bedoeling is: het richt zich op catastrofale risico's van existentiële klasse zonder routinematige modelupdates te onderwerpen aan toetsing door de toezichthouders.

Onafhankelijke evaluaties, geregistreerd bij de handel

Het handhavingsmechanisme van het wetsvoorstel berust op toezicht door derden. Er zouden onafhankelijke evaluaties nodig zijn – geregistreerd bij het ministerie van Handel – om periodiek AI-laboratoria en hun grensmodellen te beoordelen.

Als een beoordelaar tot de conclusie komt dat de grensmodellen van een bedrijf een ‘dreigend opgesomd risico’ vormen, moet de beoordelaar die bevinding binnen 72 uur na voltooiing van de beoordeling aan het ministerie van Handel melden, aldus Politico. Die rapportageklok en de registratievereiste zouden het ministerie van Handel tot het centrale knooppunt van de federale overheid maken voor grensoverschrijdend AI-toezicht.

De aanpak weerspiegelt de richting van andere hangende wetgeving. De Artificial Intelligence Risk Management and Security Act van 2026, geïntroduceerd door een drietal Democraten in de Senaat, overweegt op soortgelijke wijze op de handel gerichte AI-evaluaties. Een afzonderlijk wetsvoorstel van senator Maria Cantwell zou het National Institute of Standards and Technology belasten met het ontwikkelen van normen tegen catastrofale AI-schade, terwijl de AI Risk Evaluation Act van senator Josh Hawley het ministerie van Energie de leiding zou geven over het stresstesten van de krachtigste systemen voordat ze worden ingezet.

De verdediging van Anthropic: verstandig beleid, bepleit sinds juni

Een woordvoerder van Anthropic vertelde Politico dat het ontwerp “de voorstellen vertegenwoordigt die zijn uiteengezet in het Advanced AI Framework van Anthropic, waar we sinds juni samen met federale en staatswetgevers voor pleiten”, en voegde eraan toe: “Dit is verstandig beleid waarvan we vinden dat het Congres ernaar moet handelen.”

De positie van het bedrijf komt overeen met haar publieke houding. Anthropic heeft herhaaldelijk betoogd dat grensrisico's op het gebied van AI reëel maar beperkt zijn – geconcentreerd in de ondersteuning van biowapens, verlies van controle en offensieve cyberoperaties – en dat de regelgeving zich daar moet concentreren in plaats van op het brede scala van alledaagse AI-toepassingen.

Het schrijven van een eigen wetsvoorstel is de logische volgende stap. In plaats van te reageren op voorstellen van anderen, overhandigt Anthropic de taal van wetgevers die is afgestemd op haar eigen risicokader, waarbij voorrang op lappendeken van staatsregels een impliciet voordeel is van federale wetgeving. Reuters en een reeks andere media versterkten het Politico-rapport binnen een dag, een teken van hoe nauw Washington en de AI-industrie elkaars bewegingen nu in de gaten houden.

De weg vooruit in een verdeeld Washington

Het ontwerp staat voor grote politieke kansen, ongeacht welke partij het Congres controleert. In de rapportage van Politico wordt opgemerkt dat elke AI-veiligheidswet waarschijnlijk te maken zal krijgen met terugslag van het Witte Huis, dat tegen verplichte AI-regulering blijft en voorstander is van een vrijwillige, op standaarden gebaseerde aanpak.

Toch is het voorstel van belang als markering. Het kwantificeert – in dollars en aantallen slachtoffers – waar een van de toonaangevende AI-laboratoria ter wereld van mening is dat de grens tussen aanvaardbaar risico en overheidsingrijpen moet liggen. Het creëert ook een referentiepunt voor de concurrerende wetsvoorstellen die nu op Capitol Hill circuleren, waarvan er verschillende een veel agressiever toezicht met lagere drempels voorstellen.

Beleidsanalisten zullen drie dingen in de gaten houden naarmate het debat zich ontwikkelt: of de aantallen van vijftig slachtoffers en een miljard dollar het contact met de opstelling van het Congres overleven; of beoordelaars die bij Commerce zijn geregistreerd echte autoriteit krijgen of slechts een adviserende rol; en of de federale preëmptieve taal de AI-wetten op staatsniveau die al in de boeken staan, absorbeert of botst. De gok van Anthropic is dat een smal raamwerk met uitsluitend catastrofale risico's de versie van regulering is waar de industrie daadwerkelijk mee kan leven – en dat het vroegtijdig vormgeven van dat raamwerk beter is dan wanneer er later een wordt opgelegd.

Blijf AI een stap voor

Het AI-landschap verandert snel: volg AI Buzz Wire voor het laatste AI-nieuws, modelreleases en sectoranalyses.

Lees meer AI-nieuws →