Anthropic har tyst pitcha amerikanska lagstiftare om utkast till federal lagstiftning som skulle låta regeringen blockera frisläppandet av en AI-modell - men bara under de mest extrema omständigheterna, enligt en rapport från Politico.

Utkastet till förslag, som Politico säger sig ha sett, skulle tillåta federalt ingripande endast när en modell utgör en förutsebar, överhängande risk för mer än 1 miljard dollar i skador, eller för att döda eller allvarligt skada uppemot 50 personer. Ramverket återspeglar Anthropics försök att forma reglerna som styr sin egen bransch innan andra skriver dem - ett försök som företaget bekräftar att det har drivit sedan juni.

Vad förslaget till lagförslag skulle göra

Enligt förslaget kan regeringen blockera en AI-modells release eller användning endast under en snäv uppsättning katastrofala scenarier. De specificerade riskerna måste relatera till skapandet eller frisläppandet av ett biologiskt vapen, en AI-modell som undviker utvecklarens kontroller eller en cyberattack.

Tröskelvärdena är medvetet höga. Politicos rapportering noterar att även om AI-laboratorier har registrerat incidenter där deras agenter hackat webbplatser eller misskött sig på andra sätt, har ingen AI-incident hittills orsakat utbredda dödsfall eller mer än 1 miljard dollar i skador. Med andra ord definierar propositionen regeringens röda linje långt ovanför var nuvarande fel faktiskt inträffar.

Kritiker har redan tagit tag i den designen. Tom's Hardware karakteriserade förslaget som ett som "effektivt skulle göra handelsdepartementet till den enda byrå som kan stoppa en AI-modell", medan Mother Jones beskrev lagförslagets tröskel för regeringsåtgärder som "alarmerande". Supportrar motarbetar att en hög ribba är just poängen: den riktar sig mot katastrofala risker i existentiell klass utan att utsätta rutinmässiga modelluppdateringar för regulatorisk granskning.

Oberoende utvärderingar, registrerade hos handel

Lagförslagets verkställighetsmekanism vilar på granskning av tredje part. Det skulle kräva oberoende utvärderingar – registrerade hos handelsdepartementet – för att regelbundet granska AI-labb och deras frontier-modeller.

Om en utvärderare drar slutsatsen att ett företags gränsmodeller utgör en "överhängande uppräknad risk", måste utvärderaren rapportera detta fynd till handelsdepartementet inom 72 timmar efter att bedömningen slutförts, enligt Politico. Den rapporteringsklockan, och registreringskravet, skulle göra handelsdepartementet till den federala regeringens centrala nod för gränsöversyn av AI.

Tillvägagångssättet återspeglar riktningen för annan pågående lagstiftning. Riskhanterings- och säkerhetslagen för artificiell intelligens från 2026, införd av en trio av senatsdemokrater, överväger på samma sätt handelsriktade AI-utvärderingar. Ett separat lagförslag från senator Maria Cantwell skulle ge National Institute of Standards and Technology i uppdrag att utveckla standarder mot katastrofala AI-skador, medan senator Josh Hawleys AI Risk Evaluation Act skulle ge Department of Energy ansvaret för att stresstesta de mest kraftfulla systemen före utplacering.

Anthropic's Defense: Sensible Policys, förespråkat sedan juni

En talesperson för Antropic sa till Politico att utkastet "representerar förslagen som beskrivs i Anthropics Advanced AI Framework, som vi har förespråkat med federala och statliga lagstiftare sedan juni," och tillade: "Detta är förnuftiga policyer som vi anser att kongressen bör agera efter."

Företagets ställning överensstämmer med dess offentliga ställning. Anthropic har upprepade gånger hävdat att gränsöverskridande AI-risker är verkliga men snäva – koncentrerade till hjälp med biovapen, förlust av kontroll och offensiva cyberoperationer – och att reglering bör fokusera där snarare än på den breda mängden vardagliga AI-tillämpningar.

Att skriva en egen räkning är det logiska nästa steget. Istället för att reagera på förslag från andra, ger Antropic lagstiftare språk kalibrerat till sin egen riskram, med förebyggande av lapptäckestatsregler en implicit fördel med federal lagstiftning. Reuters och en rad andra butiker förstärkte Politico-rapporten inom en dag, ett tecken på hur noggrant Washington och AI-industrin nu tittar på varandras rörelser.

Vägen framåt i ett delat Washington

Utkastet står inför branta politiska odds oavsett vilket parti som kontrollerar kongressen. Politicos rapportering noterar att alla AI-säkerhetsförslag sannolikt kommer att möta avtryck från Vita huset, som förblir motståndare till obligatorisk AI-reglering och föredrar en frivillig, standardbaserad strategi.

Trots det har förslaget betydelse som markör. Den kvantifierar – i dollar och antalet offer – var ett av världens ledande AI-labb anser att gränsen mellan acceptabel risk och statlig intervention bör ligga. Det skapar också en referenspunkt för de konkurrerande räkningarna som nu cirkulerar på Capitol Hill, av vilka flera föreslår mycket mer aggressiv tillsyn med lägre trösklar.

Politikanalytiker kommer att titta på tre saker när debatten utvecklas: om siffrorna med 50 offer och 1 miljard dollar överlever kontakt med kongressens utarbetande; om utvärderare som är registrerade hos Commerce får verklig auktoritet eller bara en rådgivande roll; och huruvida federalt preemption-språk absorberar eller kolliderar med AI-lagar på statlig nivå som redan finns i boken. Anthropics satsning är att ett smalt ramverk med enbart katastrofrisker är den version av reglering som branschen faktiskt kan leva med - och att formningen av det ramverket tidigt slår att ha ett senare infört.

Ligg före AI

AI-landskapet rör sig snabbt – följ AI Buzz Wire för senaste AI-nyheter, modellsläpp och branschanalyser.

Läs mer AI-nyheter →