Säkerhetsvarningarna från antropiska forskare som dominerade AI-diskursen denna vecka har nu producerat något konkret i Washington: en lagstiftningsframgång. Reuters rapporterade på torsdagen att amerikanska lagstiftare kräver nya AI-regler som svar på forskarnas uttalanden, medan Massachusetts-representanten Lori Trahan använde en intervju på torsdagsmorgonen för att detaljera sin Frontier Act, ett lagförslag som skulle införa bindande skyldigheter för frontier AI-utvecklare för första gången.

När hon talade på WBURs Morning Edition sa Trahan att reaktionen på Capitol Hill på veckans händelser har varit olik något hon sett sedan hon började arbeta med AI-reglering tidigare i år. Följ AI Buzz Wire, din källa för senaste AI-nyheter och regeluppdateringar för daglig täckning av AI-policyrörelser i Washington, Bryssel och vidare.

Vad Frontier Act skulle göra

Trahan, som var medförfattare till det tvåpartiska lagförslaget, beskrev det som en uppsättning "vägregler" för en handfull företag vars modeller kan orsaka katastrofala skador. Frontier Act skulle föreskriva fyra saker, enligt kongressledamoten: transparenskrav för frontier AI-utvecklare, incidentrapportering, oberoende verifiering av modellsäkerhetspåståenden och vad hon kallade en pausknapp från regeringen om en modell utgör en överhängande risk för katastrof.

"På en grundläggande nivå måste vi sätta skyddsräcken på gränslaboratorierna," sa Trahan och formulerade dessa bestämmelser som "bordsinsatser" medan kongressen utarbetar policy för de många andra sektorer som AI kommer att beröra.

'The Honor System': Trahans fall för bindande regler

Kärnan i Trahans argument är att ingenting för närvarande binder utvecklarna av de mest kraftfulla AI-systemen. "Idag är det enda vi har på plats hederssystemet", sa hon. "Den mest kraftfulla tekniken i mänsklighetens historia regleras av dess utvecklare."

Hon erkände skepsis bland kollegor och sa att vissa ser veckans varningar som skräckinjagande eller för extrema. Men hon beskrev en snabb förändring av stämningen i kammaren: "Min telefon har inte slutat ringa sedan Jacob Coxon blåste i visselpipan. Jag tror att mina kollegor är rädda. De hör av sig från sina väljare som vill att vi ska agera... Den här veckan har precis nått en vändpunkt."

Noterbart sa hon att trycket inte är begränsat till en part. "Det är inte bara demokrater", sa Trahan och noterade att "MAGA-republikanerna krävde tvåpartiåtgärder i går. Marken har verkligen skiftat."

Varningarna som startade det

Den lagstiftande jäsningen spår direkt till uttalanden av två antropiska forskare. Jacob Coxon lämnade företaget på tisdagen och skrev på sociala medier att Anthropic "tävlar direkt mot att själv förbättra superintelligens och spela med våra liv." Andra antropiska forskaren Evan Hubinger stödde honom offentligt och skrev: "Jacob har rätt här... Vi tror verkligen att AI kan döda alla människor! Jag tror personligen att det är >10% inom det kommande decenniet."

Berättelsen spred sig över veckan. The Hill rapporterade att lagstiftare slog larm om AI-faror efter varningarna, BBC och CBS täckte Hubingers sannolikhetsuppskattning, och NBC News rapporterade på torsdagen om två AI-forskare som lämnade Anthropic och Google på grund av säkerhetsproblem, och citerade en som sa "det finns inga vuxna i rummet." Reuters rapporterade på torsdagen att lagstiftare nu efterlyser nya regler, och rapporter har också cirkulerat om att OpenAI har sökt amerikanska regler som styr kraftfulla AI-modeller.

Från varningar till en fakturafil

Det som skiljer denna vecka från tidigare säkerhetskontroverser är hastigheten på politiska svar. Anthropics egna avslöjanden denna vecka – en hotunderrättelserapport som beskriver störda missbrukskampanjer, inklusive möjliga försök att använda Claude för att utveckla biologiska vapen – gav varningarna en bevismässig ryggrad som tidigare debatt saknade, och lagstiftare verkar röra på sig medan ögonblicket håller på.

Vägen framåt för AI-lagstiftning

Utsikterna för Frontier Act är fortfarande osäkra. Kongressen har kämpat i åratal för att få igenom omfattande AI-lagstiftning, och varje lagförslag som rör obligatorisk verifiering eller en federal pausmyndighet skulle möta intensiv lobbying från de labb som den skulle reglera, tillsammans med jurisdiktionsstrider mellan kommittéer. På sidlinjen väntar inte staterna: Kaliforniens guvernör Gavin Newsom undertecknade en svit av AI-säkerhetsräkningar i lag denna vecka, enligt Los Angeles Times, för att hålla uppe trycket för ett federalt ramverk som förebygger ett lapptäcke av statliga regler.

För nu har dynamiken vänt. För första gången på den här kongressen kräver folket som bygger gränsmodeller offentligt restriktioner för sin egen industri - och lagstiftare utarbetar dem.

Huruvida den anpassningen leder till lag eller bara rubriker kommer att bero på de kommande månaderna. Men veckan visade något som varken labben eller deras kritiker kan ignorera: AI-säkerheten har flyttats från seminarierummet till piskräkningen, och medlemmarna som räknar röster säger att det äntligen är deras väljare som ber dem att agera.

AI Buzz Wire kommer att fortsätta spåra Frontier Act när den rör sig genom kongressen.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →