Google DeepMinds vd Demis Hassabis har föreslagit skapandet av ett oberoende, USA-ledd standardiseringsorgan efter FINRA (Financial Industry Regulatory Authority) för att utvärdera och reglera frontier AI-modeller innan offentlig publicering, varning för att mänskligheten har ett "dyrbart fönster" för att säkerställa att artificiell allmän intelligens utvecklas på ett säkert sätt.

I ett ramdokument med titeln "A Framework for Frontier AI and the Dawning of a New Age", som publicerades den X på tisdagsmorgonen, lade Hassabis fram ett detaljerat förslag för hur USA skulle kunna etablera en trovärdig regulatorisk infrastruktur för de mest kraftfulla AI-systemen. Planen kräver en ny organisation som skulle testa gränsmodeller och utveckla bästa praxis för deras implementering – finansierad av AI-industrin men som drivs oberoende av ett enskilt företag.

För de senaste brytande AI-nyheterna och djupgående policyanalyser följer AI Buzz Wire utvecklingen som formar branschen.

Hur det föreslagna standardiseringsorganet skulle fungera

Enligt Hassabis förslag skulle AI-laboratorier frivilligt dela sina gränsmodeller med standardiseringsorganet för granskning upp till 30 dagar före offentlig publicering. Denna bedömning före implementeringen skulle utvärdera modeller för säkerhet, säkerhet och potentiella risker för missbruk. När bedömningsprotokollet har visat sig vara effektivt och robust, föreställer ramverket en formalisering av processen så att gränsmodeller skulle behöva klara det innan de distribueras på den amerikanska marknaden.

Förslaget åtgärdar direkt en lucka som avslöjats av de senaste regeringsgranskningarna av frontier AI-system. Tidigare i år genomförde den amerikanska regeringen ad hoc säkerhetsgranskningar av Anthropics Mythos-modell och OpenAI:s Sol-modell innan deras respektive releaser. Dessa recensioner fick betydande kritik för bristande tekniskt djup och för ogenomskinligt beslutsfattande om när en modell ansågs säker nog för offentlig utbyggnad.

Enligt Hassabis ramar skulle dessa beslut hanteras av en dedikerad organisation bemannad med tekniska experter, uppbackad av den amerikanska regeringen men isolerad från politiska påtryckningar. Labs skulle också behöva samarbeta med standardiseringsorganet för att åtgärda kritiska sårbarheter som upptäckts efter release.

Ett "värdigt fönster" före AGI

I intervjuer med Axios, CNBC och The Economist som åtföljde ramverkets release, betonade Hassabis att det aktuella ögonblicket representerar en knapp möjlighet att etablera styrningsmekanismer innan artificiell allmän intelligens anländer. Han beskrev denna period som ett "dyrbart fönster" - vilket antyder att fönstret inte kommer att förbli öppet på obestämd tid.

Hassabis har länge varit en förespråkare för proaktiv AI-styrning. Hans ramverk anländer mitt i en intensifierad debatt om huruvida USA ska skapa en formell AI-regulator, och i så fall vilken form den ska ha. FINRA-modellen är anmärkningsvärd eftersom finansbranschens självreglerande organisation finansieras av medlemsföretag men verkar under statlig tillsyn, vilket ger den både branschexpertis och offentligt ansvar.

Motstånd från Trump-administrationen

Förslaget möter betydande politisk motvind. Trumpadministrationen har signalerat djup skepsis mot att skapa nya tillsynsorgan för artificiell intelligens. Vita husets AI-rådgivare och a16z generalpartner Sriram Krishnan – som sedan har lämnat sin roll – avfärdade offentligt idén om en AI-regulator inom den verkställande grenen, och sa rakt ut att "det kommer inte att finnas en FDA för AI."

Den hållningen har placerat administrationstjänstemän i konflikt med några av branschens mest framstående ledare. Medan företag som Anthropic och OpenAI har ett brett stöd för säkerhetstester före implementering, är mekanismen och auktoriteten för sådana tester fortfarande omtvistade. Hassabis förslag försöker trä denna nål genom att positionera standardiseringsorganet som industrifinansierat och frivilligt till en början, med formalisering först efter att processen har bevisat sitt värde.

Bygger på befintliga ansträngningar

Ramverket börjar inte om från början. Den bygger på de frivilliga åtaganden som flera ledande AI-företag redan har gjort gällande säkerhetstester och red-teaming. Den bygger också på internationella ansträngningar, inklusive Storbritanniens AI Safety Institute och G7:s Hiroshima AI Process, som har etablerat preliminära ramar för att utvärdera avancerade modeller.

Hassabis förslag går dock längre genom att efterlysa en permanent organisation med goda resurser med mandat att testa alla gränsmodeller innan de släpps – en kontrollnivå som inget nuvarande organ tillhandahåller. FINRA-liknelsen antyder en skalad, professionell verksamhet med hundratals tekniska experter, inte en liten rådgivande panel.

Förslaget tar också upp övervakning efter implementering, vilket kräver att laboratorier arbetar med standardorganet om sårbarheter som upptäckts efter att en modell är allmänt tillgänglig. Detta återspeglar en växande insikt om att säkerhetsrisker inte upphör vid lanseringen, vilket framgår av jailbreaks och fall av missbruk som har dykt upp efter flera högprofilerade modellsläpp.

Industrins svar och nästa steg

Ramverket har skapat stor uppmärksamhet i hela AI-policygemenskapen. Supportrar hävdar att en trovärdig testregim före utplacering kan bygga allmänhetens förtroende för gränsmodeller och minska risken för katastrofalt missbruk. Kritiker, inklusive vissa frimarknadsförespråkare, varnar för att ett obligatoriskt testkrav kan förankra stora etablerade operatörer genom att skapa regulatoriska hinder för mindre företag och utvecklare med öppen källkod.

Hassabis förslag specificerar inte vilka modeller som skulle kvalificera sig som "gränsöverskridande" - en tröskelfråga som kommer att avgöra omfattningen av eventuella framtida regleringssystem. Det lämnar också öppet hur standardiseringsorganet skulle hantera klassificerade applikationer eller applikationer med dubbla användningsområden, särskilt med tanke på den senaste tidens oro över AI-modeller som används för att knäcka sekretessbelagda amerikanska system.

Tidpunkten för förslaget är medveten. Med AGI som framstår som alltmer rimligt inom de närmaste åren, pressar Hassabis på att förvaltningsinfrastrukturen måste byggas nu, inte efter att en farlig förmåga har dykt upp. Om Washington kommer att agera på hans uppmaning återstår att se.

Ligg före AI

Besök AI Buzz Wire för omfattande täckning av AI-policy, reglering och branschutveckling.

Läs mer AI-nyheter →