Vita huset väger regulator i FINRA-stil för att polisa AI-modeller när teknisk industri driver tillbaka

Vita huset undersöker planerna på att skapa en oberoende regulator dedikerad till att bevaka säkerheten med artificiell intelligens, ett drag som kan omforma hur den federala regeringen övervakar frontier AI-modeller från företag som OpenAI och Anthropic. Förslaget, som först rapporterades av Bloomberg News, följer på ökande klagomål från Silicon Valley om regeringens senaste och ibland oförutsägbara begränsningar av nya AI system.

En FINRA för AI

Enligt källor som är bekanta med saken och som talade med Bloomberg, granskas planen för närvarande av Vita husets stabschef Susie Wiles. Det skulle inrätta ett oberoende tillsynsorgan specifikt fokuserat på artificiell intelligens, rapporterande till Securities and Exchange Commission, i en struktur som är modell för Financial Industry Regulatory Authority, eller FINRA.

FINRA är en självreglerande organisation som övervakar mäklarfirmor och börsmarknader i USA. Att översätta den modellen till AI skulle innebära att skapa en enhet med befogenhet att sätta standarder, genomföra undersökningar och upprätthålla efterlevnad bland företag som utvecklar avancerade modeller. Målet, enligt Bloombergs källor, är att skapa konsekvens och förutsägbarhet i en tillsynsprocess som har frustrerat både teknikföretag och Wall Street-företag.

Förslaget kommer i ett ögonblick av extraordinära spänningar mellan den federala regeringen och AI-industrin. Förra månaden utfärdade regeringen exportkontroller mot Anthropic som tvingade företaget att tillfälligt inaktivera sina Fable 5- och Mythos 5-modeller. Separat var OpenAI tvungen att göra stora förändringar i sin nyaste Sol-modell innan den släpptes på regeringens begäran. Båda företagen protesterade mot besluten och hävdade att de var överdrivna med tanke på säkerhetsfrågorna som stod på spel.

Varför strävan efter strukturerad tillsyn

Vita husets intresse för en dedikerad AI-regulator speglar ett växande insikt om att den nuvarande ad-hoc-metoden för tillsyn är ohållbar. Under det befintliga ramverket har regeringen använt en kombination av exekutiva order, exportkontroller och frivilliga avtal för att påverka hur och när AI-företag släpper sina mest kraftfulla modeller. Men detta lapptäcke har väckt kritik från flera håll.

Teknikföretag hävdar att inkonsekvent tillsyn gör det svårt att planera produktfärdplaner, eftersom regler kan ändras plötsligt och utan tydliga procedurstandarder. Wall Street-företag har under tiden pressat regeringen att vidta starkare åtgärder mot AI-drivna cybersäkerhetsrisker och varnat för att okontrollerade modellfunktioner kan möjliggöra sofistikerade attacker mot finansiell infrastruktur.

Bloombergs källor sa att förslaget är utformat för att ta itu med båda problemen, ge mer säkerhet för AI-utvecklare samtidigt som det etablerar en formell mekanism för att utvärdera och mildra risker. Genom att skapa en FINRA-liknande enhet hoppas administrationen kunna skifta från reaktiva interventioner till ett proaktivt regelverk med definierade processer och ansvarsskyldighet.

Ekon av Hassabis krav på standarder

Vita husets överläggningar kommer bara några dagar efter att Google DeepMinds vd Demis Hassabis offentligt uppmanade ett USA-ledd standardiseringsorgan att självständigt testa avancerade AI-modeller för nationella säkerhetshot innan de släpps. I kommentarer rapporterade av Financial Times varnade Hassabis för att artificiell allmän intelligens som kan matcha den mänskliga hjärnan över ett brett spektrum av uppgifter förmodligen bara är några korta år bort, vilket lämnar samhället ett värdefullt fönster för att etablera tillsyn.

Hassabis föreslog specifikt att modellera organisationen på FINRA, samma ram som nu övervägs i Vita huset. Han föreslog att ett USA-initierat system skulle kunna bli grunden för internationella standarder när regeringar konfronteras med risker från alltmer kapabla AI-system.

Konvergensen mellan Hassabis förslag och Vita husets interna överläggningar tyder på växande konsensus kring FINRA-modellen, även om detaljerna om omfattning, auktoritet och verkställighet återstår att förhandla om.

Befintlig Prerelease-övervakning

Regeringen har redan vidtagit åtgärder mot förhandstillsyn. En exekutiv order utfärdad i juni sökte frivillig tillgång till täckta gränsmodeller i upp till 30 dagar före release, vilket gör det möjligt för federala tjänstemän att bedöma avancerade cyberkapaciteter. Google DeepMind, Microsoft och xAI gick alla med på att skicka in modeller för federala nationella säkerhetstester under ramverket.

Dessa åtgärder förblir dock frivilliga och begränsade i omfattning. En dedikerad tillsynsmyndighet skulle ha mycket bredare befogenheter för att tvinga fram transparens, föreskriva säkerhetstester och upprätthålla efterlevnad, vilket i grunden förändrar förhållandet mellan AI-företag och den federala regeringen.

Vad kommer härnäst

Förslaget är fortfarande i ett tidigt skede och det finns ingen garanti för att det kommer att utvecklas i sin nuvarande form. Att skapa en ny reglerande enhet kräver kongressåtgärder, och den politiska dynamiken kring AI-reglering förblir flytande. Lagstiftare har hållit många utfrågningar om AI-säkerhet men har ännu inte antagit heltäckande lagstiftning.

Ändå signalerar det faktum att Vita huset aktivt väger en regulator i FINRA-stil en förändring i ambitionen. I stället för att förlita sig på verkställande order och ingripanden från fall till fall, verkar administrationen undersöka en mer permanent institutionell ram för AI-tillsyn, en som skulle kunna bestå en enskild administration och ge den konsekvens som branschledare har krävt.

För AI-företag är utsikterna till en dedikerad regulator ett tveeggat svärd. Det kan ge den förutsägbarhet de har bett om, men det kan också införa nya krav på efterlevnad, rapporteringskrav och förseningar i att få ut produkter på marknaden. Hur dessa avvägningar är balanserade kommer att forma det konkurrenskraftiga landskapet för AI-industrin i många år framöver.

Ligg före AI

Följ AI Buzz Wire för att få en löpande bevakning av AI-reglering, regeringens policy och de tillsynsramverk som formar branschen för att rapportera om de beslut som är viktiga.

Läs mer AI-policynyheter →