Bílý dům zkoumá plány na vytvoření nezávislého regulátora věnovaného policejní bezpečnosti umělé inteligence, což je krok, který by mohl změnit způsob, jakým federální vláda dohlíží na hraniční modely umělé inteligence od společností jako OpenAI a Anthropic. Návrh, o kterém poprvé informovala agentura Bloomberg News, následuje po narůstajících stížnostech ze Silicon Valley na nedávná a někdy nepředvídatelná omezení vlády na nové systémy AI.

FINRA pro AI

Podle zdrojů obeznámených se záležitostí, které hovořily s agenturou Bloomberg, plán v současné době přezkoumává šéfka Bílého domu Susie Wilesová. Vytvořila by nezávislý regulační orgán zaměřený konkrétně na umělou inteligenci, který by byl podřízen Komisi pro cenné papíry a burzy, ve struktuře po vzoru Úřadu pro regulaci finančního odvětví neboli FINRA.

FINRA je samoregulační organizace, která dohlíží na makléřské firmy a burzovní trhy ve Spojených státech. Převedení tohoto modelu na AI by znamenalo vytvoření entity s pravomocí stanovovat standardy, provádět kontroly a prosazovat dodržování předpisů mezi společnostmi vyvíjejícími pokročilé modely. Cílem je podle zdrojů Bloombergu přinést konzistenci a předvídatelnost do procesu dohledu, který frustroval jak technologické společnosti, tak firmy z Wall Street.

Návrh přichází ve chvíli mimořádného napětí mezi federální vládou a průmyslem AI. Minulý měsíc vláda vydala vývozní kontroly proti Anthropic, které donutily společnost dočasně deaktivovat své modely Fable 5 a Mythos 5. Samostatně bylo OpenAI nuceno provést velké změny ve svém nejnovějším modelu Sol před vydáním na žádost vlády. Obě společnosti proti rozhodnutím protestovaly a tvrdily, že jsou nepřiměřená vzhledem k bezpečnostním problémům, které jsou v sázce.

Proč ten tlak na strukturovaný dohled

Zájem Bílého domu o specializovaný regulátor AI odráží rostoucí uznání, že současný ad-hoc přístup k dohledu je neudržitelný. V rámci stávajícího rámce vláda použila kombinaci výkonných příkazů, kontrol exportu a dobrovolných dohod k ovlivnění toho, jak a kdy společnosti AI uvolní své nejvýkonnější modely. Tato mozaika však vyvolala kritiku z mnoha stran.

Technické společnosti tvrdí, že nekonzistentní dohled ztěžuje plánování produktových plánů, protože pravidla se mohou změnit náhle a bez jasných procedurálních standardů. Firmy z Wall Street mezitím naléhaly na vládu, aby přijala důraznější opatření v oblasti rizik kybernetické bezpečnosti řízená umělou inteligencí, a varují, že nekontrolované možnosti modelu by mohly umožnit sofistikované útoky na finanční infrastrukturu.

Zdroje Bloombergu uvedly, že návrh je navržen tak, aby řešil oba problémy, poskytuje více jistoty pro vývojáře AI a zároveň vytváří formální mechanismus pro hodnocení a zmírňování rizik. Vytvořením entity podobné FINRA správa doufá, že se posune od reaktivních intervencí k proaktivnímu regulačnímu režimu s definovanými procesy a odpovědností.

Echoes of Hassabis's Call for Standards

Jednání Bílého domu přichází jen pár dní poté, co generální ředitel Google DeepMind Demis Hassabis veřejně vyzval normalizační orgán vedený Spojenými státy, aby před jejich vydáním nezávisle otestoval pokročilé modely umělé inteligence pro hrozby národní bezpečnosti. V poznámkách, o nichž informoval Financial Times, Hassabis varoval, že umělá obecná inteligence schopná porovnat se s lidským mozkem v širokém spektru úkolů je pravděpodobně vzdálena jen několik málo let, což společnosti ponechává vzácné okno k vytvoření dohledu.

Hassabis konkrétně navrhl modelování organizace na FINRA, stejném rámci, který je nyní zvažován v Bílém domě. Navrhl, že systém iniciovaný USA by se mohl stát základem pro mezinárodní standardy, protože vlády čelí rizikům ze stále schopnějších systémů umělé inteligence.

Konvergence mezi Hassabisovým návrhem a vnitřními úvahami Bílého domu naznačuje rostoucí konsensus ohledně modelu FINRA, i když podrobnosti o rozsahu, pravomoci a vymáhání je třeba ještě vyjednat.

Stávající dohled před vydáním

Vláda již podnikla kroky k předběžnému dohledu. Výkonný příkaz vydaný v červnu požadoval dobrovolný přístup k modelům krytých hranic po dobu až 30 dnů před vydáním, což federálním úředníkům umožnilo změřit pokročilé kybernetické schopnosti. Google DeepMind, Microsoft a xAI souhlasily s předložením modelů pro federální testování národní bezpečnosti v rámci tohoto rámce.

Tato opatření však zůstávají dobrovolná a jejich rozsah je omezený. Specializovaný regulátor by měl mnohem širší pravomoc vynucovat transparentnost, nařizovat bezpečnostní testování a vynucovat dodržování předpisů, což by zásadně změnilo vztah mezi společnostmi AI a federální vládou.

Co přijde dál

Návrh je stále v rané fázi a není zaručeno, že bude pokračovat ve své současné podobě. Vytvoření nového regulačního subjektu vyžaduje akci Kongresu a politická dynamika kolem regulace AI zůstává proměnlivá. Zákonodárci uspořádali řadu slyšení o bezpečnosti umělé inteligence, ale ještě musí přijmout komplexní legislativu.

Přesto skutečnost, že Bílý dům aktivně zvažuje regulátor ve stylu FINRA, signalizuje posun v ambicích. Spíše než se spoléhat na exekutivní příkazy a případ od případu zásahy se zdá, že administrativa prozkoumává trvalejší institucionální rámec pro dohled nad umělou inteligencí, takový, který by mohl přečkat jakoukoli jednotlivou administrativu a zajistit konzistenci, kterou požadují lídři v oboru.

Pro společnosti s umělou inteligencí je vyhlídka specializovaného regulátora dvousečná zbraň. Mohlo by to přinést předvídatelnost, o kterou žádali, ale mohlo by to také zavést novou zátěž související s dodržováním předpisů, požadavky na podávání zpráv a zpoždění při uvádění produktů na trh. To, jak budou tyto kompromisy vyváženy, bude v nadcházejících letech utvářet konkurenční prostředí v odvětví umělé inteligence.

Udržujte si náskok před AI

Pro průběžné pokrytí regulace AI, vládních politik a rámců dohledu, které utvářejí toto odvětví, sledujte AI Buzz Wire, kde budete informovat o rozhodnutích, na kterých záleží.

Přečtěte si další zprávy o zásadách AI →