Generální ředitel společnosti Google DeepMind Demis Hassabis navrhl vytvoření nezávislého standardizačního orgánu pod vedením USA po vzoru Úřadu pro regulaci finančního průmyslu (FINRA), který by vyhodnotil a reguloval hraniční modely umělé inteligence před zveřejněním, přičemž varoval, že lidstvo má „vzácné okno“, aby zajistilo bezpečný vývoj umělé inteligence.

V rámcovém dokumentu s názvem „Framework for Frontier AI and the Dawning of a New Age“, publikovaném na X v úterý ráno, Hassabis předložil podrobný návrh, jak by Spojené státy mohly vytvořit důvěryhodnou regulační infrastrukturu pro nejvýkonnější systémy AI. Plán vyžaduje novou organizaci, která by testovala hraniční modely a vyvíjela osvědčené postupy pro jejich nasazení – financovaná průmyslem AI, ale provozovaná nezávisle na jakékoli jednotlivé společnosti.

Pro nejnovější nejnovější zprávy o AI a hloubkovou analýzu zásad sleduje AI Buzz Wire vývoj, který utváří toto odvětví.

Jak by navrhovaná norma fungovala

Podle Hassabisova návrhu by laboratoře umělé inteligence dobrovolně sdílely své hraniční modely s normalizačním orgánem ke kontrole až 30 dní před zveřejněním. Toto posouzení před nasazením by vyhodnotilo modely pro bezpečnost, zabezpečení a potenciální rizika zneužití. Jakmile se protokol hodnocení osvědčí jako účinný a robustní, rámec předpokládá formalizaci procesu tak, aby hraniční modely musely projít před nasazením na americký trh.

Návrh přímo řeší mezeru, kterou odhalily nedávné vládní revize hraničních systémů umělé inteligence. Začátkem tohoto roku provedla vláda USA ad hoc bezpečnostní kontroly modelu Mythos společnosti Anthropic a modelu Sol společnosti OpenAI před jejich vydáním. Tyto recenze vyvolaly značnou kritiku za nedostatek technické hloubky a za neprůhledné rozhodování o tom, kdy byl model považován za dostatečně bezpečný pro veřejné nasazení.

Podle Hassabisova rámce by tato rozhodnutí řešila specializovaná organizace složená z technických expertů, podporovaná americkou vládou, ale izolovaná od politického tlaku. Laboratoře by také musely spolupracovat s normalizačním orgánem na řešení kritických zranitelností objevených po vydání.

„Vzácné okno“ před AGI

V rozhovorech s Axios, CNBC a The Economist, které doprovázely vydání rámce, Hassabis zdůraznil, že současná chvíle představuje úzkou příležitost k vytvoření mechanismů řízení předtím, než dorazí umělá obecná inteligence. Popsal toto období jako „vzácné okno“ – což znamená, že okno nezůstane otevřené donekonečna.

Hassabis je dlouhodobě zastáncem proaktivního řízení AI. Jeho rámec přichází uprostřed sílící debaty o tom, zda by Spojené státy měly vytvořit formální regulátor AI, a pokud ano, jakou formu by měl mít. Model FINRA je pozoruhodný, protože samoregulační organizace finančního odvětví je financována členskými firmami, ale funguje pod vládním dohledem, což jí dává jak odbornost v oboru, tak veřejnou odpovědnost.

Odpor Trumpovy administrativy

Návrh čelí výrazným politickým protivětrům. Trumpova administrativa naznačila hlubokou skepsi vůči vytváření nových regulačních orgánů pro umělou inteligenci. Poradce Bílého domu pro umělou inteligenci a generální partner a16z Sriram Krishnan – který mezitím opustil svou roli – veřejně odmítl myšlenku regulátora umělé inteligence v rámci výkonné moci a bez obalu uvedl, že „pro umělou inteligenci nebude existovat FDA“.

Tento postoj postavil úředníky administrativy do sporu s některými z nejvýznamnějších vůdců tohoto odvětví. Zatímco společnosti jako Anthropic a OpenAI široce podporují bezpečnostní testování před nasazením, mechanismus a pravomoc pro takové testování zůstávají sporné. Hassabisův návrh se pokouší navléknout tuto jehlu tím, že normalizační orgán nejprve staví jako financovaný průmyslem a dobrovolný, přičemž formalizace přichází až poté, co proces prokáže svou hodnotu.

Stavíme na stávajícím úsilí

Rámec nezačíná od nuly. Staví na dobrovolných závazcích, které již přijalo několik společností hraničních AI ohledně testování bezpečnosti a red-teamingu. Čerpá také z mezinárodního úsilí, včetně britského AI Safety Institute a G7's Hiroshima AI Process, které vytvořily předběžné rámce pro hodnocení pokročilých modelů.

Hassabisův návrh jde však ještě dále a požaduje stálou organizaci s dobrými zdroji s mandátem testovat každý hraniční model před vydáním – úroveň kontroly, kterou žádný současný orgán neposkytuje. Analogie FINRA navrhuje škálovaný, profesionální provoz se stovkami technických odborníků, nikoli malý poradní panel.

Návrh se také zabývá monitorováním po nasazení a vyžaduje, aby laboratoře spolupracovaly s normalizačním orgánem na zranitelnostech objevených poté, co je model veřejně dostupný. To odráží rostoucí poznání, že bezpečnostní rizika nekončí uvedením na trh, jak dokazují útěky z vězení a případy zneužití, které se objevily po několika vydáních vysoce profilovaných modelů.

Reakce průmyslu a další kroky

Rámec vyvolal značnou pozornost napříč komunitou politik AI. Zastánci tvrdí, že důvěryhodný režim testování před nasazením by mohl vybudovat důvěru veřejnosti v hraniční modely a snížit riziko katastrofického zneužití. Kritici, včetně některých zastánců volného trhu, varují, že požadavek na povinné testování by mohl upevnit velké společnosti na trhu vytvořením regulačních překážek pro menší společnosti a open-source vývojáře.

Hassabisův návrh nespecifikuje, které modely by se kvalifikovaly jako „hraniční“ – prahová otázka, která určí rozsah jakéhokoli budoucího regulačního režimu. Ponechává také otevřené, jak by normalizační orgán zacházel s klasifikovanými aplikacemi nebo aplikacemi dvojího použití, zejména s ohledem na nedávné obavy z modelů umělé inteligence, které se používají k prolomení klasifikovaných amerických systémů.

Načasování návrhu je záměrné. Vzhledem k tomu, že AGI se během několika příštích let jeví jako stále věrohodnější, Hassabis naléhá na to, že infrastruktura řízení musí být vybudována nyní, nikoli poté, co se objeví nebezpečná schopnost. Zda Washington na jeho výzvu zareaguje, se teprve uvidí.

Udržujte si náskok před AI

Komplexní pokrytí zásad AI, nařízení a vývoje v oboru naleznete na [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →