Společnost Antropic předkládá Kongresu svůj vlastní zákon o bezpečnosti umělé inteligence s limitem škody ve výši 1 miliardy dolarů

Společnost Anthropic v tichosti nabádá americké zákonodárce k návrhu federální legislativy, která by vládě umožnila zablokovat vydání modelu umělé inteligence – ale pouze za nejextrémnějších okolností, uvádí zpráva Politico.

Předběžný návrh, který Politico podle svých slov viděl, by povolil federální zásah pouze v případě, že model představuje předvídatelné, bezprostřední riziko škod ve výši více než 1 miliardy dolarů nebo zabití nebo vážné poškození více než 50 lidí. Rámec odráží snahu společnosti Anthropic utvářet pravidla, jimiž se řídí její vlastní průmysl, dříve, než je napíší ostatní – úsilí, které společnost potvrzuje, že běží od června.

Co by udělal návrh zákona

Podle návrhu by vláda mohla zablokovat vydání nebo použití modelu umělé inteligence pouze v rámci úzkého souboru katastrofických scénářů. Specifikovaná rizika se musí týkat vytvoření nebo uvolnění biologické zbraně, modelu umělé inteligence, který se vyhýbá kontrolám svého vývojáře, nebo kybernetického útoku.

Hranice jsou záměrně vysoké. Zprávy Politico poznamenávají, že zatímco laboratoře AI zaznamenaly incidenty, kdy jejich agenti nabourali webové stránky nebo se chovali jiným způsobem, žádný incident s umělou inteligencí k dnešnímu dni nezpůsobil rozsáhlé úmrtí ani škody přesahující 1 miliardu dolarů. Jinými slovy, návrh zákona definuje červenou čáru vlády daleko nad místem, kde skutečně dochází k současným selháním.

Tohoto návrhu se již chytili kritici. Tom's Hardware charakterizoval návrh jako návrh, který by „účinně učinil z ministerstva obchodu jedinou agenturu schopnou zastavit model AI“, zatímco Mother Jones popsala prahovou hodnotu zákona pro vládní opatření jako „alarmující“. Příznivci namítají, že vysoká laťka je přesně tím smyslem: cílí na katastrofická, existenční rizika, aniž by rutinní aktualizace modelu podléhala regulačnímu přezkumu.

Nezávislá hodnocení, registrovaná u obchodu

Mechanismus prosazování zákona spočívá na kontrole třetí stranou. Vyžadovalo by to nezávislá hodnocení – registrovaná ministerstvem obchodu – s cílem pravidelně kontrolovat laboratoře umělé inteligence a jejich hraniční modely.

Pokud hodnotitel dospěje k závěru, že hraniční modely společnosti představují „bezprostřední výčetné riziko“, musí hodnotitel toto zjištění oznámit obchodnímu ministerstvu do 72 hodin od dokončení hodnocení, podle Politico. Díky těmto hodinám hlášení a požadavkům na registraci by se z ministerstva obchodu stal centrální uzel federální vlády pro dohled nad AI na hranicích.

Tento přístup odráží směr ostatních připravovaných právních předpisů. Zákon o řízení rizik a bezpečnosti umělé inteligence z roku 2026, který zavedlo trio demokratů v Senátu, podobně uvažuje o hodnocení umělé inteligence zaměřené na obchod. Samostatný návrh zákona od senátorky Marie Cantwellové by pověřil Národní institut pro standardy a technologie vývojem standardů proti katastrofálním škodám AI, zatímco zákon senátora Joshe Hawleyho o hodnocení rizik AI by dal ministerstvu energetiky na starost zátěžové testování nejvýkonnějších systémů před nasazením.

Obrana Anthropic: Rozumná politika, prosazovaná od června

Mluvčí Anthropic pro Politico řekl, že návrh „představuje návrhy nastíněné v pokročilém rámci AI společnosti Anthropic, které od června obhajujeme s federálními a státními zákonodárci,“ a dodal: „Jsou to rozumné politiky, podle kterých by měl Kongres jednat.“

Postavení společnosti je v souladu s jejím veřejným postojem. Společnost Antropic opakovaně tvrdila, že rizika hraniční umělé inteligence jsou reálná, ale úzká – soustředí se na pomoc s biologickými zbraněmi, ztrátu kontroly a útočné kybernetické operace – a že regulace by se měla zaměřit spíše na tyto oblasti než na širokou škálu každodenních aplikací umělé inteligence.

Logickým dalším krokem je sepsání vlastního účtu. Spíše než reagovat na návrhy od ostatních, jazyk Antropických rukou zákonodárců nakalibrovaný na svůj vlastní rámec rizik, s preempcí spletitých státních pravidel, což je implicitní výhoda federální legislativy. Reuters a řada dalších agentur během jednoho dne rozšířily zprávu Politico, což je známkou toho, jak úzce Washington a průmysl AI nyní vzájemně sledují své kroky.

Cesta vpřed v rozděleném Washingtonu

Předloha čelí strmým politickým překážkám bez ohledu na to, která strana ovládá Kongres. Zprávy Politico poznamenávají, že jakýkoli návrh zákona o bezpečnosti AI bude pravděpodobně čelit odmítnutí ze strany Bílého domu, který se stále staví proti povinné regulaci AI a upřednostňuje dobrovolný přístup založený na standardech.

I tak je návrh důležitý jako ukazatel. Kvantifikuje – v dolarech a počtu obětí – kde jedna z předních světových laboratoří AI věří, že hranice mezi přijatelným rizikem a vládní intervencí by měla sedět. Vytváří také referenční bod pro konkurenční účty, které nyní kolují na Capitol Hill, z nichž několik navrhuje mnohem agresivnější dohled s nižšími prahovými hodnotami.

Političtí analytici budou v průběhu debaty sledovat tři věci: zda čísla 50 obětí a 1 miliarda dolarů přežijí kontakt s návrhem Kongresu; zda hodnotitelé registrovaní u Commerce získají skutečnou autoritu nebo pouze poradní roli; a zda federální preempční jazyk absorbuje nebo koliduje se zákony o umělé inteligenci na státní úrovni, které jsou již v knihách uvedeny. Sázka společnosti Anthropic je, že úzký rámec pouze pro katastrofické riziko je verzí regulace, se kterou může průmysl skutečně žít – a že formování tohoto rámce na počátku předčí pozdější zavedení.

Udržujte si náskok před AI

Prostředí umělé inteligence se rychle vyvíjí – sledujte AI Buzz Wire a získejte nejnovější zprávy o AI, verze modelů a průmyslové analýzy.

Přečtěte si další zprávy o AI →