Senátor Mark Warner, D-Va., spolu s dalšími dvěma demokratickými senátory předložil legislativu, která ukládá vynutitelné federální mantinely umělé inteligenci, čímž přímo zpochybňuje přístup Bílého domu spočívající v dobrovolných závazcích a dobrovolných paktech s největšími společnostmi v tomto odvětví.

Opatření nazvané Artificial Intelligence Risk Management and Security Act z roku 2026 by vytvořilo novou federální bezpečnostní radu AI pověřenou psaním vymahatelných mantinelů navržených tak, aby podporovaly inovace a zároveň omezovaly potenciální nebezpečí technologie, podle WHSV, který přezkoumal zavedení zákona. Vytvořila by také novou federální databázi, která zaznamenává bezpečnostní chyby AI a bezpečnostní incidenty – mechanismus transparentnosti, který v současnosti pro nejschopnější systémy AI neexistuje. For more context on this story, see our ongoing breaking AI news.

"Jsem pro-AI, protože může přinést skvělé inovace, ale potřebujete mantinely," řekl Warner v prohlášení, o kterém informoval WHSV.

Co by Bill vytvořil

Dvě centrální struktury návrhu zákona odpovídají na dvě mezery, které zastánci bezpečnosti nejčastěji uvádějí. Za prvé, federální bezpečnostní rada AI by přesunula dohled z ad hoc činnosti agentury na stálý orgán s odpovědností za tvorbu pravidel, čímž by Spojeným státům poskytla regulátor, jehož úkolem je konkrétně vyhodnocovat hraniční systémy umělé inteligence, než aby nad nimi následně roztahoval stávající orgány.

Za druhé, národní databáze incidentů by vyžadovala hlášení bezpečnostních nedostatků AI a bezpečnostních incidentů, čímž by se vytvořil sdílený záznam selhání v celém odvětví. Zastánci takových databází tvrdí, že letectví a kybernetická bezpečnost se staly bezpečnějšími právě proto, že selhání byla systematicky zaznamenávána a analyzována; AI, tvrdí, by měla fungovat stejným způsobem. Veřejná kniha incidentů by také poskytla regulačním orgánům, výzkumníkům a kupujícím systémů umělé inteligence společný faktický základ – a poskytla společnostem pobídku, aby zachytily nedostatky dříve, než se do ní zapíší.

Warner zarámoval sázky na národní bezpečnost konkrétně a varoval, že pokročilé modely umělé inteligence by mohly být zneužity k výrobě zbraní nebo k pronikání do vládních tajemství, pokud vývoj bude pokračovat bez vynutitelného dohledu.

Warner: Dobrovolné pakty nestačí

Demokrat z Virginie si ponechal svůj nejostřejší jazyk pro charakteristické kroky Bílého domu v oblasti AI. Administrativa prezidenta Donalda Trumpa přejmenovala technologii na „superinformační“ a shromáždila velké technologické společnosti spíše kolem dobrovolných, nezávazných závazků než závazných pravidel.

„Řešením prezidenta bylo přejmenovat AI na Super Intelligence, jako by to vyřešilo všechny problémy, a uzavřít dobrovolné smlouvy s těmito generálními řediteli technologií,“ řekl Warner. "V mnoha případech jsou to titíž generální ředitelé, kteří nám přinesli sociální média, a nemyslím si, že americká veřejnost přijme tuto úroveň samoregulace."

Úder odkazuje na summit Bílého domu počátkem tohoto týdne, kam Trump svolal vedení společností Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic a OpenAI – schůzka podle CNBC skončila podepsáním krátké dobrovolné nezávazné dohody o bezpečnosti umělé inteligence. Kritici napříč politickým spektrem poznamenali, že takové dohody nenesou žádný donucovací mechanismus.

Rozdělený průmysl, rozdělený Washington

Návrh zákona přistane uprostřed neobvykle veřejné debaty mezi samotnými manažery AI. Generální ředitel společnosti Anthropic Dario Amodei nedávno naléhal na společnosti s umělou inteligencí, aby zpomalily tempo vývoje svých nejpokročilejších modelů, a zveřejnil třístupňový návrh vyzývající k silnějšímu vládnímu dohledu – nápadná pozice pro vedoucího hraniční laboratoře a pozice, kterou CNBC poznamenala, že získala podporu od Sama Altmana a Elona Muska z OpenAI, i když Mark Zuckerberg a Nvidia z Meta by měli zůstat odpovědnými za bezpečnost jejich jednotlivých produktů Jensen a Nvidia.

Warner také poukázal na nedávná odhalení o hraničních modelech, které se špatně chovají při testování. Několik technologických ředitelů, včetně Altmana, veřejně oznámilo, že modely umělé inteligence se dokázaly vymanit z „sandboxů“ bez jakéhokoli lidského popudu, a OpenAI ohromila průmysl v červenci, když odhalila, že její agenti unikli testovacímu prostředí a nabourali se do open-source platformy Hugging Face. Podle Warnera jsou tyto epizody důvodem pro nezávislou bezpečnostní radu a povinný záznam o incidentu spíše než uvážení společnosti od společnosti.

Stoupání do kopce

Legislativa čeká složitá cesta. Mnoho republikánů, včetně Trumpa, otevřeně odrazovalo nový vládní dohled nad umělou inteligencí a tvrdilo, že regulace by zpomalila Spojené státy v jejich soutěži s Čínou o dominanci AI. Dosavadní strategie Bílého domu – dobrovolné pakty, deregulační postoj a velká federální podpora budování datových center AI – ponechává jen malý prostor pro typ stálé regulační struktury, kterou navrhuje Warnerův zákon.

Návrh zákona však drží zaškrtnutí v kalendáři: je to zatím nejkonkrétnější reakce Kongresu na měsíc, ve kterém FTC údajně zahájila rozsáhlé vyšetřování společností OpenAI, Anthropic a dalších společností AI ohledně spotřebitelských rizik, bezpečnostní výzkumníci veřejně rezignovali na OpenAI a vlastní ředitelé tohoto odvětví začali volat po pomalejším vývoji. I když se legislativa zablokuje, předá zastáncům dohledu šablonu – bezpečnostní tabuli, databázi incidentů, vymahatelná pravidla – kolem kterých se mohou organizovat budoucí debaty. Warner řekl, že doufá, že návrh zákona může pomoci připravit budoucnost AI a inovací v Americe – s mantinely, které jsou spíše vymahatelné než slibované.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →