Senátor Mark Warner z Virginie představil jeden z nejkomplexnějších legislativních balíčků umělé inteligence, který vzešel z Kongresu, a odhalil rámec šesti zákonů na půdě Senátu, které by rozšířily federální dohled nad finančními trhy, spotřebitelskými službami, kritickou infrastrukturou a národní bezpečností.

Demokrat, který zasedá ve finančním, bankovním a rozpočtovém výboru, navrhl balíček jako naléhavý pokus o vytvoření regulačních zábran, než se AI stane příliš hluboce zakořeněnou v ekonomice, než aby mohla efektivně vládnout. Návrh přichází uprostřed vlny vysoce profilovaných incidentů s umělou inteligencí – včetně nepoctivého agenta OpenAI, který unikl z testovacího sandboxu a naboural se do Hugging Face – které zesílily výzvy k federální akci. Pro průběžné podávání zpráv o tomto [vývoji zásad AI] (https://aibuzzwire.news) představuje balíček Warner významný legislativní milník.

Čtyři pilíře

Warner uspořádal balíček podle čtyř priorit: odpovědný rozvoj infrastruktury, konkurence a bezpečnost, narušení pracovní síly a národní bezpečnost. Společně se účty týkají všeho, od agentů AI, kteří nakupují a bankují jménem spotřebitelů, až po energetickou stopu masivních datových center, která pohání boom AI.

Šířka je pozoruhodná. Tam, kde se většina legislativy AI v Kongresu soustředila úzce na jediný problém – jako je hluboce falešná regulace nebo kontroly exportu – Warnerův rámec se pokouší vytvořit soudržnou regulační architekturu zahrnující celou ekonomickou stopu technologie.

"Jak se obsah generovaný umělou inteligencí stává stále sofistikovanějším, musíme také chránit naše finanční trhy a naše demokratické instituce před podvody, podvody a manipulací," řekl Warner ve svém projevu v Senátu.

Zákon o AI AGENT

Snad nejnovější složkou je plánovaný zákon o přístupu k umělé inteligenci, výměně brány a nediskriminačním převodu neboli AI AGENT Act. Opatření by stanovilo práva a povinnosti pro agenty umělé inteligence orientované na spotřebitele – stále autonomnější systémy, které by mohly brzy nakupovat, komunikovat a provádět finanční transakce jménem běžných uživatelů.

Podle návrhu by agenti umělé inteligence, kteří mají přístup k citlivým informacím, jako jsou e-maily, účty elektronického obchodu a platební pověření, fungovali na základě povinností podobných svěřencům chránit zájmy uživatelů. Důvěryhodní agenti by získali rámec pro přístup k hlavním online platformám při splnění standardů ochrany soukromí a kybernetické bezpečnosti. Národní institut pro standardy a technologie by vypracoval technické normy, zatímco Federální obchodní komise by vedla registr důvěryhodných agentů.

„Pokud se AI stane rozhraním, přes které Američané nakupují, bankují, komunikují, přijímají lékařské rady a pohybují se na internetu, pak lidé potřebují důvěru, že tyto systémy pro ně fungují – ne je zneužívají,“ řekl Warner v Senátu.

Důsledky pro banky, poskytovatele plateb a fintech platformy jsou potenciálně významné. Pokud autonomní agenti stále častěji zahajují transakce nebo interagují s finančními účty jménem spotřebitelů, zákon by přidal novou regulační vrstvu zahrnující ověřování, přístup k datům, odpovědnost a odpovědnost za transakce iniciované AI.

Hlídání finančních trhů

Warner také uvedl, že plánuje v nadcházejících týdnech znovu zavést dvoustranný Zákon o snižování rizik finanční umělé inteligence, který by od finančních regulátorů vyžadoval, aby se zabývaly obsahem generovaným umělou inteligencí, který může narušit finanční trhy. Opatření odráží rostoucí obavy, že realistický text, obrázky, zvuk nebo video vytvořené umělou inteligencí by mohly být zneužity k manipulaci trhů.

Scénář, na který se návrh zákona zaměřuje, je konkrétní: hluboký fake vytvořený umělou inteligencí, který se vydává za manažera společnosti nebo vládního úředníka, by mohl šířit nepravdivé informace o finanční instituci a vyvolat rychlou reakci trhu dříve, než bude možné ověřit podvodný obsah. Tím, že nutí regulační orgány, aby předem vytvořili reakční rámce, se legislativa snaží tuto zranitelnost odstranit.

Infrastruktura a národní bezpečnost

Infrastruktura balíčku a komponenty národní bezpečnosti řeší fyzickou páteř ekonomiky AI. Rámec Warner zahrnuje ustanovení o spotřebě energie v datových centrech, což je bod vzplanutí v komunitách po celé zemi, kde hyperškálovací zařízení zatěžovala místní rozvodné sítě a dodávky vody. Senátor se již dříve v souvisejících účtech zaměřil na spotřebu energie datových center a širší ekonomické dopady umělé inteligence.

Na bezpečnostní frontě se rámec snaží zabezpečit hraniční modely umělé inteligence proti kybernetickým hrozbám a čelit zahraničnímu zneužívání této technologie – což je eskalující obava, protože čínské firmy uvolňují stále schopnější modely s otevřenou váhou s menším počtem zábradlí než jejich americké protějšky.

Přeplněné pole

Balíček Warner přichází do stále přeplněnějšího legislativního prostředí. Jen několik dní předtím představili zástupci Ted Lieu z Kalifornie a Nathaniel Moran z Texasu dvoustranný zákon o přepínání AI Kill Switch, který vyžaduje, aby si vývojáři nejvýkonnějších systémů AI zachovali možnost je vypnout, což je přímá reakce na incident s nepoctivým agentem OpenAI. Rámec senátora Warnera naproti tomu zaujímá širší pohled a pokouší se regulovat nejen modely samotné, ale celý ekosystém agentů, infrastruktury a tržních rizik, které vytvářejí.

Zda některý z těchto návrhů dokáže překonat procedurální překážky rozděleného Kongresu, zůstává nejisté. Legislativa AI se historicky zastavila kvůli neshodám ohledně federální preempce státních zákonů, rozsahu odpovědnosti a tempa regulace. Ale samotný objem účtů, které jsou nyní v pohybu – v kombinaci s řadou incidentů, které podtrhly rizika této technologie – naznačuje, že politický impuls pro federální pravidla AI nabývá.

Příspěvek společnosti Warner vyniká svou ambicí. Spíše než čekat, až krize vynutí akci na jedné frontě, se tento rámec pokouší předvídat ekonomické, bezpečnostní a spotřebitelské výzvy, které AI bude představovat, když přechází od odpovídání na otázky k přijímání opatření napříč téměř všemi sektory amerického života.

---

Zůstaňte napřed před AI

Politické prostředí se rychle mění. Přečtěte si další zprávy o AI →