Společnost Anthropic potvrdila, že mezi americkými zákonodárci koluje návrh zákona, který by vytvořil federální mechanismus pro blokování vydávání nebo používání nejvýkonnějších modelů umělé inteligence, což je jeden z nejkonkrétnějších pokusů hraniční laboratoře AI o vytvoření americké regulace. O předloze poprvé informovalo v pátek Politico a mluvčí Antropie potvrdil její existenci agentuře AFP.
Návrh přichází v době, kdy Kongres – politicky rozdělený a silně lobovaný ze strany Big Tech – ještě musí schválit žádný federální zákon o AI a protože přístup Washingtonu za prezidenta Donalda Trumpa se opíral především o dobrovolné průmyslové sliby a exekutivní příkazy, jejichž cílem je udržet rozmach AI, který podle technologických vůdců pohání ekonomiku země. Další kontext k tomuto příběhu najdete v našem přelomové zpravodajství o AI.
Co by udělal návrh zákona
Podle návrhu textu popsaného Politico a AFP by federální vláda mohla zablokovat vydání nebo použití modelu, pokud by hrozilo bezprostřední riziko, že zabije nebo vážně zraní více než 50 lidí nebo způsobí škody za více než 1 miliardu dolarů. Zásadní je, že tato moc by přišla se soudní kontrolou: vláda by mohla jednat pouze se souhlasem soudce.
Zdá se, že tato kombinace – vysoký práh škod plus soudní souhlas – je navržena tak, aby odpověděla kritikům, kteří tvrdí, že extrémní návrhy by předaly výkonné moci velkou moc nad průmyslem AI. Obchodní publikace pokrývající tento příběh zarámovaly návrh zákona jako plán, který by Washingtonu umožnil zastavit „nebezpečné nasazení“ a zároveň omezit, kdy může vláda vůbec zasáhnout.
Co antropický říká, že to vyžaduje
Mluvčí společnosti řekl agentuře AFP, že návrh „uděluje federální vládě možnost zablokovat nebo odradit nebezpečné nasazení nejvýkonnějších modelů“.
"Požaduje to, aby hraniční vývojáři testovali nejvýkonnější modely, byli transparentní vůči veřejnosti o svých zjištěních, předkládali je nezávislému hodnocení a udržovali robustní bezpečnostní program," řekl mluvčí.
Tyto čtyři povinnosti – testování, veřejná transparentnost, nezávislé hodnocení a zabezpečení – odrážejí bezpečnostní závazky, které Antropic a několik konkurentů již dobrovolně přijalo. Návrh by ve skutečnosti převedl části tohoto dobrovolného režimu na zákon.
Proč se Antropická nyní stěhuje
Načasování je důležité na několika frontách. Kongres je mimo zasedání až po volbách v polovině období příští měsíc, takže žádné hlasování nehrozí – ale okno po polovině období by mohlo znovu otevřít legislativní jednání a laboratoře mají motivaci mít připravený preferovaný text.
Bezpečnost se také ve Washingtonu stala horkým tématem po nedávných odhaleních incidentů způsobených agenty AI – autonomním softwarem, který funguje bez neustálého lidského dohledu –, který se vymkl kontrole jejich vývojářů, jak poznamenala AFP ve své zprávě o návrhu.
Antropická sama o sobě má neobvyklý úhel pohledu. Podle zprávy agentury AFP, kterou přinesl Punch, byla společnost v únoru Trumpovou administrativou zakázána v Pentagonu a v červnu byla Washingtonem nucena pozastavit své nejpokročilejší modely na téměř tři týdny. Generální ředitel Dario Amodei minulý měsíc vyzval průmysl ke zpomalení vývoje a varoval, že skupina agentů AI by mohla převzít kontrolu nad „celým internetem“.
Jinými slovy, společnost, se kterou Washington již zacházel jako se zdrojem rizika, nyní navrhuje právní mašinerii, která by přesně toto riziko hlídala – za podmínek, které sama napsala.
Neobvyklá pozice pro hraniční laboratoř
Lobbování společností AI není nic nového, ale rozšiřování skutečného návrhu statutárního textu je krokem nad rámec pozičních dokumentů a otevřených dopisů. Staví Anthropic do role spoluautora vlastního regulačního režimu a zákonodárcům předává hotový základ, na který nyní budou muset reagovat další laboratoře, skupiny občanské společnosti a obranné agentury.
Reakce bude pravděpodobně rozdělená. Zastánci tvrdé linie, kteří chtějí závazná federální pravidla, mohou kritizovat hranice 1 miliardy dolarů a 50 obětí jako příliš vysoké a požadavek na schválení soudcem jako příliš pomalý pro skutečný stav nouze. Představitelé průmyslu, kteří preferují současný dobrovolný přístup, mohou mít námitky proti kodifikaci jakékoli blokovací síly. Oba tábory nyní mají konkrétní text, o který se mohou dohadovat, což je přesně to, co ve federální debatě chybělo.
Co se stane dál
Návrh zatím nemá žádného identifikovaného sponzora Kongresu a společnost Anthropic veřejně nejmenovala zákonodárce, kteří jej obdrželi. Vzhledem k tomu, že Kongres bude pryč až po polovině období, může mít bezprostřednější dopad na samotnou politickou konverzaci: návrh zákona stanoví referenční bod pro to, co hraniční laboratoř považuje za přijatelný dohled, a jakýkoli konkurenční federální návrh bude nyní poměřován podle něj.
Společnost Antropic odmítla jít nad rámec prohlášení svého mluvčího ve zprávě AFP. Tento příběh bude aktualizován, jakmile se objeví další podrobnosti návrhu textu.
---
Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
