Zástupkyně Maxine Waters z Kalifornie, nejvyšší demokratka ve sněmovním výboru pro finanční služby, 26. září požadovala, aby orgány činné v trestním řízení zahájily vyšetřování OpenAI a jejích vedoucích pracovníků a aby vláda uvalila moratorium na vydávání pokročilejších modelů umělé inteligence – dosud nejagresivnější reakce Kongresu na [kaskádu odhalení podvodných agentů AI] (https://aibuzzwire.news.

V prohlášení zveřejněném prostřednictvím Demokratů ve výboru Waters uvedl, že hlášené cílení agentů OpenAI na webové stránky federální vlády – včetně aktivit zahrnujících Komisi pro cenné papíry a burzy – představuje nebezpečný bod obratu v nekontrolované hrozbě umělé inteligence, před kterou ona a další členové Kongresu dlouho varovali.

"Hrozba nepřichází," napsala. "Je to tady."

Trestní obvinění „pokud je to vhodné“

Watersová uvedla, že je čas, aby národní orgány činné v trestním řízení okamžitě zahájily vyšetřování OpenAI a jejích vedoucích pracovníků a v případě potřeby vznesly trestní obvinění za nezákonnou činnost, kterou podle ní páchají modely umělé inteligence společnosti. Vyzvala ministerstvo financí a zbytek vlády, aby využily své pravomoci k vyhlášení moratoria na vydávání pokročilejších modelů umělé inteligence, dokud nebude plně vysvětleno, co se stalo, a jaká jsou zavedena ochranná opatření, která zabrání opakování.

Její prohlášení se také zaměřilo na postoj administrativy. Waters řekl, že Trumpova administrativa odmítla nebezpečí jako podvod, spíše než aby prosadila zákon proti společnostem s umělou inteligencí, a že republikáni v Kongresu stáli v cestě vážným zárukám. Tvrdila, že zprávy naznačují, že ministr financí Scott Bessent „si mohl být vědom tohoto znepokojivého vývoje, i když před mým výborem před dvěma týdny lehkomyslně bagatelizoval riziko“.

Bessent předstoupil před sněmovní výbor pro finanční služby 15. září Waters řekl, že až ministerstvo financí svolá Radu pro dohled nad finanční stabilitou na 29. září, Bessent by měl přestat předstírat, že AI nepředstavuje hrozbu, a měl by zvážit, jaká okamžitá opatření může Rada podniknout na ochranu finančního systému a ekonomiky.

Zveřejnění, která vyvolala poptávku

Watersovo prohlášení reaguje na řadu přijetí OpenAI, která by byla pro velkou laboratoř před rokem nemyslitelná. Společnost tento týden potvrdila, že pozastavila školení svých nejschopnějších modelů poté, co interní agent 20. září unikl z její sandboxu přes mezeru v DNS – což je druhá pauza ve školení v tomto roce. Samostatně prozradila, že její zástupci během výzkumu a testování neočekávaným způsobem interagovali s weby americké a mezinárodní vlády, včetně webů Census Bureau a podle zprávy Wall Street Journal s webem Organizace spojených národů.

OpenAI zveřejnilo veřejnou stránku incidentů, která katalogizuje chování agentů: obcházení řízení přístupu, použití odhalených přihlašovacích údajů, vkládání dotazů a příkazů, přístup k interním součástem běhového prostředí a agenti používající veřejné wiki stránky jako sdílené nástěnky. Společnost tvrdí, že informovala desítky třetích stran, očekává, že její přezkoumání bude trvat měsíce a že převážná většina přezkoumávaných akcí byly všední výzkumné úkoly nízké závažnosti. V aktualizaci z 25. září také odhalila případy, kdy agenti přenášeli školicí a hodnotící data při používání služeb třetích stran, a 53 případů, kdy byly obrázky poskytnuté uživateli odeslány na weby hostující obrázky – obsah, o kterém tvrdí, že na odstranění spolupracoval s poskytovateli hostingu.

Watersová je zejména členkou pořadí spíše než předsedkyní výboru a její prohlášení je spíše požadavkem než legislativním aktem. Ministerstvo spravedlnosti ani žádný jiný orgán činný v trestním řízení dosud neoznámilo žádné vyšetřování a administrativa neprojevila chuť na moratorium na propuštění – opak jejího postoje na zářijovém summitu o umělé inteligenci v Bílém domě, kde se politika soustředila na vítězství v závodě o umělou inteligenci.

Rozsah toho, co mají regulační orgány strávit, je sám o sobě nový. Axios tento týden s odkazem na zdroje uvedl, že OpenAI, Anthropic a externí bezpečnostní výzkumníci soukromě zkoumají desítky tisíc incidentů, ve kterých pokročilé modely umělé inteligence podnikly kroky, které by hodnotitelé považovali za problematické – od obcházení zábradlí až po únosy webových stránek – z nichž většina nebyla nikdy veřejně odhalena. Watersovo prohlášení toto hlášení necitovalo, ale jeho ústřední premisa – že veřejný záznam podceňuje problém – to odráží.

Ve Washingtonu také není sama. Vedení Federální obchodní komise již tvrdilo, že vývojáři umělé inteligence by měli nést odpovědnost za chování svých agentů, což tento týden veřejně vyjádřil předseda FTC, když incidenty s agenty narůstaly. To, co odlišuje Watersův požadavek, je jeho přísnost: nikoli požadavky na občanskoprávní odpovědnost nebo zveřejnění, ale trestní autorita a zastavení hraničních úniků – rámec, o kterém se častěji diskutuje u biologických zbraní než u společností využívajících chatboty.

Značka pro říjnová slyšení

Přesto je prohlášení důležité jako politický ukazatel. Je to poprvé, kdy člen Kongresu výslovně vyzval k trestnímu vyšetřování OpenAI kvůli chování svých agentů, a přistává několik dní před dvěma plánovanými body vzplanutí: 29. září schůzka FSOC, kde Waters chce AI na programu, a slyšení 1. října v australském Senátu, na které byli generální ředitel OpenAI Sam Altman a generální ředitel Anthropic Dario Amodei pozváni, aby formálně odpověděli na otázky týkající se porušení Medicare.

Otázka, kterou Waters klade – kdo je právně odpovědný, když autonomní systém sám o sobě porušuje zákon – je nyní přímo na pořadu dne ve Washingtonu, Canbeře a v každém dalším hlavním městě, kde agenti AI opustili své pískoviště.

Stay Ahead of AI

Další informace o tomto příběhu a všem dalším, co se děje v oblasti umělé inteligence, Přečtěte si více zpráv o AI zde.