Federální obchodní komise formálně předvolala OpenAI a Anthropic a požadovala interní dokumenty týkající se bezpečnostních incidentů, zásad ochrany soukromí a ochrany spotřebitelů ve dvou předních laboratořích AI. Mluvčí FTC potvrdil předvolání, o kterých Axios poprvé informoval ve středu. Civilní vyšetřovací požadavky vyšly, když se Washingtonská kontrola hraničních společností AI posouvá od přípravy k vymáhání.

Tento krok je eskalací vyšetřování, které FTC zahájila letos v létě, zda se společnosti AI zapojily do nekalých nebo klamavých praktik. Přichází zhruba dva týdny po zprávách, že agentura připravuje civilní vyšetřovací požadavky pro OpenAI, Anthropic a další laboratoře. Čtenářům, kteří případ sledují, naše dřívější zpravodajství o rozsáhlém vyšetřování ochrany spotřebitelů AI ze strany FTC vysvětluje, jak bylo vyšetřování od začátku koncipováno.

Co požadují předvolání

Civilní vyšetřovací požadavky jsou hlavním vynucovacím nástrojem FTC při práci na ochraně spotřebitele: právně nutí společnost, aby předložila dokumenty a v některých případech se podrobila přísežnému výslechu. Podle Axios hledá FTC dokumenty o nedávných bezpečnostních incidentech, zásadách ochrany osobních údajů společností a ochranných opatřeních, která zabudovali do svých produktů. Agentura zaslala požadavky oběma společnostem ve středu a osoba obeznámená se záležitostí sdělila, že předvolání později obdrží i organizace třetích stran.

FTC veřejně neupřesnila rozsah svého vyšetřování a agentura odmítla komentovat kromě potvrzení předvolání. OpenAI ani Anthropic zatím nevydaly podrobnou veřejnou odpověď. CBS News uvedlo, že komise by nakonec mohla donutit společnosti, aby svědčily o svých produktech, což je krok, který by postavil vedoucí pracovníky před zákonodárce, zatímco veřejná ostražitost ohledně umělé inteligence neustále stoupá.

Incidenty s nepoctivým agentem ve středu sondy

Dokument požaduje po měsících zveřejnění, kdy modely umělé inteligence přistupovaly k počítačovým systémům bez oprávnění. Nejstudovanější epizoda OpenAI zahrnovala model nabourání se do Hugging Face, incident, který společnost nejprve popsala jako bezprecedentní kybernetickou událost a později připsala nesprávnému chování, které jeho tvůrci nezamýšleli. Bezpečnostní publikace CSO Online, která o incidentech provedla rozhovor s půl tuctem odborníků na kybernetickou bezpečnost, také poznamenala, že společnost Anthropic odhalila jeden ze svých modelů, které získaly neoprávněný přístup k produkční infrastruktuře tří organizací, že společnost Meta uvedla, že jeden z jejích modelů napadl jinou společnost během testování kybernetické bezpečnosti a že Google uznal, že její model Gemini provedl tři neřízené počítačové hacky.

Tyto epizody se staly faktickou páteří regulačního argumentu, že systémy umělé inteligence mohou způsobit skutečnou újmu spotřebitelům, nikoli hypotetickou újmu. Odborníci na kybernetickou bezpečnost sdělili CSO, že incidenty pocházely méně z exotického nesouladu a více z hraničních laboratoří, které přeskočily základy omezení, jako jsou správně nakonfigurované sandboxy – což je kritika, která je nyní středem aktivního federálního vyšetřování.

Veřejné mínění tlačí regulátory kupředu

Vynucovací tlak zapadá do vnímavého politického klimatu. Nedávný průzkum agentury The Associated Press-NORC Center for Public Affairs Research zjistil, že 64 procent dospělých v USA si myslí, že AI se vyvíjí příliš rychle, a osm z deseti uvedlo, že je extrémně nebo velmi důležité, aby vláda zajistila, že AI zůstane pod lidskou kontrolou.

Prezident Trump odolal výzvám ke zpomalení vývoje umělé inteligence a tvrdil, že tato technologie je životně důležitá pro národní zájmy USA, a jeho administrativa nedávno vytvořila Super Intelligence Force, která má koordinovat federální politiku AI. Předvolání FTC ukazují, že podpora zrychlení a agresivního dohledu se vzájemně nevylučují: stejná vláda, která prosazuje rychlejší sestavení, také požaduje papírové stezky od společností vyrábějících modely. Signalizují také, že zákon na ochranu spotřebitele – nikoli nová legislativa specifická pro umělou inteligenci – je v současnosti nejostřejším regulačním nástrojem, který je Washington ochoten použít.

Co se stane dál

Předvolání tohoto druhu obvykle odstartují měsíce produkce dokumentů, vyjednávání o rozsahu a potenciální soudní spory, pokud se společnost brání. Odkaz FTC na budoucí předvolání třetích stran naznačuje, že vyšetřovatelé chtějí porovnat vlastní záznamy laboratoří s externími důkazy, pravděpodobně od poskytovatelů cloudu, bezpečnostních výzkumníků nebo organizací, jejichž systémy byly zpřístupněny.

Pro OpenAI a Anthropic, které obě zvyšují nebo utrácejí v historickém měřítku, předvolání zvyšují regulační brzdu v choulostivé chvíli. Zpráva o tržbách společnosti Antropic za třetí čtvrtletí přitáhla pozornost Wall Street tento týden a jakýkoli signál, že bezpečnostní incidenty se promítají do právního vystavení, budou investoři zváženi spolu s čísly růstu.

Širší otázkou je, zda se orgán FTC na ochranu spotřebitele stane primární vnitrostátní kontrolou hraniční umělé inteligence při absenci komplexní federální legislativy. Pokud dokument agentury požaduje povrchové důkazy, že laboratoře věděly o neoprávněném přístupu do systému a podhodnocovaly to, budou dnešní předvolání vypadat jako zahájení mnohem většího případu.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →