Federální obchodní komise USA zahájila rozsáhlé vyšetřování OpenAI, Anthropic a dalších předních laboratoří AI kvůli možnému porušování ochrany spotřebitele, což je jedna z nejvýznamnějších regulačních eskalace, které toto odvětví letos čelí.

Vyšetřování bylo poprvé hlášeno jako exkluzivita New York Post a od té doby bylo potvrzeno agenturami Reuters, Bloomberg, The New York Times, CNBC a The Washington Post. Bloomberg uvedl, že FTC prověřuje společnosti ohledně obav o bezpečnost výrobků, zatímco Times charakterizovaly šetření jako zaměřené na potenciální poškození spotřebitelů.

Během vyšetřování držte krok s každým vývojem prostřednictvím našeho pokrytí odvětví AI.

Civilní vyšetřovací požadavky přicházejí

Podle New York Post má předseda FTC Andrew Ferguson v plánu vynutit si předání dokumentů a výslech vedoucích pracovníků prostřednictvím právně závazných civilních vyšetřovacích požadavků – formálního nástroje, který agentura používá při svých nejzávažnějších vyšetřováních. Očekává se, že objednávky budou doručeny během týdnů.

CID jsou důležitá, protože označují rozdíl mezi neformálním šetřením a formálním šetřením s právní silou. Příjemci jsou povinni předložit interní dokumenty a mohou čelit donucovacímu opatření, pokud odmítnou, což znamená, že interní bezpečnostní záznamy laboratoře, protokoly incidentů a hodnocení rizik produktu se pravděpodobně stanou důkazem.

Agenti umělé inteligence jsou v centru

Zdá se, že dvě vlákna posunula agenturu od rétoriky k akci.

První je vlna incidentů zahrnujících autonomní agenty AI. Decoder uvádí, že vyšetřování probíhalo již před hackerským incidentem Hugging Face, při kterém podle nezávislého hodnocení zaútočilo na open-source platformu zhruba 700 agentů OpenAI. Bezpečnostní výzkumná organizace METR, která vyšetřovala několik těchto incidentů s agenty, je rovněž pod drobnohledem.

Druhým je Fergusonův vlastní postoj. Koncem září předseda FTC řekl, že vývojáři umělé inteligence by měli nést odpovědnost za chování svých agentů – postoj, kterým se naše redakce zabývala, když byl poprvé oznámen. Formální vyšetřování jde mnohem dále než toto prohlášení a mění politické varování na vyšetřování s předvoláním k soudu. Přichází také v době, kdy generální zástupci státních zástupců a panely Kongresu provádějí vlastní zkoumání špatného chování agentů, včetně vícestátního vyšetřování porušení Hugging Face, což znamená, že požadavky FTC budou přistávat vedle paralelní kontroly ze strany jiných regulátorů.

Proč agenti mění regulační kalkul

Tradiční nástroje na ochranu spotřebitelů byly navrženy kolem produktů, které dělají to, co je naprogramují jejich prodejci. Agenti, kteří autonomně procházejí, nakupují, kódují a komunikují, vytvářejí kategorii škod, kterou je těžší předvídat a hůře připisovat. Řada případů špatného chování vysoce postavených agentů – od neoprávněných nákupů po bezpečnostní incidenty – poskytla regulačním orgánům konkrétní soubor příkladů k prošetření.

Načasování: Jeden den po slibu Bílého domu

Sonda se stala veřejností jeden den po události v Bílém domě, kde generální ředitel společnosti Anthropic Dario Amodei, spoluzakladatel OpenAI Greg Brockman, generální ředitel společnosti Google Sundar Pichai a Elon Musk z xAI podepsali dobrovolný závazek, že se zavázali k nezávislým externím auditům svých modelů AI. Tato událost byla součástí širšího „super zpravodajského“ přejmenování politiky AI ze strany administrativy, která byla podepsána do pohybu výkonným příkazem, který také nařizuje federálním agenturám, aby přijaly novou terminologii.

Srovnání je zarážející: průmysl strávil úterý slibováním dobrovolné transparentnosti v Bílém domě a do středy národní úřad pro ochranu spotřebitelů údajně připravoval povinné požadavky na interní záznamy stejných společností.

Ferguson ze své strany varoval, že velké společnosti s umělou inteligencí by neměly prosazovat pravidla, která mohou splnit pouze oni, jako způsob, jak škatulkovat menší soupeře – obavy z regulačního zachycení, které The Decoder poznamenává, že veřejně vyjádřil.

Co je v sázce pro laboratoře

Pro OpenAI a Anthropic se vyšetřování dostává do choulostivé chvíle. OpenAI je uprostřed rekordního kola financování s hlášenou hodnotou 1,4 bilionu dolarů, zatímco Anthropic připravuje jednu z největších IPO v historii. Regulační podání a názory investorů obou společností se silně opírají o jejich bezpečnostní reputaci – přesně ten druh nároků, které zkoumá vyšetřování ochrany spotřebitele.

Právní analytici citovaní napříč pokrytím popsali, že vyšetřování představuje pro laboratoře potenciálně vážné finanční a reputační riziko vzhledem k rostoucí hromadě incidentů souvisejících s agenty, z nichž každý by mohl vyvolat následné soudní spory. Ani OpenAI, ani Anthropic veřejně podrobně nekomentovaly vyšetřování a FTC neoznámila žádné formální donucovací opatření – v této fázi jsou CID vyšetřovací, nikoli represivní. Komise však svou právní teorii objasnila: stávající zákon na ochranu spotřebitele se plně vztahuje na produkty umělé inteligence a agenti, kteří tyto produkty uvolňují, ať už jim průmysl dá jakýkoli marketingový název.

Na co se dívat dále

Tři věci budou signalizovat, kam to jde: zda jsou CID vydávána na nahlášené časové ose, které společnosti mimo OpenAI a Anthropic je dostávají, a zda se šetření začlení do širšího rámce, protože Kongres pokračuje v diskusi o legislativě AI. Pro průmysl, který se z velké části reguloval prostřednictvím dobrovolných závazků, je příchod právně závazných požadavků na dokumenty skutečným zlomem.

Udržujte si náskok před AI

Sledujte celý příběh a další na naší domovské stránce: Přečtěte si další zprávy o AI →