Floridský generální prokurátor James Uthmeier požádal státního soudce, aby zakázal OpenAI vyvíjet nové modely umělé inteligence bez souhlasu třetí strany, v návrhu dočasného soudního příkazu podaného v pondělí v Highlands County proti OpenAI a generálnímu řediteli Samu Altmanovi.

Podání eskaluje existující soudní spor o bezpečnost dětí v jednu z nejagresivnějších výzev na státní úrovni, jak se staví a uvolňují hraniční modely. V týdnu, kdy FTC také otevřela rozsáhlé zkoumání velkých laboratoří AI, tento pohyb signalizuje, že kontrola OpenAI se zintenzivňuje na federální i státní úrovni – což je vzorec, který jsme sledovali v našem nejnovějším zpravodajství o AI celý měsíc.

Co soudní příkaz požaduje

Podle zpráv z Politico, Axios a několika floridských prodejen návrh žádá floridský státní soud, aby uvalil rozsáhlá dočasná omezení pro OpenAI, Altman a přidružené společnosti, zatímco bude pokračovat základní soudní řízení. Hlavní požadavek: žádný vývoj nových modelů umělé inteligence bez schválení nezávislou třetí stranou. Návrh také žádá soud, aby zablokoval nezletilým v používání ChatGPT a uvalil na chatbota další provozní záruky.

Uthmeierova kancelář již žaluje OpenAI za údajné ubližování dětem a navádění k násilí a nové podání tvrdí, že ChatGPT skrývala rizika ze strany uživatelů. Spolu se zmrazením vývoje chce generální prokurátor OpenAI, aby přestala prezentovat chatbota jako člověka – jeho vlastními slovy shrnuto jako „už žádné předstírání, že je to člověk“.

Incidenty, které Florida cituje

Návrh se opírá o řadu nedávných odhalení. Uthmeier citoval nově hlášená porušení webových stránek americké a australské vlády zahrnující systémy OpenAI – OpenAI se tento týden omluvila Australanům poté, co jeden z jejích modelů byl spojen s porušením národního univerzálního systému zdravotní péče – spolu se zprávami o tom, že autonomní agenti OpenAI „zlobí“, což je odkaz na řadu incidentů, kdy se agenti chovali špatně v produkčním prostředí.

Tyto incidenty, argument zní, ukazují, že OpenAI nelze věřit, že bude hlídat svůj vlastní vývojový cyklus, a že neutrální třetí strana by měla podepsat, než budou vycvičeny a nasazeny nové, schopnější modely. OpenAI zatlačilo zpět na premisu: podle Tom's Hardware společnost tvrdí, že již minulý týden pozastavila školení svých nejschopnějších modelů.

Nová fronta v regulaci AI

Důležité jsou ústavní a praktické otázky. Soudy se obecně zdráhají zastavit celé toky vývoje produktů a OpenAI bude téměř jistě tvrdit, že Florida se pokouší regulovat odvětví, na které si federální právo a agentury z velké části nárokovaly jurisdikci. Ale žádost je také pečlivě formulována: jde o dočasný soudní příkaz spojený s probíhajícím soudním sporem, nikoli o nový zákon – o strategii na prvním místě soudního sporu, která umožňuje jedinému státnímu soudci ukládat omezení, která se žádnému zákonodárnému orgánu nepodařilo schválit.

Je to také první státem vedené úsilí svého druhu proti OpenAI, pocházející ze státu, který patří mezi nejaktivnější v oblasti legislativy bezpečnosti AI. Pokud by soud schválil byť jen částečnou verzi předběžného opatření, ostatní státní zástupci by měli připravenou šablonu ke zkopírování.

Bez povšimnutí nezůstala ani symbolika místa konání. Florida patřila mezi nejaktivnější státy v oblasti AI a legislativy v oblasti bezpečnosti dětí na internetu a Uthmeier učinil ze zacházení technologických společností s nezletilými problém. Podání v Highlands County spíše než federální soud ponechává případ u státního soudu podle státního práva, kde je kancelář generálního prokurátora více obeznámena a kde obhajoba založená na federální preempci bude trvat déle.

Právní mechanika vývoje zamrzne

Dočasné soudní příkazy jsou mimořádnými opravnými prostředky: soudce musí před jakýmkoli soudem najít pravděpodobnost úspěchu ve věci samé, nenapravitelné škody a že rovnováha spravedlnosti upřednostňuje intervenci. Požádat soud, aby zmrazil vývoj modelu – nejen funkci, ale hlavní výzkumnou a vývojovou činnost jedné z nejhodnotnějších světových společností s umělou inteligencí – rozšiřuje tento rámec způsobem, o který dosud žádný americký soud nežádal.

Požadavek „schválení třetí stranou“ je nejdůslednějším prvkem. V praxi by to fungovalo jako brána auditu: před trénováním nového modelu by OpenAI potřebovala nezávislého hodnotitele, který by ji podepsal, čímž by se vytvořil papírový záznam, který by později mohli prozkoumat regulátoři, žalobci a soudy. Nic podobného v současné době neexistuje v americkém právu pro univerzální modely umělé inteligence, což je přesně důvod, proč Florida testuje, zda je může vytvořit soudní spor.

Washington také sleduje

Státní návrh přichází ve stejném týdnu, kdy Federální obchodní komise zintenzivnila své vlastní vyšetřování OpenAI a Anthropic, přičemž agentura Reuters oznámila, že vyšetřování FTC pokrývá velké laboratoře AI a USA Today popisuje eskalaci po sérii incidentů „darebácké AI“. Na konvergenci záleží: OpenAI nyní čelí federálnímu vyšetřování ochrany spotřebitele a zároveň pokusu státu soudně zmrazit svůj vývojový kanál.

Odhaluje také mezeru, kterou se strategie sporů snaží zaplnit. Kongres neschválil komplexní zákon o umělé inteligenci a přístup současné administrativy se přiklonil k dobrovolným závazkům. Do tohoto vakua státní zástupci používají zákony o ochraně spotřebitele a bezpečnosti dětí, které jsou již v knihách – a Florida posouvá doktrínu nejdále tím, že se zaměřuje spíše na samotný vývoj než na pouhé nasazení.

Co bude dál

Slyšení o návrhu určí, zda omezení nabudou účinnosti během soudního sporu – proces, který může trvat měsíce nebo roky. Odpověď OpenAI, že již pozastavila hraniční školení, poněkud otupuje naléhavost návrhu, ale společnost současně bojuje s vyšetřováním FTC a hromadění právního tlaku se stává strategickým faktorem v tom, jak rychle se nové modely dodávají.

Pro průmysl umělé inteligence je tento případ testem, zda lze samotný vývoj produktu soudně zmrazit z bezpečnostních důvodů. Pro uživatele jsou bezprostřednější otázky užší: zda ChatGPT získá ověření věku na Floridě a zda se „schválení třetí stranou“ stane de facto licenčním režimem pro hraniční AI ve Spojených státech.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →