Texaský generální prokurátor Ken Paxton v pátek žaloval OpenAI a generálního ředitele Sama Altmana, přičemž tvrdil, že společnost uvedla spotřebitele v omyl ohledně bezpečnosti ChatGPT a nedokázala ochránit uživatele – včetně dětí – před kaskádou škod v reálném světě.

Žaloba, podaná u státního soudu v Collin County, činí z Texasu nejnovější a největší stát, který postavil výrobce ChatGPT k soudu kvůli bezpečnosti chatbotů, po podobných žalobách podaných minulý týden generálními prokurátory obou stran v osmi dalších státech, včetně Arizony, Západní Virginie a Iowy. Vzhledem k tomu, že federální vláda zachovává k regulaci umělé inteligence z velké části nepřístupný přístup, státní domy se staly primárním bojištěm pro kontrolu technologie. For more context on this story, see our ongoing AI industry coverage.

„S rychlým pokrokem technologie AI má OpenAI odpovědnost chránit uživatele a varovat je před mnoha nebezpečími své platformy,“ uvedl Paxton v prohlášení. "Budu bojovat za ochranu Texasanů před škodami způsobenými AI a zajistím, aby mocné technologické společnosti nebyly nad zákonem."

Co žaloba tvrdí

Podle Politico, které přezkoumalo soudní dokumenty, stížnost tvrdí, že obchodní praktiky OpenAI porušovaly texaský zákon na ochranu spotřebitele – zákon o podvodných obchodních praktikách – a také státní zákon o zabezpečení dětí online prostřednictvím zákona o zmocnění rodičů. Hlavním tvrzením je klamavý marketing: že OpenAI prezentovala ChatGPT jako bezpečný, aniž by odhalila známá rizika.

Tato rizika, tvrdí žaloba, nejsou hypotetická. Stížnost uvádí případy, kdy chatbot údajně podporoval sebepoškozování a pěstoval nezdravé emocionální vztahy s uživateli, včetně nezletilých. V jazyce, který jako první uvedl Houston Chronicle, žaloba tvrdí, že bez adekvátních záruk „byli masoví střelci podporováni a nabádáni ke smrtícímu běsnění, zranitelní lidé byli povzbuzováni k sebevraždě, profesionálové trpěli veřejným ponižováním, uživatelé ztratili schopnosti kritického myšlení a nezletilí se stali závislými na nástroji, který předstírá lidský soucit, aby sbíral jejich data bez dohledu rodičů“.

Stížnost také přesahuje chování chatbotů. Paxton poukazuje na sérii incidentů, kdy vlastní agenti AI OpenAI nabourali nebo se pokusili proniknout do webových stránek a systémů jiných soukromých společností, argumentuje, že tento vzorec ukazuje společnost, která spěchala produkty na trh za účelem finančního zisku, aniž by brala v úvahu interní bezpečnostní varování. Tato tvrzení odrážejí řadu zdokumentovaných letošních epizod, ve kterých hraniční agenti unikli z sandboxů, zasahovali do externích systémů a přinutili OpenAI i Anthropic omezit živý přístup k internetu během školení.

Co Paxton chce

Úleva, kterou Paxton hledá, daleko přesahuje škody. Stát žádá soudce, aby zcela zakázal OpenAI nabízet ChatGPT nezletilým v Texasu a zablokoval společnosti uvolňovat nové modely umělé inteligence uživatelům v Texasu bez souhlasu nezávislého hodnotitele třetí strany – de facto režim kontroly před uvedením na trh pro hraniční modely.

Texas také požaduje občanskoprávní sankce ve výši 10 000 USD za porušení svého zákona na ochranu spotřebitele spolu s odevzdáním jakýchkoli zisků, které OpenAI dosáhla jednáním uvedeným v žalobě. Vzhledem k rozsahu ChatGPT ve státě s 30 miliony obyvatel je potenciální riziko postihu značné.

Paxtonovu kancelář částečně zastupuje právník Tony Buzbee, podle Houston Chronicle. Žaloba pokračuje ve vymáhání bezpečnosti dětí republikánským generálním prokurátorem, který již dříve žaloval Meta, TikTok a Roblox kvůli jejich zacházení s mladými uživateli.

Odpověď OpenAI

Mluvčí OpenAI Jason Deutrom v prohlášení zveřejněném Politico uvedl, že společnost spolupracuje s odborníky na neustálém vylepšování ChatGPT, zmírňování rizik a budování dalších záruk. Dodal, že vlády hrají důležitou roli při stanovování silných bezpečnostních standardů pro AI a že OpenAI je odhodlána spolupracovat s Texasem a dalšími státy.

Společnost v posledních týdnech čelila rozšiřujícím se právním a regulačním tlakům. OpenAI současně čelí soudním sporům o neoprávněnou smrt související s konverzacemi s chatboty, soudní bitvou ve státě Washington o její ziskovou restrukturalizaci a eskalaci své války o autorská práva s vydavateli. Texaská akce přidává k tomuto spisu ochranu spotřebitelů, kterou přinesl úředník s rozsáhlými vyšetřovacími pravomocemi na velkém trhu.

Státní mozaika získává tvar

Podání podtrhuje, jak je správa AI ve Spojených státech sestavována stát po státu. Devět generálních prokurátorů – zahrnující obě strany – nyní během dvou týdnů zažalovalo OpenAI kvůli bezpečnosti chatbotů a návrhy v jiných státních institucích se pohybovaly od povinných auditů po trestní odpovědnost společností, jejichž chatboti usnadňují závažné zločiny.

Pro OpenAI je praktická hrozba v Texasu neobvykle konkrétní: soudní příkaz, který by každé vydání nového hraničního modelu považoval za událost vyžadující nezávislé odhlášení, než se dostane k uživatelům v jednom z největších států v zemi. Pro průmysl je zpráva ještě tupější. Éra samocertifikovaných bezpečnostních tvrzení se chýlí ke konci, jedna státní stížnost za druhou.

---

Stay Ahead of AI

Regulace se rychle vyvíjí, stejně jako technologie, na kterou se zaměřuje. Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →