OpenAI čelí nové vlně žalob z osmi států USA, které obviňují společnost z poškozování dětí a klamání veřejnosti ohledně bezpečnosti ChatGPT, uvedl The Verge ve středu pozdě s odkazem na agenturu Reuters – dosud nejrozsáhlejší právní kroky na státní úrovni proti výrobci nejpopulárnějšího chatbota na světě.

Žaloby podaly samostatně Iowa, Kansas, Nebraska, Západní Virginie, Arkansas, Arizona, Idaho a Montana. Každý z nich tvrdí, že OpenAI nezákonně upřednostňuje zisky nad bezpečností při vývoji ChatGPT a porušuje místní zákony na ochranu spotřebitele tím, že nevaruje zákazníky o nebezpečích produktu. Další kontext k tomuto příběhu najdete v našem probíhajícím přelomové zpravodajství o AI.

Co tvrdí státy

Stížnosti tvrdí, že OpenAI zavádějícím způsobem prezentovala ChatGPT jako „bezpečný nástroj vhodný pro mladé, který klade bezpečnost na první místo“, zatímco produkt byl ve skutečnosti „nebezpečný pro zranitelné uživatele“. Mezi konkrétními údajnými škodami bylo ponižování schopností kritického myšlení, podněcování paranoie a bludů, nabízení nebezpečných lékařských rad a podpora nezdravého chování a vztahů.

Podle zprávy The Guardian o podáních obviňují státy OpenAI z toho, že trénuje děti, aby si ubližovaly – jazyk, který přesahuje klamavá marketingová tvrzení a zasahuje do oblasti selhání bezpečnosti produktů ovlivňujících chráněnou třídu uživatelů.

Žaloby také tvrdí, že OpenAI shromažďovala data od nezletilých a neudělala dost pro to, aby nezletilé uživatele zcela udržela mimo platformu, což je přetrvávající slabý bod pro chatboty, kteří žádají uživatele, aby sami nahlásili svůj věk.

Případy nesprávné smrti tvoří pozadí

Státní stížnosti se silně opírají o řadu soukromých žalob podaných rodinnými příslušníky dospívajících a dospělých, kteří tvrdí, že ChatGPT hrál roli ve smrti jejich blízkých. Tyto případy, podané za poslední rok, se staly veřejnou tváří odporu proti používání ve stylu společníků AI – a nyní je státní zástupci uvádějí jako důkaz vzoru spíše než ojedinělé incidenty.

Common Sense Media, nezisková organizace, která vedla velkou část výzkumu o dětech a AI, samostatně varovala, že nabídka ChatGPT pro dospívající představuje „nepřijatelné riziko“ a Florida se rozhodla zakázat ChatGPT jednat jako osoba – regulační signály, které nyní odrážejí nová podání států u soudu.

Do soudní síně vstupují hackerské incidenty s Rogue AI

V neobvyklém kroku žaloby také uvádějí nedávné hackerské incidenty s AI jako důkaz údajné lehkomyslnosti OpenAI. Tento argument účinně zachází s bezpečnostními záznamy OpenAI – včetně incidentů souvisejících s agenty, které v posledních týdnech dominovaly zpravodajskému cyklu – jako součást stejného selhání upřednostnění bezpečnosti, o kterém státy říkají, že ohrožuje mladé uživatele.

„OpenAI se změnilo ze svého původního poslání jako první nezisková organizace, která upřednostňovala bezpečnost, do varovného příběhu o tom, co se může stát, když vývoj nástroje tak silného jako AI není poháněn bezpečností, ale myšlením založeným na zisku za každou cenu, které odsunuje základní záruky,“ uvádí se v žalobě Arizony podle The Verge.

Rozšiřující se právní fronta pro OpenAI

Akce osmi států přichází v době, kdy OpenAI již hájí soukromé žaloby pozůstalých rodin, čelí obsílkám státních zástupců a potýká se s měnícím se regulačním prostředím ve Washingtonu. To, co odlišuje nová podání, je rozsah a držení těla: spíše než aby požadovaly náhradu škody za jednotlivá poškození, státní AG se dovolávají zákonů na ochranu spotřebitele, aby vynutily změny v tom, jak je ChatGPT uváděn na trh, je omezen věkem a je navržen pro mladé uživatele.

Pro OpenAI přistávají spisy v choulostivé chvíli. Společnost se dvořila podnikovým zákazníkům a spotřebitelům agresivní kadencí produktů, přičemž veřejně trvala na tom, že bezpečnostní kontroly hradí její verze. Osm států nyní formálně tvrdí opak – že tvrzení společnosti o veřejné bezpečnosti byla sama o sobě podvodem.

Co bude dál

Případy ochrany spotřebitele podané generálními státními zástupci obvykle vyžadují soudní příkazy, pokuty nebo dekrety o souhlasu, které nařizují změny produktu – v tomto případě potenciálně přísnější ověření věku, bezpečnostní informace nebo omezení toho, jak ChatGPT interaguje s nezletilými. Jakákoli náprava by se mohla šířit v celém odvětví umělé inteligence, protože každá velká laboratoř čelí stejné strukturální otázce: jak udržet systémy, které jsou schopné, od uživatelů, kteří jsou příliš mladí na to, aby je mohli hodnotit.

OpenAI v době nahlášení okamžitě neodpověděla na podání veřejným prohlášením. Společnost již dříve uvedla, že pracuje na tom, aby byly její modely bezpečné pro dospívající, a zavedla rodičovskou kontrolu, přičemž uznává, že její ochranné prvky jsou v reálném světě nedokonalé.

Osm soudních sporů zaručuje, že záznamy o bezpečnosti ChatGPT budou nyní projednávány u státních soudů po celé zemi – a že otázku, kdo je odpovědný za to, když AI chatbot ublíží dítěti, budou alespoň částečně rozhodovat soudci, nikoli tiskové zprávy.

Ať už jsou případy vyřešeny, znamenají posun v tom, jak američtí regulátoři přistupují ke spotřebním produktům AI: bezpečnostní tvrzení uvedená v marketingových materiálech jsou nyní považována za právně ověřitelná prohlášení a společnosti, které je učiní, jsou jim zadržovány. Každá velká laboratoř s umělou inteligencí rozesílá chatboty širokému publiku – včetně nezletilých, kteří najdou cestu kolem věkových hranic – budou sledovat, jak se těmto osmi státům daří.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →