Oregonský generální prokurátor Dan Rayfield v úterý zažaloval OpenAI, požadoval odškodné nejméně 2,035 miliardy dolarů a obvinil společnost z toho, že zkreslila ChatGPT jako bezpečný pro mladé uživatele a přitom vědomě umožnila nebezpečné interakce s dospívajícími, podle Oregon Public Broadcasting.
Žaloba, kterou zveřejnila OPB a kterou potvrdilo několik oregonských prodejen včetně KGW, KATU a KOIN, dělá z Oregonu jeden z dosud nejagresivnějších států v eskalující právní kampani proti AI chatbotům a nezletilým. V říjnu následuje žaloby osmi států USA, z nichž každý tvrdí, že tato technologie má na teenagery nebezpečný vliv. For more context on this story, see our ongoing AI news.
Co stížnost uvádí
Státní 53stránková stížnost obviňuje OpenAI ze zkreslování svých produktů v rozporu s Oregonským zákonem o nezákonných obchodních praktikách a popisuje chování společnosti jako svévolné – přitěžující faktor podle zákona – vedoucí k tomu, co stížnost nazývá nespravedlivý, nespravedlivý, šokující a nesvědomitý výsledek.
OpenAI umožňuje uživatelům ve věku 13 let používat ChatGPT, pokud se rodič nebo zákonný zástupce odhlásí. Úředníci ministerstva spravedlnosti v Oregonu tvrdí, že společnost často nepotvrdila, že rodič skutečně souhlasil s nezletilými uživateli. Stížnost se také zaměřuje na ChatGPT for Teens, nedávno vydanou verzi společnosti zaměřenou na mládež, která propojuje účet rodiče s účtem dítěte. Podle státu lze údajně silnější záruky této verze snadno obejít a nepodařilo se jí upozornit rodiče, když se mladí uživatelé ptali na sebevraždu, sebepoškozování, poruchy příjmu potravy nebo jiná témata duševního zdraví.
Žaloba žádá soud, aby donutil OpenAI zavést přísnější ochranná opatření a odškodnit obyvatele Oregonu nejméně 2,035 miliardami dolarů jako náhradu škody.
Rayfield: Produkt „přetrvává ve způsobování škod“
V rozhovoru pro OPB Rayfield řekl, že OpenAI si je vědoma nebezpečí, které mohou její produkty představovat. OpenAI se nadále dívá rodičům do očí a říká, že tento produkt je bezpečný produkt, i když v našich komunitách nadále škodí, řekl.
Generální prokurátor řekl OPB, že nedošlo k žádnému konkrétnímu incidentu v Oregonu, který vyvolal podání. Místo toho, řekl, žaloba vzešla z incidentů po celé zemi a obav jeho kanceláře, že technologický pokrok předčí ochranu spotřebitelů. Nástroje mohou být neuvěřitelně úžasné, pokud se jejich sliby splní, řekl, ale to, co vidíme na druhé straně, je devastace.
Podání přichází v době zvýšeného znepokojení veřejnosti v Oregonu ohledně dospívajících a online platforem. Teenager, který minulý měsíc zastřelil tři děti a učitele na základní škole Bend's Silver Rail Elementary, spojuje několik zdrojů s online extremistickými skupinami a v září úřad okresního prokurátora okresu Multnomah obvinil online extremistické vlivy z toho, že student Bensonovy střední školy uvolnil toxické chemikálie ve své škole. Rayfield odmítl sdělit, zda se produkty OpenAI podílely na těchto incidentech, s odkazem na probíhající vyšetřování – a samotná žaloba nezávisí na žádném jediném případu z Oregonu.
Součást širšího právního posouzení pro OpenAI
Oregon nyní patří mezi rostoucí skupinu států, které u soudu tlačí OpenAI kvůli bezpečnosti mládeže. Osm států podalo podobné žaloby v říjnu a hromadící se soudní spory představují rostoucí výzvu jednotlivých států k tomu, jak průmysl umělé inteligence samoreguluje menší přístup – oblast, kde federální regulace zůstává slabá.
Mluvčí OpenAI, Drew Pusateri, vydal po podání prohlášení, že společnost je odhodlána vyvíjet zásady AI, které se vztahují na celé odvětví AI a ne pouze na jednu společnost. Společnost poukázala na ochranná opatření, která podle svých slov dnes existují, včetně rodičovské kontroly, připomenutí přerušení a ochrany modelu vhodného pro věk, a uvedla, že bude pokračovat ve spolupráci s odborníky na vytváření dalších ochranných opatření. Společnost již dříve trvala na tom, že zachování bezpečnosti komunit je nejvyšší prioritou.
Co se stane dál
Případ z Oregonu otestuje novou právní teorii: ne to, že ChatGPT způsobil konkrétní zranění, ale že samotný bezpečnostní marketing společnosti – tvrzení, že produkt je bezpečný pro dospívající – představuje nekalou obchodní praktiku, kdy lze záruky obejít. Pokud teorie přežije první návrhy, mohla by otevřít levnější a rychlejší cestu pro ostatní státní zástupce než soudní spory o odpovědnosti za výrobek, které vyžadují prokázání příčinné souvislosti jednotlivých škod.
Úhel ochrany spotřebitele vytvořený pro rychlost
Důležitá je volba statutu. Oregonský zákon o nezákonných obchodních praktikách je zákonem na ochranu spotřebitele, nikoli režimem odpovědnosti za výrobek, a obsahuje kratší lhůty a nižší důkazní pruhy než dokazování, že konkrétní výměna chatbota způsobila konkrétní tragédii. Umožňuje také občanskoprávní sankce za úmyslné porušení – výslovně se vztahuje přitěžující označení stížnosti. Vymáhání ochrany spotřebitele proti technologickým platformám kvůli zavádějícím tvrzením má u soudů v Oregonu dlouhou historii a statut je jedním z nejobecněji formulovaných v zemi.
Toto rámování také formuje nápravu, kterou stát hledá. Spíše než o náhradu škody pro rodinu jedné oběti, stížnost požaduje pro Oregonany kolektivní odškodnění – nejméně 2,035 miliardy dolarů – plus soudem nařízené změny v samotném produktu: silnější záruky a ověření souhlasu rodičů. Výhra by dala státu průběžný dohled nad funkcemi ChatGPT pro mládež spíše než jednorázová platba.
Pro OpenAI se stížnost dostává do choulostivé chvíle: společnost již hájí nároky na autorská práva, čelí kalifornské žalobě kvůli kybernetickým průnikům souvisejícím s AI a připravuje se na intenzivní kontrolu po IPO. Je nepravděpodobné, že by poptávka jednoho státu ve výši mnoha miliard dolarů přetvořila jeho finance, ale zjištění soudu, že jeho reprezentace týkající se bezpečnosti mládeže byly klamavé, by přineslo regulační důsledky daleko za hranice Oregonu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →