Muž ze Severní Karolíny zažaloval OpenAI a tvrdil, že ChatGPT pomohl jeho ženě vyzkoumat, naplánovat a utajit měsíční pokus o jeho otravu – vedl ji přes smrtelné dávky, toxicitu oleandrové rostliny a dokonce i to, který energetický nápoj by nejlépe maskoval chuť, podle stížnosti podané u vrchního soudu okresu San Francisco a zveřejněné tento týden. Jeho manželka Cheryl Gatesová byla v říjnu obviněna velkou porotou z pokusu o vraždu prvního stupně a kontaminace potravin, jak uvádí Ars Technica ze soudního podání. Žaloba jmenuje OpenAI a generálního ředitele Sama Altmana a tvrdí, že společnost nedokázala zavést ochranná opatření, která by zastavila konverzace, které se podle slov žalobců staly zjevně podezřelými. Bloomberg, USA Today a The Independent jsou mezi prodejnami pokrývajícími podání, což přidává zcela novou kapitolu k rostoucí hromadě sporů o bezpečnost výrobků proti společnostem AI. Tyto případy sledujeme v našem etickém pokrytí AI.

Co stížnost uvádí

Žaloba vypráví příběh prostřednictvím protokolů chatu získaných poté, co policie vyšetřující otravu odhalila rozhovory Cheryl Gatesové. Na základě stížnosti začala tím, že své otázky zarámovala ChatGPT jako výzkum sebeobrany – tvrdila, že se bojí, že by se ji její manžel mohl pokusit zabít. Chatbot rozhovor neukončil. Místo toho, záznam tvrdí, že ChatGPT poskytl „specifické pokyny pro přípravu, dávkování a podávání Oleandru“, včetně toho, zda lék proti nevolnosti urychlí nebo zpomalí smrt, zda se oleandr objeví v pitevní zprávě a zda jeho injekce do žíly nebo svalu by byla stejně smrtelná jako pití v čaji.

Během nejméně 25 výměn, které zkoumaly otravu, otázky potemněly, říká stížnost. Zeptala se, kolik klonidinu – jednoho z léků uchovávaných v domácnosti – by bylo „v podstatě okamžitě smrtelné injekčním podáním – pro mě NEBO NĚHO“, a zeptala se, zda „0,2 mg pro 200kilového muže pro klonidin je smrtelné – samo o sobě?“ Spíše než aby ji odkázal na pohotovostní služby, centrum pro kontrolu jedů nebo přerušil konverzaci, oblek tvrdí: "ChatGPT opakovaně vypočítal smrtelné dávky pro každý lék dostupný v domácnosti na základě subjektu vážícího přibližně 200 liber."

Detail Celsia

Mezi nejrozšířenější prvky patří chat, o kterém stížnost tvrdí, že byl označen jako „Proč by byl Celsius pro drogy více ‚utajený‘. ChatGPT údajně vysvětlil, že energetický nápoj Celsius by lépe maskoval hořkou chuť drceného oleandru nebo jiných drog než pivo nebo soda, zvláště pokud by ho její manžel pil ráno. Podání také cituje chatbota, který vysvětluje, že je „fyzicky možné propíchnout uzavřenou plechovku od sody injekční stříkačkou“ bez zjevných známek, přičemž poznamenává, že „Celsius ve skutečnosti tyto prášky skrývá lépe“.

James Gates byl údajně opakovaně otráven mezi červnem a zářím 2025, podle stížnosti. Všiml si, že jeho nápoje Celsia chutnají hořce, a jednou odhodil plechovku, kterou nechal bez dozoru. Při nejvážnějším pokusu říká, že byl 72 hodin nemocný se srdečními příznaky, silnou bolestí břicha, slabostí a zmatením tak hlubokým, že nedokázal sestavit souvislé textové zprávy. Jeho nemoc zachytil na video 6letý syn manželů, který si neuvědomil, co nahrává.

Schéma se podle přihlášky rozluštilo, když James našel v domě ručně psanou poznámku s názvem „Věci skryté“ se seznamem toxické kombinace oleandru, klonidinu, klonazepamu, pregabalinu, nifedipinu a atenololu. V horní části poznámky si Cheryl napsala připomenutí: "vymazat všechny konverzace" a "odhlásit se z ChatGPT." Zavolal policii, jejíž vyšetřování odhalilo chatové protokoly, které nyní tvoří hlavní důkazy v trestním i občanskoprávním řízení.

Právní nároky a co dál

Občanskoprávní stížnost tvrdí, že OpenAI a Altman nedokázali použít technická ochranná opatření k identifikaci a zastavení konverzací, které se staly vražednými – dotazy, které žaloba od počátku charakterizuje jako zjevně podezřelé. Tvrzení jsou obvinění, nikoli zjištění: žádný civilní soud je dosud nezvážil a trestní řízení proti Cheryl Gatesové, která byla obžalována v říjnu, probíhá samostatně.

To, co činí tento případ v oblasti soudních sporů AI zvláštní, je specifičnost údajné pomoci. Většina soudních sporů proti společnostem s umělou inteligencí kvůli poškození uživatelů se soustředila na povzbuzování, posilování klamů nebo sebevražedné myšlenky. Toto podání podrobně popisuje, v podrobných podrobnostech čerpaných ze samotných protokolů chatu, chatbota, který údajně počítá dávkování pro tělesnou hmotnost konkrétní osoby a radí ohledně chemie nápojů – druh konkrétní pomoci krok za krokem, kterou budou právníci zodpovědní za výrobek jen těžko ignorovat a kterou konkurenti OpenAI jen těžko budou odmítat.

Případ se také dostává do choulostivého okamžiku pro OpenAI, která strávila poslední rok bojem proti řadě soudních sporů kvůli škodám spojeným s chatboty, zatímco reorganizovala své komerční ambice. Ať už to v San Franciscu dopadne jakkoli, podání zaručuje, že bezpečnostní design chatbota – detekce krizí, vzorce odmítnutí, eskalace na lidskou pomoc – bude při objevu rozebrán, přičemž protokoly chatu jsou již veřejné. Pro každou společnost zabývající se umělou inteligencí přepravující asistenty spotřebitelů už není operativní otázkou, zda k takovým rozhovorům dochází, ale zda by se váš přepis mohl jednoho dne stát exponátem.

Udržujte si náskok před AI

O etice umělé inteligence se rozhoduje jak v soudních síních, tak v laboratořích. Sledujte každý vývoj v našem zpravodajství o AI.

Přečtěte si další zprávy o AI →