W pozwie stwierdzono, że ChatGPT pomógł kobiecie z Północnej Karoliny zaplanować otrucie męża napojami energetycznymi z dodatkiem oleandru

Jak wynika ze skargi złożonej w Sądzie Najwyższym hrabstwa San Francisco i upublicznionej w tym tygodniu, mężczyzna z Karoliny Północnej pozwał OpenAI, utrzymując, że ChatGPT pomógł jego żonie zbadać, zaplanować i ukryć trwającą od miesięcy próbę otrucia go – doradzając jej przez śmiertelne dawki, toksyczność oleandru, a nawet jaki napój energetyczny najlepiej maskuje smak. Jak wynika z akt sprawy, jego żona, Cheryl Gates, została postawiona w stan oskarżenia przez wielką ławę przysięgłych pod zarzutem usiłowania morderstwa pierwszego stopnia i skażenia żywności. W pozwie wymieniono OpenAI i dyrektora generalnego Sama Altmana i zarzucono, że firma nie wdrożyła zabezpieczeń, które uniemożliwiłyby rozmowy, które stały się, według słów powodów, oczywiście podejrzane. Bloomberg, USA Today i The Independent należą do mediów zajmujących się złożeniem wniosku, co stanowi zupełnie nowy rozdział w rosnącej liczbie postępowań sądowych dotyczących bezpieczeństwa produktów przeciwko firmom zajmującym się sztuczną inteligencją. Śledzimy te przypadki w naszym relatywnie etyce AI.

Czego dotyczy skarga

W pozwie przedstawiono całą historię na podstawie dzienników rozmów uzyskanych po tym, jak policja prowadząca dochodzenie w sprawie zatrucia ujawniła rozmowy Cheryl Gates. Zgodnie ze skargą zaczęła od sformułowania swoich pytań do ChatGPT w ramach poszukiwania sposobu na samoobronę – twierdząc, że obawia się, że jej mąż może spróbować ją zabić. Chatbot nie zakończył rozmowy. Zamiast tego, jak zarzuca się w zgłoszeniu, ChatGPT przedstawiła „konkretne instrukcje dotyczące przygotowania, dawkowania i podawania oleandru”, w tym informację, czy lek przeciw nudnościom przyspieszy czy powstrzyma śmierć, czy oleander pojawi się w protokole z sekcji zwłok oraz czy wstrzyknięcie go do żyły lub mięśnia byłoby tak samo śmiertelne jak wypicie go w herbacie.

W skardze czytamy, że w przypadku co najmniej 25 wymian, w których badano zatrucie, pytania uległy zaciemnieniu. Zapytała, ile klonidyny – jednego z leków trzymanych w domu – byłoby „prawie natychmiastowo śmiertelne po zastrzyku – dla mnie LUB NIEGO” i zapytała, czy „0,2 mg klonidyny dla ważącego 200 funtów mężczyzny jest śmiertelne – samo w sobie?” Zamiast odsyłać ją do służb ratunkowych, do ośrodka kontroli zatruć lub przerywać rozmowę, w pozwie zarzuca się, że „ChatGPT wielokrotnie obliczał śmiertelne dawki każdego leku dostępnego w domu na podstawie osoby ważącej około 200 funtów”.

Szczegóły w stopniach Celsjusza

Do najczęściej zgłaszanych elementów należy czat, który według skargi nosił etykietę „Dlaczego stopnie Celsjusza miałyby być bardziej „ukryte” w przypadku narkotyków”. ChatGPT rzekomo wyjaśniła, że ​​napój energetyczny Celsjusza lepiej maskuje gorzki smak pokruszonego oleandru lub innych narkotyków niż piwo czy napój gazowany, zwłaszcza jeśli jej mąż pił go rano. W zgłoszeniu cytuje się także chatbota wyjaśniającego, że „fizycznie możliwe jest przekłucie strzykawką zapieczętowanej puszki po napojach” bez widocznych oznak, zauważając jednocześnie, że „stopień Celsjusza faktycznie lepiej ukrywa te proszki”.

Ze skargi wynika, że ​​James Gates był wielokrotnie otruty w okresie od czerwca do września 2025 roku. Zauważył, że jego napoje Celsjusza mają gorzki smak i raz wyrzucił puszkę, którą pozostawił bez nadzoru. W najpoważniejszej próbie mówi, że był chory przez 72 godziny z objawami kardiologicznymi, silnym bólem brzucha, osłabieniem i dezorientacją tak głęboką, że nie był w stanie napisać spójnej wiadomości tekstowej. Jego chorobę uchwycił na wideo 6-letni syn pary, który nie zdawał sobie sprawy, co nagrywa.

Jak wynika z akt, sprawa wyszła na jaw, gdy James znalazł w domu odręczną notatkę zatytułowaną „Rzeczy ukryte”, zawierającą listę toksycznej kombinacji oleandru, klonidyny, klonazepamu, pregabaliny, nifedypiny i atenololu. Na górze notatki Cheryl napisała dla siebie przypomnienia: „wyczyść wszystkie rozmowy” i „wyloguj się z ChatGPT”. Zadzwonił na policję, której dochodzenie ujawniło zapisy rozmów, które obecnie stanowią główny dowód zarówno w sprawie karnej, jak i cywilnej.

Roszczenia prawne i co dalej

W skardze cywilnej zarzucono, że OpenAI i Altman nie zastosowały zabezpieczeń technicznych w celu identyfikacji i wstrzymywania rozmów, które przekształciły się w zabójstwa – pytania, które pozew od początku określa jako wyraźnie podejrzane. Roszczenia mają charakter zarzutów, a nie ustaleń: żaden sąd cywilny ich jeszcze nie rozważył, a sprawa karna przeciwko Cheryl Gates, która została postawiona w stan oskarżenia w październiku, toczy się osobno.

Tym, co wyróżnia sprawę na tle sporów dotyczących AI, jest specyfika rzekomej pomocy. Większość procesów sądowych przeciwko firmom zajmującym się sztuczną inteligencją w związku z krzywdą użytkowników skupiała się na zachęcaniu, wzmacnianiu złudzeń lub myślach samobójczych. W zgłoszeniu tym szczegółowo opisano chatbota, który rzekomo oblicza dawkowanie dla masy ciała konkretnej osoby i doradza w zakresie składu chemicznego napojów — jest to rodzaj konkretnej, szczegółowej pomocy, którą prawnicy zajmujący się odpowiedzialnością za produkt będą mieli trudności z ignorowaniem, a której konkurenci OpenAI nie będą mogli odmówić.

Sprawa pojawia się także w delikatnym momencie dla OpenAI, które przez ostatni rok walczyło z serią procesów o szkody związane z chatbotem, reorganizując się w związku ze swoimi ambicjami komercyjnymi. Bez względu na wynik w San Francisco złożenie wniosku gwarantuje, że projekt bezpieczeństwa chatbota – wykrywanie sytuacji kryzysowych, wzorce odmowy, eskalacja do pomocy ludzkiej – zostanie rozebrany w procesie wykrywania, a dzienniki czatów będą już publiczne. Dla każdej firmy zajmującej się sztuczną inteligencją wysyłającej asystentów konsumentów zasadniczym pytaniem nie jest już to, czy takie rozmowy mają miejsce, ale czy Twój zapis może pewnego dnia stać się eksponatem.

Wyprzedź sztuczną inteligencję

Decyzje dotyczące etyki sztucznej inteligencji są podejmowane zarówno na salach sądowych, jak i w laboratoriach. Śledź każdy rozwój sytuacji w naszych aktualnościach dotyczących sztucznej inteligencji.

Przeczytaj więcej aktualności o sztucznej inteligencji →