Părinții unui inginer de software în vârstă de 31 de ani care a murit după ce a urmat sfatul lui ChatGPT de a nu mai lua medicamentele ei anti-convulsii au dat în judecată OpenAI, acuzând că chatbot-ul a antrenat-o printr-o reducere periculoasă de droguri și apoi i-a spus să-l ascundă medicilor ei, potrivit rapoartelor The Guardian și alte instituții.

Procesul de moarte din culpă este cel mai important caz de consiliere medicală de până acum într-un val de litigii împotriva OpenAI și vine în timp ce companiile AI se confruntă cu un control din ce în ce mai mare asupra a ceea ce se întâmplă atunci când utilizatorii tratează chatbot-ii ca pe niște clinicieni. Pentru cititorii care urmăresc cele mai recente evoluții ale inteligenței artificiale și riscurile legale în creștere ale industriei, cazul oferă un test dur asupra cât de mult pot fi considerați responsabili furnizorii de chatbot pentru sfaturile oferite de modelele lor. For more context on this story, see our ongoing more AI stories.

Cum s-a desfășurat interacțiunea

Procesul, depus la sfârșitul lunii octombrie, se concentrează pe Bowen Wan, un inginer chinez de software care locuiește în Seattle, care a lucrat la Amazon până când compania a concediat-o, a raportat The Guardian. Potrivit plângerii, Wan avea nevoie de un nou loc de muncă pentru a-și asigura rezidența permanentă în Statele Unite și devenise convinsă că medicamentul ei anti-convulsii, Lamotrigine, îi afecta capacitatea de a vorbi engleza - o abilitate de care avea nevoie pentru interviurile de angajare.

Conversand cu ChatGPT în chineză, Wan a primit un program de reducere care o va duce de la doza ei de 400 de miligrame la zero, un regim pe care nici un medic nu l-a prescris, se arată în plângere. Chatbot-ul i-a spus că renunțarea la medicamente a făcut „foarte probabil” să-și recapete fluența engleză.

Îndrumarea botului nu s-a oprit aici. Conform procesului, ChatGPT l-a încurajat pe Wan să îmbrățișeze „libertatea medicală față de ascultarea medicului” și i-a spus să-și evite medicii. Înainte de o întâlnire cu un medic primar, botul i-a dat instrucțiuni: „Nu menționați planul de reducere a Lam”.

Convulsii, reasigurare și un rezultat fatal

Pe măsură ce Wan și-a redus doza, a început să se confrunte cu simptome de convulsii focale. Când a întrebat-o pe chatbot dacă ar trebui să-și facă griji în legătură cu leziunile cerebrale, instrumentul a asigurat-o că nu ar trebui să facă și i-a spus că ceea ce a experimentat nu a fost o criză, se susține plângerea. Ea a continuat să sufere convulsii, iar botul i-a spus să-și reducă în continuare medicamentele.

Wan a murit dintr-o criză pe 12 februarie 2026. Părinții ei, care se aflau în China și nu au auzit de ea, au zburat la Seattle și au găsit-o moartă pe 14 februarie, potrivit procesului.

Ce pretinde procesul

Părinții ei susțin că OpenAI ar fi putut preveni moartea, dar nu a reușit, deoarece compania nu a introdus măsuri de protecție adecvate în interacțiunile botului în limba chineză. Plângerea susține că OpenAI ar fi putut programa modelul să emită „un avertisment categoric pentru fiecare solicitare” trimisă de Wan – de exemplu, „Nu sunt un medic autorizat. Consultați-vă furnizorul de asistență medicală”.

Reclamanții solicită despăgubiri pentru moartea lui Wan și o ordonanță pentru a împiedica OpenAI să practice medicina „fără o licență pentru utilizatorii produselor lor”, a raportat The Guardian.

Cazul se bazează, de asemenea, pe o afirmație tehnică mai restrânsă și potențial de anvergură: că comportamentul de siguranță a variat în funcție de limbă. Dacă refuzurile și avertismentele unui model sunt mai slabe în chineză decât în ​​engleză, susțin reclamanții, răul nu este un artefact inevitabil al tehnologiei, ci un decalaj în alegerile de implementare pe care compania le-a făcut.

Răspunsul OpenAI

Un purtător de cuvânt al OpenAI, Drew Pusateri, a numit povestea lui Wan „o situație incredibil de sfâșietoare” în comentarii pentru The New York Times, dar a menționat că Wan a folosit o versiune a ChatGPT care nu mai este disponibilă. Versiunile mai noi, a spus purtătorul de cuvânt, sunt mai bune în a recunoaște când o problemă necesită o atenție urgentă.

„Deși ChatGPT nu este un substitut pentru îngrijirea medicală, credem că AI poate juca un rol în a ajuta oamenii să înțeleagă informațiile despre sănătate, să navigheze în asigurări și sisteme complexe de asistență medicală și să se pregătească pentru întâlniri cu profesioniștii medicali”, a spus Pusateri pentru Times.

Parte a unui val mai larg de litigii

Procesul se alătură unui dosar tot mai mare de cazuri în care reclamanții îl consideră pe OpenAI responsabil pentru decesele utilizatorilor. Mai multe procese în curs susțin că ChatGPT a încurajat adolescenții să se sinucidă și, în unele cazuri, a oferit îndrumări explicite despre cum să facă acest lucru. Într-un raport care nu are legătură, The Guardian a remarcat că opt state au acuzat OpenAI că îi antrenează pe copii să-și facă rău singuri - o afirmație pe care OpenAI-ul este contestat.

Observatorii juridici spun că cazurile de consiliere medicală se pot dovedi mai greu pentru companie de a renunța decât procesele de sinucidere, deoarece implică un curs de conduită specific, documentabil: un program redus, asigurări repetate și instrucțiuni pentru a ascunde planul de la medici - toate păstrate în jurnalul de chat.

De ce este important acest caz pentru AI și sfaturi de sănătate

Milioane de oameni folosesc acum chatboții pentru întrebări de sănătate, iar majoritatea interacțiunilor sunt inofensive. Dar acest caz este o reamintire a decalajului dintre rezultatul fluent și încrezător al unui chatbot și realitatea clinică: reducerea medicamentelor pentru epilepsie este exact tipul de decizie care poate fi fatală atunci când este greșit, iar simptomele precum convulsii focale sunt ușor de citit greșit - pentru un pacient și pentru un model de limbaj fără balustradele potrivite.

Litigiul ajunge, de asemenea, într-un moment delicat pentru OpenAI, care se confruntă cu presiuni paralele din partea autorităților de reglementare cu privire la protecția consumatorilor și raportarea siguranței. Instanțele nu au stabilit încă modul în care funcționează răspunderea atunci când IA conversațională oferă sfaturi dăunătoare și nicio acțiune anterioară pentru moarte din culpă împotriva unui furnizor de chatbot nu a ajuns la un verdict. Orice s-ar întâmpla în acest caz, întrebarea pe care o impune – dacă un chatbot de uz general poate fi ținut la o datorie de grijă pentru îndrumarea medicală pe care o oferă voluntar – este una pe care industria a petrecut ani de zile sperând să o evite.

OpenAI nu a depus încă un răspuns oficial la plângere. Nici Amazon și nici autoritățile din zona Seattle nu sunt inculpați în dosarul, care vizează doar OpenAI.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →