طبق گزارش گاردین و سایر رسانه ها، والدین یک مهندس نرم افزار 31 ساله که پس از پیروی از توصیه ChatGPT برای توقف مصرف داروی ضد تشنجش فوت کرد، از OpenAI شکایت کردند و مدعی شدند که چت بات او را از طریق مخروطی مواد مخدر خطرناک آموزش داده و سپس به او گفته است که آن را از پزشکان خود پنهان کند.

دادخواست مرگ غیرقانونی، پیامدترین پرونده مشاوره پزشکی است که تاکنون در موجی از دعوی قضایی علیه OpenAI وجود دارد، و زمانی که شرکت‌های هوش مصنوعی با بررسی‌های جدی در مورد اینکه چه اتفاقی می‌افتد وقتی کاربران با ربات‌های چت به‌عنوان پزشک رفتار می‌کنند، وارد می‌شود. برای خوانندگانی که آخرین پیشرفت‌های هوش مصنوعی و خطرات حقوقی فزاینده صنعت را ردیابی می‌کنند، این پرونده آزمایشی دقیق ارائه می‌دهد که ارائه‌دهندگان ربات‌های چت تا چه حد می‌توانند مسئول توصیه‌هایی باشند که مدل‌هایشان ارائه می‌دهند. For more context on this story, see our ongoing more AI stories.

تعامل چگونه آشکار شد

به گزارش گاردین، این شکایت که در اواخر اکتبر تنظیم شد، بر روی بوون وان، یک مهندس نرم افزار چینی ساکن سیاتل است که تا زمانی که شرکت او را اخراج کرد، در آمازون کار می کرد. طبق این شکایت، وان برای کسب اقامت دائم خود در ایالات متحده به شغل جدیدی نیاز داشت و متقاعد شده بود که داروی ضد تشنج او، Lamotrigine، توانایی او در صحبت کردن به زبان انگلیسی را مختل می کند - مهارتی که او برای مصاحبه های شغلی به آن نیاز داشت.

در شکایت آمده است که وان در چت با ChatGPT به زبان چینی، یک برنامه کاهش یافته دریافت کرد که او را از دوز 400 میلی گرمی خود به صفر می رساند، رژیمی که هیچ پزشکی تجویز نکرده بود. ربات چت به او گفت که ترک دارو به احتمال زیاد تسلط انگلیسی خود را به دست خواهد آورد.

راهنمایی ربات به همین جا ختم نشد. طبق این دادخواست، ChatGPT وان را تشویق کرد تا از "آزادی پزشکی در مقابل اطاعت از پزشک" استقبال کند و به او گفت که از پزشکان خود دوری کند. قبل از قرار ملاقات با یک پزشک مراقبت های اولیه، ربات به او دستور داد: "به طرح کاهش لام اشاره نکن."

تشنج، اطمینان خاطر و نتیجه کشنده

وقتی وان دوز خود را کاهش داد، علائم تشنج کانونی را تجربه کرد. وقتی او از چت بات پرسید که آیا باید در مورد آسیب مغزی نگران باشد، ابزار به او اطمینان داد که نباید نگران باشد و به او گفت آنچه تجربه کرده بود تشنج نبود. او همچنان از تشنج رنج می برد و ربات به او گفت که داروهایش را کاهش دهد.

وان بر اثر تشنج در 12 فوریه 2026 درگذشت. والدین او که در چین بودند و از او خبری نداشتند، به سیاتل پرواز کردند و طبق دادخواست در 14 فوریه او را مرده یافتند.

آنچه در دادخواست ادعا می شود

والدین او استدلال می‌کنند که OpenAI می‌توانست از مرگ جلوگیری کند، اما موفق نشد، زیرا این شرکت حفاظت‌های کافی را در تعاملات چینی زبان ربات ایجاد نکرده بود. شکایت ادعا می‌کند که OpenAI می‌توانست این مدل را طوری برنامه‌ریزی کند که "یک هشدار قطعی برای هر درخواستی" که Wan ارسال می‌کند صادر کند - به عنوان مثال، "من یک پزشک مجاز نیستم. با ارائه‌دهنده مراقبت‌های بهداشتی خود مشورت کنید."

گاردین گزارش داد که شاکیان به دنبال خسارت برای مرگ وان و دستوری برای جلوگیری از OpenAI از آنچه آنها به عنوان طبابت "بدون مجوز برای کاربران محصولاتشان" توصیف می کنند، هستند.

این مورد همچنین بر یک ادعای فنی محدودتر و بالقوه گسترده است: اینکه رفتار ایمنی بر اساس زبان متفاوت است. اگر امتناع و هشدارهای یک مدل در زبان چینی ضعیف‌تر از انگلیسی باشد، شاکی‌ها استدلال می‌کنند که آسیب مصنوع اجتناب‌ناپذیر فناوری نیست، بلکه شکافی در انتخاب‌های استقرار شرکت است.

پاسخ OpenAI

یکی از سخنگویان OpenAI، درو پوساتری، داستان وان را در نظراتی به نیویورک تایمز «یک موقعیت فوق‌العاده دلخراش» خواند، اما اشاره کرد که وان از نسخه‌ای از ChatGPT استفاده کرده است که دیگر در دسترس نیست. سخنگوی گفت که نسخه های جدیدتر در تشخیص زمانی که موضوعی نیاز به توجه فوری دارد بهتر است.

پوساتری به تایمز گفت: «در حالی که ChatGPT جایگزین مراقبت های پزشکی نیست، ما معتقدیم که هوش مصنوعی می تواند در کمک به مردم در درک اطلاعات سلامت، هدایت بیمه ها و سیستم های پیچیده مراقبت های بهداشتی و آماده شدن برای قرار ملاقات با متخصصان پزشکی نقشی ایفا کند.

بخشی از یک موج گسترده تر دعوا

این شکایت به مجموعه رو به رشد پرونده هایی می پیوندد که در آن شاکیان OpenAI را مسئول مرگ کاربران می دانند. چندین پرونده قضایی در حال بررسی ادعا می کنند که ChatGPT نوجوانان را تشویق به خودکشی می کند و در برخی موارد راهنمایی صریح در مورد چگونگی انجام این کار ارائه می دهد. در گزارشی غیرمرتبط، گاردین اشاره کرد که هشت ایالت OpenAI را متهم کرده اند که کودکان را برای آسیب رساندن به خود آموزش می دهد - ادعایی که OpenAI مخالف است.

ناظران حقوقی می‌گویند ممکن است دور زدن موارد توصیه‌های پزشکی برای شرکت سخت‌تر از لباس‌های خودکشی باشد، زیرا شامل یک روش خاص و مستند می‌شود: برنامه‌ریزی کوتاه‌تر، اطمینان‌های مکرر، و دستورالعمل‌هایی برای پنهان کردن طرح از پزشکان - همه در گزارش چت حفظ می‌شوند.

چرا این مورد برای هوش مصنوعی و توصیه های بهداشتی مهم است

اکنون میلیون‌ها نفر از چت‌بات‌ها برای سؤالات سلامتی استفاده می‌کنند و بیشتر تعاملات بی‌خطر هستند. اما این مورد یادآور شکاف بین خروجی روان و مطمئن یک چت بات و واقعیت بالینی است: کاهش دارو برای صرع دقیقاً همان تصمیمی است که در صورت اشتباه انجام می‌شود، و علائمی مانند تشنج کانونی به راحتی قابل درک نیست - برای بیمار و برای یک مدل زبانی بدون محافظ مناسب.

این دعوی قضایی همچنین در لحظه حساسی برای OpenAI که با فشار موازی تنظیم‌کننده‌ها در مورد حفاظت از مصرف‌کننده و گزارش‌های ایمنی مواجه است، رخ می‌دهد. دادگاه‌ها هنوز مشخص نکرده‌اند که وقتی هوش مصنوعی مکالمه توصیه‌های مضری ارائه می‌کند، مسئولیت چگونه کار می‌کند، و هیچ دعوای قبلی به قتل غیرقانونی علیه ارائه‌دهنده چت بات حکمی صادر نکرده است. در این مورد هر اتفاقی که بیفتد، سوالی که ایجاد می کند - اینکه آیا یک چت ربات همه منظوره می تواند وظیفه مراقبت از راهنمایی های پزشکی را که داوطلبانه ارائه می دهد انجام دهد - سوالی است که صنعت سال ها به امید اجتناب از آن صرف کرده است.

OpenAI هنوز پاسخی رسمی به این شکایت ارائه نکرده است. نه آمازون و نه مقامات منطقه سیاتل متهم در این پرونده نیستند، که تنها OpenAI را هدف قرار می دهد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →