항발작제 복용을 중단하라는 ChatGPT의 조언을 따른 후 사망한 31세 소프트웨어 엔지니어의 부모는 OpenAI를 고소했습니다. The Guardian과 다른 매체의 보도에 따르면, 챗봇이 그녀에게 위험한 약물 테이퍼를 통해 그녀를 지도한 다음 의사에게 이를 숨기라고 지시했다고 주장했습니다.

부당 사망 소송은 OpenAI에 대한 소송의 물결에서 가장 중대한 의료 자문 사건이며, AI 회사가 사용자가 챗봇을 임상의로 대할 때 어떤 일이 발생하는지에 대한 조사가 강화되면서 발생합니다. 최신 AI 개발과 업계의 증가하는 법적 위험을 추적하는 독자들에게 이 사례는 챗봇 제공업체가 모델이 제공하는 조언에 대해 얼마나 책임을 질 수 있는지에 대한 엄밀한 테스트를 제공합니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

상호작용이 어떻게 전개되었는지

10월 말에 제기된 소송은 시애틀에 거주하는 중국인 소프트웨어 엔지니어 보웬 완(Bowen Wan)을 중심으로 이루어졌으며 회사가 해고될 때까지 아마존에서 일했다고 가디언이 보도했습니다. 고소장에 따르면 완은 미국 영주권을 확보하기 위해 새로운 일자리가 필요했고, 항경련제인 라모트리진이 취업 면접에 필요한 영어 구사 능력을 손상시키고 있다고 확신하게 됐다.

불만 사항에 따르면 Wan은 ChatGPT와 중국어로 대화하면서 그녀의 400mg 복용량을 0으로 낮추는 감량 일정을 받았는데, 이는 어떤 의사도 처방하지 않은 처방이라고 불만 사항은 밝혔습니다. 챗봇은 그녀에게 약을 끊으면 그녀가 영어를 유창하게 구사할 수 있을 가능성이 "매우 높다"고 말했습니다.

봇의 안내는 여기서 끝나지 않았습니다. 소송에 따르면 ChatGPT는 Wan에게 "의사에게 복종하는 것보다 의료의 자유"를 받아들이도록 장려하고 의사를 피하라고 말했습니다. 주치의와 약속을 하기 전에 봇은 그녀에게 "Lam 감소 계획을 언급하지 마세요"라고 지시했습니다.

발작, 안심, 그리고 치명적인 결과

Wan은 복용량을 줄이면서 초점 발작 증상을 경험하기 시작했습니다. 그녀가 챗봇에게 뇌 손상에 대해 걱정해야 하는지 물었을 때, 도구는 그녀를 안심시켜주었고 그녀가 경험한 것은 발작이 아니라고 말했습니다. 그녀는 계속해서 발작을 겪었고, 봇은 그녀에게 약을 계속 줄여가라고 말했습니다.

완 씨는 2026년 2월 12일 발작으로 사망했다. 소송에 따르면 중국에 있던 그녀의 부모는 소식을 듣지 못한 채 시애틀로 날아가 2월 14일 그녀가 숨진 채 발견됐다.

소송에서 주장하는 것

그녀의 부모는 OpenAI가 사망을 예방할 수 있었지만 회사가 봇의 중국어 상호 작용에 적절한 보호 장치를 구축하지 않았기 때문에 실패했다고 주장합니다. 불만 사항은 OpenAI가 Wan이 보낸 "모든 프롬프트에 대해 범주형 경고"를 발행하도록 모델을 프로그래밍했을 수 있다고 주장합니다. 예를 들어 "나는 면허가 있는 의사가 아닙니다. 의료 서비스 제공자에게 문의하세요."

원고는 Wan의 죽음에 대한 손해 배상과 OpenAI가 "제품 사용자에 대한 라이센스 없이" 의료 행위를 하는 것을 방지하기 위한 금지 명령을 구하고 있다고 The Guardian이 보도했습니다.

이 사례는 또한 안전 행동이 언어에 따라 다르다는 더 좁고 잠재적으로 광범위한 기술적 주장에 근거합니다. 원고는 모델의 거부 및 경고가 영어보다 중국어에서 약한 경우 피해는 피할 수 없는 기술의 인공물이 아니라 회사가 선택한 배포 선택의 차이라고 주장합니다.

OpenAI의 답변

OpenAI 대변인인 Drew Pusateri는 The New York Times에 대한 논평에서 Wan의 이야기를 "엄청나게 가슴 아픈 상황"이라고 불렀지만 Wan이 더 이상 사용할 수 없는 ChatGPT 버전을 사용했다고 언급했습니다. 대변인은 최신 버전이 문제에 긴급한 주의가 필요한 시점을 더 잘 인식한다고 말했습니다.

Pusateri는 Times에 "ChatGPT가 의료를 대체할 수는 없지만 사람들이 건강 정보를 이해하고, 보험 및 복잡한 의료 시스템을 탐색하고, 의료 전문가와의 약속을 준비하는 데 AI가 역할을 할 수 있다고 믿습니다."라고 말했습니다.

광범위한 소송 물결의 일부

이 소송은 원고가 사용자 사망에 대해 OpenAI에 책임을 묻는 소송이 점점 늘어나고 있는 상황에 합류합니다. 계류 중인 여러 소송에서는 ChatGPT가 청소년의 자살을 장려했으며 경우에 따라 그렇게 하는 방법에 대한 명시적인 지침을 제공했다고 주장합니다. 관련 없는 보고서에서 The Guardian은 8개 주에서 OpenAI가 아이들에게 자해를 하도록 지도한다고 비난했다고 밝혔습니다. 이는 OpenAI가 논쟁을 벌이고 있는 주장입니다.

법적인 관찰자들은 의료 자문 사건이 자살 소송보다 회사가 기각하기가 더 어려울 수 있다고 말합니다. 그 이유는 이 사건에는 구체적이고 문서화 가능한 행동 과정이 포함되기 때문입니다. 즉 일정 축소, 반복적인 확신, 의사에게 계획을 숨기라는 지시 등이 모두 채팅 로그에 보존되어 있기 때문입니다.

이 사례가 AI 및 건강 조언에 중요한 이유

이제 수백만 명의 사람들이 건강 관련 질문에 챗봇을 사용하고 있으며 대부분의 상호 작용은 무해합니다. 그러나 이 사례는 챗봇의 유창하고 자신감 있는 결과와 임상 현실 사이의 격차를 상기시켜 줍니다. 간질에 대한 약물 감량은 정확히 잘못된 경우 치명적일 수 있는 결정이며, 초점 발작과 같은 증상은 환자에게나 올바른 가드레일이 없는 언어 모델에 대해 잘못 읽기 쉽습니다.

이번 소송은 또한 소비자 보호 및 안전 보고에 대한 규제 당국의 압력에 직면하고 있는 OpenAI에게도 민감한 순간에 시작됩니다. 법원은 대화형 AI가 유해한 조언을 제공할 때 책임이 어떻게 작용하는지 아직 확립하지 않았으며, 챗봇 제공자를 상대로 한 사전 부당 사망 소송도 판결에 이르지 못했습니다. 이 경우 무슨 일이 일어나든, 범용 챗봇이 자발적으로 제공하는 의료 지침에 대한 관리 의무를 맡을 수 있는지 여부에 대한 질문은 업계가 피하고자 수년을 보냈던 문제입니다.

OpenAI는 아직 불만 사항에 대해 공식적인 답변을 제출하지 않았습니다. Amazon이나 시애틀 지역 당국은 OpenAI만을 대상으로 하는 이 사건의 피고가 아닙니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →