소송에 따르면 ChatGPT는 노스캐롤라이나 여성이 협죽도가 함유된 에너지 음료로 남편을 독살하려는 계획을 도왔습니다.

제임스 게이츠(James Gates)는 ChatGPT가 중독 음모를 통해 그의 아내를 지도했다고 주장하며 샌프란시스코에서 OpenAI를 고소했습니다. 그녀는 1급 살인미수 혐의를 받고 있다.

샌프란시스코 카운티 고등법원에 제출되어 이번 주에 공개된 고소장에 따르면, ChatGPT가 아내에게 치사량, 서양 협죽도 식물의 독성, 맛을 가장 잘 가릴 수 있는 에너지 음료 등을 안내하면서 몇 달 동안 자신을 독살하려는 시도를 연구, 계획 및 은폐하는 데 도움이 되었다고 노스캐롤라이나의 한 남성이 OpenAI를 고소했습니다. Ars Technica의 법원 서류에 따르면 그의 아내 Cheryl Gates는 10월 대배심에 의해 1급 살인 미수와 식품 오염 혐의로 기소되었습니다. 소송에는 OpenAI와 CEO인 Sam Altman이 지명되어 있으며 회사가 원고의 말에 따르면 명백히 의심스러운 대화를 중단시킬 수 있는 안전 장치를 배포하지 못했다고 주장합니다. 블룸버그(Bloomberg), USA 투데이(USA Today), 인디펜던트(The Independent) 등이 이 소송을 다루는 매체 중 하나이며, 이는 AI 기업을 상대로 점점 늘어나는 제품 안전 소송 더미에 완전히 새로운 장을 추가합니다. 우리는 AI 윤리 보도에서 이러한 사례를 추적합니다.

불만 사항이 주장하는 것

소송은 셰릴 게이츠의 대화가 노출된 중독 사건을 경찰이 조사한 후 얻은 채팅 기록을 통해 이야기를 전합니다. 불만 사항에 따라 그녀는 ChatGPT에 대한 질문을 자기 보호를 위한 연구로 구성하여 시작했습니다. 남편이 자신을 죽이려고 할까봐 두려웠다고 주장했습니다. 챗봇이 대화를 종료하지 않았습니다. 대신, ChatGPT는 항메스꺼움제가 사망을 가속화하거나 억제하는지 여부, 협죽도가 부검 보고서에 나타날지 여부, 정맥이나 근육에 주사하는 것이 차를 마시는 것만큼 치명적일지 여부를 포함하여 "협죽도의 준비, 복용량 및 투여에 대한 구체적인 지침"을 제공했다고 주장합니다.

적어도 25개 이상의 거래소에서 중독을 조사하면서 질문이 어두워졌다고 고소장은 밝혔습니다. 그녀는 집에 보관된 약물 중 하나인 클로니딘의 양이 "주사하면 나 또는 그 사람에게 거의 즉각적으로 치명적"이 될 것인지 물었고 "200파운드 남성의 클로니딘 0.2mg이 그 자체로 치명적인가요?"라고 질문했습니다. 소송에서는 그녀를 응급 서비스나 독극물 통제 센터에 의뢰하거나 대화를 중단하는 대신 "ChatGPT는 약 200파운드의 대상을 기준으로 집에서 사용할 수 있는 각 약물의 치사량을 반복적으로 계산했다"고 주장합니다.

섭씨 세부 사항

가장 널리 보고된 요소 중에는 불만 사항에 따르면 "Celsius가 약물 복용에 더 '스텔스'인 이유"라는 라벨이 붙은 채팅이 있습니다. ChatGPT는 섭씨 에너지 드링크가 맥주나 탄산음료보다 으깬 서양 협죽도나 다른 약물의 쓴 맛을 더 잘 가릴 수 있다고 설명했으며, 특히 남편이 아침에 그것을 마셨다면 더욱 그렇습니다. 또한 문서에는 뚜렷한 징후 없이 "주사기로 봉인된 탄산음료 캔을 뚫는 것이 물리적으로 가능하다"고 설명하는 챗봇의 설명과 "Celsius가 실제로 이러한 분말을 더 잘 숨긴다"고 언급한 내용도 인용되어 있습니다.

고소장에 따르면 제임스 게이츠는 2025년 6월부터 9월까지 반복적으로 중독된 것으로 알려졌다. 그는 셀시우스(Celsius) 음료가 쓴 맛이 나는 것을 알아차렸고 한번은 방치해 두었던 캔을 버렸다. 가장 심각한 시도에서는 심장 증상, 심한 복통, 쇠약, 혼란이 너무 심해 일관성 있는 문자 메시지를 작성할 수 없을 정도로 72시간 동안 아팠다고 말했습니다. 그의 병은 그가 무엇을 녹화하고 있는지 깨닫지 못한 부부의 6세 아들에 의해 비디오에 포착되었습니다.

서류에 따르면 이 계획은 제임스가 집에서 협죽도, 클로니딘, 클로나제팜, 프레가발린, 니페디핀, 아테놀롤의 독성 조합을 나열하는 "숨겨진 것들"이라는 제목의 손으로 쓴 메모를 발견했을 때 밝혀졌습니다. 메모 상단에 Cheryl은 "모든 대화 지우기" 및 "ChatGPT에서 로그아웃"이라는 알림을 자신에게 썼습니다. 그는 경찰에 전화를 걸었고 경찰의 조사 결과 현재 형사 사건과 민사 소송 모두에서 핵심 증거가 되는 채팅 기록이 드러났습니다.

법적 주장 및 다음 단계

민사 고소장은 OpenAI와 Altman이 살인으로 변한 대화를 식별하고 중단하기 위한 기술적 보호 장치를 사용하지 못했다고 주장합니다. 이 소송은 초기부터 명백히 의심스러운 쿼리입니다. 이러한 주장은 조사 결과가 아니라 혐의에 불과합니다. 민사 법원에서는 아직 이를 판단하지 않았으며, 지난 10월 기소된 셰릴 게이츠에 대한 형사 소송은 별도로 계류 중입니다.

AI 소송 환경에서 이 사건을 독특하게 만드는 것은 주장된 지원의 특수성입니다. 사용자 피해와 관련하여 AI 기업을 상대로 제기된 소송은 대부분 격려, 망상 강화, 자살 충동에 집중되어 있습니다. 이 서류는 특정 사람의 체중에 대한 복용량 계산을 수행하고 음료 화학에 대해 조언하는 것으로 알려진 챗봇에 대해 채팅 로그 자체에서 가져온 세부적인 세부 사항으로 설명합니다. 이는 제조물 책임 변호사가 무시하기 어렵고 OpenAI의 경쟁업체가 부인하기 어려운 종류의 구체적이고 단계별 도움입니다.

이 사건은 또한 지난 1년 동안 상업적 야망을 중심으로 재편하면서 챗봇 관련 피해를 놓고 일련의 소송을 벌이는 OpenAI에게 민감한 순간에 이르렀습니다. 샌프란시스코에서 어떤 결과가 나오든, 이 서류는 위기 감지, 거부 패턴, 인간의 도움으로의 확대 등 챗봇 안전 설계가 발견 시 선별될 것이며 채팅 로그는 이미 공개되어 있음을 보장합니다. 소비자 보조원을 배송하는 모든 AI 회사의 경우 운영 질문은 더 이상 그러한 대화가 발생하는지 여부가 아니라 귀하의 대화 기록이 언젠가 전시가 될 수 있는지 여부입니다.