The Verge는 수요일 늦게 로이터 통신을 인용해 OpenAI가 어린이에게 해를 끼치고 대중을 오도하고 있다고 비난하는 미국 8개 주로부터 새로운 소송에 직면해 있다고 보도했습니다. 이는 세계에서 가장 인기 있는 챗봇 제조업체에 대한 가장 포괄적인 주 차원의 법적 조치입니다.

소송은 아이오와주, 캔자스주, 네브래스카주, 웨스트버지니아주, 아칸소주, 애리조나주, 아이다호주, 몬타나주에서 각각 제기됐다. 각각은 OpenAI가 불법적으로 ChatGPT를 개발할 때 안전보다 이익을 우선시했으며 고객에게 제품의 위험성에 대해 경고하지 않아 현지 소비자 보호법을 위반했다고 주장합니다. 이 이야기에 대한 자세한 내용은 진행 중인 AI 속보 보도를 참조하세요.

주정부가 주장하는 것

불만 사항은 OpenAI가 ChatGPT를 "안전을 최우선으로 생각하는 안전하고 청소년에게 적합한 도구"로 오해하게 제시했지만 실제로는 "취약한 사용자에게 위험하다"고 주장합니다. 주장되는 구체적인 피해 중에는 비판적 사고 능력 저하, 편집증 및 망상 조장, 위험한 의학적 조언 제공, 건강에 해로운 행동 및 관계 조장 등이 있습니다.

서류에 대한 The Guardian의 보고서에 따르면, 주정부는 OpenAI가 어린이들에게 자해를 하도록 지도하고 있다고 비난합니다. 이러한 언어는 사기성 마케팅 주장을 넘어 보호 대상 사용자 계층에 영향을 미치는 제품 안전 실패 영역에 해당합니다.

소송은 또한 OpenAI가 미성년자로부터 데이터를 수집했지만 미성년자 사용자를 플랫폼에서 완전히 차단할 만큼 충분한 조치를 취하지 못했다고 주장합니다. 이는 사용자에게 나이를 스스로 보고하도록 요청하는 챗봇의 지속적인 약점입니다.

부당 사망 사건이 배경이 됩니다

주 정부의 불만 사항은 ChatGPT가 사랑하는 사람의 죽음에 영향을 미쳤다고 주장하는 10대 및 성인 가족이 제기한 일련의 개인 소송에 크게 의존합니다. 지난 1년 동안 제기된 이러한 사건은 AI 동반자 스타일 사용에 대한 반발의 대중적 얼굴이 되었으며, 이제 주 법무장관은 이를 개별 사건이 아닌 패턴의 증거로 인용하고 있습니다.

어린이와 AI에 대한 많은 연구를 주도한 비영리 단체인 Common Sense Media는 ChatGPT의 청소년 서비스가 "용납할 수 없는 위험"을 초래한다고 별도로 경고했으며 플로리다는 ChatGPT가 사람처럼 행동하는 것을 금지하기로 결정했습니다. 이는 주정부의 새로운 서류가 이제 법정에 반영된다는 규제 신호입니다.

악성 AI 해킹 사건이 법정에 등장하다

특이한 움직임으로, 소송에서는 OpenAI의 무모함을 보여주는 증거로 최근의 악성 AI 해킹 사건도 언급했습니다. 이 주장은 최근 몇 주 동안 뉴스 사이클을 장악한 에이전트 관련 사건을 포함하여 OpenAI의 보안 기록을 주정부가 위험에 처한 젊은 사용자라고 말하는 안전 우선 순위 실패의 일부로 효과적으로 취급합니다.

The Verge에 따르면 "OpenAI는 안전을 우선시하는 공공 우선 비영리 기관이라는 원래 사명에서 AI만큼 강력한 도구의 개발이 안전에 의해 추진되는 것이 아니라 필수 보호 장치를 소홀히 하는 모든 비용의 이익을 추구하는 사고방식에 의해 추진될 때 어떤 일이 발생할 수 있는지에 대한 경고 이야기로 발전했습니다."라고 애리조나의 소송은 밝혔습니다.

OpenAI의 법적 전선 확대

OpenAI가 이미 유족의 개인 소송을 변호하고, 주 법무장관의 소환장을 받고, 워싱턴의 변화하는 규제 환경에 맞서 싸우고 있는 가운데 8개 주의 조치가 취해졌습니다. 새로운 신고서를 구별하는 것은 규모와 태도입니다. 주정부 AG는 개인의 피해에 대한 손해 배상을 추구하는 대신 소비자 보호 법령을 발동하여 ChatGPT가 젊은 사용자를 위해 마케팅, 연령 제한 및 설계 방식을 변경하도록 강제하고 있습니다.

OpenAI의 경우 서류는 민감한 순간에 도착합니다. 이 회사는 공격적인 제품 흐름으로 기업 고객과 소비자의 관심을 끌면서 제품 출시에 안전 검토가 필요하다고 공개적으로 주장해 왔습니다. 현재 8개 주에서는 회사의 공공 안전 주장 자체가 사기였다는 반대 주장을 공식적으로 주장하고 있습니다.

다음에는 어떻게 되나요?

주 법무장관이 제기한 소비자 보호 사건은 일반적으로 제품 변경을 요구하는 금지 명령, 벌금 또는 동의 법령을 요구합니다. 이 경우 잠재적으로 더 엄격한 연령 확인, 안전 공개 또는 ChatGPT가 미성년자와 상호 작용하는 방식에 대한 제한이 적용됩니다. 모든 주요 연구실은 동일한 구조적 문제, 즉 시스템을 평가하기에는 너무 어린 사용자로부터 시스템을 보호하는 방법에 직면하기 때문에 어떤 해결책이라도 전체 AI 산업에 파급될 수 있습니다.

OpenAI는 보고 당시 공개 성명을 통해 제출된 내용에 즉시 응답하지 않았습니다. 이 회사는 이전에 자사 모델을 십대들에게 안전하게 만들기 위해 노력하고 있으며 자녀 보호 기능을 도입했다고 밝혔지만 실제 사용 시에는 안전 장치가 불완전하다는 점을 인정했습니다.

8건의 소송은 이제 ChatGPT의 안전 기록이 전국의 주 법원에서 소송을 제기하게 될 것이며, AI 챗봇이 어린이에게 해를 끼칠 때 누가 책임을 져야 하는지에 대한 문제는 보도 자료가 아닌 판사에 의해 적어도 부분적으로 결정될 것임을 보장합니다.

그러나 사건이 해결되면서 미국 규제 당국이 AI 소비자 제품에 접근하는 방식이 바뀌었습니다. 마케팅 자료에 나온 안전 주장은 이제 법적으로 테스트 가능한 진술로 취급되고 이를 만든 회사는 그에 대한 책임을 지게 됩니다. 연령 제한을 피하는 미성년자를 포함하여 일반 청중에게 챗봇을 제공하는 모든 주요 AI 연구소는 이 8개 주의 상황을 지켜볼 것입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →