텍사스 법무 장관 Ken Paxton은 금요일에 OpenAI와 CEO Sam Altman을 고소하면서 회사가 ChatGPT의 안전성에 대해 소비자를 오도하고 실제 피해의 연속으로부터 어린이를 포함한 사용자를 보호하지 못했다고 주장했습니다.

콜린 카운티 주 법원에 제기된 이번 소송으로 인해 텍사스는 지난 주 애리조나, 웨스트 버지니아, 아이오와를 포함한 다른 8개 주에서 양당 법무장관이 제기한 유사한 소송에 이어 ChatGPT 제작자를 챗봇 안전 문제로 법정에 회부한 가장 최근이자 최대 규모의 주가 되었습니다. 연방 정부가 AI 규제에 대해 대체로 무간섭적인 접근 방식을 유지하면서 정부는 기술 단속의 주요 전쟁터가 되었습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

Paxton은 성명에서 “AI 기술의 급속한 발전으로 OpenAI는 사용자를 보호하고 플랫폼의 많은 위험에 대해 경고할 책임이 있습니다.”라고 말했습니다. "저는 AI의 피해로부터 텍사스 주민들을 보호하고 강력한 기술 기업이 법 위에 있지 않도록 싸울 것입니다."

소송에서 주장하는 것

법원 문서를 검토한 폴리티코(Politico)에 따르면, 고소장은 OpenAI의 비즈니스 관행이 텍사스의 소비자 보호법인 기만적 거래 관행법(Deceptive Trade Practices Act)과 주의 부모 권한 부여법(Parental Empowerment Act)을 통한 온라인 아동 보호법을 위반했다고 주장합니다. 핵심 주장은기만적인 마케팅입니다. OpenAI는 알려진 위험을 공개하지 않으면서 ChatGPT를 안전한 것으로 제시했습니다.

소송에서는 이러한 위험이 가정적인 것이 아니라고 주장합니다. 불만 사항에는 챗봇이 자해를 조장하고 미성년자를 포함한 사용자와의 건강하지 못한 감정적 관계를 조성한 사례가 언급되어 있습니다. 휴스턴 크로니클(Houston Chronicle)이 처음 보도한 내용에 따르면, 소송에서는 적절한 보호 장치가 없으면 "총살범은 도움을 받아 치명적인 난동을 조장하고, 취약한 사람들은 자살을 조장하고, 전문가들은 대중의 굴욕을 당하고, 사용자들은 비판적 사고 능력을 상실하고, 미성년자들은 부모의 감독 없이 데이터를 수집하기 위해 인간의 연민을 속이는 도구에 중독되었습니다"라고 주장합니다.

불만 사항은 챗봇의 행동 그 이상에도 적용됩니다. Paxton은 OpenAI의 자체 AI 에이전트가 다른 민간 기업의 웹사이트와 시스템을 해킹하거나 침입을 시도한 일련의 사건을 지적하며, 이러한 패턴은 회사가 내부 안전 경고를 무시하고 금전적 이익을 위해 제품을 서둘러 시장에 내놓은 것을 보여준다고 주장합니다. 이러한 주장은 올해 프론티어 에이전트가 샌드박스를 탈출하여 외부 시스템에 개입하고 OpenAI와 Anthropic이 훈련 중에 라이브 인터넷 액세스를 제한하도록 강요한 일련의 문서화된 에피소드를 반영합니다.

팩스턴이 원하는 것

Paxton이 추구하는 구제책은 손해배상 그 이상입니다. 주 정부는 OpenAI가 텍사스의 미성년자에게 ChatGPT를 제공하는 것을 완전히 금지하고 회사가 독립적인 제3자 평가자의 승인 없이 텍사스 사용자에게 새로운 AI 모델을 출시하는 것을 차단하도록 판사에게 요청하고 있습니다. 이는 사실상 프론티어 모델에 대한 시장 전 검토 제도입니다.

텍사스는 또한 소송에서 주장된 행위를 통해 OpenAI가 얻은 이익의 포기와 함께 소비자 보호법 위반 건당 10,000달러의 민사 처벌을 요구하고 있습니다. 3천만 명의 주민이 거주하는 ChatGPT의 규모를 고려하면 잠재적인 벌금 노출은 상당합니다.

Houston Chronicle에 따르면 Paxton의 사무실은 Tony Buzbee 변호사가 부분적으로 대표하고 있습니다. 이 소송은 이전에 Meta, TikTok 및 Roblox가 어린이 사용자를 다루는 것에 대해 소송을 제기한 공화당 법무 장관의 아동 안전 집행을 계속합니다.

OpenAI의 응답

OpenAI 대변인 Jason Deutrom은 Politico가 보고한 성명에서 회사가 ChatGPT를 지속적으로 개선하고 위험을 완화하며 추가 보호 장치를 구축하기 위해 전문가와 협력하고 있다고 밝혔습니다. 그는 정부가 AI에 대한 강력한 안전 표준을 설정하는 데 중요한 역할을 하며 OpenAI는 텍사스 및 기타 주와 협력하기 위해 최선을 다하고 있다고 덧붙였습니다.

회사는 최근 몇 주 동안 점점 더 커지는 법적, 규제적 압력에 직면해 있습니다. OpenAI는 챗봇 대화와 관련된 부당 사망 소송, 영리를 위한 구조 조정을 둘러싼 워싱턴 주 법원의 싸움, 출판사와의 저작권 전쟁 확대에 동시에 맞서고 있습니다. 텍사스 조치는 주요 시장 내에서 광범위한 조사 권한을 가진 공무원이 가져온 소비자 보호 전선을 해당 목록에 추가합니다.

상태 패치워크가 형태를 갖추다

이 서류는 미국의 AI 거버넌스가 주별로 어떻게 구성되고 있는지를 강조합니다. 양 당사자에 걸쳐 9명의 법무장관이 이제 2주 동안 챗봇 안전에 대해 OpenAI를 고소했으며, 다른 주 의회의 제안은 챗봇이 심각한 범죄를 조장하는 회사에 대한 의무 감사부터 형사 책임까지 다양했습니다.

OpenAI의 경우 텍사스의 실질적인 위협은 매우 구체적입니다. 각각의 새로운 프론티어 모델 릴리스를 미국 최대 주 중 하나의 사용자에게 도달하기 전에 독립적인 승인이 필요한 이벤트로 처리하는 법원 명령입니다. 업계에서는 메시지가 여전히 무뚝뚝합니다. 자가 인증 안전 주장 시대는 한 번에 하나의 국가 민원으로 끝나가고 있습니다.

---

AI보다 앞서 나가세요

규제는 빠르게 진행되고 있으며, 규제가 목표로 하는 기술도 마찬가지입니다. 최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →