일론 머스크(Elon Musk)의 인공지능 회사인 xAI는 수요일 미네소타주와 연방법원에서 AI가 생성한 가짜 누드 이미지를 금지하는 새로운 법안이 수정헌법 제1조를 위반한다고 주장하며 맞섰다. 수요일 오전 9시 30분에 시작된 세인트폴 연방법원 청문회는 AI가 생성한 실제 인물 이미지를 국가가 얼마나 규제할 수 있는지에 대한 전국적인 시험 사례가 된 분쟁의 최신 라운드입니다.

문제는 지난 8월 1일 발효된 미네소타의 AI '누드화'법으로, AI 도구가 실제 사람의 초상을 이용해 가짜 누드 이미지를 만드는 것을 금지하고 있다. 이 법은 또한 피해자에게 민사 법원에 사건을 제기할 수 있는 권리를 부여하고, 누군가를 알몸으로 보이게 만들기 위해 AI로 변경된 이미지에 불법적으로 액세스하거나 다운로드할 때마다 50만 달러의 벌금을 부과하도록 승인합니다. 이는 주 의원들이 이 문제를 처리하는 심각성을 반영하는 수치입니다.

거의 만장일치로 통과된 법안

정치적 배경 때문에 법정 충돌은 이례적이다. 나체화 금지 법안은 지난 회기 미네소타 주의회에서 제안됐고 거의 전폭적인 지지를 받아 통과됐다. KSTP에 따르면 하원에서는 132대 1, 상원에서는 65대 0이다. 이러한 마진은 모든 기술 규제에서 드물며, 정치적으로 비난을 받는 합의되지 않은 딥페이크 이미지가 정당 전반에 걸쳐 얼마나 널리 퍼졌는지를 나타냅니다.

xAI는 법이 발효되기 하루 전에 연방 소송을 제기하는 동시에 집행을 막기 위한 임시 금지 명령을 요청했습니다. CBS 뉴스에 따르면 판사는 제출이 지연된 점을 지적하고 회사에 대한 피해가 즉각적이지 않았다는 점을 지적하면서 그 요청을 기각했습니다. 수요일 청문회에서는 예비 금지 명령에 대한 xAI의 광범위한 요청이 다루어졌고, 저녁까지 판사는 여전히 논쟁을 심사숙고하고 있었습니다.

첫 번째 수정안 충돌

xAI에 따르면 이 금지 조치는 표현의 자유와 시각적 표현 도구를 위헌적으로 제한합니다. 회사의 소송은 법의 핵심 메커니즘, 즉 AI 시스템이 결코 동의하지 않은 실제 사람들의 누드 묘사를 생성하는 것을 금지하는 것을 목표로 합니다. 이러한 입장은 xAI를 헌법적 근거에 따라 회사조차도 생산 시 모욕적이라고 인정하는 출력 범주(합의되지 않은 합성 누드)를 방어하는 불편한 자세를 취하게 합니다.

미네소타주 법무장관 키스 엘리슨(Keith Ellison) 사무실은 이 법이 협소하게 맞춤화되어 있으며 xAI가 헌법적 도전에 성공할 가능성이 낮다고 반박했습니다. Law Commentary의 청문회 보고는 주의 가장 날카로운 주장을 포착했습니다. 미네소타는 xAI의 Grok 이미지 생성기가 보호된 음성이 아닌 도구이며 제품의 기능을 규제하는 것은 사람이 말하는 것을 규제하는 것과 다르다고 주장합니다. 주정부는 또한 xAI가 사용자를 대신하여 미네소타를 고소할 수 없다고 법무장관실이 주장하고 있다고 MLex가 보고하면서 xAI의 입장에 이의를 제기했습니다.

구별은 미네소타를 넘어 훨씬 중요합니다. 생성 모델 자체가 보호받는 표현으로 간주된다면 딥페이크 포르노, 사기, 잘못된 선거 정보를 표적으로 삼는 광범위한 주법도 동일한 주장에 취약할 수 있습니다. 대신 법원이 모델 출력물을 일반 규제 대상 제품으로 취급하는 경우 주에서는 현재 연방법이 제공하지 않는 합성 미디어에 대한 지속적인 영향력을 얻게 됩니다.

더 어두운 배경

헌법 교리를 둘러싼 법정 싸움은 더욱 암울한 사실 기록을 상대로 펼쳐지고 있습니다. 미네소타 변호사가 보고한 바와 같이, 별도의 연방 소송에서는 xAI의 도구가 AI로 생성된 아동 성적 학대 자료를 생성할 수 있었다고 주장합니다. 이 소송은 전국의 고등학생을 대상으로 한 문서화된 비합의 누드 누드화와 결합되어 규제되지 않은 초상 기반 이미지 생성에 대한 대중의 정서를 급격히 변화시켰으며 132-1과 65-0 표를 설명하는 데 도움이 됩니다.

xAI는 이전에 학대하는 세대를 제한한다고 밝혔으며, 회사의 법적 주장은 그러한 이미지가 모든 경우에 합법적이어야 한다는 것이 아니라 도구 카테고리에 대한 전면적인 금지는 잘못된 헌법 장치라는 것입니다. 주 변호사들은 수요일 미네소타가 학대적인 사용 사례를 겨냥하여 법률 초안을 작성했으며 이번 회기에서 가장 널리 지지되는 개인 정보 보호법 중 하나를 무효화하려는 회사에 해당한다고 응답했습니다.

다음에 무슨 일이 일어날까요?

예비 금지 명령에 대한 판사의 계류 중인 결정에 따라 미네소타가 기본 소송이 진행되는 동안 금지 조치를 계속 집행할 수 있는지 여부가 결정될 것입니다. 이 절차는 수개월이 걸릴 수 있으며 결국 고등 법원이 관여할 것으로 보입니다. 결과가 어떻든, 이 사건은 다른 주 의회에서 면밀히 감시되고 있습니다. 최근 몇 년 동안 수십 개의 주에서 딥페이크 조치를 통과시키거나 고려했으며, 미네소타의 접근 방식을 결정하는 판결은 나머지 주에서 어떻게 작성하는지 결정하게 될 것입니다.

이 분쟁은 또한 xAI의 관행에 대한 조사가 강화되는 순간에 시작됩니다. 회사는 동시에 다른 포럼에서 콘텐츠 정책을 방어하는 동시에 Grok을 최대한 억제되지 않은 창의적인 도구로 자리매김하려고 노력하고 있습니다. 이 조합은 이제 모든 주에서 제정한 가장 초당파적인 개인 정보 보호 중 하나와 직접적인 헌법 충돌을 일으켰습니다. 합성 미디어 규제를 따르는 독자들을 위해 세인트 폴에 있는 이 법정은 현재 업계에서 가장 중대한 표현의 자유 싸움이 논쟁을 벌이고 있는 곳입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →