Meta는 자동 옵트인에 대한 SAG-AFTRA 및 할리우드 반발 이후 Instagram에서 Muse AI 이미지 기능을 가져옵니다.

Meta는 SAG-AFTRA와 CAA가 사용자 사진에 대한 자동 선택 기능을 비난한 후 '표시를 놓쳤다'고 인정하면서 출시 불과 며칠 만에 Instagram에서 Muse Image AI 기능을 제거했습니다.

Meta는 논란의 여지가 있는 Muse Image AI 기능을 출시한 지 며칠 만에 인스타그램에서 제거했으며, 자동 옵트인 디자인에 대한 할리우드 노조, 연예 기획사, 개인 정보 보호 옹호자들의 격렬한 반발로 인해 이 도구가 "목표를 놓쳤다"는 점을 인정했습니다.

인스타그램 사용자의 사진과 콘텐츠를 사용해 명시적인 동의 없이 AI 이미지를 생성하는 이 기능은 이번 주 초 공개되자마자 즉각적인 반응을 불러일으켰습니다. 사용자는 자신의 개인 사진이 Meta의 이미지 생성 모델을 위한 훈련 자료가 되면서 프로그램에 자동으로 등록되었음을 발견했습니다.

SAG-AFTRA와 CAA가 주도합니다

영화배우 길드-미국 텔레비전 및 라디오 아티스트 연맹(SAG-AFTRA)은 가장 큰 비판을 가하며 회원과 모든 Instagram 사용자에게 이 기능에서 탈퇴할 것을 촉구했습니다. 노동조합은 보상이나 동의 없이 공연자의 이미지를 복제하고 조작할 수 있는 AI 도구에 대한 연예계의 깊은 우려를 반영하여 사람들에게 "당신의 초상을 보호하기 위한 조치를 취하라"고 촉구하는 성명을 발표했습니다.

할리우드의 가장 강력한 탤런트 에이전시 중 하나인 크리에이티브 아티스트 에이전시(CAA)도 이 기능을 비난했습니다. Deadline에 따르면 두 조직 모두 공개 성명에서 "도구를 폐기"하여 Meta가 출시를 재고하도록 압력을 가했습니다.

엔터테인먼트 산업 조직의 반발은 혼합 현실 및 AI 이니셔티브를 위해 할리우드 제작자 및 스튜디오와 관계를 구축하기 위해 노력해 온 Meta에 특히 큰 비중을 차지합니다.

옵트인 논란

논란의 핵심은 AI 교육 프로그램에 사용자를 명시적으로 선택하도록 요구하지 않고 자동으로 사용자를 AI 교육 프로그램에 등록하기로 한 Meta의 결정에 집중되었습니다. 이는 수백만 명의 Instagram 사용자가 자신도 모르게 또는 긍정적인 동의 없이 자신의 사진을 Muse 이미지 생성기에 공급했다는 의미입니다.

Axios는 Meta의 접근 방식이 사용자 자율성과 데이터 보호의 기본 원칙을 위반했다고 비판자들이 주장하면서 이 기능이 특히 동의 문제에 대해 비난을 받았다고 보고했습니다. 개인 정보 보호 옹호자들은 Meta가 옵트아웃 메커니즘을 제공했지만 설정을 찾고 탐색하는 부담은 전적으로 사용자에게 있다고 지적했습니다.

Shacknews는 Meta가 지속적인 반발이 발생한 지 3일 만에 Instagram Muse AI 이미지 기능을 중단하여 최근 기억에 남는 회사의 가장 빠른 제품 반전 중 하나가 되었다고 보고했습니다.

메타의 답변

Deadline과 TheWrap에 따르면 Meta는 반발을 인정하는 성명에서 이 기능이 "목표를 놓쳤다"고 말했습니다. 회사는 단순히 옵트인 메커니즘을 수정하는 것이 아니라 해당 기능을 비활성화했습니다. 이는 기본 설계에 결함이 너무 많아 현재 형태로 복구할 수 없음을 시사합니다.

메타가 AI 이니셔티브에 대해 비판을 받은 것은 이번이 처음이 아니다. 회사는 앞서 지난 7월 초 인스타그램과 왓츠앱 내에서 최초의 사내 AI 이미지 생성기인 Muse Image를 출시했습니다. 초기 출시는 조심스러운 관심을 받았지만 이후 교육 목적으로 자동 사진 등록 기능을 추가하는 것은 많은 사용자와 업계 조직의 선을 넘었습니다.

AI 및 동의에 대한 더 넓은 의미

이 사건은 훈련 데이터에 대한 기업의 갈망과 개인 정보가 사용되는 방식을 통제할 수 있는 사용자의 권리 사이에서 AI 업계의 긴장이 고조되고 있음을 강조합니다. 생성적 AI 모델이 점점 더 큰 데이터 세트를 요구함에 따라 기술 회사는 사용자 생성 콘텐츠를 교육 자료 소스로 점점 더 많이 활용하고 있습니다.

SAG-AFTRA와 같은 조직화된 노동 단체의 반발은 AI와 창의적 노동에 대한 논쟁의 최전선에 있었던 엔터테인먼트 산업이 AI 기업이 동의와 보상에 접근하는 방식을 형성하는 데 여전히 강력한 힘으로 남아 있음을 보여줍니다.

이번 논란은 규제 준수에 대한 의문도 제기한다. 유럽 연합에서는 AI법과 일반 데이터 보호 규정(GDPR)이 동의 및 데이터 사용에 대한 엄격한 요구 사항을 설정합니다. Meta의 자동 옵트인 접근 방식은 주요 기술 플랫폼에 대한 데이터 보호 규칙을 시행하는 데 점점 더 적극적으로 나서고 있는 유럽 규제 기관의 조사에 직면할 수 있습니다.

LA 타임즈는 배우와 아티스트가 자신의 초상이 허가 없이 AI 생성 콘텐츠에 사용될 가능성에 대해 경각심을 표명하면서 창작 커뮤니티의 반발이 있은 후 특히 삭제가 이루어졌다고 언급했습니다.