Apple은 자사 플랫폼의 AI 동반자 및 데이트 앱에 대해 강경한 선을 긋고 있습니다. 월요일 개발자들에게 발표한 내용에 따르면 회사는 미성년자가 온라인 데이트 앱이나 성적 또는 낭만적인 콘텐츠에 관여하는 AI 동반 ​​앱에 액세스하는 것을 더 어렵게 만들기 위해 App Store 정책을 조정하고 있으며, 11월 16일부터 개발자는 앱의 연령 등급이 해당 기능을 정확하게 반영할 수 있도록 새로운 콘텐츠 설명을 제출해야 한다고 밝혔습니다.

결과적으로 데이트 또는 연애 기능을 제공하는 모든 앱은 이제 18세 이상 등급을 받아야 합니다. 여기에는 일반적으로 이미 성인으로 제한되는 명백한 데이트 서비스뿐만 아니라 빠르게 성장하는 AI 동반 ​​앱 카테고리도 포함되며, 이것이 바로 새로운 정책이 가장 어려운 부분입니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

AI 동반 앱이 실제 타겟인 이유

AI 컴패니언 앱은 종종 젊은 사용자를 대상으로 마케팅됩니다. Character.AI, Replika 및 유사한 서비스를 통해 사람들은 AI 친구, 연인, 남자친구, 여자친구, 판타지 캐릭터를 만들어 챗봇과 관계 사이의 경계를 모호하게 만들 수 있습니다. TechCrunch는 지난 여름 현재 Apple App Store와 Google Play의 상위 AI 동반 ​​앱이 전 세계적으로 2억 2천만 번 다운로드되었다고 밝혔습니다. 이는 해당 앱이 어린이 안전 논쟁의 중심이 되는 규모입니다.

해당 카테고리의 가장 큰 이름은 미성년자가 낭만적인 AI 페르소나와 상호 작용하는 방식에 대해 이미 조사를 받았습니다. 새로운 콘텐츠 설명자 시스템은 앱 목록 자체에 이러한 기능을 표시하도록 설계되었으므로 부모와 연령 보증 시스템이 이러한 기능을 필터링할 수 있습니다. 작년에 잠금 해제 가능한 NSFW 기능을 갖춘 3D 애니메이션 AI 컴패니언을 출시한 xAI의 Grok은 Apple이 규칙을 공식화하는 이유를 보여줍니다. 장난으로 시작하는 기능은 앱 등급을 변경하지 않고도 성인용 콘텐츠로 바뀔 수 있습니다.

새로운 시스템의 작동 방식

11월 16일부터 개발자는 앱을 제출할 때 새로운 콘텐츠 설명자를 포함해야 합니다. 이를 통해 연령 등급은 앱의 마케팅 주장이 아닌 앱의 실제 기능을 반영하도록 해야 합니다. Apple은 데이트 및 연애 기능을 제공하는 앱에는 전반적으로 18세 이상 등급이 필요하다고 말했습니다.

그 요구 사항은 처음에 나타난 것보다 더 멀리까지 도달합니다. 대부분의 주요 데이트 서비스는 이미 플랫폼을 성인으로 제한하고 있지만, 이제 Apple의 정책에 따라 데이트 또는 연애 기능을 갖춘 모든 앱에 대해 18세 이상 등급을 의무화하고 있습니다. 여기에는 이전에 자체 보고된 연령 제한에 의존했던 소규모 서비스와 다른 목적으로 시작된 앱에 동반 기능이 추가된 AI 챗봇이 포함됩니다.

정책 변화는 로맨스를 넘어서도 확장됩니다. 이제 앱은 기능의 일부로 사용자의 실제 위치를 다른 사람이나 그룹과 공유할 때 이를 표시해야 합니다. 이는 위치 공유가 소셜 기능 내에 숨겨져 있을 때 개인 정보 보호 위험을 해결하기 위해 고안된 공개입니다. Apple은 한 가지 지역 분할을 표시했습니다. 브라질에서는 가족 위치 공유 앱이 현지 법률에 따라 표준 A16 등급 대신 정부의 법무부 및 공안부에 공식 등급을 요청할 수 있습니다.

광범위한 아동 안전 추진의 일환

Apple의 자녀 보호 도구는 연령 등급에 따라 결정되기 때문에 이러한 변화가 중요합니다. 이 회사는 확장된 자녀 보호 기능 및 아동 안전 기능과 함께 연령 보증 기술을 전 세계적으로 출시했으며 이러한 시스템은 정확한 등급을 기반으로 미성년자가 다운로드할 수 있는 항목을 필터링합니다. 개발자에게 로맨틱 또는 성적인 기능을 명시적으로 선언하도록 요구함으로써 Apple은 AI 캐릭터가 로맨틱 파트너처럼 행동하는 동안 앱이 청소년 친화적인 등급을 받을 수 있는 공간을 폐쇄하고 있습니다.

새로운 규정은 Apple이 미성년자를 보호하기 위해 적용한 일련의 변경 사항 중 가장 최근에 나온 것입니다. 이는 함께 App Store 거버넌스의 변화를 나타냅니다. 개발자가 적절한 연령을 스스로 선언하도록 하는 대신 Apple은 점점 더 세부적인 공개를 요구하고 기능에 맞는 등급을 시행하고 있습니다.

AI 기업에게는 타이밍이 중요하다. 미국의 여러 주의 규제 당국은 특히 미성년자 및 낭만적이거나 성적인 역할극과 관련하여 챗봇 제공업체에 자체 의무를 부과하기 위해 움직이고 있습니다. 동반 앱에 18세 이상 등급을 요구함으로써 Apple은 자체 플랫폼에서 해당 논쟁의 일부를 효과적으로 선점하고 안전 인프라보다 빠르게 성장한 카테고리에 대한 규정 준수 기준을 높이고 있습니다.

개발자가 해야 할 일

앱에 데이트 기능이나 AI 동반자 기능이 있는 개발자는 11월 16일까지 새로운 콘텐츠 설명자를 제출해야 합니다. 업데이트된 등급 없이 낭만적이거나 성적인 기능을 추가하는 앱은 앱 심사에서 삭제되거나 강제로 등급이 변경됩니다. 위치 공유 기능도 동일한 방식으로 공개되어야 합니다. 캐주얼하고 마찰이 적은 가입으로 성공을 거둔 AI 동반자 부문의 경우 성인 전용 등급은 대상 청중을 변화시키고 비평가들은 마침내 제품을 위험에 연결한다고 주장합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →