A Apple está traçando uma linha dura em relação aos companheiros de IA e aos aplicativos de namoro em sua plataforma. Em um anúncio aos desenvolvedores na segunda-feira, a empresa disse que está ajustando as políticas da App Store para tornar mais difícil para menores o acesso a aplicativos de namoro online ou aplicativos complementares de IA que envolvam conteúdo sexual ou romântico – e a partir de 16 de novembro, os desenvolvedores serão obrigados a registrar novos descritores de conteúdo para que as classificações etárias de seus aplicativos reflitam com precisão seus recursos.

Resultado: qualquer aplicativo que ofereça recursos de namoro ou relacionamento romântico agora deve ter uma classificação para maiores de 18 anos. Isso abrange não apenas os óbvios serviços de namoro, que normalmente já se restringem aos adultos, mas também a categoria em rápido crescimento de aplicativos complementares de IA – e é aí que a nova política afeta mais fortemente. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.

Por que os aplicativos AI Companion são o verdadeiro alvo

Os aplicativos complementares de IA são frequentemente comercializados para usuários mais jovens. Character.AI, Replika e serviços semelhantes permitem que as pessoas criem amigos, amantes, namorados e namoradas e personagens de fantasia com IA, confundindo a linha entre chatbot e relacionamento. O TechCrunch observou que, no verão passado, os principais aplicativos complementares de IA na Apple App Store e no Google Play foram baixados 220 milhões de vezes em todo o mundo – uma escala que os transformou em um ponto focal de debates sobre segurança infantil.

Os maiores nomes da categoria já enfrentaram um escrutínio sobre como os menores interagem com personagens românticos de IA. O novo sistema descritor de conteúdo foi projetado para exibir esses recursos na própria lista de aplicativos, para que os pais e os sistemas de garantia de idade possam filtrá-los. Grok da xAI, que lançou companheiros de IA animados em 3D no ano passado com recursos NSFW desbloqueáveis, ilustra por que a Apple está formalizando as regras: recursos que começam como lúdicos podem se transformar em conteúdo adulto sem qualquer alteração na classificação de um aplicativo.

Como funciona o novo sistema

A partir de 16 de novembro, os desenvolvedores deverão incluir os novos descritores de conteúdo ao enviar aplicativos, garantindo que as classificações etárias reflitam o que um aplicativo realmente faz, e não o que seu marketing afirma. A Apple disse que os aplicativos que oferecem recursos de namoro e relacionamento romântico precisarão de uma classificação geral para maiores de 18 anos.

Essa exigência vai além do que pode parecer à primeira vista. A maioria dos principais serviços de namoro já restringe suas plataformas a adultos, mas a política da Apple agora torna obrigatória a classificação para maiores de 18 anos para todos os aplicativos com recursos de namoro ou relacionamento romântico – incluindo os serviços menores que anteriormente dependiam de restrições de idade autodeclaradas e chatbots de IA cujos recursos complementares foram adicionados a aplicativos que começaram a vida com outros propósitos.

A mudança de política também vai além do romance. Os aplicativos agora precisarão indicar quando compartilham a localização real de um usuário com outra pessoa ou grupo como parte de sua funcionalidade – uma divulgação projetada para abordar riscos de privacidade quando o compartilhamento de localização está oculto dentro de um recurso social. A Apple sinalizou uma exclusão local: no Brasil, os aplicativos de compartilhamento de localização familiar podem solicitar uma classificação oficial do Ministério da Justiça e Segurança Pública do governo, em vez da classificação padrão A16, de acordo com a legislação local.

Parte de um esforço mais amplo para a segurança infantil

A mudança é importante porque as classificações etárias são o que as ferramentas parentais da Apple atuam. A empresa lançou globalmente a tecnologia de garantia de idade, juntamente com controles parentais expandidos e recursos de segurança infantil, e esses sistemas dependem de classificações precisas para filtrar o que os menores podem baixar. Ao exigir que os desenvolvedores declarem explicitamente a funcionalidade romântica ou sexual, a Apple está fechando o espaço onde um aplicativo poderia ter uma classificação amigável para adolescentes enquanto seus personagens de IA se comportavam como parceiros românticos.

As novas regras são as mais recentes de uma série de mudanças que a Apple fez para proteger menores. Juntos, eles marcam uma mudança na governança da App Store: em vez de depender dos desenvolvedores para autodeclararem idades apropriadas, a Apple exige cada vez mais divulgações granulares e impõe classificações que correspondam à funcionalidade.

Para as empresas de IA, o momento é significativo. Os reguladores em vários estados dos EUA têm tomado medidas para impor as suas próprias obrigações aos fornecedores de chatbot, especialmente em relação a menores e a dramatizações românticas ou sexuais. Ao exigir classificações maiores de 18 anos para aplicativos complementares, a Apple está efetivamente antecipando parte desse debate em sua própria plataforma – e elevando o padrão de conformidade para uma categoria que cresceu mais rápido do que sua infraestrutura de segurança.

O que os desenvolvedores precisam fazer

Os desenvolvedores com recursos de namoro ou funcionalidade complementar de IA em seus aplicativos têm até 16 de novembro para registrar os novos descritores de conteúdo. Aplicativos que adicionam recursos românticos ou sexuais sem uma classificação atualizada são removidos ou mudanças forçadas na avaliação do aplicativo. A funcionalidade de compartilhamento de localização deve ser divulgada da mesma forma. Para o setor complementar de IA, que tem prosperado com inscrições casuais e de baixo atrito, uma classificação apenas para adultos altera o público-alvo – e, argumentariam os seus críticos, finalmente adapta o produto aos seus riscos.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →