Apple está trazando una línea dura con respecto a los compañeros de IA y las aplicaciones de citas en su plataforma. En un anuncio a los desarrolladores el lunes, la compañía dijo que está ajustando las políticas de la App Store para que sea más difícil para los menores acceder a aplicaciones de citas en línea o aplicaciones complementarias de IA que involucran contenido sexual o romántico, y a partir del 16 de noviembre, los desarrolladores deberán presentar nuevos descriptores de contenido para que las clasificaciones de edad de sus aplicaciones reflejen con precisión sus características.

El resultado: cualquier aplicación que ofrezca funciones de citas o relaciones románticas ahora debe tener una calificación de 18+. Esto cubre no sólo los obvios servicios de citas, que normalmente ya se limitan a los adultos, sino también la categoría de rápido crecimiento de aplicaciones complementarias de IA, y ahí es donde la nueva política afecta con más fuerza. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.

Por qué las aplicaciones complementarias de IA son el verdadero objetivo

Las aplicaciones complementarias de IA a menudo se comercializan para usuarios más jóvenes. Character.AI, Replika y servicios similares permiten a las personas crear amigos, amantes, novios y novias y personajes de fantasía con IA, difuminando la línea entre chatbot y relación. TechCrunch señaló que hasta el verano pasado, las principales aplicaciones complementarias de IA en Apple App Store y Google Play se habían descargado 220 millones de veces en todo el mundo, una escala que las ha convertido en un punto focal de los debates sobre la seguridad infantil.

Los nombres más importantes de la categoría ya se han enfrentado al escrutinio sobre cómo los menores interactúan con personajes románticos de IA. El nuevo sistema descriptor de contenido está diseñado para mostrar esas características en la lista de aplicaciones, de modo que los padres y los sistemas de control de edad puedan filtrarlas. Grok de xAI, que lanzó compañeros de IA animados en 3D el año pasado con capacidades NSFW desbloqueables, ilustra por qué Apple está formalizando las reglas: las características que comienzan como divertidas pueden convertirse en contenido para adultos sin ningún cambio en la calificación de una aplicación.

Cómo funciona el nuevo sistema

A partir del 16 de noviembre, los desarrolladores deben incluir los nuevos descriptores de contenido al enviar aplicaciones, asegurando que las clasificaciones por edad reflejen lo que realmente hace una aplicación en lugar de lo que afirma su marketing. Apple dijo que las aplicaciones que ofrecen funciones de citas y relaciones románticas necesitarán una calificación general para mayores de 18 años.

Ese requisito va más allá de lo que podría parecer a primera vista. La mayoría de los principales servicios de citas ya restringen sus plataformas a adultos, pero la política de Apple ahora hace que la clasificación 18+ sea obligatoria para todas las aplicaciones con funciones de citas o relaciones románticas, incluidos los servicios más pequeños que anteriormente dependían de límites de edad autoinformados y los chatbots de IA cuyas funciones complementarias se agregaron a aplicaciones que comenzaron con otros propósitos.

El cambio de política también se extiende más allá del romance. Las aplicaciones ahora deberán indicar cuándo comparten la ubicación real de un usuario con otra persona o grupo como parte de su funcionalidad, una divulgación diseñada para abordar los riesgos de privacidad cuando el uso compartido de la ubicación está oculto dentro de una función social. Apple señaló una excepción local: en Brasil, las aplicaciones para compartir ubicación familiar pueden solicitar una calificación oficial del Ministerio de Justicia y Seguridad Pública del gobierno en lugar de la calificación estándar A16, de acuerdo con la ley local.

Parte de un esfuerzo más amplio por la seguridad infantil

El cambio es importante porque las clasificaciones de edad son sobre lo que actúan las herramientas parentales de Apple. La compañía ha implementado tecnología de control de edad a nivel mundial junto con controles parentales ampliados y funciones de seguridad infantil, y esos sistemas se basan en clasificaciones precisas para filtrar lo que los menores pueden descargar. Al exigir a los desarrolladores que declaren explícitamente la funcionalidad romántica o sexual, Apple está cerrando el espacio donde una aplicación podría tener una calificación amigable para adolescentes mientras sus personajes de IA se comportaran como parejas románticas.

Las nuevas reglas son las últimas de una serie de cambios que Apple ha realizado para proteger a los menores. Juntos, marcan un cambio en la gobernanza de la App Store: en lugar de depender de los desarrolladores para que autodeclaren las edades apropiadas, Apple exige cada vez más divulgaciones granulares y exige calificaciones que coincidan con la funcionalidad.

Para las empresas de IA, el momento es importante. Los reguladores en varios estados de EE. UU. han estado tomando medidas para imponer sus propias obligaciones a los proveedores de chatbots, particularmente en lo que respecta a menores y juegos de roles románticos o sexuales. Al exigir calificaciones mayores de 18 años para las aplicaciones complementarias, Apple efectivamente se está adelantando a parte de ese debate en su propia plataforma y elevando el nivel de cumplimiento para una categoría que creció más rápido que su infraestructura de seguridad.

Qué deben hacer los desarrolladores

Los desarrolladores con funciones de citas o funcionalidad complementaria de IA en sus aplicaciones tienen hasta el 16 de noviembre para presentar los nuevos descriptores de contenido. Las aplicaciones que agregan características románticas o sexuales sin una calificación actualizada se enfrentan a la eliminación o cambios de calificación forzados en App Review. La funcionalidad para compartir ubicación debe divulgarse de la misma manera. Para el sector complementario de IA, que ha prosperado con registros casuales y de baja fricción, una calificación solo para adultos cambia la audiencia a la que se dirige y, según dirían sus críticos, finalmente adapta el producto a sus riesgos.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →