Apple проводит жесткую линию в отношении AI-компаньонов и приложений для знакомств на своей платформе. В заявлении для разработчиков в понедельник компания заявила, что корректирует политику App Store, чтобы затруднить несовершеннолетним доступ к онлайн-приложениям для знакомств или сопутствующим приложениям с искусственным интеллектом, которые содержат сексуальный или романтический контент. С 16 ноября разработчики будут обязаны подавать новые дескрипторы контента, чтобы возрастные рейтинги их приложений точно отражали их функции.
В результате любое приложение, предлагающее функции знакомств или романтических отношений, теперь должно иметь рейтинг 18+. Это касается не только очевидных сервисов знакомств, которые обычно уже ограничиваются взрослыми, но и быстрорастущей категории сопутствующих приложений с искусственным интеллектом — и именно здесь новая политика бьет сильнее всего. Подробнее об этой истории — в нашем последние разработки в ИИ.
Почему вспомогательные приложения с искусственным интеллектом являются настоящей целью
Сопутствующие приложения с искусственным интеллектом часто ориентированы на более молодых пользователей. Character.AI, Replika и подобные сервисы позволяют людям создавать с помощью ИИ друзей, возлюбленных, парней и подруг, а также фантастических персонажей, стирая грань между чат-ботом и отношениями. TechCrunch отметил, что по состоянию на лето прошлого года лучшие сопутствующие приложения AI в Apple App Store и Google Play были загружены 220 миллионов раз по всему миру — такой масштаб превратил их в центр дебатов о безопасности детей.
Крупнейшие имена в этой категории уже подверглись тщательному анализу того, как несовершеннолетние взаимодействуют с романтическими персонажами ИИ. Новая система дескрипторов контента предназначена для отображения этих функций в самом списке приложений, чтобы родители и системы контроля возраста могли их отфильтровывать. Компания Grok из xAI, которая в прошлом году выпустила 3D-анимированные ИИ-компаньоны с разблокируемыми возможностями NSFW, иллюстрирует, почему Apple формализует правила: функции, которые начинаются как игривые, могут переходить в контент для взрослых без каких-либо изменений в рейтинге приложения.
Как работает новая система
Начиная с 16 ноября разработчики должны включать новые дескрипторы контента при отправке приложений, чтобы возрастные рейтинги отражали то, что приложение на самом деле делает, а не то, что утверждает его маркетинг. Apple заявила, что приложениям, предлагающим функции знакомств и романтических отношений, потребуется рейтинг 18+ по всем направлениям.
Это требование простирается дальше, чем может показаться на первый взгляд. Большинство крупных сервисов знакомств уже ограничивают свои платформы взрослыми, но политика Apple теперь делает обязательным рейтинг 18+ для каждого приложения с функциями знакомств или романтических отношений, включая более мелкие сервисы, которые ранее полагались на возрастные ограничения, сообщаемые самими пользователями, и чат-боты с искусственным интеллектом, чьи сопутствующие функции были добавлены в приложения, которые начали свою жизнь с другими целями.
Изменение политики также выходит за рамки романтики. Приложения теперь должны будут указывать, когда они делятся реальным местоположением пользователя с другим человеком или группой в рамках своей функциональности — раскрытие информации, предназначенное для устранения рисков конфиденциальности, когда обмен данными о местоположении скрыт внутри социальной функции. Apple отметила одно локальное исключение: в Бразилии приложения для совместного использования семейного местоположения могут запрашивать официальный рейтинг государственного Министерства юстиции и общественной безопасности вместо стандартного рейтинга A16, в соответствии с местным законодательством.
Часть более широкой программы обеспечения безопасности детей
Это изменение важно, потому что возрастные рейтинги — это то, на что влияют родительские инструменты Apple. Компания внедрила технологию контроля возраста по всему миру, а также расширила функции родительского контроля и безопасности детей, и эти системы полагаются на точные рейтинги для фильтрации того, что несовершеннолетние могут скачать. Требуя от разработчиков явного декларирования романтических или сексуальных функций, Apple закрывает пространство, где приложение могло иметь рейтинг, подходящий для подростков, в то время как его ИИ-персонажи вели себя как романтические партнеры.
Новые правила являются последними в серии изменений, внесенных Apple для защиты несовершеннолетних. Вместе они знаменуют собой сдвиг в управлении App Store: вместо того, чтобы полагаться на разработчиков, которые будут самостоятельно декларировать соответствующий возраст, Apple все чаще требует подробного раскрытия информации и обеспечения соблюдения рейтингов, соответствующих функциональности.
Для компаний, занимающихся искусственным интеллектом, время имеет большое значение. Регулирующие органы во многих штатах США пытаются наложить свои собственные обязательства на поставщиков чат-ботов, особенно в отношении несовершеннолетних, а также романтических или сексуальных ролевых игр. Требуя рейтинг 18+ для сопутствующих приложений, Apple фактически упреждает часть этих дебатов на своей собственной платформе — и поднимает планку соответствия для категории, которая росла быстрее, чем ее инфраструктура безопасности.
Что нужно делать разработчикам
Разработчики, использующие функции знакомств или AI-компаньоны в своих приложениях, должны до 16 ноября подать новые дескрипторы контента. Приложения, которые добавляют романтические или сексуальные черты без обновленного рейтинга, удаляются или принудительные изменения рейтинга в обзоре приложения. Функциональность совместного использования местоположения должна быть раскрыта таким же образом. Для сектора ИИ-компаньонов, который процветает благодаря случайным и простым регистрациям, рейтинг только для взрослых меняет целевую аудиторию — и, как утверждают его критики, наконец-то сопоставляет продукт с его рисками.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
