Apple проводить жорстку лінію щодо компаньйонів ШІ та додатків для знайомств на своїй платформі. У повідомленні для розробників у понеділок компанія повідомила, що коригує політику App Store, щоб неповнолітнім було складніше отримати доступ до додатків для онлайн-знайомств або супутніх додатків зі штучним інтелектом, які включають сексуальний або романтичний контент, і з 16 листопада розробники повинні будуть подавати нові дескриптори вмісту, щоб вікові рейтинги їхніх додатків точно відображали їхні функції.
Підсумок: будь-який додаток, який пропонує функції знайомств або романтичних стосунків, тепер повинен мати рейтинг 18+. Це стосується не лише очевидних служб знайомств, які, як правило, уже обмежуються дорослими, але й швидкозростаючої категорії супутніх додатків зі штучним інтелектом — і саме тут нова політика є найважчою. For more context on this story, see our ongoing more AI stories.
Чому додатки AI Companion є справжньою ціллю
Програми-супутники штучного інтелекту часто рекламуються для молодших користувачів. Character.AI, Replika та подібні сервіси дозволяють людям створювати ШІ-друзів, коханців, хлопців і подруг, а також фантастичних персонажів, стираючи межу між чат-ботом і стосунками. TechCrunch зазначив, що станом на минуле літо найпопулярніші супутні додатки штучного інтелекту в Apple App Store і Google Play було завантажено 220 мільйонів разів у всьому світі — це масштаб перетворив їх на центр дебатів про безпеку дітей.
Найвідоміші імена категорії вже зіткнулися з пильною увагою щодо того, як неповнолітні взаємодіють із романтичними персонажами ШІ. Нова система дескрипторів вмісту розроблена для виявлення цих функцій у самому списку програми, щоб батьки та системи перевірки віку могли їх відфільтрувати. Grok від xAI, який минулого року запустив 3D-анімаційні компаньйони зі штучним інтелектом із розблокованими можливостями NSFW, ілюструє, чому Apple формалізує правила: функції, які починаються як грайливі, можуть перейти у вміст для дорослих без будь-яких змін у рейтингу програми.
Як працює нова система
Починаючи з 16 листопада, розробники повинні включати нові дескриптори вмісту під час надсилання додатків, гарантуючи, що вікові рейтинги відображають те, що програма насправді робить, а не те, що її маркетингові заяви. Apple заявила, що додатки, які пропонують функції знайомств і романтичних стосунків, потребуватимуть повного рейтингу 18+.
Ця вимога сягає далі, ніж може здатися на перший погляд. Більшість великих служб знайомств уже обмежують свої платформи для дорослих, але політика Apple тепер робить рейтинг 18+ обов’язковим для кожного додатка з функціями знайомств або романтичних стосунків — включно з меншими сервісами, які раніше покладалися на вікові обмеження, які повідомляли самі, і чат-ботів зі штучним інтелектом, супутні функції яких було додано до програм, які почали життя з іншими цілями.
Зміна політики також виходить за рамки романтики. Додатки тепер повинні будуть вказувати, коли вони діляться реальним місцем розташування користувача з іншою особою або групою, як частину їх функціональних можливостей. Це повідомлення призначене для усунення ризиків конфіденційності, коли обмін геоданими приховано всередині соціальної функції. Apple помітила одну місцеву заборону: у Бразилії сімейні програми для обміну геоданими можуть запитувати офіційний рейтинг від урядового Міністерства юстиції та громадської безпеки замість стандартного рейтингу A16, відповідно до місцевого законодавства.
Частина ширшої ініціативи щодо безпеки дітей
Ця зміна має значення, оскільки вікові рейтинги — це те, на що впливають інструменти Apple для батьків. Компанія розгорнула технологію гарантії віку в усьому світі разом із розширеними функціями батьківського контролю та безпеки дітей, і ці системи покладаються на точні рейтинги, щоб фільтрувати те, що неповнолітні можуть завантажувати. Вимагаючи від розробників чітко заявляти про романтичні чи сексуальні функції, Apple закриває простір, де програма могла б мати рейтинг дружнього до підлітків, тоді як її персонажі ШІ поводилися як романтичні партнери.
Нові правила є останніми в серії змін, внесених Apple для захисту неповнолітніх. Разом вони знаменують зміну в управлінні App Store: замість того, щоб покладатися на те, що розробники самі оголошуватимуть відповідний вік, Apple все частіше вимагає детального розкриття інформації та запроваджує рейтинги, які відповідають функціональності.
Для компаній, що займаються штучним інтелектом, час має важливе значення. Регулятори в багатьох штатах США намагаються накласти власні зобов’язання на постачальників чат-ботів, особливо щодо неповнолітніх і романтичних або сексуальних рольових ігор. Вимагаючи рейтингів 18+ для супутніх програм, Apple фактично випереджає частину цих дебатів на власній платформі — і підвищує планку відповідності для категорії, яка зростала швидше, ніж її інфраструктура безпеки.
Що мають зробити розробники
Розробники, які мають у своїх програмах функції знайомств або супутні функції штучного інтелекту, мають подати нові дескриптори вмісту до 16 листопада. Додатки, які додають романтичні чи сексуальні риси без оновленого видалення обличчя або примусових змін рейтингу в App Review. Функція обміну геоданими має бути розкрита таким же чином. Для сектора компаньйонів штучного інтелекту, який процвітав завдяки випадковим реєстраціям із низьким рівнем тертя, рейтинг лише для дорослих змінює адресну аудиторію — і, як заперечать його критики, нарешті відповідає продукту його ризикам.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
