Apple trag o linie dură în jurul însoțitorilor AI și al aplicațiilor de întâlniri de pe platforma sa. Într-un anunț pentru dezvoltatori de luni, compania a spus că ajustează politicile App Store pentru a îngreuna accesul minorilor la aplicații de întâlniri online sau aplicații însoțitoare de inteligență artificială care se implică în conținut sexual sau romantic – iar din 16 noiembrie, dezvoltatorii vor fi obligați să depună noi descriptori de conținut, astfel încât evaluările de vârstă ale aplicațiilor lor să le reflecte cu exactitate caracteristicile.
Rezultatul: orice aplicație care oferă funcții de întâlniri sau relații romantice trebuie să aibă acum o evaluare de peste 18 ani. Aceasta acoperă nu doar serviciile evidente de întâlniri, care de obicei se limitează deja la adulți, ci și categoria în creștere rapidă de aplicații însoțitoare AI - și aici este locul în care noua politică mușcă cel mai mult. For more context on this story, see our ongoing breaking AI news.
De ce aplicațiile AI Companion sunt adevărata țintă
Aplicațiile însoțitoare AI sunt adesea comercializate către utilizatorii mai tineri. Character.AI, Replika și servicii similare le permit oamenilor să creeze prieteni, iubiți, iubiți și iubite AI și personaje fantastice, estompând linia dintre chatbot și relație. TechCrunch a remarcat că, începând din vara trecută, cele mai bune aplicații AI însoțitoare din Apple App Store și Google Play au fost descărcate de 220 de milioane de ori la nivel global - o scară care le-a transformat într-un punct focal al dezbaterilor privind siguranța copiilor.
Cele mai mari nume ale categoriei s-au confruntat deja cu un control atent asupra modului în care minorii interacționează cu personaje romantice AI. Noul sistem de descriptor de conținut este conceput pentru a evidenția acele caracteristici în lista aplicației în sine, astfel încât părinții și sistemele de asigurare a vârstei să le poată filtra. Grok de la xAI, care a lansat anul trecut însoțitori AI animați 3D cu capacități NSFW deblocabile, ilustrează de ce Apple oficializează regulile: funcțiile care încep ca jucăușe se pot transforma în conținut pentru adulți fără nicio modificare a evaluării unei aplicații.
Cum funcționează noul sistem
Începând cu 16 noiembrie, dezvoltatorii trebuie să includă noii descriptori de conținut atunci când trimit aplicații, asigurându-se că evaluările de vârstă reflectă ceea ce face de fapt o aplicație, mai degrabă decât ceea ce pretinde marketingul acesteia. Apple a spus că aplicațiile care oferă funcții de întâlniri și relații romantice vor avea nevoie de o evaluare de peste 18 ani.
Această cerință ajunge mai departe decât ar putea părea la prima vedere. Majoritatea serviciilor majore de întâlniri își limitează deja platformele la adulți, dar politica Apple acum face ca ratingul 18+ să fie obligatoriu pentru fiecare aplicație cu funcții de întâlniri sau relații romantice - inclusiv serviciile mai mici care se bazau anterior pe porți de vârstă auto-raportate și chatbot-uri AI ale căror caracteristici însoțitoare au fost adăugate la aplicațiile care au început viața cu alte scopuri.
Schimbarea de politică se extinde și dincolo de dragoste. Aplicațiile vor trebui acum să indice când partajează locația din lumea reală a unui utilizator cu o altă persoană sau grup, ca parte a funcționalității lor - o dezvăluire concepută pentru a aborda riscurile de confidențialitate atunci când partajarea locației este ascunsă în interiorul unei caracteristici sociale. Apple a semnalat o distincție locală: în Brazilia, aplicațiile de partajare a locației pentru familie pot solicita o evaluare oficială de la Ministerul Justiției și Securității Publice al guvernului în loc de ratingul standard A16, în conformitate cu legislația locală.
O parte a unui impuls mai larg pentru siguranța copiilor
Schimbarea contează, deoarece evaluările de vârstă sunt pe baza instrumentelor parentale ale Apple. Compania a lansat tehnologia de asigurare a vârstei la nivel global, alături de controale parentale extinse și funcții de siguranță pentru copii, iar aceste sisteme se bazează pe evaluări precise pentru a filtra ceea ce pot descărca minorii. Cerând dezvoltatorilor să declare în mod explicit funcționalitatea romantică sau sexuală, Apple închide spațiul în care o aplicație ar putea avea un rating pentru adolescenți, în timp ce personajele sale AI s-au comportat ca niște parteneri romantici.
Noile reguli sunt cele mai recente dintr-o serie de modificări pe care Apple le-a făcut pentru a proteja minorii. Împreună, marchează o schimbare în guvernarea App Store: în loc să se bazeze pe dezvoltatori pentru a-și autodeclara vârstele adecvate, Apple solicită din ce în ce mai mult dezvăluiri granulare și impune evaluări care se potrivesc cu funcționalitatea.
Pentru companiile AI, momentul este semnificativ. Autoritățile de reglementare din mai multe state din SUA au început să își impună propriile obligații furnizorilor de chatbot, în special în ceea ce privește minorii și jocurile de rol romantice sau sexuale. Cerând peste 18 evaluări pentru aplicațiile însoțitoare, Apple anticipează efectiv o parte a acestei dezbateri pe propria sa platformă – și ridică ștacheta de conformitate pentru o categorie care a crescut mai repede decât infrastructura sa de siguranță.
Ce trebuie să facă dezvoltatorii
Dezvoltatorii cu funcții de întâlnire sau funcționalități însoțitoare AI în aplicațiile lor au până pe 16 noiembrie să depună noii descriptori de conținut. Aplicațiile care adaugă caracteristici romantice sau sexuale fără o evaluare actualizată sunt eliminate sau modificări forțate ale evaluării în App Review. Funcționalitatea de partajare a locației trebuie dezvăluită în același mod. Pentru sectorul AI însoțitor, care a prosperat pe înscrieri ocazionale, cu frecare redusă, o evaluare doar pentru adulți schimbă publicul adresabil și, ar susține criticii săi, potrivește în sfârșit produsul cu riscurile sale.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
