Apple sta tracciando una linea dura attorno ai compagni di intelligenza artificiale e alle app di appuntamenti sulla sua piattaforma. Lunedì, in un annuncio rivolto agli sviluppatori, la società ha affermato che sta modificando le politiche dell'App Store per rendere più difficile per i minori l'accesso alle app di appuntamenti online o alle app di intelligenza artificiale che coinvolgono contenuti sessuali o romantici - e dal 16 novembre, gli sviluppatori saranno tenuti a compilare nuovi descrittori di contenuti in modo che le classificazioni per età delle loro app riflettano accuratamente le loro caratteristiche.
Il risultato: qualsiasi app che offra funzionalità di appuntamenti o relazioni romantiche ora deve avere una valutazione maggiore di 18 anni. Ciò copre non solo gli ovvi servizi di appuntamenti, che in genere si limitano già agli adulti, ma la categoria in rapida crescita delle app complementari basate sull’intelligenza artificiale – ed è qui che la nuova politica colpisce più duramente. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Perché le app AI Companion sono il vero obiettivo
Le app associate all'intelligenza artificiale sono spesso commercializzate per gli utenti più giovani. Character.AI, Replika e servizi simili consentono alle persone di creare amici, amanti, fidanzati e fidanzate dotati di intelligenza artificiale e personaggi fantasy, offuscando il confine tra chatbot e relazione. TechCrunch ha osservato che, a partire dalla scorsa estate, le principali app associate all’intelligenza artificiale sull’Apple App Store e su Google Play sono state scaricate 220 milioni di volte a livello globale, una scala che le ha trasformate in un punto focale dei dibattiti sulla sicurezza dei bambini.
I più grandi nomi della categoria hanno già dovuto affrontare un esame accurato su come i minori interagiscono con i personaggi romantici dell'intelligenza artificiale. Il nuovo sistema di descrizione dei contenuti è progettato per far emergere tali funzionalità nell’elenco stesso dell’app, in modo che i genitori e i sistemi di garanzia dell’età possano filtrarle. Grok di xAI, che lo scorso anno ha lanciato compagni di intelligenza artificiale animata in 3D con funzionalità NSFW sbloccabili, illustra perché Apple sta formalizzando le regole: funzionalità che iniziano come giocose possono sfumare in contenuti per adulti senza alcuna modifica alla classificazione di un'app.
Come funziona il nuovo sistema
A partire dal 16 novembre, gli sviluppatori devono includere i nuovi descrittori di contenuto quando inviano app, garantendo che le classificazioni per età riflettano ciò che fa effettivamente un'app piuttosto che ciò che afferma il suo marketing. Apple ha affermato che le app che offrono funzionalità di appuntamenti e relazioni romantiche avranno bisogno di una valutazione 18+ su tutta la linea.
Tale requisito va oltre quanto potrebbe sembrare a prima vista. La maggior parte dei principali servizi di appuntamenti limita già le proprie piattaforme agli adulti, ma la politica di Apple ora rende obbligatoria la classificazione 18+ per ogni app con funzionalità di appuntamenti o relazioni romantiche, compresi i servizi più piccoli che in precedenza si basavano su limiti di età auto-riferiti e i chatbot AI le cui funzionalità complementari sono state aggiunte ad app nate con altri scopi.
Il cambiamento politico va oltre il romanticismo. Le app ora dovranno indicare quando condividono la posizione reale di un utente con un'altra persona o gruppo come parte delle loro funzionalità: un'informativa progettata per affrontare i rischi per la privacy quando la condivisione della posizione è nascosta all'interno di una funzionalità social. Apple ha segnalato un’esclusione locale: in Brasile, le app familiari di condivisione della posizione possono richiedere una classificazione ufficiale al Ministero di Giustizia e Pubblica Sicurezza del governo invece della classificazione standard A16, in linea con la legge locale.
Parte di una più ampia spinta alla sicurezza dei bambini
Il cambiamento è importante perché le classificazioni per età sono ciò su cui agiscono gli strumenti parentali di Apple. L’azienda ha implementato la tecnologia di controllo dell’età a livello globale insieme a controlli parentali espansi e funzionalità di sicurezza dei bambini, e tali sistemi si basano su valutazioni accurate per filtrare ciò che i minori possono scaricare. Richiedendo agli sviluppatori di dichiarare esplicitamente funzionalità romantiche o sessuali, Apple sta chiudendo lo spazio in cui un'app potrebbe avere una classificazione adatta agli adolescenti mentre i suoi personaggi IA si comportano come partner romantici.
Le nuove regole sono le ultime di una serie di modifiche apportate da Apple per proteggere i minori. Insieme, segnano un cambiamento nella governance dell’App Store: invece di fare affidamento sugli sviluppatori per autodichiarare l’età appropriata, Apple richiede sempre più informazioni granulari e impone valutazioni che corrispondano alla funzionalità.
Per le aziende di intelligenza artificiale, i tempi sono significativi. Le autorità di regolamentazione in diversi stati degli Stati Uniti si stanno muovendo per imporre i propri obblighi ai fornitori di chatbot, in particolare riguardo ai minori e ai giochi di ruolo romantici o sessuali. Richiedendo valutazioni superiori a 18 per le app complementari, Apple sta effettivamente anticipando parte di quel dibattito sulla propria piattaforma e alzando il livello di conformità per una categoria che è cresciuta più rapidamente della sua infrastruttura di sicurezza.
Cosa devono fare gli sviluppatori
Gli sviluppatori con funzionalità di appuntamenti o funzionalità complementari AI nelle loro app hanno tempo fino al 16 novembre per presentare i nuovi descrittori di contenuto. App che aggiungono funzionalità romantiche o sessuali senza la rimozione del volto aggiornato o la modifica forzata della valutazione nell'analisi dell'app. La funzionalità di condivisione della posizione deve essere divulgata allo stesso modo. Per il settore dell’intelligenza artificiale, che ha prosperato grazie a iscrizioni casuali e a basso attrito, una valutazione riservata agli adulti cambia il pubblico a cui rivolgersi e, secondo i suoi critici, alla fine abbina il prodotto ai suoi rischi.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
