Apple ha tranquillamente riscritto uno dei suoi più importanti impegni sulla privacy. Con iOS 27, l'azienda può archiviare le interazioni complete con Siri e dettate dagli utenti, comprese le registrazioni audio stesse, e utilizzarle per addestrare i modelli di intelligenza artificiale dietro Siri, come riportato per la prima volta dalla pubblicazione tecnologica tedesca Heise Online.
Il cambiamento pone fine a una posizione che Apple aveva affermato categoricamente: che i dati personali degli utenti non sarebbero mai stati utilizzati per addestrare i suoi modelli di base di intelligenza artificiale. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Cosa dice la nuova politica
La lingua aggiornata appare in un'informativa sulla privacy contenuta nella build pre-release finale di iOS 27, distribuita al pubblico lunedì 14 settembre. Secondo la policy, Apple può "memorizzare tutte le tue interazioni con Siri e la funzione di dettatura, inclusi i dati audio e le trascrizioni delle tue richieste Siri digitate e parlate, nonché le risposte di Siri".
Apple sottolinea che i dati non sono collegati all'account Apple di un utente e afferma che "prende misure per garantire che i dati personali non vengano archiviati o utilizzati da Apple" - una formulazione che si trova stranamente accanto all'autorizzazione che descrive. Alcuni dei dati raccolti potrebbero essere esaminati da quello che la politica chiama solo "personale di revisione", con materiale audio ascoltato esclusivamente dai dipendenti Apple.
L'azienda struttura il programma come opt-in. Quando gli utenti attivano Siri AI, una finestra di dialogo chiede loro di aiutare a migliorare l'assistente, e gli sviluppatori con accesso alla release candidate segnalano che l'opzione di rifiuto è facile da non notare: un pulsante "Non ora" visivamente poco appariscente su uno schermo che non può essere completamente ignorato. Gli utenti che accettano possono annullare la scelta in seguito in Impostazioni, quindi Analisi e miglioramenti.
Una modifica silenziosa a una promessa firmata
Il cambiamento di politica è stato preceduto da una modifica ancora più silenziosa. Le linee guida pubblicate da Apple sull’intelligenza artificiale responsabile affermavano in precedenza, in una frase completa, che “i tuoi dati personali privati e le tue interazioni non verranno mai utilizzati per addestrare i nostri modelli di base”. La conclusione definitiva di quella frase è stata rimossa e sostituita con un avvertimento: "a meno che tu non scelga esplicitamente di contribuire a migliorarli".
La revisione conta al di là della sua formulazione, perché entra in collisione con l'architettura che Apple ha commercializzato per due anni. Private Cloud Compute, il sistema server dietro Siri AI e la maggior parte delle funzionalità di Apple Intelligence, è stato venduto con una promessa specifica: cloud AI che gestisce le richieste in modo privato come un modello su dispositivo, con i dati dell'utente mai archiviati a lungo termine o esposti a terzi. Usare le registrazioni di Siri come materiale di formazione e, per la prima volta in iOS 27, instradare alcune richieste di Private Cloud Compute attraverso i server di Google, si avvicina molto al comportamento degli assistenti cloud contro cui Apple una volta si schierava.
L'hardware sempre in ascolto aumenta la posta in gioco
Il momento è scomodo per un secondo motivo. Oltre ai suoi ultimi iPhone, questa settimana Apple ha presentato due modelli di Apple Watch progettati per l’ascolto continuo. I dispositivi possono produrre una trascrizione dei precedenti quindici secondi di conversazione su richiesta, oltre a un "Siri Recap" quotidiano che riassume le conversazioni di chi li indossa - una funzionalità che secondo Apple funziona anche su Private Cloud Compute.
Microfoni sempre attivi che alimentano un assistente che ora può mantenere le interazioni per l’addestramento dei modelli è esattamente la combinazione da cui i sostenitori della privacy hanno messo in guardia, e arriva dall’azienda che ha costruito il suo marketing moderno rifiutandosi di fare esattamente questo.
Echi dello scandalo della valutazione Siri del 2019
Apple è già stata qui. Nel 2019, l’azienda ha subito la controversia sulla privacy più dannosa quando gli appaltatori impiegati da subappaltatori hanno descritto il loro lavoro valutando le registrazioni audio di Siri – frammenti che spesso contenevano conversazioni intime, informazioni mediche e altri dettagli personali, gestiti sotto controlli lassisti. Apple ha sospeso il programma, si è scusata e in seguito ha reintrodotto la revisione umana come funzionalità di partecipazione con garanzie più rigorose.
La nuova policy riprende la raccolta dei dati con un ambito più ampio – interazioni complete anziché clip audio campionati, trascrizioni insieme a registrazioni e uno scopo di formazione esplicito – facendo affidamento su un meccanismo di consenso simile che molti utenti ignoreranno senza leggere.
Cosa succede dopo
Le autorità di regolamentazione in Europa e negli Stati Uniti hanno ripetutamente esaminato il modo in cui vengono presentati i dialoghi di consenso per la formazione sull’intelligenza artificiale, e una schermata di attivazione con un pulsante di consenso ben visibile e un’opzione di rifiuto a basso contrasto è il tipo di design che attira tale esame. Per ora, la posizione di Apple è che i dati rimangono all’interno dei suoi sistemi, sono disaccoppiati dalle identità degli utenti e vengono esaminati solo secondo regole riservate ai soli dipendenti.
Il cambiamento più profondo è strategico. L’addestramento di modelli di intelligenza artificiale competitivi richiede enormi volumi di dati di conversazione di alta qualità e Apple, che è entrata nella corsa all’intelligenza artificiale moderna più tardi dei suoi rivali, sembra aver deciso che la sua risorsa non sfruttata più preziosa sono le centinaia di milioni di conversazioni Siri che avvengono ogni giorno. L’azienda che una volta faceva della privacy la ragione per acquistare un iPhone ha concluso che non può più permettersi di lasciare quei dati sul tavolo. Se gli utenti accettano di consegnarlo, un pulsante "Non ora" alla volta, determinerà la quantità di denaro che Apple riceverà.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
