Apple a discrètement réécrit l'un de ses engagements les plus importants en matière de confidentialité. Sous iOS 27, la société peut stocker l'intégralité des interactions Siri et dictée des utilisateurs - y compris les enregistrements audio eux-mêmes - et les utiliser pour entraîner les modèles d'intelligence artificielle derrière Siri, comme l'a rapporté pour la première fois la publication technologique allemande Heise Online.
Ce changement met fin à une position qu'Apple avait déclarée catégoriquement : selon laquelle les données personnelles des utilisateurs ne seraient jamais utilisées pour former ses modèles de base d'IA. Pour plus de contexte sur cette histoire, consultez notre tendances IA.
Ce que dit la nouvelle politique
Le langage mis à jour apparaît dans une politique de confidentialité trouvée dans la version préliminaire finale d'iOS 27, qui a été rendue publique le lundi 14 septembre. Selon la politique, Apple peut "stocker l'intégralité de vos interactions avec Siri et la fonction de dictée, y compris les données audio et les transcriptions de vos demandes Siri saisies et parlées, ainsi que les réponses de Siri".
Apple souligne que les données ne sont pas liées au compte Apple d'un utilisateur et déclare qu'elle "prend des mesures pour garantir que les données personnelles ne sont pas stockées ou utilisées par Apple" - une formulation qui se trouve mal à côté de l'autorisation qu'elle décrit. Certaines des données collectées peuvent être examinées par ce que la politique appelle uniquement du « personnel d'examen », le matériel audio étant écouté exclusivement par les employés d'Apple.
L'entreprise définit le programme comme une option d'adhésion. Lorsque les utilisateurs activent Siri AI, une boîte de dialogue leur demande d'aider à améliorer l'assistant, et les développeurs ayant accès à la version candidate signalent que l'option de refus est facile à manquer : un bouton « Pas maintenant » visuellement discret sur un écran qui ne peut pas être complètement ignoré. Les utilisateurs qui s'inscrivent peuvent annuler leur choix ultérieurement sous Paramètres, puis Analyse et améliorations.
Une modification discrète d'une promesse de signature
Le changement de politique a été précédé d’une modification encore plus discrète. Les lignes directrices publiées par Apple sur l'IA responsable indiquaient précédemment, dans une phrase complète, que "vos données personnelles privées et vos interactions ne sont jamais utilisées pour former nos modèles de base". La fin définitive de cette phrase a été supprimée et remplacée par une mise en garde : "à moins que vous ne choisissiez explicitement de contribuer à leur amélioration".
La révision est importante au-delà de sa formulation, car elle entre en collision avec l'architecture qu'Apple a consacrée à la commercialisation pendant deux ans. Private Cloud Compute, le système serveur derrière Siri AI et la plupart des fonctionnalités d'Apple Intelligence, a été vendu sur une promesse spécifique : une IA cloud qui traite les demandes de manière aussi privée qu'un modèle sur l'appareil, avec des données utilisateur jamais stockées à long terme ni exposées à des tiers. L’utilisation des enregistrements Siri comme matériel de formation – et, pour la première fois dans iOS 27, le routage de certaines requêtes Private Cloud Compute via les serveurs de Google – va plus loin dans cette promesse du comportement des assistants cloud contre lesquels Apple s’est autrefois positionné.
Un matériel à l'écoute permanente fait monter les enchères
Le timing est délicat pour une deuxième raison. Aux côtés de ses derniers iPhone, Apple a présenté cette semaine deux modèles d’Apple Watch conçus pour une écoute continue. Les appareils peuvent produire une transcription des quinze secondes de conversation précédentes à la demande, ainsi qu'un « Siri Recap » quotidien résumant les conversations de l'utilisateur – une fonctionnalité qui, selon Apple, fonctionne également sur Private Cloud Compute.
Des microphones toujours allumés alimentant un assistant qui peut désormais conserver les interactions pour la formation des modèles est précisément la combinaison contre laquelle les défenseurs de la vie privée ont mis en garde, et elle vient de l'entreprise qui a construit son marketing moderne autour du refus de faire exactement cela.
Échos du scandale de notation Siri 2019
Apple est déjà venu ici. En 2019, l’entreprise a subi sa controverse la plus préjudiciable en matière de confidentialité lorsque des entrepreneurs employés par des sous-traitants ont décrit leur travail d’évaluation des enregistrements audio de Siri – des extraits contenant fréquemment des conversations intimes, des informations médicales et d’autres détails personnels, traités sous des contrôles laxistes. Apple a suspendu le programme, s'est excusé, puis a réintroduit l'examen humain en tant que fonctionnalité facultative avec des garanties plus strictes.
La nouvelle politique reprend cette collecte de données avec une portée plus large – interactions complètes plutôt que des clips audio échantillonnés, des transcriptions aux côtés des enregistrements et un objectif de formation explicite – tout en s'appuyant sur un mécanisme de consentement similaire que de nombreux utilisateurs exploiteront sans lire.
Que se passe-t-il ensuite
Les régulateurs en Europe et aux États-Unis ont examiné à plusieurs reprises la manière dont les dialogues de consentement pour la formation en IA sont présentés, et un écran d'inscription avec un bouton d'accord bien visible et une option de refus à faible contraste est le type de conception qui attire cet examen. Pour l'instant, la position d'Apple est que les données restent dans ses propres systèmes, sont découplées de l'identité des utilisateurs et ne sont examinées que selon des règles réservées aux employés.
Le changement plus profond est stratégique. La formation de modèles d’IA compétitifs nécessite d’énormes volumes de données conversationnelles de haute qualité, et Apple – qui est entré dans la course à l’IA moderne plus tard que ses rivaux – semble avoir décidé que sa ressource inexploitée la plus précieuse était les centaines de millions de conversations Siri qui ont lieu chaque jour. L’entreprise qui a autrefois fait de la confidentialité la raison d’acheter un iPhone a conclu qu’elle ne pouvait plus se permettre de laisser ces données sur la table. Le fait que les utilisateurs acceptent de le remettre, un bouton « Pas maintenant » à la fois, déterminera la quantité qu'Apple en recevra.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
