Apple heeft stilletjes een van zijn meest prominente privacyverplichtingen herschreven. Onder iOS 27 kan het bedrijf de volledige Siri- en dicteerinteracties van gebruikers opslaan – inclusief de audio-opnames zelf – en deze gebruiken om de kunstmatige intelligentiemodellen achter Siri te trainen, zoals voor het eerst gerapporteerd door de Duitse technologiepublicatie Heise Online.

De wijziging maakt een einde aan een standpunt dat Apple categorisch had verkondigd: dat persoonlijke gebruikersgegevens nooit zouden worden gebruikt om zijn AI-basismodellen te trainen. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Wat het nieuwe beleid zegt

De bijgewerkte taal verschijnt in een privacybeleid dat te vinden is in de definitieve pre-releaseversie van iOS 27, die op maandag 14 september naar het publiek werd verzonden. Volgens het beleid kan Apple "uw volledige interacties met Siri en de dicteerfunctie opslaan, inclusief de audiogegevens en transcripties van uw getypte en gesproken Siri-verzoeken, evenals Siri's antwoorden."

Apple benadrukt dat de gegevens niet gekoppeld zijn aan de Apple Account van een gebruiker, en stelt dat het "stappen onderneemt om ervoor te zorgen dat persoonlijke gegevens niet door Apple worden opgeslagen of gebruikt" - een formulering die ongemakkelijk staat naast de toestemming die daarin wordt beschreven. Sommige van de verzamelde gegevens kunnen worden beoordeeld door wat het beleid alleen 'beoordelingspersoneel' noemt, waarbij het audiomateriaal uitsluitend door Apple-medewerkers wordt beluisterd.

Het bedrijf kadert het programma als opt-in. Wanneer gebruikers Siri AI activeren, wordt hen in een dialoogvenster gevraagd om de assistent te helpen verbeteren, en ontwikkelaars met toegang tot de release candidate melden dat de weigeroptie gemakkelijk over het hoofd wordt gezien: een visueel onopvallende 'Niet nu'-knop op een scherm die niet volledig kan worden genegeerd. Gebruikers die zich wel aanmelden, kunnen de keuze later ongedaan maken onder Instellingen en vervolgens Analyse & Verbeteringen.

Een stille bewerking van een handtekeningbelofte

De beleidswijziging werd voorafgegaan door een nog stillere bewerking. In de gepubliceerde richtlijnen van Apple over verantwoorde AI werd eerder in een volledige zin gesteld dat “uw persoonlijke persoonlijke gegevens en interacties nooit worden gebruikt om onze basismodellen te trainen.” Het definitieve einde van die zin is verwijderd en vervangen door een voorbehoud: "tenzij je er expliciet voor kiest om ze te helpen verbeteren."

De herziening is belangrijker dan de bewoording ervan, omdat ze in strijd is met de architectuur die Apple twee jaar lang op de markt heeft gebracht. Private Cloud Compute, het serversysteem achter Siri AI en de meeste Apple Intelligence-functies, werd verkocht met een specifieke belofte: cloud AI die verzoeken net zo privé afhandelt als een model op het apparaat, waarbij gebruikersgegevens nooit langdurig worden opgeslagen of aan derden worden blootgesteld. Het gebruik van Siri-opnamen als trainingsmateriaal (en, voor het eerst in iOS 27, het routeren van sommige Private Cloud Compute-verzoeken via Google-servers) komt dichter in de buurt van het gedrag van de cloudassistenten waartegen Apple zich ooit heeft gepositioneerd.

Altijd luisterende hardware verhoogt de inzet

De timing is om een tweede reden lastig. Naast de nieuwste iPhones introduceerde Apple deze week twee Apple Watch-modellen die zijn ontworpen om continu te luisteren. De apparaten kunnen op verzoek een transcriptie maken van de voorgaande vijftien seconden van het gesprek, plus een dagelijkse "Siri Recap" met een samenvatting van de gesprekken van de drager - een functie die volgens Apple ook op Private Cloud Compute draait.

Microfoons die altijd aan staan ​​voor een assistent en die nu interacties kunnen vasthouden voor modeltraining is precies de combinatie waar privacyvoorvechters voor hebben gewaarschuwd, en deze komt van het bedrijf dat zijn moderne marketing heeft opgebouwd rond de weigering om precies dit te doen.

Echo's van het Siri-beoordelingsschandaal van 2019

Apple is hier eerder geweest. In 2019 kreeg het bedrijf te maken met de meest schadelijke privacycontroverse toen aannemers in dienst van onderaannemers hun werk beschreven door Siri-audio-opnamen te beoordelen – fragmenten die vaak intieme gesprekken, medische informatie en andere persoonlijke gegevens bevatten, die onder lakse controles werden behandeld. Apple schortte het programma op, bood zijn excuses aan en introduceerde later opnieuw menselijke beoordeling als een opt-in-functie met strengere waarborgen.

Het nieuwe beleid hervat de gegevensverzameling met een bredere reikwijdte – volledige interacties in plaats van gesamplede audiofragmenten, transcripties naast opnames en een expliciet trainingsdoel – terwijl het vertrouwt op een soortgelijk toestemmingsmechanisme waar veel gebruikers voorbij zullen tikken zonder te lezen.

Wat gebeurt er vervolgens

Regelgevers in Europa en de Verenigde Staten hebben herhaaldelijk onderzocht hoe toestemmingsdialogen voor AI-training worden gepresenteerd, en een opt-in-scherm met een prominente akkoordknop en een weigeringsoptie met laag contrast is het soort ontwerp dat dat onderzoek aantrekt. Voorlopig is het standpunt van Apple dat de gegevens binnen de eigen systemen blijven, losgekoppeld worden van de gebruikersidentiteit en alleen worden beoordeeld op grond van regels die alleen voor werknemers gelden.

De diepere verschuiving is van strategisch belang. Het trainen van concurrerende AI-modellen vereist enorme hoeveelheden gespreksgegevens van hoge kwaliteit, en Apple – dat later aan de moderne AI-race deelnam dan zijn rivalen – lijkt te hebben besloten dat zijn meest waardevolle onaangeboorde hulpbron de honderden miljoenen Siri-gesprekken zijn die elke dag plaatsvinden. Het bedrijf dat ooit van privacy de reden maakte om een ​​iPhone te kopen, is tot de conclusie gekomen dat het het zich niet langer kan veroorloven om die gegevens op tafel te laten liggen. Of gebruikers ermee instemmen het over te dragen, één 'Niet nu'-knop tegelijk, zal bepalen hoeveel Apple ervan krijgt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →