Apple har i tysthet skrivit om ett av sina mest framträdande integritetsåtaganden. Under iOS 27 kan företaget lagra användarnas fullständiga Siri- och dikteringsinteraktioner – inklusive själva ljudinspelningarna – och använda dem för att träna de artificiella intelligensmodellerna bakom Siri, som först rapporterades av den tyska teknikpublikationen Heise Online.
Ändringen avslutar en ståndpunkt som Apple kategoriskt hade uttalat: att personlig användardata aldrig skulle användas för att träna sina AI-grundmodeller. For more context on this story, see our ongoing AI news.
Vad den nya policyn säger
Det uppdaterade språket visas i en integritetspolicy som finns i den slutliga pre-release-versionen av iOS 27, som skickades till allmänheten måndagen den 14 september. Enligt policyn kan Apple "lagra hela din interaktion med Siri och dikteringsfunktionen, inklusive ljuddata och transkriptioner av dina inskrivna och talade Siri-förfrågningar, såväl som Siris svar."
Apple betonar att uppgifterna inte är kopplade till en användares Apple-konto, och uppger att de "tar åtgärder för att säkerställa att personlig data inte lagras eller används av Apple" - en formulering som sitter obekvämt bredvid tillståndet som det beskriver. En del av de insamlade uppgifterna kan granskas av vad policyn bara kallar "granskningspersonal", med ljudmaterial som uteslutande lyssnas på av Apple-anställda.
Företaget ramar in programmet som opt-in. När användare aktiverar Siri AI ber en dialogruta dem hjälpa till att förbättra assistenten, och utvecklare med tillgång till släppkandidaten rapporterar att alternativet för avvisning är lätt att missa: en visuellt oansenlig "Inte nu"-knapp på en skärm som inte kan avvisas helt. Användare som väljer att delta kan ändra valet senare under Inställningar, sedan Analys och förbättringar.
En tyst redigering av ett signaturlöfte
Policyändringen föregicks av en ännu tystare redigering. Apples publicerade riktlinjer om ansvarsfull AI har tidigare sagt, i en fullständig mening, att "dina privata personuppgifter och interaktioner aldrig används för att träna våra grundmodeller." Den meningens definitiva slut har tagits bort och ersatts med en varning: "om du inte uttryckligen väljer att hjälpa till att förbättra dem."
Revideringen är viktigare än dess ordalydelse, eftersom den kolliderar med arkitekturen Apple har ägnat två år åt att marknadsföra. Private Cloud Compute, serversystemet bakom Siri AI och de flesta Apple Intelligence-funktioner, såldes på ett specifikt löfte: moln AI som hanterar förfrågningar lika privat som en enhetsmodell, med användardata som aldrig lagras på lång sikt eller exponeras för tredje part. Att använda Siri-inspelningar som utbildningsmaterial – och, för första gången i iOS 27, dirigera vissa Private Cloud Compute-förfrågningar genom Googles servrar – sträcker sig som lovar närmare beteendet hos molnassistenterna Apple en gång ställde sig emot.
Alltid lyssnande hårdvara höjer insatserna
Timingen är besvärlig av en andra anledning. Vid sidan av sina senaste iPhones introducerade Apple två Apple Watch-modeller denna vecka designade för att lyssna kontinuerligt. Enheterna kan producera en utskrift av de föregående femton sekundernas konversation på begäran, plus en daglig "Siri Recap" som sammanfattar bärarens konversationer - en funktion som Apple säger också körs på Private Cloud Compute.
Alltid-på-mikrofoner som matar en assistent som nu kan behålla interaktioner för modellträning är just den kombination som integritetsförespråkare har varnat för, och den kommer från företaget som byggde sin moderna marknadsföring kring att vägra göra just detta.
Ekon av 2019 års Siri-betygsskandal
Apple har varit här förut. Under 2019 drabbades företaget av sin mest skadliga integritetskontrovers när entreprenörer anställda av underleverantörer beskrev sitt arbete med Siri-ljudinspelningar – utdrag som ofta innehöll intima samtal, medicinsk information och andra personliga detaljer, hanterade under slappa kontroller. Apple avbröt programmet, bad om ursäkt och återinförde senare mänsklig granskning som en opt-in-funktion med strängare skydd.
Den nya policyn återupptar denna datainsamling med en bredare räckvidd – fullständiga interaktioner snarare än samplade ljudklipp, transkriptioner vid sidan av inspelningar och ett explicit utbildningssyfte – samtidigt som den förlitar sig på en liknande samtyckesmekanism som många användare kommer att tappa förbi utan att läsa.
Vad händer härnäst
Tillsynsmyndigheter i Europa och USA har upprepade gånger granskat hur samtyckesdialoger för AI-träning presenteras, och en opt-in-skärm med en framträdande godkännandeknapp och ett alternativ med låg kontrast är den typ av design som lockar till denna granskning. För närvarande är Apples ståndpunkt att data förblir i sina egna system, är frikopplad från användaridentiteter och granskas endast under regler för endast anställda.
Det djupare skiftet är strategiskt. Att träna konkurrenskraftiga AI-modeller kräver enorma volymer av högkvalitativ konversationsdata, och Apple – som gick in i det moderna AI-loppet senare än sina konkurrenter – verkar ha beslutat att dess mest värdefulla outnyttjade resurs är de hundratals miljoner Siri-konversationer som sker varje dag. Företaget som en gång gjorde sekretess till anledningen att köpa en iPhone har kommit fram till att det inte längre har råd att lämna dessa uppgifter på bordet. Huruvida användare går med på att lämna över den, en "Inte nu"-knapp åt gången, kommer att avgöra hur mycket av den Apple får.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
