A Apple reescreveu discretamente um de seus compromissos de privacidade mais importantes. No iOS 27, a empresa pode armazenar todas as interações de Siri e ditado dos usuários – incluindo as próprias gravações de áudio – e usá-las para treinar os modelos de inteligência artificial por trás do Siri, conforme relatado pela primeira vez pela publicação de tecnologia alemã Heise Online.
A mudança encerra uma posição que a Apple havia afirmado categoricamente: que os dados pessoais do usuário nunca seriam usados para treinar seus modelos básicos de IA. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
O que diz a nova política
A linguagem atualizada aparece em uma política de privacidade encontrada na versão final de pré-lançamento do iOS 27, que foi enviada ao público na segunda-feira, 14 de setembro. De acordo com a política, a Apple pode “armazenar todas as suas interações com a Siri e a função de ditado, incluindo os dados de áudio e transcrições de suas solicitações digitadas e faladas da Siri, bem como as respostas da Siri”.
A Apple enfatiza que os dados não estão vinculados à conta Apple de um usuário e afirma que “toma medidas para garantir que os dados pessoais não sejam armazenados ou usados pela Apple” – uma formulação que fica estranhamente próxima à permissão que descreve. Alguns dos dados coletados podem ser revisados pelo que a política chama apenas de “pessoal de revisão”, com material de áudio ouvido exclusivamente por funcionários da Apple.
A empresa enquadra o programa como opt-in. Quando os usuários ativam o Siri AI, uma caixa de diálogo pede que eles ajudem a melhorar o assistente, e os desenvolvedores com acesso ao release candidate relatam que a opção de recusa é fácil de ignorar: um botão "Agora não" visualmente imperceptível em uma tela que não pode ser totalmente descartada. Os usuários que aceitarem podem reverter a escolha posteriormente em Configurações e, em seguida, em Análise e melhorias.
Uma edição silenciosa para uma promessa exclusiva
A mudança de política foi precedida por uma edição ainda mais silenciosa. As diretrizes publicadas pela Apple sobre IA responsável afirmavam anteriormente, em uma frase completa, que “seus dados pessoais e interações nunca são usados para treinar nossos modelos básicos”. O final definitivo dessa frase foi removido e substituído por uma advertência: “a menos que você escolha explicitamente ajudar a melhorá-los”.
A revisão importa além do seu texto, porque colide com a arquitetura que a Apple passou dois anos comercializando. Private Cloud Compute, o sistema de servidor por trás da Siri AI e da maioria dos recursos do Apple Intelligence, foi vendido com uma promessa específica: IA em nuvem que lida com solicitações de forma tão privada quanto um modelo no dispositivo, com os dados do usuário nunca armazenados a longo prazo ou expostos a terceiros. Usar gravações da Siri como material de treinamento – e, pela primeira vez no iOS 27, encaminhar algumas solicitações de computação em nuvem privada por meio de servidores do Google – estende essa promessa mais próxima do comportamento dos assistentes de nuvem contra os quais a Apple uma vez se posicionou.
Hardware sempre atento aumenta as apostas
O momento é estranho por um segundo motivo. Juntamente com seus mais recentes iPhones, a Apple lançou esta semana dois modelos de Apple Watch projetados para ouvir continuamente. Os dispositivos podem produzir uma transcrição dos quinze segundos anteriores de conversa sob demanda, além de um “Siri Recap” diário resumindo as conversas do usuário – um recurso que a Apple diz que também funciona em Private Cloud Compute.
Microfones sempre ligados alimentando um assistente que agora pode reter interações para treinamento de modelo é precisamente a combinação sobre a qual os defensores da privacidade alertaram, e vem da empresa que construiu seu marketing moderno em torno da recusa de fazer exatamente isso.
Ecos do escândalo de classificação da Siri de 2019
A Apple já esteve aqui antes. Em 2019, a empresa sofreu a controvérsia de privacidade mais prejudicial quando empreiteiros empregados por subcontratados descreveram seu trabalho classificando gravações de áudio da Siri – trechos que frequentemente continham conversas íntimas, informações médicas e outros detalhes pessoais, tratados sob controles negligentes. A Apple suspendeu o programa, pediu desculpas e mais tarde reintroduziu a revisão humana como um recurso opcional com salvaguardas mais rígidas.
A nova política retoma essa coleta de dados com um escopo mais amplo – interações completas em vez de amostras de clipes de áudio, transcrições junto com gravações e um propósito explícito de treinamento – ao mesmo tempo em que se baseia em um mecanismo de consentimento semelhante que muitos usuários utilizarão sem ler.
O que acontece a seguir
Os reguladores na Europa e nos Estados Unidos examinaram repetidamente a forma como os diálogos de consentimento para formação em IA são apresentados, e um ecrã de aceitação com um botão de consentimento proeminente e uma opção de recusa de baixo contraste é o tipo de design que atrai esse escrutínio. Por enquanto, a posição da Apple é que os dados permaneçam dentro de seus próprios sistemas, sejam dissociados das identidades dos usuários e sejam revisados apenas de acordo com regras exclusivas para funcionários.
A mudança mais profunda é estratégica. O treinamento de modelos competitivos de IA requer enormes volumes de dados de conversação de alta qualidade, e a Apple – que entrou na corrida moderna da IA depois de seus rivais – parece ter decidido que seu recurso inexplorado mais valioso são as centenas de milhões de conversas Siri que ocorrem todos os dias. A empresa que antes fazia da privacidade o motivo para comprar um iPhone concluiu que não pode mais se dar ao luxo de deixar esses dados na mesa. Se os usuários concordarem em entregá-lo, um botão “Agora não” por vez determinará quanto a Apple receberá.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
