Dez dos maiores desenvolvedores de IA do mundo – incluindo Amazon, Anthropic, Apple, Google, Meta, Microsoft e OpenAI – concordaram em mudar a forma como lidam com dados pessoais após escrutínio do regulador de privacidade do Reino Unido, que na quinta-feira voltou sua atenção para uma nova preocupação: agentes autônomos de IA que contornam suas próprias barreiras de proteção.
O Information Commissioner's Office (ICO) disse que as dez empresas fizeram alterações ou se comprometeram a fazê-lo depois que o regulador examinou sua conformidade com a lei de proteção de dados do Reino Unido. Os compromissos incluem explicações mais claras sobre como as informações pessoais são usadas para treinar modelos de IA, melhores mecanismos para as pessoas exercerem os seus direitos de dados e avaliações mais rigorosas das salvaguardas dos desenvolvedores.
Um programa de supervisão dá frutos
A amplitude da lista é notável. Abrange hiperscaladores dos EUA (Amazon, Google, Microsoft, Meta, Apple), os principais laboratórios de fronteira (OpenAI, Anthropic), especialistas de peso aberto (Cohere, Stability AI) e DeepSeek – um desenvolvedor chinês cujos modelos são amplamente utilizados por empresas ocidentais. Todos os dez estão agora sob compromissos que abrangem o mercado do Reino Unido.
Os compromissos decorrem de um programa de supervisão lançado pela OIC em 2025, abrangendo onze grandes desenvolvedores. Essa lista caiu para dez depois que o regulador interrompeu seu envolvimento com o xAI de Elon Musk, a fim de prosseguir uma investigação formal separada sobre o chatbot Grok da empresa.
A intervenção surge num momento de transição para o próprio regulador, que recentemente foi rebatizado como Comissão de Informação e recomeçou com um novo conselho e uma sede em Manchester.
O regulador não está declarando vitória. Ele disse que continuará monitorando se os desenvolvedores cumprem suas promessas e reconheceu que as atuais práticas de treinamento em IA ainda criam atritos com a lei de proteção de dados do Reino Unido. Os desenvolvedores ainda têm perguntas em aberto para responder sobre dados pessoais confidenciais incorporados em modelos treinados, sobre como as pessoas podem ter suas informações removidas depois que um modelo foi treinado neles e sobre o risco de que dados pessoais – incluindo dados que os desenvolvedores nunca pretenderam reter – possam ser extraídos de modelos após o fato.
“A IA tem um enorme potencial para beneficiar a nossa sociedade, mas isso depende da confiança e da transparência”, disse Richard Nevinson, diretor de regulamentação tecnológica da OIC. "Nosso envolvimento com alguns dos maiores desenvolvedores garantiu compromissos reais que ajudarão as pessoas a entender e controlar melhor como seus dados são usados, mesmo em uma área complexa e em rápida evolução."
Próximo alvo: agentes que escapam das grades de proteção
A atenção do cão de guarda está agora a deslocar-se para os agentes de IA – sistemas que navegam em websites, utilizam ferramentas e completam tarefas com supervisão humana limitada. A ICO confirmou que entrou em contato com OpenAI, Anthropic, Meta e o AI Security Institute do Reino Unido após relatos no início deste ano de agentes ignorando salvaguardas durante testes e implantação.
“Estes relatórios recentes mostram a rapidez com que estes sistemas estão a avançar e os riscos que representam se as barreiras de proteção não forem adequadas à sua finalidade”, disse Nevinson. “Nossa mensagem é clara: o fato de os agentes de IA agirem com autonomia não é desculpa para o mau cumprimento.”
Juntamente com o compromisso adjacente à aplicação da lei, a OIC abriu um apelo de seis semanas à apresentação de provas sobre IA de agência, abrangendo segurança, transparência, responsabilização e a utilização legal de dados pessoais. Os observadores de políticas de IA que acompanham os últimos desenvolvimentos de IA vão querer observar o cronograma: as respostas devem ser entregues até 20 de novembro e informarão orientações futuras, bem como o próximo código de prática estatutário do regulador sobre IA e tomada de decisão automatizada.
O regulador também está examinando como os chatbots de consumo e os acompanhantes de IA usam informações pessoais à medida que esses produtos se tornam cada vez mais personalizados – uma categoria que cresceu rapidamente à medida que os acompanhantes, os bots de personagens e os assistentes voltados para adolescentes foram lançados. Esse trabalho sinaliza que o âmbito do programa de supervisão se estende agora para além da formação de modelos, abrangendo produtos destinados ao consumidor, onde a personalização é a característica principal.
Para as empresas de IA que operam no Reino Unido, o efeito prático é que a ICO criou uma estrutura permanente: desenvolvedores nomeados, compromissos documentados e acompanhamento público. As empresas que aderirem serão avaliadas em relação às suas promessas, e o regulador deixou claro que considera as práticas de formação actuais - e não apenas as futuras - como um problema contínuo de conformidade.
O que significa
Para as empresas de IA que operam no Reino Unido, a mensagem é que o escrutínio da proteção de dados está a passar dos dados de formação para o comportamento implementado. Garantir compromissos em matéria de transparência na formação foi a fase mais fácil; as questões mais difíceis – exclusão de modelos treinados, riscos de extração e agentes agindo fora de suas barreiras de proteção – permanecem em aberto, e a OIC sinalizou que espera que a indústria, os reguladores e o governo trabalhem juntos nessas questões.
O episódio também ilustra a postura regulamentar pós-Brexit do Reino Unido: em vez de uma lei ampla sobre IA, os vigilantes do país estão a aplicar a legislação existente de protecção de dados aos sistemas de IA e a construir um código de prática estatutário para a tomada de decisões automatizada. Com um pedido de provas sobre a IA de agência em execução e vários dos maiores laboratórios do mundo formalmente na sua mira, a OIC está a posicionar-se como um dos reguladores de IA mais activos entre as autoridades ocidentais de protecção de dados.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
