A OpenAI anunciou na quarta-feira que está oferecendo Zero Data Retention (ZDR) para seus modelos de fronteira e apresentou um novo sistema chamado Private Safety Processing, projetado para detectar uso indevido em múltiplas interações sem dar à empresa acesso ao conteúdo do cliente. A mudança traça uma linha nítida em relação aos concorrentes: Axios relatou que o anúncio ocorre no momento em que a Anthropic agora exige que os clientes permitam registros de dados, e o Firstpost observou o contraste com a mudança da Anthropic para a retenção de dados por 30 dias.

O momento não é sutil. Em seu anúncio, a OpenAI observou que “algumas implantações recentes de modelos de fronteira exigiram que os clientes permitissem que seu provedor de IA retenha conteúdo confidencial para monitoramento de segurança” – requisitos que a empresa diz “conflitam com suas obrigações de segurança ou compromissos com as pessoas que atendem”. A empresa está posicionando a privacidade como uma arma competitiva na disputa por clientes empresariais regulamentados. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.

O que a retenção zero de dados promete

De acordo com a oferta ZDR, os clientes de API qualificados obtêm o que a OpenAI descreve como “uma promessa clara”: a OpenAI não retém prompts ou respostas de modelo após o processamento de uma solicitação. O conteúdo do cliente não está disponível para revisão pelo pessoal da OpenAI, e os dados dos clientes corporativos não são usados para treinar os modelos da OpenAI, a menos que os clientes optem explicitamente por participar.

Para bancos, hospitais e escritórios de advocacia que avaliam a adoção da IA, esses compromissos abordam o problema mais comum: o risco de que o material sensível que flui através dos sistemas de um fornecedor de IA possa ser armazenado, lido ou absorvido em modelos futuros. A OpenAI observa que as organizações com as quais trabalha lidam com “registros financeiros, dados de saúde, planos de negócios confidenciais e pesquisas proprietárias”.

A retenção do problema de segurança estava resolvendo

O anúncio também admite uma tensão técnica genuína. Tal como a própria OpenAI descreve, os riscos mais graves de segurança da IA ​​nem sempre são visíveis numa única interação. As intenções prejudiciais só podem tornar-se claras quando múltiplas interações são vistas em conjunto – quando agentes mal-intencionados investigam repetidamente as salvaguardas, coordenam contas, disfarçam ameaças como pesquisas de rotina ou quando um agente de IA continua a agir depois de ser instruído a parar.

Os sistemas de segurança existentes compatíveis com ZDR avaliam cada interação individualmente, o que significa que os riscos baseados em padrões escapam. Os fornecedores que responderam exigindo a retenção resolveram um problema criando outro, forçando os clientes a escolher entre a monitorização da segurança e as suas próprias obrigações de privacidade.

Como funciona o processamento de segurança privada

A resolução proposta pela OpenAI é arquitetônica. No Processamento de Segurança Privada, o conteúdo do cliente permanece na infraestrutura controlada pelo cliente – ou, em uma opção ainda em desenvolvimento, é armazenado na infraestrutura OpenAI criptografada com chaves controladas pelo cliente. Os sistemas automatizados então analisam padrões em interações relacionadas e retornam “sinais de segurança limitados” – sinalizadores sobre possível uso indevido – sem expor os prompts ou respostas subjacentes ao pessoal da OpenAI.

Os clientes investigam alertas usando informações disponíveis em seus próprios sistemas. Se quiserem recorrer de uma decisão de execução, esclarecer atividades legítimas ou apoiar uma investigação sobre abuso verificado, podem optar por compartilhar informações relevantes com a OpenAI. A privacidade, em outras palavras, passa a ser o padrão e a divulgação a opção do cliente.

O sistema está atualmente sendo testado com os primeiros clientes. A OpenAI afirma que planeja começar a implementar o Private Safety Processing e publicar um white paper técnico em setembro.

Confiança empresarial como mercado

O anúncio chegou com um depoimento de um cliente que parece um argumento de aquisição. “A adoção da IA ​​​​empresarial depende exclusivamente do controle dos dados do cliente, sem uso direto ou derivado além do serviço escolhido”, disse Sunil Agrawal, diretor de segurança da informação da Glean, cuja citação OpenAI foi publicada junto com o post. “À medida que os modelos se tornam mais capazes, a OpenAI mostra que a segurança pode avançar sem comprometer a privacidade e o controle que sustentam a confiança empresarial”.

A OpenAI enquadra a visualização como uma resposta à demanda, dizendo que ouviu dos clientes “em alto e bom som que eles precisam de previsibilidade sobre como seu conteúdo será protegido à medida que os sistemas de IA se tornam mais capazes”. A empresa acrescenta que a abordagem está sendo moldada por clientes “de todos os setores, regiões e tamanhos de empresas” e que manterá os clientes informados com tempo suficiente para planejar implantações em torno das mudanças.

O debate que isso irá desencadear

Os pesquisadores de segurança argumentam há muito tempo que a visibilidade dos padrões de uso é essencial para detectar o uso indevido antes que ele cause danos, e alguns questionarão se a análise automatizada e criptografada pode corresponder à qualidade de detecção da revisão humana. Os defensores da privacidade, por sua vez, acolherão com satisfação uma arquitetura que trate o acesso aos dados do cliente como uma decisão do cliente e não como uma prerrogativa do fornecedor.

O que está claro é que a governação de dados passou das letras miúdas legais para o centro da competição da IA. À medida que os modelos de fronteira assumem tarefas mais longas e mais autónomas em indústrias regulamentadas, a questão de quem consegue ver os vestígios que esses sistemas deixam para trás – o cliente, o fornecedor ou ninguém – está a tornar-se um eixo principal no qual os negócios de IA empresarial são ganhos e perdidos. A OpenAI tornou agora explícita a sua resposta e colocou os seus rivais na posição de defender a sua.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →