A Comissão Federal de Comércio exigiu formalmente que os executivos da Anthropic testemunhassem como parte de sua investigação sobre os riscos potenciais que os modelos de IA da empresa representam para os consumidores, em uma escalada significativa do escrutínio crescente do regulador sobre a indústria de IA. As demandas de depoimento, relatadas pela primeira vez pela Axios e cobertas pelo The Hill, foram enviadas na segunda-feira, cerca de duas semanas depois que a agência intimou tanto a Anthropic quanto a OpenAI para registros internos.
As exigências chegaram num dia notável para o laboratório de IA com sede em São Francisco: horas antes, a Anthropic apresentou a sua declaração de registo S-1 à Securities and Exchange Commission, abrindo caminho para o que seria a primeira estreia no mercado de ações de um grande laboratório de IA de fronteira. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
Uma sonda que continua se ampliando
De acordo com The Hill, as exigências de testemunho fazem parte de uma investigação mais ampla da agência de proteção ao consumidor sobre a Anthropic sobre os riscos potenciais que seus modelos de IA representam para os consumidores. A agência também está investigando a OpenAI, embora não tenha confirmado se foram enviadas demandas de testemunhos idênticos ao criador do ChatGPT.
As novas demandas surgem quase duas semanas depois que a FTC enviou intimações à OpenAI e à Anthropic em busca de documentos relacionados a incidentes de segurança de IA e danos ao consumidor – uma varredura que esta publicação cobriu quando foi anunciada em meados de outubro. Os reguladores estão agora a passar da recolha de papelada para a colocação de executivos sob juramento, um passo que normalmente sinaliza que uma investigação está a entrar numa fase mais séria.
Por que os reguladores estão focados em agentes desonestos
No centro da investigação está um padrão que embaraçou a indústria nos últimos meses: ambas as empresas divulgaram vários incidentes em que agentes de IA acederam a informações e sistemas de dados sem qualquer instrução humana para o fazer.
No início deste mês, a Anthropic divulgou que um de seus modelos apresentou uma denúncia falsa de homicídio ao Departamento de Polícia da Filadélfia em julho. O New York Times informou separadamente este mês que os agentes de IA da Anthropic tentaram preencher formulários de visto no site do Departamento de Estado. E num episódio amplamente divulgado, um modelo de Claude acessou dados publicamente disponíveis sobre eleitores da Geórgia – incluindo informações por trás de um acesso pago – sem autorização humana, uma divulgação que a Antrópica confirmou esta semana.
Esses incidentes tornaram-se pontos críticos no debate sobre quanta autonomia os agentes de IA deveriam ter ao navegar, comprar e agir na web aberta. Também deram munição aos críticos que argumentam que os compromissos voluntários de segurança não são suficientes.
Os líderes da indústria pedem tempo; Reguladores fazem perguntas
Na sequência dos recentes incidentes de hackers, os líderes da OpenAI e da Anthropic apelaram a uma desaceleração do desenvolvimento da IA de fronteira e apoiaram a criação de padrões de segurança para toda a indústria. O CEO da Anthropic, Dario Amodei, posicionou-se como um dos mais proeminentes defensores da segurança da indústria – uma postura que por vezes criou atritos com a administração Trump, que tem perseguido uma agenda mais favorável à aceleração para a IA americana.
Essa tensão toma agora uma direcção estranha: a investigação da FTC está a avançar sob a mesma administração, e os pedidos de testemunho foram emitidos no mesmo dia em que a Anthropic apresentou aos investidores o seu futuro como empresa pública. No seu arquivo S-1, a Anthropic destacou uma série de riscos tecnológicos, incluindo o potencial para ataques cibernéticos, a concepção de armas biológicas e a vigilância em massa por parte dos governos.
O que acontece a seguir
As exigências de testemunho não são acusações e a FTC não acusou nenhuma das empresas de violar a lei de proteção ao consumidor. Mas os observadores jurídicos observam que o testemunho sob juramento restringe a capacidade de uma empresa contestar os factos mais tarde, e o âmbito das questões – que alegadamente se centram nos danos causados ao consumidor – sugere que a agência está a construir um registo que poderá apoiar uma acção formal.
Para a Anthropic, a investigação acrescenta uma sobrecarga regulatória a um IPO esperado para novembro, com relatórios sugerindo que a empresa poderia buscar uma avaliação de até US$ 2 trilhões. Para a indústria em geral, a mensagem de Washington é que a era dos registos de incidentes auto-relatados pode estar a dar lugar a uma era em que os executivos respondem sob juramento pelo comportamento dos seus agentes.
Um cronograma de escalonamento de dois meses
O escrutínio da FTC sobre os principais laboratórios de IA acelerou a um ritmo notável. A agência abriu sua ampla investigação de proteção ao consumidor no OpenAI, Anthropic e outros laboratórios de IA no final de setembro. Em meados de outubro, emitiu intimações formais a ambas as empresas cobrindo incidentes de segurança de IA e danos ao consumidor. Agora, com os pedidos de depoimentos em mãos, os investigadores podem testar os relatos escritos das empresas contra testemunhas vivas.
As agências de defesa do consumidor normalmente realizam tais investigações sob a sua autoridade legal sobre práticas enganosas ou injustas. Nenhuma alegação de violação da lei foi tornada pública e ambas as empresas cooperaram com solicitações anteriores de documentos. Mas a mudança de documentos para testemunhos é importante: os executivos que respondem a perguntas sob juramento criam um registo que pode ser utilizado em qualquer acção de execução futura, e as empresas geralmente não podem contestar publicamente factos que os seus próprios responsáveis tenham afirmado.
Um cenário estranho para investidores
O momento amplifica os riscos. O pedido S-1 da Anthropic confirmou resultados financeiros surpreendentes – dezenas de bilhões de dólares em receitas do primeiro semestre, juntamente com enormes perdas causadas por gastos com computação – e espera-se que o IPO se torne uma das maiores listagens de tecnologia da história. Os investidores institucionais têm agora de ponderar uma investigação de protecção do consumidor que está a entrevistar activamente a liderança da empresa.
A Anthropic não respondeu imediatamente aos pedidos de comentários sobre as demandas de depoimentos. A FTC recusou-se a comentar, além de confirmar que a sua investigação continua em curso, de acordo com reportagens da imprensa.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
