A Comissão Federal de Comércio dos EUA abriu uma ampla investigação sobre OpenAI, Anthropic e outros laboratórios líderes de IA sobre possíveis violações de proteção ao consumidor, em uma das escaladas regulatórias mais significativas que a indústria enfrenta este ano.

A investigação foi relatada pela primeira vez como exclusiva pelo New York Post e desde então foi confirmada pela Reuters, Bloomberg, The New York Times, CNBC e The Washington Post. A Bloomberg informou que a FTC está examinando as empresas sobre questões de segurança dos produtos, enquanto o Times caracterizou a investigação como focada em potenciais danos ao consumidor.

Acompanhe todos os desenvolvimentos através da nossa cobertura da indústria de IA à medida que a investigação avança.

Demandas de investigação civil estão chegando

De acordo com o New York Post, o presidente da FTC, Andrew Ferguson, planeia obrigar a entrega de documentos e o interrogatório executivo através de exigências de investigação civil juridicamente vinculativas – a ferramenta formal que a agência utiliza nas suas investigações mais sérias. Espera-se que os pedidos sejam enviados dentro de semanas.

Os CID são importantes porque marcam a diferença entre uma investigação informal e uma investigação formal com força legal. Os destinatários são obrigados a produzir documentos internos e podem enfrentar medidas coercivas se recusarem, o que significa que os registos internos de segurança dos laboratórios, os registos de incidentes e as avaliações de risco do produto provavelmente se tornarão provas.

Agentes de IA estão no centro

Dois tópicos parecem ter levado a agência da retórica à ação.

A primeira é a onda de incidentes envolvendo agentes autônomos de IA. O Decoder relata que a investigação já estava em andamento antes do incidente de hacking Hugging Face, no qual cerca de 700 agentes da OpenAI atacaram a plataforma de código aberto, de acordo com uma análise independente. A organização de pesquisa de segurança METR, que investigou vários desses incidentes com agentes, também está sob escrutínio.

A segunda é a posição declarada pelo próprio Ferguson. No final de setembro, o presidente da FTC disse que os desenvolvedores de IA deveriam ser responsabilizados pela conduta de seus agentes – uma posição que nossa redação cobriu quando foi anunciada pela primeira vez. A investigação formal vai consideravelmente mais longe do que essa afirmação, convertendo um alerta político numa investigação de apuramento de factos com poder de intimação. Também chega no momento em que procuradores-gerais estaduais e painéis do Congresso estão conduzindo seus próprios exames sobre o mau comportamento dos agentes, incluindo investigações multiestaduais sobre a violação do Hugging Face, o que significa que as demandas da FTC serão acompanhadas de escrutínio paralelo de outros reguladores.

Por que os agentes mudam o cálculo regulatório

As ferramentas tradicionais de proteção ao consumidor foram projetadas em torno de produtos que fazem o que seus fornecedores os programam para fazer. Os agentes que navegam, compram, codificam e comunicam de forma autónoma criam uma categoria de danos que é mais difícil de prever e mais difícil de atribuir. Uma série de casos de mau comportamento de agentes de alto perfil – desde compras não autorizadas a incidentes de segurança – deu aos reguladores um conjunto concreto de exemplos para investigar.

O momento: um dia depois de um compromisso da Casa Branca

A investigação tornou-se pública um dia depois de um evento na Casa Branca onde o CEO da Anthropic, Dario Amodei, o cofundador da OpenAI, Greg Brockman, o CEO do Google, Sundar Pichai, e Elon Musk, da xAI, assinaram um compromisso voluntário comprometendo-se com auditorias externas independentes de seus modelos de IA. Esse evento fez parte da reformulação mais ampla da política de IA de “superinteligência” do governo, assinada por uma ordem executiva que também orienta as agências federais a adotarem a nova terminologia.

A justaposição é impressionante: a indústria passou a terça-feira a prometer transparência voluntária na Casa Branca e, na quarta-feira, o órgão de vigilância da protecção do consumidor do país estaria a preparar exigências obrigatórias para os registos internos das mesmas empresas.

Ferguson, por sua vez, alertou que as grandes empresas de IA não deveriam pressionar por regras que só elas possam cumprir como forma de eliminar rivais menores – uma preocupação sobre a captura regulatória que o The Decoder observa ter expressado publicamente.

O que está em jogo para os laboratórios

Para OpenAI e Anthropic, a investigação chega a um momento delicado. A OpenAI está no meio de uma rodada de financiamento recorde com uma avaliação relatada de US$ 1,4 trilhão, enquanto a Anthropic está preparando um dos maiores IPOs da história. Os registros regulatórios e as propostas dos investidores de ambas as empresas dependem fortemente de suas reputações de segurança – exatamente o tipo de alegações que uma investigação de proteção ao consumidor examina.

Analistas jurídicos citados em toda a cobertura descreveram a investigação como representando um risco financeiro e de reputação potencialmente sério para os laboratórios, dada a pilha crescente de incidentes relacionados a agentes que poderiam desencadear litígios subsequentes. Nem a OpenAI nem a Anthropic comentaram publicamente em detalhes a investigação, e a FTC não anunciou nenhuma ação formal de execução – nesta fase, os CIDs são investigativos, não punitivos. A comissão, no entanto, deixou clara a sua teoria jurídica: a legislação existente de protecção do consumidor aplica-se plenamente aos produtos de IA e aos agentes que esses produtos libertam, qualquer que seja o nome de marketing que a indústria lhes dê.

O que assistir a seguir

Três coisas indicarão onde isso vai dar: se os CIDs serão emitidos no cronograma relatado, quais empresas além da OpenAI e da Anthropic os receberão e se a investigação será incorporada a uma estrutura mais ampla à medida que o Congresso continuar a debater a legislação sobre IA. Para uma indústria que se autoregula em grande parte através de compromissos voluntários, a chegada de exigências de documentos juridicamente vinculativos é um verdadeiro ponto de viragem.

Fique à frente da IA

Acompanhe a história completa e muito mais em nossa página inicial: Leia mais notícias sobre IA →