Meta culpou as ferramentas de inteligência artificial conectadas a Claude da Anthropic pela suspensão injusta da conta principal do Instagram da No Kings Coalition, um erro que deixou offline a presença do movimento de protesto nas redes sociais por horas durante um dia de ação nacional com o objetivo de aumentar a participação eleitoral antecipada antes das eleições de meio de mandato de novembro.

A suspensão, que começou na tarde de sábado, foi inicialmente atribuída a proteções automatizadas de rotina. Um dia depois, Meta ofereceu uma conta diferente e mais incomum: de acordo com reportagens da Bloomberg e do The Guardian, os engenheiros da empresa descobriram que ferramentas conectadas a Claude da Anthropic estavam extraindo postagens, perfis e hashtags da conta em cerca de quatro vezes o ritmo normal – padrões de tráfego que os sistemas da Meta confundiram com atividade automatizada de bot e responderam retirando a conta. Para mais contexto sobre esta história, confira nossa notícias de IA.

Horas de silêncio durante um Dia Nacional de Ação

O bloqueio dificilmente poderia ter ocorrido num momento mais delicado. No sábado, os organizadores realizaram quase 3.000 eventos “No Kings: Vote Early” nos Estados Unidos, de acordo com números citados pelo The Deep Dive, parte do movimento pró-democracia que atraiu milhões de americanos às ruas nos últimos anos.

Os administradores perderam o acesso à conta por volta das 13h30. Leste, disse um porta-voz da coalizão. A conta em si reapareceu publicamente após cerca de 90 minutos, mas as pessoas por trás dela permaneceram bloqueadas em seu back-end por quase quatro horas, recuperando o acesso total às 17h33. Oriental.

Ezra Levin, cofundador do grupo organizador Indivisible, descreveu a situação sem rodeios. "Eles suspenderam. Não tivemos acesso a isso", disse ele.

Explicação do Meta alterada – duas vezes

A primeira resposta pública da Meta veio no sábado, quando o porta-voz Andy Stone escreveu no X que os sistemas automatizados da plataforma às vezes agem “quando as contas postam, compartilham ou comentam em frequências muito altas”. Ele reconheceu que “essa ação automatizada foi claramente tomada por engano”, acrescentando: “Agora tudo está funcionando como deveria e pedimos sinceras desculpas”.

No domingo, a empresa revisou seu relato dos acontecimentos. Em uma declaração mais longa, Stone disse que um alto volume de atividades de leitura de perfis, postagens e hashtags em “explosões intensas” fez com que a ferramenta de IA da Meta classificasse o tráfego como bots automatizados. “Essa atividade fez com que nossas proteções automatizadas colocassem incorretamente a conta do Instagram do No Kings off-line”, disse Stone, observando que uma nova revisão automática uma hora depois reconheceu o erro e restaurou a conta, embora o acesso de administrador demorasse mais.

A conexão com Claude foi relatada pela primeira vez pela Bloomberg no domingo. O que Meta não explicou é quem operava as ferramentas ou por que questionavam a conta de forma tão agressiva. A empresa não respondeu a essa pergunta em suas declarações públicas.

Os organizadores consideram a resposta inadequada

A coalizão não ficou convencida com a explicação do tráfego de bots. Em uma postagem no Instagram no domingo, o grupo disse que seus membros “postaram apenas algumas vezes e transmitiram ao vivo para milhares” durante o dia de ação – dificilmente o perfil de uma operação automatizada de spam.

“Recuperamos o acesso às nossas contas, mas Meta ainda nos deve uma explicação”, escreveu a No Kings Coalition. “Restringir as comunicações sobre votação no meio de uma eleição é inaceitável”.

O episódio rapidamente atraiu reação política. O senador Bernie Sanders sugeriu no X que a “propriedade bilionária da mídia” estava por trás da suspensão, enquanto o senador de Connecticut, Chris Murphy, pediu uma investigação sobre o que aconteceu.

Quando o tráfego de IA parece abuso

Para além da política imediata, o incidente ilustra uma falha crescente na forma como as grandes plataformas policiam os seus sistemas. A aplicação automatizada depende de classificadores que distinguem o comportamento humano do comportamento dos bots – uma distinção que está se tornando cada vez mais difícil de sustentar à medida que agentes de IA, scrapers e ferramentas de terceiros consultam plataformas sociais em velocidades de máquina por motivos legítimos.

O relato da Meta sobre a suspensão sugere que as suas defesas funcionaram como planeadas contra o tráfego que parecia genuinamente automatizado, e falharam exactamente da forma como os críticos da moderação automatizada há muito alertam: de forma rápida, opaca e contra o alvo errado, com a correcção a chegar apenas depois de o dano ter sido causado.

Para a Anthropic, o episódio é um lembrete de que a pegada de uma modelo vai muito além de seus próprios produtos. Claude é acessado por aplicativos de terceiros por meio da API da Anthropic e, como indica o relatório do incidente, Meta apontou ferramentas “conectadas ao” modelo, em vez de qualquer coisa que a própria Anthropic executasse. O uso downstream, em outras palavras, pode colocar o nome de um criador de modelos em uma manchete indesejada, sem nenhuma ação direta própria.

O que acontece a seguir

A Meta pediu desculpas duas vezes e restaurou a conta, mas a coligação exige uma contabilidade mais completa e a empresa recusou-se até agora a nomear os operadores das ferramentas ligadas a Claude ou a detalhar quais as salvaguardas, se houver, aplicáveis às organizações políticas durante a época eleitoral.

Com o meio da semana se aproximando e a votação antecipada em andamento em vários estados, grupos de plataformas e autoridades eleitorais estarão observando se o Meta – e outras plataformas que dependem de defesas automatizadas semelhantes – ajustam seus limites para evitar enredar organizações cívicas em filtros de bot. O interesse mais próximo dos reguladores pode depender de quão satisfatoriamente o Meta responde à pergunta que os organizadores continuam a fazer: o que aconteceu exactamente e quem esteve por detrás do tráfego que desencadeou tudo.

Reportagens do The Guardian, Bloomberg e The Deep Dive contribuíram para este artigo.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →