Pergunte ao Modo IA do Google quem ganhou as eleições presidenciais de 2020 e, para muitos usuários, a resposta é um encolher de ombros em forma de texto. Em vez de nomear um vencedor, a experiência de pesquisa alimentada por IA tem orientado as pessoas a consultar o relatório oficial da Comissão Eleitoral Federal. O comportamento estranho, detalhado pela primeira vez pela Ars Technica, atraiu atenção suficiente para que o Google agora o reconheça como uma lacuna técnica que está trabalhando para corrigir, menos de duas semanas antes das eleições intercalares nos EUA.
O episódio é um lembrete útil de que os produtos de pesquisa de IA podem falhar de maneiras estranhas, mesmo com base em fatos históricos estabelecidos, e que manter-se atualizado sobre os desenvolvimentos de IA significa cada vez mais monitorar não apenas lançamentos de modelos, mas também como esses sistemas se comportam sob pressão política.
O que os testes da Ars Technica encontraram
Quando um repórter da Ars Technica fez a pergunta direta ao Modo IA do Google, a resposta foi surpreendentemente indireta: para revisar os resultados e estatísticas oficiais das eleições presidenciais dos Estados Unidos de 2020, incluindo a análise final do colégio eleitoral, a contagem de votos populares e a certificação dos vencedores, a ferramenta recomendou a consulta do relatório oficial compilado pela FEC.
A esquiva não foi consistente. Os testes mostraram respostas indiretas semelhantes para as eleições de 2024 e 2012, enquanto o Modo AI forneceu respostas detalhadas e corretas para todas as outras eleições presidenciais desde 2000. Diferentes funcionários da Ars observaram padrões diferentes, com um obtendo respostas imediatas apenas para as corridas de 2016 e 2024 e links para dados externos para todo o resto.
Questões de história política além das disputas presidenciais também foram afetadas. Questionado sobre qual partido controlava o Senado após as eleições de 2020, AI Mode disse ao repórter para verificar os registros oficiais do Congresso e vincular à página de histórico da divisão partidária do Senado. Quando lhe foi feita a mesma pergunta sobre as eleições de 1992, respondeu diretamente que os democratas detinham uma maioria de 57 a 43.
Outros chatbots respondem sem hesitação
O próprio modelo Gemini do Google, separado do modo AI, respondeu à pergunta sem problemas, de acordo com o relatório. O mesmo aconteceu com o ChatGPT da OpenAI, Claude da Anthropic e até mesmo o modelo de IA administrado pelo governo em America.gov. Essa distinção é importante porque sugere que o problema reside na forma como as salvaguardas da camada de pesquisa do Modo AI lidam com as consultas eleitorais, e não no conhecimento do modelo de linguagem subjacente.
O comportamento também mudou com a geografia. As verificações pontuais da Ars Technica por meio de VPNs em Taiwan, Rússia, França e Canadá retornaram respostas precisas e diretas sobre os resultados eleitorais recentes nos EUA, o que implica que o tratamento restritivo é específico para usuários nos Estados Unidos.
Resposta do Google: uma lacuna técnica
Um porta-voz do Google primeiro apontou para uma postagem nas redes sociais reconhecendo que o aplicativo Gemini responde à pergunta de forma mais completa e que a resposta do AI Mode não foi a mais útil, acrescentando que a empresa estava investigando o assunto. Mais tarde, o porta-voz deu uma explicação mais concreta, dizendo à Ars Technica que o Google está corrigindo o problema com as consultas eleitorais de 2020 no modo AI. Segundo o porta-voz, os sistemas do Google verificam as respostas eleitorais usando artigos de notícias ou dados da AP para eleições recentes e registros históricos para as mais antigas, e houve uma lacuna técnica com 2020, o mesmo vale para as disputas para o Senado de 2022, que a empresa está trabalhando para corrigir na mesma atualização.
Um aspecto interessante do teste: a persistência valeu a pena. Quando as mesmas perguntas foram feitas pela segunda vez, o AI Mode forneceu o vencedor diretamente, citando dados do Google Civics. Questionada sobre o porquê de não ter respondido inicialmente, a ferramenta culpou filtros de segurança rigorosos por tópicos eleitorais recentes e altamente sensíveis e descreveu um sistema altamente automatizado que encaminha tais consultas para bases de dados governamentais certificadas oficiais para evitar qualquer risco de exibição de dados não verificados ou desinformação. Como observa a Ars Technica, os modelos de IA não são narradores confiáveis dos seus próprios processos internos, pelo que essa explicação merece alguma cautela.
Por que as respostas eleitorais são difíceis para a pesquisa de IA
O Google não está errado ao tratar as questões eleitorais como algo de alto risco. Os sistemas de pesquisa generativos podem alucinar, e a desinformação eleitoral é um problema documentado com o qual as plataformas têm repetidamente deparado. Em 2023, o YouTube, de propriedade do Google, reverteu uma política que proibia todos os vídeos que fizessem afirmações falsas sobre as eleições de 2020, dizendo que as remoções poderiam restringir o discurso político sem reduzir significativamente os danos no mundo real.
A postura pública atual da empresa enfatiza a divulgação de informações eleitorais confiáveis diretamente nos resultados, incluindo links diretos para recursos oficiais, de acordo com sua página de Políticas Públicas Eleitorais e uma postagem no blog de setembro sobre como ajudar os eleitores a encontrar informações confiáveis nas eleições intermediárias. O incidente do AI Mode mostra a lacuna entre essa política e o comportamento no terreno de um sistema automatizado: ao tentar evitar dizer algo errado, acabou por se recusar a dizer algo resolvido.
Com as eleições intermediárias iminentes, o episódio ilustra a linha tênue que os produtos de IA caminham durante as eleições. O bloqueio excessivo de respostas factuais frustra os usuários e pode minar a confiança tão certamente quanto os erros, e uma esquiva que varia de acordo com o usuário, o país e a repetição é difícil de defender como segurança ou precisão. A atualização prometida pelo Google mostrará se a correção restaura as respostas diretas de maneira uniforme ou se as consultas eleitorais no modo AI permanecem uma loteria de filtros e lacunas técnicas.
Fique à frente da IA
Para cobertura contínua da política de IA, do comportamento da plataforma e dos sistemas que moldam as informações on-line, siga AI Buzz Wire para obter as últimas notícias sobre IA e análises independentes.
Leia mais notícias sobre IA em AI Buzz Wire
