Pregúntele al modo AI de Google quién ganó las elecciones presidenciales de 2020 y, para muchos usuarios, la respuesta es un encogimiento de hombros en forma de texto. En lugar de nombrar un ganador, la experiencia de búsqueda impulsada por IA ha dirigido a las personas a consultar el informe oficial de la Comisión Federal Electoral. El extraño comportamiento, detallado por primera vez por Ars Technica, ha llamado suficiente atención como para que Google ahora lo reconozca como una brecha técnica que está trabajando para solucionar, menos de dos semanas antes de las elecciones de mitad de período en Estados Unidos.
El episodio es un recordatorio útil de que los productos de búsqueda de IA pueden fallar de maneras extrañas incluso en base a hechos históricos establecidos, y que mantenerse actualizado sobre los desarrollos de la IA significa cada vez más rastrear no solo los lanzamientos de modelos, sino también cómo se comportan estos sistemas bajo presión política.
Lo que encontraron las pruebas de Ars Technica
Cuando un reportero de Ars Technica formuló la pregunta directa al Modo AI de Google, la respuesta fue sorprendentemente indirecta: para revisar los resultados y estadísticas oficiales de las elecciones presidenciales de Estados Unidos de 2020, incluido el desglose final del colegio electoral, el recuento de votos populares y la certificación de los ganadores, la herramienta recomendó consultar el informe oficial compilado por la FEC.
La esquiva no fue consistente. Las pruebas mostraron respuestas indirectas similares para las elecciones de 2024 y 2012, mientras que AI Mode dio respuestas detalladas y correctas para todas las demás elecciones presidenciales desde 2000. Diferentes empleados de Ars vieron patrones diferentes, uno obtuvo respuestas inmediatas solo para las elecciones de 2016 y 2024 y enlaces a datos externos para todo lo demás.
También se vieron afectadas cuestiones de historia política más allá de las carreras presidenciales. Cuando se le preguntó qué partido controlaba el Senado después de las elecciones de 2020, AI Mode le dijo al periodista que verificara los registros oficiales del Congreso y lo vinculara a la página del historial de divisiones partidistas del Senado. Cuando se le hizo la misma pregunta sobre las elecciones de 1992, respondió directamente que los demócratas tenían una mayoría de 57 a 43.
Otros chatbots responden sin dudarlo
Según el informe, el propio modelo Gemini de Google, separado del modo AI, respondió la pregunta sin problemas. También lo hicieron ChatGPT de OpenAI, Claude de Anthropic e incluso el modelo de IA administrado por el gobierno en America.gov. Esa distinción es importante, porque sugiere que el problema radica en cómo las salvaguardas de la capa de búsqueda del modo AI manejan las consultas electorales, más que en el conocimiento del modelo de lenguaje subyacente.
El comportamiento también cambió con la geografía. Las verificaciones aleatorias de Ars Technica a través de VPN en Taiwán, Rusia, Francia y Canadá arrojaron respuestas precisas y directas sobre los recientes resultados de las elecciones estadounidenses, lo que implica que el manejo restrictivo es específico para los usuarios de Estados Unidos.
La respuesta de Google: una brecha técnica
Un portavoz de Google señaló por primera vez una publicación en las redes sociales reconociendo que la aplicación Gemini responde a la pregunta de manera más completa y que la respuesta del Modo AI no fue la más útil, y agregó que la compañía lo estaba investigando. Más tarde, el portavoz dio una explicación más concreta y le dijo a Ars Technica que Google está solucionando el problema con las consultas electorales de 2020 en modo AI. Según el portavoz, los sistemas de Google verifican las respuestas electorales utilizando artículos de noticias o datos de AP para elecciones recientes y registros históricos para las más antiguas, y hubo una brecha técnica con 2020, y lo mismo se aplica a las elecciones al Senado de 2022, que la compañía está trabajando para solucionar en la misma actualización.
Un aspecto interesante de las pruebas: la perseverancia dio sus frutos. Cuando se hicieron las mismas preguntas por segunda vez, AI Mode proporcionó directamente al ganador, citando datos de Google Civics. Cuando se le preguntó por qué no había respondido inicialmente, la herramienta culpó a los estrictos filtros de seguridad por temas electorales recientes y altamente sensibles y describió un sistema altamente automatizado que dirige dichas consultas a bases de datos oficiales certificadas del gobierno para evitar cualquier riesgo de mostrar datos no verificados o información errónea. Como señala Ars Technica, los modelos de IA son narradores poco fiables de sus propios procesos internos, por lo que esa explicación merece cierta cautela.
Por qué las respuestas electorales son difíciles para la búsqueda con IA
Google no se equivoca al tratar las consultas electorales como algo de alto riesgo. Los sistemas de búsqueda generativa pueden alucinar, y la desinformación electoral es un problema documentado con el que las plataformas han tropezado repetidamente. En 2023, YouTube, propiedad de Google, revocó una política que prohibía todos los videos que hicieran afirmaciones falsas sobre las elecciones de 2020, diciendo que las eliminaciones podrían restringir el discurso político sin reducir significativamente el daño en el mundo real.
La postura pública actual de la compañía enfatiza la aparición de información electoral autorizada directamente en los resultados, incluidos enlaces directos a recursos oficiales, según su página de Política Pública Electoral y una publicación de blog de septiembre sobre cómo ayudar a los votantes a encontrar información confiable sobre las elecciones intermedias. El incidente del Modo AI muestra la brecha entre esa política y el comportamiento sobre el terreno de un sistema automatizado: al tratar de evitar decir algo incorrecto, terminó negándose a decir algo resuelto.
Con las elecciones intermedias inminentes, el episodio ilustra la delgada línea que recorren los productos de IA durante las elecciones. El bloqueo excesivo de respuestas fácticas frustra a los usuarios y puede erosionar la confianza con la misma seguridad que los errores, y una evasión que varía según el usuario, el país y la repetición es difícil de defender como seguridad o precisión. La actualización prometida por Google mostrará si la solución restaura las respuestas directas de manera uniforme o si las consultas electorales en modo AI siguen siendo una lotería de filtros y lagunas técnicas.
Manténgase por delante de la IA
Para obtener una cobertura continua de la política de IA, el comportamiento de las plataformas y los sistemas que dan forma a la información en línea, siga AI Buzz Wire para conocer las últimas noticias sobre IA y análisis independientes.
Lea más noticias sobre IA en AI Buzz Wire
