Спросите Google AI Mode, кто победил на президентских выборах 2020 года, и для многих пользователей ответом станет пожатие плеч в текстовой форме. Вместо того, чтобы называть победителя, поиск с помощью искусственного интеллекта побуждал людей ознакомиться с официальным отчетом Федеральной избирательной комиссии. Странное поведение, впервые подробно описанное Ars Technica, привлекло достаточно внимания, и теперь Google признает его техническим пробелом, над устранением которого он работает менее чем за две недели до промежуточных выборов в США.

Этот эпизод является полезным напоминанием о том, что поисковые продукты ИИ могут странным образом давать сбой даже в случае устоявшихся исторических фактов, и что [быть в курсе событий в области ИИ] (https://aibuzzwire.news/en) все чаще означает отслеживание не только запуска моделей, но и того, как эти системы ведут себя под политическим давлением.

Что выявило тестирование Ars Technica

Когда репортер Ars Technica задал прямой вопрос режиму искусственного интеллекта Google, ответ был поразительно косвенным: для просмотра официальных результатов и статистики президентских выборов в США 2020 года, включая окончательную разбивку коллегии выборщиков, подсчет голосов избирателей и сертификацию победителей, инструмент рекомендовал ознакомиться с официальным отчетом, составленным Федеральной избирательной комиссией.

Уклонение не было последовательным. Тестирование показало схожие косвенные ответы на выборах 2024 и 2012 годов, в то время как режим искусственного интеллекта давал подробные и правильные ответы на все остальные президентские выборы, начиная с 2000 года. Разные сотрудники Ars видели разные закономерности: один получал немедленные ответы только для гонок 2016 и 2024 годов, а для всего остального — ссылки на внешние данные.

Затронуты и вопросы политической истории, выходящие за рамки президентских гонок. На вопрос, какая партия контролировала Сенат после выборов 2020 года, AI Mode посоветовал репортеру проверить официальные отчеты Конгресса и дал ссылку на страницу истории партийного разделения Сената. На тот же вопрос о выборах 1992 года там прямо ответили, что демократы имеют большинство 57 против 43.

Другие чат-боты отвечают без колебаний

Согласно отчету, собственная модель Gemini от Google, отдельная от режима AI, без проблем ответила на этот вопрос. То же самое сделали с ChatGPT от OpenAI, Claude от Anthropic и даже с государственной моделью ИИ на America.gov. Это различие имеет значение, поскольку предполагает, что проблема заключается в том, как средства защиты уровня поиска в режиме искусственного интеллекта обрабатывают запросы выборов, а не в знании базовой языковой модели.

Поведение также изменилось в зависимости от географии. Выборочные проверки Ars Technica через VPN на Тайване, в России, Франции и Канаде дали точные и прямые ответы о результатах недавних выборов в США, подразумевая, что ограничительная обработка специфична для пользователей в Соединенных Штатах.

Ответ Google: технический пробел

Представитель Google сначала указал на сообщение в социальной сети, в котором признал, что приложение Gemini отвечает на вопрос более полно и что ответ AI Mode был не самым полезным, добавив, что компания изучает этот вопрос. Позже представитель дал более конкретное объяснение, сообщив Ars Technica, что Google решает проблему с запросами на выборы 2020 года в режиме AI. По словам представителя, системы Google проверяют ответы на выборы, используя новостные статьи или данные AP для недавних выборов и исторические записи для более старых, и с 2020 года произошел технический пробел, то же самое справедливо и для гонок в Сенате 2022 года, над исправлением которых компания работает в том же обновлении.

Интересный момент в ходе тестирования: настойчивость окупилась. Когда те же вопросы были заданы во второй раз, AI Mode напрямую назвал победителя, сославшись на данные Google Civics. На вопрос, почему изначально не ответили, инструмент обвинил строгие защитные фильтры в недавних и весьма деликатных темах выборов и описал высокоавтоматизированную систему, которая направляет такие запросы в официальные сертифицированные государственные базы данных, чтобы предотвратить любой риск отображения непроверенных данных или дезинформации. Как отмечает Ars Technica, модели ИИ являются ненадежными рассказчиками своих собственных внутренних процессов, поэтому такое объяснение заслуживает некоторой осторожности.

Почему ответы на выборы сложны для поиска с помощью ИИ

Google не ошибается, рассматривая запросы о выборах как очень важные. Генеративные поисковые системы могут давать галлюцинации, а дезинформация о выборах — это задокументированная проблема, с которой платформы неоднократно сталкивались. В 2023 году YouTube, принадлежащий Google, отменил политику, запрещающую все видеоролики, содержащие ложные утверждения о выборах 2020 года, заявив, что удаление может ограничить политические высказывания, не уменьшив существенного вреда в реальном мире.

Текущая публичная позиция компании делает упор на раскрытие авторитетной информации о выборах непосредственно в результатах выборов, включая прямые ссылки на официальные ресурсы, согласно ее странице «Публичная политика в области выборов» и сентябрьскому сообщению в блоге о том, как помочь избирателям найти достоверную информацию в промежуточных выборах. Инцидент с режимом искусственного интеллекта показывает разрыв между этой политикой и поведением автоматизированной системы на местах: пытаясь избежать того, чтобы сказать что-то не так, она в конечном итоге отказалась сказать что-то решенное.

Поскольку приближаются промежуточные выборы, этот эпизод иллюстрирует тонкости поведения продуктов искусственного интеллекта во время выборов. Чрезмерное блокирование фактических ответов разочаровывает пользователей и может подорвать доверие так же неизбежно, как и ошибки, а уклонение, которое зависит от пользователя, страны и повторения, трудно оправдать с точки зрения безопасности или точности. Обещанное обновление Google покажет, восстанавливает ли исправление прямые ответы равномерно, или предвыборные запросы в режиме AI остаются лотереей фильтров и технических пробелов.

Будьте впереди ИИ

Чтобы постоянно освещать политику ИИ, поведение платформ и системы, формирующие онлайн-информацию, подписывайтесь на AI Buzz Wire, чтобы получать последние новости ИИ и независимый анализ.

Подробнее читайте на AI Buzz Wire