Пока американцы направляются на избирательные участки на промежуточных выборах во вторник, и OpenAI, и Anthropic запускают специальные «военные комнаты», чтобы гарантировать, что их платформы искусственного интеллекта предоставляют точную информацию о выборах — впервые для обеих компаний, сообщает Semafor. Эти шаги признают неприятную реальность: для растущего числа избирателей чат-боты и поисковые инструменты искусственного интеллекта теперь являются основным способом задать основные вопросы о том, как, где и когда голосовать.
Концепция военной комнаты заимствована из более ранней эпохи платформенной политики. Это началось в 2018 году, когда Мета сформировала первую подобную команду на фоне опасений по поводу распространения дезинформации, связанной с выборами. Что изменилось с тех пор, так это модель угроз: эпоха искусственного интеллекта усилила эти риски, которые теперь включают в себя дипфейковые видео и результаты поиска на основе искусственного интеллекта, уверенно распространяющие неверную информацию. Мы отслеживаем пересечение ИИ и промежуточных выборов в течение дня в нашем [освещении новостей об ИИ предвыборного сезона] (https://aibuzzwire.news).
Впервые для обеих лабораторий искусственного интеллекта
Anthropic подтвердила Семафору свою установку. «Команды компании круглый год работают над усилением наших гарантий, связанных с выборами, и обеспечением соблюдения нашей политики», — сказал представитель Anthropic. «В преддверии выборов у нас есть специальный военный пункт, который следит за нашей платформой на предмет злоупотреблений и готов быстро реагировать на любые инциденты».
Структура проста, но требовательна: сотрудники отслеживают, как Claude и другие инструменты реагируют на запросы о выборах, отслеживают модели злоупотреблений, такие как генерирование дезинформации, и поддерживают процесс быстрого реагирования на инциденты, которые необходимо устранить в течение нескольких часов, а не дней. Тем временем NBC News пригласил читателей в параллельный предвыборный зал OpenAI, изучая, как компания готовится к влиянию ИИ на промежуточные выборы.
Тот факт, что обе компании почувствовали необходимость создания этого потенциала с нуля, говорит о том, насколько новой является проблема. В 2018 году платформы беспокоились в первую очередь о том, что публикуют пользователи. В 2026 году им также придется беспокоиться о том, что говорят их собственные модели.
Когда ответы ИИ идут не так в самый неподходящий момент
Ставки не гипотетические. Семафор указал на один случай, произошедший на прошлой неделе: режим искусственного интеллекта Google не ответил на вопрос о том, кто победил на выборах 2020 года — один из наиболее задаваемых и наиболее решенных вопросов в новейшей американской политической истории. В Google заявили, что работают над решением проблемы.
Режим отказа поучителен. Системы искусственного интеллекта иногда отказываются отвечать на вопросы, на которые им следует ответить, а иногда отвечают на вопросы, от которых им следует отказаться, и обе ошибки резко возрастают именно тогда, когда общественное внимание и объем запросов являются максимальными. Помощник ИИ, который блокирует фактический вопрос о прошедших выборах, подрывает доверие точно так же, как пытается его установить.
Более широкая проблема выходит за рамки единичных ошибочных ответов. Анализ Совета по международным отношениям, опубликованный на этой неделе, предупредил, что чат-боты с искусственным интеллектом могут придать кампаниям влияния новый авторитет, поскольку дезинформация, передаваемая спокойным, уверенным голосом помощника, наследует ауру нейтралитета, которой никогда не бывает на партийном веб-сайте.
«Создан для борьбы с вещами, которые мы не можем предсказать»
Зачем поддерживать живую военную комнату, а не полагаться на предвыборные тесты? Кэти Харбат, бывший директор по государственной политике Meta, которая сейчас занимается вопросами технологий и демократии, объяснила Семафору логику. Военные штабы «созданы для того, чтобы иметь дело с вещами, которые мы не можем предсказать, что они пойдут не так», сказала она, «и вам нужен быстрый, налаженный процесс с точки зрения сортировки».
Эта непредсказуемость усугубляется, как отметил Семафор, нестабильной природой ИИ, недавними проблемами кибербезопасности, затрагивающими отрасль, а также тенденцией поисковых инструментов ИИ отражать ответы, которые хотят видеть пользователи — проблема подхалима, которая может незаметно исказить то, как люди понимают спорные темы.
День выборов – это стресс-тест. Объемы запросов об избирательных участках, позициях кандидатов и результатах выборов вырастут до уровня, который в полной мере не смоделирует ни одна предвыборная оценка. Военные комнаты существуют потому, что единственный способ узнать, как эти системы ведут себя под такой нагрузкой, — это наблюдать за ними в режиме реального времени, имея возможность быстро исправить ситуацию.
Что смотреть по мере поступления результатов
В ночь выборов точки давления предсказуемы по категориям, даже если не по времени: ИИ отвечает о результатах и марже до официального объявления выборов, дипфейки, рассчитанные на максимальную путаницу, а скриншоты плохих ответов чат-ботов распространяются быстрее, чем исправления. То, насколько быстро адаптируются системы OpenAI, Anthropic и Google, определит не только информационную среду этих выборов, но и то, как будут управляться следующие.
Для индустрии искусственного интеллекта более глубоким испытанием является репутация. На этой неделе миллионы избирателей впервые будут взаимодействовать с этими системами в гражданском контексте, где ставки высоки. Компании, которые дают правильные ответы на выборы или быстро их исправляют, заслужат такое доверие, которое не сможет купить никакая маркетинговая кампания.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
