Поки американці йдуть на виборчі дільниці для проміжних виборів у вівторок, і OpenAI, і Anthropic запускають спеціальні «військові кімнати», щоб гарантувати, що їхні платформи штучного інтелекту надають точну інформацію про вибори — вперше для обох компаній, повідомляє Semafor. Ці кроки підтверджують незручну реальність: для все більшої кількості виборців чат-боти та інструменти пошуку зі штучним інтелектом тепер є основним способом поставити основні запитання про те, як, де та коли голосувати.
Концепція бойової кімнати запозичена з попередньої ери політики платформи. Це бере свій початок у 2018 році, коли Meta створила першу таку команду на тлі занепокоєння щодо поширення дезінформації, пов’язаної з виборами. Що змінилося з тих пір, так це модель загроз: епоха штучного інтелекту збільшила ці ризики, які тепер включають глибокі фейкові відео та результати пошуку за допомогою штучного інтелекту, які впевнено поширюють невірну інформацію. Ми відстежуємо перетин ШІ та проміжних семестрів протягом дня в нашому висвітленні новин ШІ про сезон виборів.
Перший для обох лабораторій ШІ
Anthropic підтвердив Semafor своє налаштування. «Команди всієї компанії цілий рік працюють над посиленням наших гарантій, пов’язаних з виборами, і дотриманням нашої політики», — сказав представник Anthropic. «Напередодні виборів у нас є спеціальна бойова кімната, яка стежить за неправильним використанням нашої платформи та готова швидко реагувати на будь-які інциденти».
Структура є простою, але вимогливою: співробітники відстежують, як Claude та інші інструменти реагують на запити про вибори, спостерігають за моделями зловживань, такими як генерована дезінформація, і підтримують процес швидкого реагування на інциденти, які потрібно виправляти протягом годин, а не днів. Тим часом NBC News перевів читачів у кімнату паралельних виборів OpenAI, вивчаючи, як компанія готується до впливу ШІ на проміжні вибори.
Те, що обидві компанії відчули потребу створювати цю можливість з нуля, говорить про те, наскільки нова проблема. У 2018 році платформи хвилювали насамперед те, що публікують користувачі. У 2026 році їм також доведеться турбуватися про те, що говорять їхні власні моделі.
Коли штучний інтелект дає неправильні відповіді в найгірший час
Ставки не гіпотетичні. Семафор вказав на один випадок минулого тижня: режим штучного інтелекту від Google не відповідав на запит про те, хто виграв вибори 2020 року — одне з найпоширеніших і найвирішеніших питань у новітній американській політичній історії. Google заявив, що працює над вирішенням проблеми.
Режим відмови повчальний. Системи штучного інтелекту іноді відмовляються від питань, на які вони повинні відповідати, а іноді відповідають на запитання, на які вони повинні відмовитися, і обидві помилки виникають саме тоді, коли громадська увага — і обсяг запитів — найбільший. Помічник зі штучним інтелектом, який закриває фактичне запитання про минулі вибори, підриває довіру одночасно з тим, що намагається її встановити.
Більш широке занепокоєння виходить за межі поодиноких помилкових відповідей. Аналіз Ради з міжнародних відносин, опублікований цього тижня, попереджає, що чат-боти зі штучним інтелектом можуть надати кампаніям впливу нову довіру, оскільки дезінформація, яка подається спокійним, упевненим голосом помічника, успадковує ауру нейтралітету, якої ніколи не отримує партійний веб-сайт.
«Створено для роботи з речами, які ми не можемо передбачити»
Навіщо підтримувати живу бойову кімнату, а не покладатися на передвиборче тестування? Кеті Гарбат, колишній директор із державної політики Meta, яка зараз працює над проблемами технологій і демократії, пояснила Semafor логіку. Воєнні кімнати «створені для роботи з речами, які ми не обов’язково можемо передбачити, що підуть не так», — сказала вона, «і вам потрібен швидкий, налагоджений процес з точки зору сортування».
Ця непередбачуваність посилюється, зазначив Семафор, хиткістю штучного інтелекту, нещодавніми проблемами кібербезпеки, що вплинули на галузь, і тенденцією пошукових інструментів штучного інтелекту відображати відповіді, які хочуть бачити користувачі — проблема підступності, яка може спотворити те, як люди розуміють спірні теми.
День виборів – стрес-тест. Обсяги запитів щодо виборчих дільниць, посад кандидатів і результатів зростуть до рівня, який повністю не моделює передвиборча оцінка. Військові кімнати існують, тому що єдиний спосіб дізнатися, як ці системи поводяться під таким навантаженням, — це спостерігати за ними в режимі реального часу, маючи повноваження швидко виправити ситуацію.
На що дивитися, як прийдуть результати
Протягом ночі виборів точки тиску в категорії передбачувані, навіть якщо не в часі: штучний інтелект відповідає про результати та маржу до офіційного оголошення перегонів, глибокі фейки, приурочені до максимальної плутанини, а скріншоти поганих відповідей чат-бота поширюються швидше, ніж виправлення. Швидкість адаптації систем OpenAI, Anthropic і Google вплине не лише на інформаційне середовище цих виборів, але й на те, як буде керовано наступними.
Для індустрії штучного інтелекту глибша перевірка впливає на репутацію. Цього тижня мільйони виборців уперше взаємодітимуть із цими системами у громадянському контексті, що має високі ставки. Компанії, які отримають правильні відповіді на виборах — або помітно швидко їх виправлять — заслужать таку довіру, яку не зможе купити жодна маркетингова кампанія.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
