Запитайте режим штучного інтелекту від Google, хто переміг на президентських виборах 2020 року, і для багатьох користувачів відповідь буде знизанням плечима в текстовій формі. Замість того, щоб називати ім’я переможця, пошук за допомогою штучного інтелекту спрямовував людей ознайомитися з офіційним звітом Федеральної виборчої комісії. Дивна поведінка, вперше описана Ars Technica, привернула достатню увагу, що Google тепер визнає це технічною прогалиною, над якою працює менш ніж за два тижні до проміжних виборів у США.
Цей епізод є корисним нагадуванням про те, що пошукові продукти штучного інтелекту можуть дивним чином виходити з ладу навіть на основі встановлених історичних фактів і що [бути в курсі розробок штучного інтелекту] (https://aibuzzwire.news/en) все частіше означає відстежувати не лише запуски моделей, а й те, як ці системи поводяться під політичним тиском.
Що виявило тестування Ars Technica
Коли репортер Ars Technica поставив пряме запитання режиму штучного інтелекту Google, відповідь була вражаюче непрямою: щоб переглянути офіційні результати та статистику президентських виборів у Сполучених Штатах 2020 року, включно з остаточним розподілом колегії виборців, підрахунком голосів і сертифікацією переможців, інструмент рекомендував ознайомитися з офіційним звітом, складеним FEC.
Ухилення не було послідовним. Тестування показало подібні непрямі відповіді для виборів 2024 та 2012 років, тоді як режим штучного інтелекту давав детальні правильні відповіді для всіх інших президентських виборів, починаючи з 2000 року. Різні співробітники Ars бачили різні закономірності, причому один отримував миттєві відповіді лише для перегонів 2016 та 2024 років і посилався на зовнішні дані для всього іншого.
Також торкнулися питання політичної історії поза президентськими перегонами. На запитання, яка партія контролювала Сенат після виборів 2020 року, AI Mode сказав репортеру перевірити офіційні записи Конгресу та перейшов на сторінку історії партійного поділу Сенату. На те саме питання про вибори 1992 року він прямо відповів, що демократи мали більшість 57 проти 43.
Інші чат-боти відповідають без вагань
Відповідно до звіту, власна модель Gemini від Google, окрема від режиму штучного інтелекту, відповіла на запитання без проблем. Так само зробили ChatGPT від OpenAI, Claude від Anthropic і навіть урядова модель AI на America.gov. Ця різниця має значення, оскільки вона передбачає, що проблема полягає в тому, як захист рівня пошуку в режимі штучного інтелекту обробляє виборчі запити, а не в знаннях основної мовної моделі.
Поведінка також змінилася з географією. Вибіркові перевірки Ars Technica через VPN на Тайвані, у Росії, Франції та Канаді дали точні та прості відповіді щодо результатів нещодавніх виборів у США, що означає, що обмежувальна обробка стосується користувачів у Сполучених Штатах.
Відповідь Google: технічна прогалина
Представник Google спершу вказав на публікацію в соціальних мережах, у якій визнав, що додаток Gemini дає більш повну відповідь на це запитання та що відповідь AI Mode була не найкориснішою, додавши, що компанія вивчає це питання. Пізніше речник дав більш конкретне пояснення, повідомивши Ars Technica, що Google вирішує проблему із запитами щодо виборів 2020 року в режимі AI. За словами прес-секретаря, системи Google перевіряють відповіді на вибори, використовуючи статті новин або дані AP для останніх виборів і історичні записи для попередніх виборів, і була технічна прогалина з 2020 роком, те ж саме стосується перегонів у Сенат 2022 року, яку компанія працює над виправленням у тому ж оновленні.
Цікава зморшка від тестування: наполегливість окупилася. Коли ті самі запитання було поставлено вдруге, режим AI прямо вказав переможця, посилаючись на дані Google Civics. На запитання, чому він спочатку не відповів, інструмент звинуватив суворі фільтри безпеки для останніх і дуже чутливих тем щодо виборів і описав повністю автоматизовану систему, яка направляє такі запити до офіційних сертифікованих державних баз даних, щоб запобігти будь-якому ризику відображення неперевірених даних або дезінформації. Як зазначає Ars Technica, моделі штучного інтелекту є ненадійними оповідачами власних внутрішніх процесів, тому це пояснення заслуговує певної обережності.
Чому відповіді на вибори важко шукати ШІ
Google не помиляється, ставлячись до виборчих запитів як до високих ставок. Генеративні пошукові системи можуть галюцинувати, а дезінформація про вибори є задокументованою проблемою, на яку неодноразово натрапляли платформи. У 2023 році YouTube, що належить Google, скасував політику, яка забороняла всі відео з неправдивими твердженнями про вибори 2020 року, заявивши, що видалення може зменшити політичні виступи без значущого зменшення реальної шкоди.
Поточна публічна позиція компанії наголошує на показі авторитетної інформації про вибори безпосередньо в результатах, включаючи прямі посилання на офіційні ресурси, відповідно до її сторінки «Публічна політика щодо виборів» і вересневої публікації в блозі про допомогу виборцям у пошуку надійної інформації під час проміжних виборів. Інцидент із режимом штучного інтелекту демонструє розбіжність між цією політикою та поведінкою автоматизованої системи на місці: намагаючись не сказати чогось неправильного, вона закінчилася тим, що відмовилася сказати щось узгоджене.
З огляду на те, що проміжні вибори неминучі, цей епізод ілюструє тонку лінію продуктів штучного інтелекту під час виборів. Надмірне блокування фактичних відповідей розчаровує користувачів і може підірвати довіру так само, як і помилки, а ухилення, яке залежить від користувача, країни та повторення, важко захистити як безпеку чи точність. Обіцяне Google оновлення покаже, чи виправлення однорідно відновлює прямі відповіді, чи виборчі запити в режимі AI залишаються лотереєю фільтрів і технічних прогалин.
Будьте попереду ШІ
Для безперервного висвітлення політики щодо штучного інтелекту, поведінки платформи та систем, що формують онлайн-інформацію, слідкуйте за AI Buzz Wire, щоб переглянути останні новини та незалежний аналіз.
Читайте більше новин AI на AI Buzz Wire
