Meta звинуватила інструменти штучного інтелекту, пов’язані з Claude з Anthropic, у неправомірному призупиненні головного облікового запису No Kings Coalition в Instagram, помилка, через яку присутність протестного руху в соціальних мережах була закрита на кілька годин під час загальнонаціонального дня дій, спрямованих на підвищення явки виборців напередодні проміжних виборів у листопаді.

Призупинення, яке почалося в суботу вдень, спочатку пояснювалося звичайними автоматизованими засобами захисту. Днем пізніше Meta запропонувала інший і більш незвичайний обліковий запис: згідно з повідомленнями Bloomberg і The Guardian, інженери компанії виявили, що інструменти, пов’язані з Claude з Anthropic, видаляли з облікового запису публікації, профілі та хештеги приблизно в чотири рази швидше звичайної швидкості — шаблони трафіку, які системи Meta сприйняли за автоматизовану активність ботів і відреагували на це видаленням облікового запису. For more context on this story, see our ongoing AI news.

Години тиші під час національного дня дій

Навряд чи локаут стався у більш чутливий момент. У суботу організатори влаштували майже 3000 заходів «No Kings: Vote Early» по всій території Сполучених Штатів, згідно з даними, наведеними The Deep Dive, частиною продемократичного руху, який за останні роки привернув мільйони американців на вулиці.

Близько 13:30 адміністратори втратили доступ до облікового запису. Східний, сказав речник коаліції. Сам обліковий запис знову з’явився публічно приблизно через 90 хвилин, але люди, які стояли за ним, залишалися заблокованими в його серверній частині протягом майже чотирьох годин, відновивши повний доступ о 17:33. східний.

Езра Левін, співзасновник організаційної групи Indivisible, прямо описав ситуацію. "Вони його призупинили. Ми не мали до нього доступу", - сказав він.

Пояснення Meta змінено — двічі

Перша публічна відповідь Meta була в суботу, коли речник Енді Стоун написав на X, що автоматизовані системи платформи іноді діють, «коли облікові записи публікують, діляться або коментують дуже часто». Він визнав, що «автоматизовані дії були вжиті явно помилково», додавши: «Зараз усе працює як треба, і ми щиро вибачаємося».

До неділі компанія переглянула свій звіт про події. У більшій заяві Стоун сказав, що високий обсяг читання профілів, публікацій і хештегів у «інтенсивних сплесках» змусив інструмент Meta AI класифікувати трафік як автоматичних ботів. «Ця діяльність призвела до того, що наші автоматичні засоби захисту неправильно перевели обліковий запис No Kings в Instagram в автономний режим», — сказав Стоун, зазначивши, що автоматизована повторна перевірка через годину розпізнала помилку та відновила обліковий запис, хоча розгадування доступу адміністратора зайняло додатковий час.

Про зв'язок Клода вперше повідомило Bloomberg у неділю. Мета не пояснила, хто керував інструментами або чому вони так агресивно запитували обліковий запис. Компанія не відповіла на це запитання у своїх публічних заявах.

Організатори називають відповідь неадекватною

Коаліцію не переконало пояснення бот-трафіку. У недільній публікації в Instagram група заявила, що її учасники «опублікували лише кілька разів і транслювали в прямому ефірі тисячі» протягом дня акції — навряд чи профіль автоматизованої операції зі спамом.

«Ми відновили доступ до наших облікових записів, але Meta все ще зобов’язана нам пояснити», – написали в No Kings Coalition. «Обмеження комунікації про голосування в розпал виборів є неприйнятним».

Епізод швидко викликав політичну реакцію. Сенатор Берні Сандерс припустив на X, що за призупиненням стоїть «володіння медіа мільярдерами», а сенатор від Коннектикуту Кріс Мерфі закликав розслідувати те, що сталося.

Коли ШІ трафік виглядає як зловживання

Крім безпосередньої політики, цей інцидент ілюструє зростаючу межу недоліків у тому, як великі платформи контролюють свої системи. Автоматизоване застосування залежить від класифікаторів, які відрізняють людську поведінку від поведінки ботів — відмінність, яку стає все важче підтримувати, оскільки агенти штучного інтелекту, скребки та інструменти сторонніх розробників запитують соціальні платформи на машинній швидкості з законних причин.

Розповідь Meta про призупинення свідчить про те, що її захист спрацював, як розроблено проти трафіку, який справді виглядав автоматизованим, і зазнав невдачі саме так, як давно попереджали критики автоматизованої модерації: швидко, непрозоро та проти неправильної цілі, а виправлення надходить лише після того, як було завдано шкоди.

Для Anthropic цей епізод є нагадуванням про те, що слід моделі виходить далеко за межі її власних продуктів. До Claude звертаються програми сторонніх розробників через API Anthropic, і, як свідчить звіт про інцидент, Meta вказав на інструменти, «підключені» до моделі, а не на те, що запускав сам Anthropic. Іншими словами, подальше використання може помістити ім’я виробника моделей у небажаний заголовок без власних прямих дій.

Що станеться далі

Meta двічі вибачилася та відновила обліковий запис, але коаліція вимагає повнішої звітності, і поки що компанія відмовилася назвати імена операторів підключених до Клода інструментів або деталізувати, які гарантії, якщо такі є, застосовуються до політичних організацій під час виборчого сезону.

З наближенням середини тижня та достроковим голосуванням у кількох штатах групи платформ і представники виборчих органів спостерігатимуть за тим, чи Meta — та інші платформи, які покладаються на подібні автоматизовані засоби захисту — коригують свої пороги, щоб уникнути заплутування громадських організацій у фільтрах ботів. Чи зацікавляться регулятивні органи більшою мірою, може залежати від того, наскільки задовільно Meta відповість на питання, які постійно задають організатори: що саме сталося і хто стоїть за трафіком, який все це спровокував.

До цієї статті долучилися репортажі The Guardian, Bloomberg і The Deep Dive.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →