Мета обвинила инструменты искусственного интеллекта, связанные с Клодом из Anthropic, в неправомерной блокировке основного аккаунта коалиции No Kings в Instagram. Это ошибка, из-за которой присутствие протестного движения в социальных сетях было отключено на несколько часов во время общенационального дня действий, направленного на повышение досрочной явки избирателей в преддверии ноябрьских промежуточных выборов.

Приостановка, начавшаяся в субботу днем, сначала была связана с обычными автоматическими средствами защиты. Днем позже Meta предложила другую, более необычную учетную запись: согласно сообщениям Bloomberg и The Guardian, инженеры компании обнаружили, что инструменты, связанные с Клодом из Anthropic, извлекали сообщения, профили и хэштеги из учетной записи примерно в четыре раза быстрее обычного темпа — модели трафика, которые системы Meta приняли за активность автоматизированных ботов и отреагировали на это, отключив учетную запись. Подробнее об этой истории — в нашем тенденции ИИ.

Часы молчания во время Национального дня действий

Вряд ли локаут мог произойти в более чувствительный момент. В субботу организаторы провели около 3000 мероприятий «Нет королей: голосуй досрочно» по всей территории Соединенных Штатов, согласно данным, приведенным The Deep Dive, частью продемократического движения, которое в последние годы привлекло миллионы американцев на улицы.

Администраторы потеряли доступ к аккаунту около 13:30. Восточный, сообщил представитель коалиции. Сама учетная запись снова появилась в публичном доступе примерно через 90 минут, но люди, стоящие за ней, оставались заблокированными в ее серверной части почти четыре часа, восстановив полный доступ в 17:33. Восточный.

Эзра Левин, соучредитель организационной группы Indivisible, прямо описал ситуацию. «Они приостановили его. У нас не было к нему доступа», - сказал он.

Объяснение Меты изменено — дважды

Первый публичный ответ Meta прозвучал в субботу, когда представитель Энди Стоун написал на X, что автоматизированные системы платформы иногда действуют, «когда аккаунты публикуют, делятся или комментируют с очень высокой частотой». Он признал, что «это автоматизированное действие было явно предпринято по ошибке», добавив: «Теперь все работает так, как должно, и мы искренне приносим свои извинения».

К воскресенью компания пересмотрела свой отчет о событиях. В более длинном заявлении Стоун сказал, что большой объем активности по чтению профилей, постов и хэштегов в «интенсивных всплесках» заставил инструмент искусственного интеллекта Meta классифицировать трафик как автоматических ботов. «Эта активность привела к тому, что наши автоматизированные средства защиты неправильно отключили учетную запись Instagram No Kings в автономном режиме», — сказал Стоун, отметив, что автоматическая повторная проверка через час обнаружила ошибку и восстановила учетную запись, хотя распутывание доступа администратора заняло дополнительное время.

О связи Клода впервые сообщило агентство Bloomberg в воскресенье. Чего Meta не объяснила, так это того, кто пользовался этими инструментами и почему они так агрессивно запрашивали учетную запись. Компания не ответила на этот вопрос в своих публичных заявлениях.

##Организаторы называют ответ неадекватным

Коалицию не убедило объяснение, связанное с трафиком ботов. В воскресном посте в Instagram группа сообщила, что ее участники «постили всего несколько раз и транслировали их в прямом эфире тысячам людей» в течение дня акции, что вряд ли можно назвать автоматизированной спам-операцией.

«Мы восстановили доступ к нашим учетным записям, но Meta все еще должна нам объясниться», — написала коалиция No Kings. «Ограничение сообщений о голосовании в середине выборов неприемлемо».

Этот эпизод быстро вызвал политическую реакцию. Сенатор Берни Сандерс предположил на X, что за приостановкой стояло «миллиардное владение СМИ», а сенатор от Коннектикута Крис Мерфи призвал к расследованию произошедшего.

Когда трафик ИИ выглядит как злоупотребление

Помимо непосредственной политики, этот инцидент иллюстрирует растущую линию разлома в том, как крупные платформы контролируют свои системы. Автоматизированное правоприменение зависит от классификаторов, которые отличают поведение человека от поведения ботов — различие, которое становится все труднее поддерживать, поскольку агенты искусственного интеллекта, скраперы и сторонние инструменты опрашивают социальные платформы на машинной скорости по законным причинам.

Отчет Meta о приостановке предполагает, что ее защита сработала так, как было задумано, против трафика, который действительно выглядел автоматизированным, и потерпела неудачу именно так, как давно предупреждали критики автоматической модерации: быстро, непрозрачно и против неправильной цели, при этом исправление происходит только после того, как вред был нанесен.

Для Anthropic этот эпизод является напоминанием о том, что влияние модели выходит далеко за рамки ее собственной продукции. Сторонние приложения получают доступ к Клоду через API Anthropic, и, как следует из отчета об инциденте, Meta указала на инструменты, «подключенные» к модели, а не на что-либо, что запускала сама Anthropic. Другими словами, дальнейшее использование может привести к тому, что имя производителя модели окажется в нежелательном заголовке, даже не прибегая к прямым действиям.

Что будет дальше

Meta дважды приносила извинения и восстанавливала учетную запись, но коалиция требует более полной отчетности, и компания до сих пор отказывается назвать операторов инструментов, связанных с Клодом, или подробно описать, какие гарантии, если таковые имеются, применяются к политическим организациям во время избирательного сезона.

С приближением середины недели и досрочным голосованием в нескольких штатах группы платформ и представители избирательных комиссий будут следить за тем, скорректирует ли Meta — и другие платформы, которые полагаются на аналогичную автоматизированную защиту, свои пороговые значения, чтобы не запутывать гражданские организации фильтрами ботов. Проявят ли регуляторы более пристальный интерес, может зависеть от того, насколько удовлетворительно Мета ответит на вопрос, который продолжают задавать организаторы: что именно произошло и кто стоял за трафиком, который все это спровоцировал.

В подготовке этой статьи приняли участие репортажи The Guardian, Bloomberg и The Deep Dive.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →