Meta a blâmé les outils d'intelligence artificielle connectés à Claude d'Anthropic pour la suspension injustifiée du principal compte Instagram de la No Kings Coalition, une erreur qui a mis hors ligne la présence du mouvement de protestation sur les réseaux sociaux pendant des heures au cours d'une journée d'action nationale visant à augmenter la participation électorale anticipée avant les élections de mi-mandat de novembre.

La suspension, qui a débuté samedi après-midi, a d'abord été attribuée à des protections automatisées de routine. Un jour plus tard, Meta a proposé un compte différent et plus inhabituel : selon les rapports de Bloomberg et The Guardian, les ingénieurs de la société ont découvert que les outils connectés à Claude d'Anthropic extrayaient les publications, les profils et les hashtags du compte à environ quatre fois le rythme habituel – des modèles de trafic que les systèmes de Meta ont pris pour une activité automatisée de robots et auxquels ils ont répondu en supprimant le compte. Pour plus de contexte sur cette histoire, consultez notre actualités IA.

Heures de silence lors d'une journée d'action nationale

Le lock-out aurait difficilement pu survenir à un moment plus sensible. Samedi, les organisateurs ont organisé près de 3 000 événements « No Kings : Vote Early » à travers les États-Unis, selon les chiffres cités par The Deep Dive, qui fait partie du mouvement pro-démocratie qui a attiré des millions d'Américains dans la rue ces dernières années.

Les administrateurs ont perdu l'accès au compte vers 13h30. Eastern, a déclaré un porte-parole de la coalition. Le compte lui-même est réapparu publiquement après environ 90 minutes, mais les personnes derrière lui sont restées exclues de son backend pendant près de quatre heures, retrouvant un accès complet à 17h33. Est.

Ezra Levin, co-fondateur du groupe organisateur Indivisible, a décrit la situation sans détour. "Ils l'ont suspendu. Nous n'y avons pas eu accès", a-t-il déclaré.

L'explication de Meta a changé — deux fois

La première réponse publique de Meta est intervenue samedi, lorsque le porte-parole Andy Stone a écrit sur X que les systèmes automatisés de la plateforme agissent parfois "lorsque des comptes publient, partagent ou commentent à très haute fréquence". Il a reconnu que "cette action automatisée avait clairement été prise par erreur", ajoutant : "Tout fonctionne désormais comme il se doit et nous nous en excusons sincèrement".

Dimanche, l'entreprise avait révisé son récit des événements. Dans une déclaration plus longue, Stone a déclaré qu'un volume élevé d'activité de lecture de profils, de publications et de hashtags en « rafales intenses » avait amené l'outil d'IA de Meta à classer le trafic comme des robots automatisés. "Cette activité a amené nos protections automatisées à mettre hors ligne de manière incorrecte le compte Instagram No Kings", a déclaré Stone, notant qu'une réévaluation automatisée une heure plus tard a reconnu l'erreur et restauré le compte, bien que démêler l'accès administrateur ait pris plus de temps.

La connexion avec Claude a été rapportée pour la première fois par Bloomberg dimanche. Ce que Meta n’a pas expliqué, c’est qui utilisait les outils ni pourquoi ils interrogeaient le compte de manière si agressive. L'entreprise n'a pas répondu à cette question dans ses déclarations publiques.

Les organisateurs qualifient la réponse d'inadéquate

La coalition n’a pas été convaincue par l’explication du trafic de robots. Dans une publication sur Instagram dimanche, le groupe a déclaré que ses membres n'avaient "posté qu'une poignée de fois et diffusé des milliers de messages en direct" au cours de la journée d'action - ce qui n'est guère le profil d'une opération de spam automatisée.

"Nous avons retrouvé l'accès à nos comptes, mais Meta nous doit encore une explication", a écrit la No Kings Coalition. "Restreindre les communications concernant le vote en pleine élection est inacceptable."

L’épisode a rapidement suscité des réactions politiques. Le sénateur Bernie Sanders a suggéré sur X que « la propriété milliardaire des médias » était à l'origine de la suspension, tandis que le sénateur du Connecticut Chris Murphy a appelé à une enquête sur ce qui s'est passé.

Quand le trafic de l'IA ressemble à un abus

Au-delà des aspects politiques immédiats, l’incident illustre une ligne de fracture croissante dans la manière dont les grandes plateformes contrôlent leurs systèmes. L’application automatisée dépend de classificateurs qui distinguent le comportement humain du comportement des robots – une distinction qui devient de plus en plus difficile à maintenir à mesure que les agents d’IA, les scrapers et les outils tiers interrogent les plateformes sociales à la vitesse des machines pour des raisons légitimes.

Le récit de Meta sur la suspension suggère que ses défenses ont fonctionné comme prévu contre un trafic qui semblait véritablement automatisé, et ont échoué exactement de la manière dont les critiques de la modération automatisée l'ont longtemps prévenu : rapidement, de manière opaque et contre la mauvaise cible, la correction n'arrivant qu'une fois le mal fait.

Pour Anthropic, cet épisode rappelle que l'empreinte d'un modèle s'étend bien au-delà de ses propres produits. Claude est accessible par des applications tierces via l'API d'Anthropic, et comme l'indique le rapport sur l'incident, Meta a pointé du doigt les outils « connectés » au modèle plutôt que tout ce qu'Anthropic lui-même exécutait. En d’autres termes, l’utilisation en aval peut mettre le nom d’un modéliste dans un titre importun sans aucune action directe de sa part.

Que se passe-t-il ensuite

Meta s'est excusée à deux reprises et a rétabli le compte, mais la coalition exige une comptabilité plus complète, et la société a jusqu'à présent refusé de nommer les opérateurs des outils connectés à Claude ou de détailler quelles garanties, le cas échéant, s'appliquent aux organisations politiques pendant la saison électorale.

À l’approche du milieu de la semaine et du vote anticipé en cours dans plusieurs États, les groupes de plateformes et les responsables électoraux surveilleront si Meta – et d’autres plateformes qui s’appuient sur des défenses automatisées similaires – ajustent leurs seuils pour éviter d’empêtrer les organisations civiques dans les filtres de robots. L’intérêt des régulateurs pour ce projet dépendra peut-être de la manière dont Meta répondra de manière satisfaisante à la question que les organisateurs ne cessent de se poser : que s’est-il passé exactement et qui était à l’origine du trafic qui a tout déclenché.

Les reportages de The Guardian, Bloomberg et The Deep Dive ont contribué à cet article.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →