Meta har klandrat verktyg för artificiell intelligens kopplade till Anthropics Claude för den felaktiga avstängningen av No Kings Coalitions huvudsakliga Instagram-konto, ett fel som slog proteströrelsens närvaro på sociala medier offline i timmar under en rikstäckande dag med aktioner som syftade till att öka valdeltagandet i förtid inför mellanårsvalet i november.
Avstängningen, som började på lördag eftermiddag, tillskrevs först rutinmässiga automatiska skydd. En dag senare erbjöd Meta ett annat och mer ovanligt konto: enligt rapporter från Bloomberg och The Guardian fann företagets ingenjörer att verktyg kopplade till Anthropics Claude hade hämtat inlägg, profiler och hashtags från kontot i ungefär fyra gånger den vanliga takten - trafikmönster som Metas system misstog för automatiserad bot-kontot och svarade på. For more context on this story, see our ongoing AI trends.
Timmar av tystnad under en nationell handlingsdag
Lockouten kunde knappast ha kommit i ett känsligare ögonblick. På lördagen arrangerade arrangörer nästan 3 000 "No Kings: Vote Early"-evenemang över hela USA, enligt siffror som citeras av The Deep Dive, en del av den prodemokratiska rörelsen som har dragit miljontals amerikaner ut på gatorna de senaste åren.
Administratörer förlorade åtkomsten till kontot vid 13:30-tiden. Eastern, sa en talesperson för koalitionen. Själva kontot dök upp igen offentligt efter ungefär 90 minuter, men personerna bakom det förblev utestängda från dess backend i nästan fyra timmar och fick tillbaka full åtkomst klockan 17:33. Östra.
Ezra Levin, medgrundare av arrangörsgruppen Indivisible, beskrev situationen rakt på sak. "De avbröt det. Vi hade inte tillgång till det", sa han.
Metas förklaring ändrad — två gånger
Metas första offentliga svar kom i lördags, när talesperson Andy Stone skrev på X att plattformens automatiserade system ibland agerar "när konton publicerar, delar eller kommenterar vid mycket höga frekvenser." Han erkände att "den automatiserade åtgärden uppenbarligen vidtogs av misstag", och tillade: "Allt fungerar nu som det ska och vi ber uppriktigt om ursäkt."
På söndagen hade företaget reviderat sin redovisning av händelser. I ett längre uttalande sa Stone att en stor mängd aktivitetsläsprofiler, inlägg och hashtags i "intensiva skurar" hade fått Metas AI-verktyg att klassificera trafiken som automatiserade bots. "Den här aktiviteten gjorde att våra automatiserade skydd felaktigt tog No Kings Instagram-konto offline," sa Stone och noterade att en automatisk omprövning en timme senare upptäckte misstaget och återställde kontot, även om det tog ytterligare tid att reda ut administratörsåtkomsten.
Claude-kopplingen rapporterades först av Bloomberg på söndagen. Vad Meta inte har förklarat är vem som använde verktygen, eller varför de frågade kontot så aggressivt. Företaget svarade inte på den frågan i sina offentliga uttalanden.
Arrangörer kallar svaret otillräckligt
Koalitionen var inte övertygad av bot-trafikens förklaring. I ett inlägg på Instagram på söndagen sa gruppen att dess medlemmar "bara hade postat en handfull gånger och livestreamat till tusentals" under handlingsdagen - knappast profilen för en automatiserad skräppostoperation.
"Vi har återfått tillgång till våra konton, men Meta är fortfarande skyldig oss en förklaring", skrev No Kings Coalition. "Att begränsa kommunikationen om att rösta mitt i ett val är oacceptabelt."
Avsnittet väckte snabbt politiska reaktioner. Senator Bernie Sanders föreslog den X att "miljardärsägande av media" låg bakom avstängningen, medan Connecticut-senator Chris Murphy efterlyste en utredning om vad som hände.
När AI-trafik ser ut som missbruk
Utöver den omedelbara politiken illustrerar händelsen en växande fellinje i hur stora plattformar polisar sina system. Automatiserad tillämpning beror på klassificerare som skiljer mänskligt beteende från botbeteende – en distinktion som blir svårare att upprätthålla när AI-agenter, skrapor och tredjepartsverktyg frågar efter sociala plattformar i maskinhastigheter av legitima skäl.
Metas redogörelse för avstängningen tyder på att dess försvar fungerade som utformat mot trafik som verkligen såg automatiserad ut och misslyckades på exakt det sätt som kritiker av automatiserad moderering länge har varnat: snabbt, ogenomskinligt och mot fel mål, med korrigeringen som kommer först efter att skadan skett.
För Anthropic är avsnittet en påminnelse om att en modells fotavtryck sträcker sig långt bortom sina egna produkter. Claude nås av tredjepartsapplikationer via Anthropics API, och som rapporteringen om händelsen indikerar pekade Meta på verktyg som är "anslutna till" modellen snarare än något som Anthropic själv körde. Nedströmsanvändning kan med andra ord sätta en modelltillverkares namn i en ovälkommen rubrik utan någon direkt åtgärd av sig själv.
Vad händer härnäst
Meta har bett om ursäkt två gånger och återställt kontot, men koalitionen kräver en mer fullständig redovisning, och företaget har hittills avböjt att namnge operatörerna av de Claude-anslutna verktygen eller specificera vilka skyddsåtgärder, om några, som gäller för politiska organisationer under valsäsongen.
När mittveckorna närmar sig och förtidsröstningen pågår i flera delstater, kommer plattformsgrupper och valtjänstemän att titta på om Meta – och andra plattformar som förlitar sig på liknande automatiserade försvar – justerar sina trösklar för att undvika att trassla in medborgerliga organisationer i botfilter. Huruvida tillsynsmyndigheter intresserar sig närmare kan bero på hur tillfredsställande Meta svarar på frågan som arrangörerna hela tiden ställer: vad exakt hände och vem som låg bakom trafiken som utlöste det hela.
Rapportering från The Guardian, Bloomberg och The Deep Dive bidrog till den här artikeln.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
