Meta obviňuje nástroje umělé inteligence spojené s Claudem z Anthropic z neoprávněného pozastavení hlavního instagramového účtu No Kings Coalition, což je chyba, která během celostátního dne akce zaměřeného na zvýšení předčasné účasti voličů před listopadovými volbami v polovině volebního období vyřadila přítomnost protestního hnutí na sociálních sítích na hodiny offline.

Pozastavení, které začalo v sobotu odpoledne, bylo nejprve připsáno rutinním automatickým ochranám. O den později nabídla Meta jiný a neobvyklejší účet: podle zpráv z Bloomberg a The Guardian inženýři společnosti zjistili, že nástroje připojené k Anthropic's Claude stahovaly příspěvky, profily a hashtagy z účtu zhruba čtyřnásobkem obvyklého tempa – vzorce provozu, které si systémy Meta spletly s automatickou aktivitou botů a reagovaly na ně odebráním účtu. For more context on this story, see our ongoing breaking AI news.

Hodiny ticha během Národního dne akce

Výluka jen stěží mohla přijít v citlivější chvíli. V sobotu organizátoři uspořádali téměř 3000 akcí „No Kings: Vote Early“ po celých Spojených státech, podle údajů citovaných The Deep Dive, součásti prodemokratického hnutí, které v posledních letech vytáhlo do ulic miliony Američanů.

Administrátoři ztratili přístup k účtu asi ve 13:30. Eastern, řekl mluvčí koalice. Samotný účet se znovu objevil veřejně po zhruba 90 minutách, ale lidé za ním zůstali téměř čtyři hodiny mimo jeho backend a plný přístup znovu získali v 17:33. Východní.

Situaci bez obalu popsal Ezra Levin, spoluzakladatel pořádající skupiny Nedělitelný. "Pozastavili to. Neměli jsme k tomu přístup," řekl.

Metaovo vysvětlení změněno — dvakrát

První veřejná odpověď Meta přišla v sobotu, když mluvčí Andy Stone na X napsal, že automatizované systémy platformy někdy jednají, „když účty zveřejňují, sdílejí nebo komentují velmi vysokou frekvencí“. Přiznal, že „tato automatická akce byla zjevně provedena omylem“ a dodal: „Vše nyní funguje, jak má, a upřímně se omlouváme.“

V neděli společnost revidovala svůj účet událostí. V delším prohlášení Stone uvedl, že velké množství aktivit při čtení profilů, příspěvků a hashtagů v „intenzivních dávkách“ způsobilo, že nástroj AI společnosti Meta klasifikoval provoz jako automatizované roboty. „Tato aktivita způsobila, že naše automatické ochrany nesprávně převedly instagramový účet No Kings do režimu offline,“ řekl Stone s tím, že automatická opakovaná kontrola o hodinu později rozpoznala chybu a účet obnovila, i když rozuzlení administrátorského přístupu zabralo další čas.

O Claudově spojení jako první informovala v neděli agentura Bloomberg. Meta nevysvětlila, kdo nástroje obsluhoval nebo proč se tak agresivně dotazovali na účet. Společnost na tuto otázku ve svých veřejných prohlášeních neodpověděla.

Organizátoři označují odpověď za neadekvátní

Koalici nepřesvědčilo vysvětlení bot-provozu. V příspěvku na Instagramu v neděli skupina uvedla, že její členové během dne akce „přidali jen několik příspěvků a živě vysílali tisíce“ – což je sotva profil automatizované spamové operace.

"Znovu jsme získali přístup k našim účtům, ale Meta nám stále dluží vysvětlení," napsala koalice No Kings. "Omezování komunikace o hlasování uprostřed voleb je nepřijatelné."

Epizoda rychle vyvolala politické reakce. Senátor Bernie Sanders na X navrhl, že za pozastavením stálo „miliardářské vlastnictví médií“, zatímco senátor za Connecticut Chris Murphy vyzval k vyšetření toho, co se stalo.

Když AI provoz vypadá jako zneužití

Kromě bezprostřední politiky tento incident ilustruje rostoucí chybovou linii v tom, jak velké platformy hlídají své systémy. Automatizované vynucování závisí na klasifikátorech, které odlišují lidské chování od chování botů – rozdíl, který je stále těžší udržet, protože agenti AI, scrapery a nástroje třetích stran z legitimních důvodů dotazují sociální platformy rychlostí stroje.

Metaův popis pozastavení naznačuje, že její obrana fungovala tak, jak byla navržena, proti provozu, který skutečně vypadal jako automatizovaný, a selhal přesně tak, jak kritici automatizovaného moderování dlouho varovali: rychle, neprůhledně a proti nesprávnému cíli, přičemž náprava dorazí až poté, co došlo ke škodě.

Pro Anthropic je tato epizoda připomínkou toho, že stopa modelky přesahuje její vlastní produkty. Claude je přístupný aplikacím třetích stran prostřednictvím rozhraní API Anthropic, a jak hlášení o incidentu naznačuje, Meta poukázala na nástroje „připojené k“ modelu spíše než na cokoli, co Anthropic sám provozoval. Jinými slovy, následné použití může uvést jméno výrobce modelu do nevítaného titulku bez vlastní přímé akce.

Co se stane dál

Meta se dvakrát omluvila a účet obnovila, ale koalice požaduje úplnější účetnictví a společnost zatím odmítla jmenovat provozovatele nástrojů propojených s Claudem nebo upřesnit, jaká ochranná opatření, pokud vůbec nějaká, platí pro politické organizace během volební sezóny.

S blížícím se středem týdne a předčasným hlasováním v několika státech budou skupiny platforem a volební úředníci sledovat, zda Meta – a další platformy, které spoléhají na podobnou automatizovanou obranu – upraví své prahové hodnoty, aby se zabránilo zapletení občanských organizací do filtrů botů. Zda se regulační orgány budou více zajímat, může záviset na tom, jak uspokojivě Meta odpovídá na otázky, které se organizátoři stále ptají: co se přesně stalo a kdo stál za provozem, který to celé spustil.

K tomuto článku přispěly zprávy The Guardian, Bloomberg a The Deep Dive.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →