Meta a dat vina pe instrumentele de inteligență artificială conectate la Claude de la Anthropic pentru suspendarea pe nedrept a contului principal de Instagram al Coaliției No Kings, o eroare care a zdruncinat prezența mișcării de protest în rețelele sociale pentru ore întregi, în timpul unei zile de acțiune la nivel național, menită să stimuleze prezența la vot anticipat înaintea alegerilor intermediare din noiembrie.
Suspendarea, care a început sâmbătă după-amiază, a fost atribuită mai întâi protecțiilor automate de rutină. O zi mai târziu, Meta a oferit un cont diferit și mai neobișnuit: conform rapoartelor de la Bloomberg și The Guardian, inginerii companiei au descoperit că instrumentele conectate la Claude de la Anthropic au extras postări, profiluri și hashtag-uri din cont cu un ritm de aproximativ patru ori mai mare decât obișnuit - modele de trafic pe care sistemele lui Meta le-au confundat cu activitate automată a botului și la care au răspuns prin reducerea contului. For more context on this story, see our ongoing artificial intelligence updates.
Ore de tăcere în timpul unei Zile Naționale de Acțiune
Blocarea cu greu ar fi putut veni într-un moment mai sensibil. Sâmbătă, organizatorii au organizat aproape 3.000 de evenimente „No Kings: Vote Early” în Statele Unite, potrivit cifrelor citate de The Deep Dive, parte a mișcării pro-democrație care a atras milioane de americani în stradă în ultimii ani.
Administratorii au pierdut accesul la cont în jurul orei 13:30. Eastern, a spus un purtător de cuvânt al coaliției. Contul în sine a reapărut public după aproximativ 90 de minute, dar oamenii din spatele lui au rămas blocați din backend-ul său timp de aproape patru ore, recâștigând accesul complet la 5:33 p.m. estic.
Ezra Levin, co-fondatorul grupului de organizare Indivisible, a descris direct situația. "Au suspendat-o. Noi nu am avut acces la el", a spus el.
Explicația lui Meta a fost schimbată — De două ori
Primul răspuns public al lui Meta a venit sâmbătă, când purtătorul de cuvânt Andy Stone a scris pe X că sistemele automate ale platformei acționează uneori „atunci când conturile postează, distribuie sau comentează la frecvențe foarte înalte”. El a recunoscut că „acea acțiune automată a fost în mod clar luată din greșeală”, adăugând: „Totul funcționează acum așa cum ar trebui și ne cerem scuze sincere”.
Până duminică, compania și-a revizuit relatarea evenimentelor. Într-o declarație mai lungă, Stone a spus că un volum mare de activități de citire a profilurilor, postărilor și hashtag-urilor în „rafale intense” a făcut ca instrumentul AI al Meta să clasifice traficul ca roboți automati. „Această activitate a făcut ca protecțiile noastre automate să scoată în mod incorect contul de Instagram No Kings offline”, a spus Stone, menționând că o reevaluare automată o oră mai târziu a recunoscut greșeala și a restabilit contul, deși dezlegarea accesului de administrator a durat mai mult timp.
Conexiunea cu Claude a fost raportată pentru prima dată de Bloomberg duminică. Ceea ce Meta nu a explicat este cine opera instrumentele sau de ce interogau contul atât de agresiv. Compania nu a răspuns la această întrebare în declarațiile sale publice.
Organizatorii spun că răspunsul este inadecvat
Coaliția nu a fost convinsă de explicația privind traficul de bot. Într-o postare pe Instagram duminică, grupul a spus că membrii săi „au postat doar de câteva ori și au transmis în direct la mii de oameni” în timpul zilei de acțiune – aproape deloc profilul unei operațiuni automate de spam.
„Am recâștigat accesul la conturile noastre, dar Meta încă ne datorează o explicație”, a scris No Kings Coalition. „Restrângerea comunicării despre votul în mijlocul alegerilor este inacceptabilă”.
Episodul a atras rapid reacție politică. Senatorul Bernie Sanders a sugerat la X că „proprietatea miliardară a presei” s-a aflat în spatele suspendării, în timp ce senatorul din Connecticut Chris Murphy a cerut o anchetă cu privire la ceea ce s-a întâmplat.
Când traficul AI arată ca un abuz
Dincolo de politica imediată, incidentul ilustrează o linie de falie în creștere în modul în care platformele mari își controlează sistemele. Aplicarea automată depinde de clasificatorii care disting comportamentul uman de comportamentul botului – o distincție care devine din ce în ce mai greu de susținut pe măsură ce agenții AI, scraper-urile și instrumentele terțe interogează platformele sociale la viteza mașinii din motive legitime.
Raportul lui Meta despre suspendare sugerează că apărările sale au funcționat așa cum au fost concepute împotriva traficului care părea cu adevărat automatizat și a eșuat exact în modul în care criticii moderației automate au avertizat de mult: rapid, opac și împotriva țintei greșite, corecția sosind doar după ce a fost făcut rău.
Pentru Anthropic, episodul este un memento că amprenta unui model se extinde cu mult dincolo de propriile produse. Claude este accesat de aplicații terțe prin intermediul API-ului Anthropic și, după cum indică raportarea incidentului, Meta a indicat instrumentele „conectate” la model, mai degrabă decât orice a rulat Anthropic în sine. Utilizarea în aval, cu alte cuvinte, poate pune numele unui producător de modele într-un titlu nedorit, fără nicio acțiune directă proprie.
Ce se întâmplă în continuare
Meta și-a cerut scuze de două ori și a restabilit contul, dar coaliția cere o contabilitate mai completă, iar compania a refuzat până acum să numească operatorii instrumentelor conectate la Claude sau să detalieze ce garanții, dacă există, se aplică organizațiilor politice în timpul sezonului electoral.
Odată cu apropierea săptămânii și votul anticipat în curs de desfășurare în mai multe state, grupurile de platforme și oficialii electorali vor urmări dacă Meta – și alte platforme care se bazează pe apărări automate similare – își ajustează pragurile pentru a evita implicarea organizațiilor civice în filtrele bot. Dacă autoritățile de reglementare se interesează mai mult, poate depinde de cât de satisfăcător răspunde Meta la întrebarea pe care organizatorii continuă să o pună: ce s-a întâmplat exact și cine s-a aflat în spatele traficului care a declanșat totul.
Raportările de la The Guardian, Bloomberg și The Deep Dive au contribuit la acest articol.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
