Meta obwinia narzędzia sztucznej inteligencji powiązane z Claude firmy Anthropic za bezprawne zawieszenie głównego konta Koalicji No Kings na Instagramie. Błąd, który spowodował, że ruch protestacyjny na wiele godzin zablokował obecność w mediach społecznościowych podczas ogólnokrajowego dnia akcji, której celem było zwiększenie wczesnej frekwencji wyborczej przed listopadowymi wyborami śródokresowymi.

Zawieszenie, które rozpoczęło się w sobotę po południu, zostało w pierwszej kolejności przypisane rutynowym automatycznym zabezpieczeniom. Dzień później Meta zaproponowała inne, bardziej niezwykłe konto: według doniesień Bloomberga i The Guardian inżynierowie firmy odkryli, że narzędzia połączone z Anthropic's Claude pobierały posty, profile i hashtagi z konta mniej więcej czterokrotnie szybciej niż zwykle – czyli wzorce ruchu, które systemy Meta pomyliły z automatyczną aktywnością botów i zareagowały, usuwając konto. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Godziny ciszy podczas Narodowego Dnia Akcji

Lokaut nie mógł nastąpić w bardziej wrażliwym momencie. Według danych cytowanych przez The Deep Dive, część ruchu prodemokratycznego, który w ostatnich latach wyciągnął na ulice miliony Amerykanów, w sobotę organizatorzy zorganizowali w całych Stanach Zjednoczonych prawie 3000 wydarzeń „No Kings: Vote Early”.

Administratorzy stracili dostęp do konta około 13:30. Wschodniej, powiedział rzecznik koalicji. Samo konto pojawiło się ponownie publicznie po około 90 minutach, ale osoby za nim stojące pozostały wyłączone z jego zaplecza przez prawie cztery godziny, a pełny dostęp odzyskały o 17:33. Wschodni.

Ezra Levin, współzałożycielka grupy organizacyjnej Indivisible, bez ogródek opisała sytuację. „Zawiesili to. Nie mieliśmy do tego dostępu” – powiedział.

Wyjaśnienie Meta zostało zmienione — dwukrotnie

Pierwsza publiczna odpowiedź Meta nadeszła w sobotę, kiedy rzecznik Andy Stone napisał w X, że zautomatyzowane systemy platformy czasami działają, „kiedy konta publikują, udostępniają lub komentują z bardzo dużą częstotliwością”. Przyznał, że „to zautomatyzowane działanie zostało wyraźnie podjęte przez pomyłkę” i dodał: „Wszystko działa teraz tak, jak powinno, za co serdecznie przepraszamy”.

Do niedzieli firma zrewidowała swój opis wydarzeń. W dłuższym oświadczeniu Stone stwierdził, że duża liczba aktywności polegających na czytaniu profili, postów i hashtagów w „intensywnych seriach” spowodowała, że ​​narzędzie AI Meta zaklasyfikowało ruch jako zautomatyzowane boty. „To działanie spowodowało, że nasze automatyczne zabezpieczenia nieprawidłowo przełączyły konto No Kings na Instagramie w tryb offline” – stwierdził Stone, zauważając, że automatyczna ponowna weryfikacja, która odbyła się godzinę później, wykazała błąd i przywróciła konto, chociaż rozwikłanie dostępu administratora zajęło więcej czasu.

O powiązaniu Claude'a po raz pierwszy poinformował Bloomberg w niedzielę. Meta nie wyjaśniła, kto obsługiwał narzędzia ani dlaczego tak agresywnie sprawdzał konto. Spółka w swoich publicznych wypowiedziach nie odpowiedziała na to pytanie.

Organizatorzy uznają tę odpowiedź za niewystarczającą

Wyjaśnienie ruchu botów nie przekonało koalicji. W niedzielnym poście na Instagramie grupa stwierdziła, że ​​w dniu akcji jej członkowie „publikowali posty tylko kilka razy i transmitowali na żywo tysiące osób”, co nie przypomina profilu automatycznej operacji spamowej.

„Odzyskaliśmy dostęp do naszych kont, ale Meta nadal jest nam winna wyjaśnienia” – napisała Koalicja No Kings. „Ograniczanie komunikacji na temat głosowania w trakcie wyborów jest niedopuszczalne”.

Odcinek szybko wywołał reakcję polityczną. Senator Bernie Sanders zasugerował w X, że za zawieszeniem stoi „własność mediów miliardera”, natomiast senator Connecticut Chris Murphy wezwał do wszczęcia dochodzenia w sprawie tego, co się stało.

Gdy ruch AI wygląda na nadużycie

Poza bezpośrednią polityką incydent ten ilustruje rosnącą różnicę w sposobie, w jaki duże platformy pilnują swoich systemów. Zautomatyzowane egzekwowanie zależy od klasyfikatorów, które odróżniają zachowanie ludzi od zachowań botów – rozróżnienie to staje się coraz trudniejsze do utrzymania, ponieważ agenci sztucznej inteligencji, skrobaki i narzędzia stron trzecich wysyłają zapytania do platform społecznościowych z szybkością maszyny z uzasadnionych powodów.

Relacja Meta na temat zawieszenia sugeruje, że jego zabezpieczenia zadziałały zgodnie z założeniami w przypadku ruchu, który rzeczywiście wyglądał na zautomatyzowany, i zawiodły dokładnie w sposób, w jaki krytycy automatycznej moderacji od dawna ostrzegali: szybko, nieprzejrzyście i przeciwko niewłaściwemu celowi, a korekta następuje dopiero po wyrządzeniu szkody.

Dla Anthropic ten odcinek przypomina, że ​​ślad modelki wykracza daleko poza jej własne produkty. Dostęp do Claude'a uzyskują aplikacje innych firm za pośrednictwem interfejsu API Anthropic i jak wskazuje raport z incydentu, Meta wskazała na narzędzia „połączone” z modelem, a nie na cokolwiek, co sama Anthropic uruchomiła. Innymi słowy, dalsze wykorzystanie może spowodować umieszczenie nazwiska twórcy modelu w niechcianym nagłówku bez bezpośredniego działania.

Co stanie się dalej

Meta dwukrotnie przeprosiła i przywróciła konto, ale koalicja żąda pełniejszej księgowości, a firma jak dotąd odmówiła podania nazw operatorów narzędzi powiązanych z Claudem ani podania szczegółów, jakie ewentualne zabezpieczenia obowiązują organizacje polityczne w okresie wyborczym.

Wraz ze zbliżaniem się środka tygodnia i rozpoczęciem wczesnego głosowania w kilku stanach grupy platform i urzędnicy wyborczy będą obserwować, czy Meta – i inne platformy korzystające z podobnych automatycznych zabezpieczeń – dostosowują swoje progi, aby uniknąć wplątania organizacji obywatelskich w filtry botów. To, czy organy regulacyjne zainteresują się bliżej, może zależeć od tego, jak zadowalająco Meta odpowie na wciąż zadawane przez organizatorów pytanie: co dokładnie się wydarzyło i kto stał za ruchem, który to wszystko wywołał.

Do powstania tego artykułu przyczyniły się raporty z The Guardian, Bloomberg i The Deep Dive.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →