Meta ha accusato gli strumenti di intelligenza artificiale collegati a Claude di Anthropic per l'ingiusta sospensione dell'account Instagram principale della No Kings Coalition, un errore che ha messo offline la presenza sui social media del movimento di protesta per ore durante una giornata di azione nazionale volta ad aumentare l'affluenza anticipata degli elettori in vista delle elezioni di medio termine di novembre.

La sospensione, iniziata sabato pomeriggio, è stata inizialmente attribuita alle protezioni automatizzate di routine. Il giorno dopo, Meta ha offerto un account diverso e più insolito: secondo quanto riferito da Bloomberg e The Guardian, gli ingegneri dell'azienda hanno scoperto che gli strumenti collegati a Claude di Anthropic avevano estratto post, profili e hashtag dall'account a un ritmo circa quattro volte superiore al ritmo normale: schemi di traffico che i sistemi di Meta hanno scambiato per attività automatizzate di bot e a cui hanno risposto chiudendo l'account. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.

Ore di silenzio durante una giornata nazionale di azione

La serrata difficilmente sarebbe potuta arrivare in un momento più delicato. Sabato, gli organizzatori hanno organizzato quasi 3.000 eventi "No Kings: Vote Early" in tutti gli Stati Uniti, secondo i dati citati da The Deep Dive, parte del movimento pro-democrazia che ha attirato milioni di americani in strada negli ultimi anni.

Gli amministratori hanno perso l'accesso all'account intorno alle 13:30. Eastern, ha detto un portavoce della coalizione. L'account stesso è riapparso pubblicamente dopo circa 90 minuti, ma le persone dietro di esso sono rimaste bloccate fuori dal suo backend per quasi quattro ore, riacquistando l'accesso completo alle 17:33. Orientale.

Ezra Levin, cofondatore del gruppo organizzatore Indivisible, ha descritto la situazione senza mezzi termini. "Lo hanno sospeso. Non ne abbiamo avuto accesso", ha detto.

La spiegazione di Meta è cambiata: due volte

La prima risposta pubblica di Meta è arrivata sabato, quando il portavoce Andy Stone ha scritto su X che i sistemi automatizzati della piattaforma a volte agiscono "quando gli account pubblicano, condividono o commentano a frequenze molto elevate". Ha riconosciuto che "l'azione automatizzata è stata chiaramente intrapresa per errore", aggiungendo: "Ora tutto funziona come dovrebbe e ci scusiamo sinceramente".

Entro domenica, la società aveva rivisto il resoconto degli eventi. In una dichiarazione più lunga, Stone ha affermato che un elevato volume di attività di lettura di profili, post e hashtag a "raffice intensa" ha indotto lo strumento di intelligenza artificiale di Meta a classificare il traffico come bot automatizzati. "Questa attività ha fatto sì che le nostre protezioni automatizzate mettessero erroneamente offline l'account Instagram di No Kings", ha affermato Stone, sottolineando che una nuova revisione automatizzata un'ora dopo ha riconosciuto l'errore e ripristinato l'account, anche se districare l'accesso amministrativo ha richiesto più tempo.

La connessione con Claude è stata segnalata per la prima volta da Bloomberg domenica. Ciò che Meta non ha spiegato è chi utilizzava gli strumenti o perché interrogavano l'account in modo così aggressivo. La società non ha risposto a questa domanda nelle sue dichiarazioni pubbliche.

Gli organizzatori definiscono la risposta inadeguata

La coalizione non era convinta della spiegazione del traffico bot. In un post su Instagram domenica, il gruppo ha affermato che i suoi membri hanno "pubblicato solo una manciata di volte e trasmesso in live streaming a migliaia" durante la giornata di azione - difficilmente il profilo di un'operazione di spam automatizzata.

"Abbiamo riacquistato l'accesso ai nostri account, ma Meta ci deve ancora una spiegazione", ha scritto la No Kings Coalition. "Limitare le comunicazioni sul voto nel bel mezzo di un'elezione è inaccettabile."

L'episodio suscitò rapidamente una reazione politica. Il senatore Bernie Sanders ha suggerito su X che dietro la sospensione c'era "la proprietà miliardaria dei media", mentre il senatore del Connecticut Chris Murphy ha chiesto un'indagine su quanto accaduto.

Quando il traffico AI sembra un abuso

Al di là della politica immediata, l’incidente illustra una crescente linea di frattura nel modo in cui le grandi piattaforme controllano i loro sistemi. L’applicazione automatizzata dipende da classificatori che distinguono il comportamento umano da quello dei bot, una distinzione che sta diventando sempre più difficile da sostenere poiché agenti di intelligenza artificiale, scraper e strumenti di terze parti interrogano le piattaforme social alla velocità delle macchine per motivi legittimi.

Il resoconto di Meta della sospensione suggerisce che le sue difese hanno funzionato come previsto contro il traffico che sembrava veramente automatizzato, e hanno fallito esattamente nel modo in cui i critici della moderazione automatizzata hanno a lungo messo in guardia: rapidamente, in modo opaco e contro il bersaglio sbagliato, con la correzione che arriva solo dopo che il danno è stato fatto.

Per Anthropic, l'episodio ricorda che l'impronta di un modello si estende ben oltre i suoi stessi prodotti. A Claude accedono applicazioni di terze parti tramite l'API di Anthropic e, come indica il resoconto dell'incidente, Meta ha indicato strumenti "connessi al" modello piuttosto che qualsiasi cosa gestisse Anthropic stessa. L'utilizzo a valle, in altre parole, può inserire il nome di un modellista in un titolo sgradito senza alcuna azione diretta.

Cosa succede dopo

Meta si è scusata due volte e ha ripristinato l'account, ma la coalizione chiede una contabilità più completa e la società finora ha rifiutato di nominare gli operatori degli strumenti collegati a Claude o di dettagliare quali garanzie, se presenti, si applicano alle organizzazioni politiche durante la stagione elettorale.

Con l’avvicinarsi del periodo infrasettimanale e le votazioni anticipate in corso in diversi stati, i gruppi di piattaforme e i funzionari elettorali guarderanno se Meta – e altre piattaforme che fanno affidamento su difese automatizzate simili – adegueranno le loro soglie per evitare di intrappolare le organizzazioni civiche nei filtri dei bot. Il fatto che i regolatori si interessino più da vicino può dipendere da quanto Meta risponderà in modo soddisfacente alla domanda che gli organizzatori continuano a porre: cosa è successo esattamente e chi c’era dietro il traffico che ha innescato tutto.

A questo articolo hanno contribuito i reportage di The Guardian, Bloomberg e The Deep Dive.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →