Meta heeft kunstmatige-intelligentietools die verbonden zijn met Claude van Anthropic de schuld gegeven van de onrechtmatige opschorting van het belangrijkste Instagram-account van de No Kings Coalition, een fout die de aanwezigheid van de protestbeweging op sociale media urenlang offline heeft gezet tijdens een landelijke actiedag die bedoeld was om de opkomst van vroege kiezers te vergroten in de aanloop naar de tussentijdse verkiezingen in november.
De schorsing, die zaterdagmiddag begon, werd in eerste instantie toegeschreven aan routinematige geautomatiseerde beveiligingen. Een dag later bood Meta een ander en ongebruikelijker account aan: volgens rapporten van Bloomberg en The Guardian ontdekten de ingenieurs van het bedrijf dat tools die verbonden waren met Claude van Anthropic berichten, profielen en hashtags uit het account hadden gehaald in ongeveer vier keer de gebruikelijke snelheid: verkeerspatronen die de systemen van Meta aanzagen voor geautomatiseerde botactiviteit en waarop ze reageerden door het account te verwijderen. Voor meer context over dit verhaal, zie ons AI-nieuws.
Uren stilte tijdens een Nationale Actiedag
De uitsluiting had nauwelijks op een gevoeliger moment kunnen komen. Zaterdag organiseerden de organisatoren bijna 3.000 ‘No Kings: Vote Early’-evenementen in de Verenigde Staten, volgens cijfers geciteerd door The Deep Dive, onderdeel van de pro-democratische beweging die de afgelopen jaren miljoenen Amerikanen de straat op heeft getrokken.
Beheerders verloren rond 13.30 uur de toegang tot het account. Oostelijk, zei een woordvoerder van de coalitie. Het account zelf verscheen na ongeveer 90 minuten weer publiekelijk, maar de mensen erachter bleven bijna vier uur buitengesloten van de backend en kregen om 17:33 uur weer volledige toegang. Oostelijk.
Ezra Levin, medeoprichter van de organiserende groep Indivisible, beschreef de situatie ronduit. "Ze hebben het opgeschort. We hadden er geen toegang toe", zei hij.
Meta's uitleg veranderd - twee keer
Meta's eerste publieke reactie kwam zaterdag, toen woordvoerder Andy Stone op X schreef dat de geautomatiseerde systemen van het platform soms in actie komen "wanneer accounts met zeer hoge frequentie posten, delen of reageren." Hij erkende dat “die geautomatiseerde actie duidelijk ten onrechte was genomen”, en voegde eraan toe: “Alles werkt nu zoals het zou moeten en we bieden onze oprechte excuses aan.”
Zondag had het bedrijf zijn verslag van de gebeurtenissen herzien. In een langere verklaring zei Stone dat een groot aantal activiteiten bij het lezen van profielen, berichten en hashtags in ‘intense uitbarstingen’ ervoor had gezorgd dat Meta’s AI-tool het verkeer als geautomatiseerde bots had geclassificeerd. "Deze activiteit zorgde ervoor dat onze geautomatiseerde beveiligingen het Instagram-account van No Kings ten onrechte offline haalden", zei Stone, waarbij hij opmerkte dat een automatische herbeoordeling een uur later de fout herkende en het account herstelde, hoewel het ontwarren van de beheerderstoegang extra tijd kostte.
De Claude-connectie werd zondag voor het eerst gemeld door Bloomberg. Wat Meta niet heeft uitgelegd, is wie de tools bediende, of waarom ze het account zo agressief ondervroegen. Op die vraag heeft het bedrijf in zijn publieke verklaringen niet gereageerd.
Organisatoren noemen het antwoord ontoereikend
De coalitie was niet overtuigd door de verklaring van het botverkeer. In een bericht op Instagram zondag zei de groep dat haar leden tijdens de actiedag “slechts een handvol keer hadden gepost en naar duizenden hadden gelivestreamd” – nauwelijks het profiel van een geautomatiseerde spamoperatie.
“We hebben weer toegang tot onze rekeningen, maar Meta is ons nog steeds een verklaring verschuldigd”, schreef de No Kings Coalition. “Het beperken van de communicatie over stemmen tijdens verkiezingen is onaanvaardbaar.”
De aflevering lokte al snel politieke reacties uit. Senator Bernie Sanders suggereerde op X dat ‘miljardair-eigendom van de media’ achter de schorsing zat, terwijl senator Chris Murphy uit Connecticut opriep tot een onderzoek naar wat er was gebeurd.
Wanneer AI-verkeer op misbruik lijkt
Afgezien van de directe politiek illustreert het incident een groeiende breuklijn in de manier waarop grote platforms hun systemen controleren. Geautomatiseerde handhaving is afhankelijk van classificaties die menselijk gedrag onderscheiden van botgedrag – een onderscheid dat steeds moeilijker vol te houden is naarmate AI-agenten, scrapers en tools van derden om legitieme redenen met machinesnelheden sociale platforms bevragen.
Meta's verslag van de opschorting suggereert dat de verdediging werkte zoals bedoeld tegen verkeer dat er echt geautomatiseerd uitzag, en faalde op precies de manier waarop critici van geautomatiseerde moderatie al lang hebben gewaarschuwd: snel, ondoorzichtig en tegen het verkeerde doelwit, waarbij de correctie pas arriveerde nadat de schade was aangericht.
Voor Anthropic herinnert de aflevering eraan dat de voetafdruk van een model veel verder reikt dan zijn eigen producten. Claude is toegankelijk voor applicaties van derden via de API van Anthropic, en zoals de rapportage over het incident aangeeft, wees Meta op tools die "verbonden waren met" het model in plaats van op alles wat Anthropic zelf draaide. Met andere woorden: downstreamgebruik kan de naam van een modelmaker in een ongewenste kop plaatsen zonder dat er zelf een directe actie is ondernomen.
Wat gebeurt er vervolgens
Meta heeft zich twee keer verontschuldigd en de rekening hersteld, maar de coalitie eist een vollediger boekhouding, en het bedrijf heeft tot nu toe geweigerd de exploitanten van de met Claude verbonden tools te noemen of in detail te beschrijven welke waarborgen, indien aanwezig, van toepassing zijn op politieke organisaties tijdens het verkiezingsseizoen.
Nu de midweken in aantocht zijn en er in verschillende staten al vroeg gestemd wordt, zullen platformgroepen en verkiezingsfunctionarissen in de gaten houden of Meta – en andere platforms die afhankelijk zijn van soortgelijke geautomatiseerde verdedigingen – hun drempels aanpassen om te voorkomen dat maatschappelijke organisaties in botfilters verstrikt raken. Of toezichthouders er meer aandacht aan besteden, kan afhangen van hoe bevredigend Meta de vraag beantwoordt die organisatoren zich blijven stellen: wat er precies is gebeurd en wie er achter het verkeer zat dat dit allemaal teweegbracht.
Rapportages van The Guardian, Bloomberg en The Deep Dive hebben bijgedragen aan dit artikel.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
