Meta hat künstliche Intelligenz-Tools im Zusammenhang mit Claude von Anthropic für die unrechtmäßige Sperrung des Haupt-Instagram-Kontos der No Kings Coalition verantwortlich gemacht, ein Fehler, der die Social-Media-Präsenz der Protestbewegung während eines landesweiten Aktionstages zur Steigerung der Frühwählerbeteiligung vor den Zwischenwahlen im November stundenlang offline geschaltet hat.

Die Aussetzung, die am Samstagnachmittag begann, wurde zunächst auf routinemäßige automatisierte Schutzmaßnahmen zurückgeführt. Einen Tag später bot Meta ein anderes und ungewöhnlicheres Konto an: Laut Berichten von Bloomberg und The Guardian stellten die Ingenieure des Unternehmens fest, dass Tools, die mit Claude von Anthropic verbunden waren, etwa viermal so schnell Beiträge, Profile und Hashtags aus dem Konto abgerufen hatten – Verkehrsmuster, die Metas Systeme mit automatisierter Bot-Aktivität verwechselten und darauf reagierten, indem sie das Konto löschten. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Stunden der Stille während eines nationalen Aktionstages

Die Aussperrung hätte kaum zu einem sensibleren Zeitpunkt erfolgen können. Am Samstag veranstalteten die Organisatoren in den gesamten Vereinigten Staaten fast 3.000 „No Kings: Vote Early“-Veranstaltungen, wie aus Zahlen von The Deep Dive hervorgeht, einem Teil der Pro-Demokratie-Bewegung, die in den letzten Jahren Millionen Amerikaner auf die Straße gebracht hat.

Gegen 13:30 Uhr verloren Administratoren den Zugriff auf das Konto. Eastern, sagte ein Sprecher der Koalition. Das Konto selbst erschien nach etwa 90 Minuten wieder öffentlich, aber die Personen dahinter blieben fast vier Stunden lang von seinem Backend ausgeschlossen und erhielten um 17:33 Uhr wieder vollen Zugriff. Östlich.

Ezra Levin, Mitbegründer der Organisationsgruppe Indivisible, beschrieb die Situation unverblümt. „Sie haben es gesperrt. Wir hatten keinen Zugriff darauf“, sagte er.

Metas Erklärung geändert – zweimal

Die erste öffentliche Reaktion von Meta erfolgte am Samstag, als Sprecher Andy Stone auf X schrieb, dass die automatisierten Systeme der Plattform manchmal reagieren, „wenn Konten mit sehr hoher Häufigkeit posten, teilen oder kommentieren“. Er räumte ein, dass „diese automatisierte Maßnahme eindeutig ein Fehler war“ und fügte hinzu: „Jetzt funktioniert alles wie es sollte und wir entschuldigen uns aufrichtig.“

Bis Sonntag hatte das Unternehmen seine Darstellung der Ereignisse überarbeitet. In einer längeren Erklärung sagte Stone, dass ein hohes Aktivitätsaufkommen beim Lesen von Profilen, Beiträgen und Hashtags in „intensiven Ausbrüchen“ dazu geführt habe, dass das KI-Tool von Meta den Datenverkehr als automatisierte Bots eingestuft habe. „Diese Aktivität hat dazu geführt, dass unsere automatisierten Schutzmaßnahmen das Instagram-Konto von No Kings fälschlicherweise offline geschaltet haben“, sagte Stone und wies darauf hin, dass eine automatische erneute Überprüfung eine Stunde später den Fehler erkannte und das Konto wiederherstellte, obwohl die Entschlüsselung des Administratorzugriffs zusätzliche Zeit in Anspruch nahm.

Über die Claude-Verbindung wurde erstmals am Sonntag von Bloomberg berichtet. Was Meta nicht erklärt hat, ist, wer die Tools bedient hat oder warum sie das Konto so aggressiv abgefragt haben. Das Unternehmen antwortete in seinen öffentlichen Stellungnahmen nicht auf diese Frage.

Organisatoren halten die Antwort für unzureichend

Die Koalition war von der Erklärung des Bot-Verkehrs nicht überzeugt. In einem Post auf Instagram am Sonntag sagte die Gruppe, dass ihre Mitglieder während des Aktionstages „nur ein paar Mal gepostet und an Tausende per Livestream gesendet“ hätten – kaum das Profil einer automatisierten Spam-Aktion.

„Wir haben wieder Zugriff auf unsere Konten erhalten, aber Meta schuldet uns noch eine Erklärung“, schrieb die No Kings Coalition. „Es ist inakzeptabel, die Kommunikation über die Stimmabgabe mitten in einer Wahl einzuschränken.“

Die Episode löste schnell politische Reaktionen aus. Senator Bernie Sanders deutete auf

Wenn KI-Verkehr wie Missbrauch aussieht

Über die unmittelbare Politik hinaus veranschaulicht der Vorfall eine wachsende Bruchlinie in der Art und Weise, wie große Plattformen ihre Systeme überwachen. Die automatisierte Durchsetzung hängt von Klassifikatoren ab, die menschliches Verhalten von Bot-Verhalten unterscheiden – eine Unterscheidung, die immer schwieriger aufrechtzuerhalten ist, da KI-Agenten, Scraper und Tools von Drittanbietern soziale Plattformen aus legitimen Gründen mit Maschinengeschwindigkeit abfragen.

Metas Bericht über die Aussetzung lässt darauf schließen, dass die Abwehrmaßnahmen wie geplant gegen Verkehr funktionierten, der wirklich automatisiert aussah, und genau auf die Art und Weise versagten, wie Kritiker der automatisierten Moderation seit langem gewarnt haben: schnell, undurchsichtig und gegen das falsche Ziel, wobei die Korrektur erst erfolgte, nachdem der Schaden angerichtet wurde.

Für Anthropic ist die Folge eine Erinnerung daran, dass der Fußabdruck eines Models weit über seine eigenen Produkte hinausgeht. Auf Claude greifen Anwendungen von Drittanbietern über die API von Anthropic zu, und wie aus der Berichterstattung über den Vorfall hervorgeht, verwies Meta auf Tools, die mit dem Modell „verbunden“ waren, und nicht auf alles, was Anthropic selbst ausführte. Mit anderen Worten: Durch die nachgelagerte Nutzung kann der Name eines Modellbauers in eine unwillkommene Schlagzeile geraten, ohne dass eine direkte Aktion erfolgt.

Was als nächstes passiert

Meta hat sich zweimal entschuldigt und das Konto wiederhergestellt, aber die Koalition fordert eine umfassendere Abrechnung, und das Unternehmen hat sich bisher geweigert, die Betreiber der mit Claude verbundenen Tools zu nennen oder detailliert darzulegen, welche Schutzmaßnahmen, wenn überhaupt, für politische Organisationen während der Wahlsaison gelten.

Da die Wochenmitte immer näher rückt und in mehreren Bundesstaaten vorzeitige Abstimmungen stattfinden, werden Plattformgruppen und Wahlbeamte beobachten, ob Meta – und andere Plattformen, die auf ähnliche automatisierte Abwehrmaßnahmen angewiesen sind – ihre Schwellenwerte anpassen, um zu vermeiden, dass Bürgerorganisationen in Bot-Filter verwickelt werden. Ob sich die Regulierungsbehörden genauer darum kümmern, hängt möglicherweise davon ab, wie zufriedenstellend Meta die von den Organisatoren immer wieder gestellte Frage beantwortet: Was genau ist passiert und wer steckt hinter dem Verkehr, der alles ausgelöst hat?

Zu diesem Artikel haben Berichte von The Guardian, Bloomberg und The Deep Dive beigetragen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →