Meta hat seine umstrittene Muse Image AI-Funktion nur wenige Tage nach der Einführung von Instagram entfernt und räumte ein, dass das Tool „das Ziel verfehlt“ habe, nachdem Hollywood-Gewerkschaften, Talentagenturen und Datenschutzbeauftragte heftig gegen sein automatisches Opt-in-Design reagiert hatten.

Die Funktion, die Fotos und Inhalte von Instagram-Nutzern nutzte, um KI-Bilder zu generieren, ohne dass eine ausdrückliche Zustimmung erforderlich war, erregte bei ihrem Debüt Anfang der Woche sofort großes Aufsehen. Benutzer stellten fest, dass sie automatisch in das Programm aufgenommen wurden und ihre persönlichen Fotos zum Trainingsmaterial für Metas Bilderzeugungsmodell wurden.

SAG-AFTRA und CAA führen die Anklage an

Die Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) gehörte zu den lautstärksten Kritikern und forderte ihre Mitglieder und alle Instagram-Nutzer auf, sich von der Funktion abzumelden. Die Gewerkschaft gab eine Erklärung heraus, in der sie die Menschen aufforderte, „Maßnahmen zu ergreifen, um Ihr Abbild zu schützen“, was die tiefe Besorgnis der Unterhaltungsindustrie über KI-Tools widerspiegelt, die Bilder von Darstellern ohne Entschädigung oder Zustimmung reproduzieren und manipulieren können.

Auch die Creative Artists Agency (CAA), eine der einflussreichsten Talentagenturen Hollywoods, verurteilte den Beitrag. Laut Deadline haben beide Organisationen das Tool in öffentlichen Erklärungen „vernichtet“, was den Druck auf Meta verstärkte, die Einführung noch einmal zu überdenken.

Die Gegenreaktion von Organisationen der Unterhaltungsindustrie ist für Meta von besonderer Bedeutung, da das Unternehmen für seine Mixed-Reality- und KI-Initiativen daran arbeitet, Beziehungen zu Hollywood-Schöpfern und -Studios aufzubauen.

Die Opt-In-Kontroverse

Der Kern der Kontroverse drehte sich um Metas Entscheidung, Benutzer automatisch für das KI-Schulungsprogramm anzumelden, anstatt von ihnen eine ausdrückliche Zustimmung zu verlangen. Dies bedeutete, dass Millionen von Instagram-Benutzern ihre Fotos ohne ihr Wissen oder ihre ausdrückliche Zustimmung in den Muse-Image-Generator einspeisten.

Axios berichtete, dass die Funktion insbesondere wegen der Frage der Einwilligung Kritik erregte, wobei Kritiker argumentierten, dass der Ansatz von Meta gegen Grundprinzipien der Benutzerautonomie und des Datenschutzes verstoße. Befürworter des Datenschutzes stellten fest, dass Meta zwar einen Opt-out-Mechanismus bereitstellte, die Last jedoch vollständig bei den Benutzern lag, die Einstellungen zu entdecken und darin zu navigieren.

Shacknews berichtete, dass Meta die Instagram Muse AI-Bildfunktion nach nur drei Tagen anhaltender Gegenreaktion eingestellt hat, was es zu einer der schnellsten Produktumkehrungen des Unternehmens in jüngster Zeit macht.

Metas Antwort

Laut Deadline und TheWrap sagte Meta in einer Erklärung, in der sie die Gegenreaktion einräumte, dass das Feature „das Ziel verfehlt“ habe. Das Unternehmen hat die Funktion deaktiviert, anstatt einfach den Opt-in-Mechanismus zu ändern, was darauf hindeutet, dass das grundlegende Design zu fehlerhaft war, um es in seiner aktuellen Form zu retten.

Dies ist nicht das erste Mal, dass Meta wegen seiner KI-Initiativen kritisiert wird. Das Unternehmen hat bereits Anfang Juli seinen ersten internen KI-Bildgenerator, Muse Image, in Instagram und WhatsApp eingeführt. Dieser erste Start stieß auf verhaltenes Interesse, doch die anschließende Hinzufügung der automatischen Fotoregistrierung zu Schulungszwecken überschritt für viele Benutzer und Branchenorganisationen eine Grenze.

Umfassendere Implikationen für KI und Einwilligung

Der Vorfall verdeutlicht die wachsende Spannung in der KI-Branche zwischen dem Hunger der Unternehmen nach Trainingsdaten und dem Recht der Benutzer, die Verwendung ihrer persönlichen Daten zu kontrollieren. Da generative KI-Modelle immer größere Datensätze erfordern, greifen Technologieunternehmen zunehmend auf benutzergenerierte Inhalte als Quelle für Schulungsmaterial zurück.

Die Gegenreaktion von organisierten Arbeitsgruppen wie SAG-AFTRA zeigt, dass die Unterhaltungsindustrie, die an der Spitze der Debatten über KI und kreative Arbeit stand, weiterhin eine starke Kraft bei der Gestaltung der Art und Weise ist, wie KI-Unternehmen mit Zustimmung und Vergütung umgehen.

Die Kontroverse wirft auch Fragen zur Einhaltung gesetzlicher Vorschriften auf. In der Europäischen Union legen das KI-Gesetz und die Datenschutz-Grundverordnung (DSGVO) strenge Anforderungen an die Einwilligung und Datennutzung fest. Der automatische Opt-in-Ansatz von Meta könnte von europäischen Regulierungsbehörden geprüft werden, die bei der Durchsetzung von Datenschutzbestimmungen gegenüber großen Technologieplattformen zunehmend nachdrücklich vorgehen.

Die LA Times wies darauf hin, dass die Entfernung speziell nach Gegenreaktionen aus der kreativen Community erfolgte, wobei Schauspieler und Künstler ihre Besorgnis über die Möglichkeit zum Ausdruck brachten, dass ihre Konterfeis ohne ihre Erlaubnis in KI-generierten Inhalten verwendet werden könnten.

Bleiben Sie der KI immer einen Schritt voraus

Für eine Fortsetzung der KI-Branchenberichterstattung und eine Analyse der ethischen Debatten, die künstliche Intelligenz prägen, folgen Sie AI Buzz Wire.

Weitere KI-Neuigkeiten lesen → https://aibuzzwire.news