Meta heeft de controversiële Muse Image AI-functie slechts enkele dagen na de lancering van Instagram verwijderd, omdat ze toegeeft dat de tool "het doel heeft gemist" na intense reacties van Hollywood-vakbonden, talentenbureaus en privacyvoorvechters over het automatische opt-in-ontwerp.

De functie, die de foto's en inhoud van Instagram-gebruikers gebruikte om AI-afbeeldingen te genereren zonder expliciete toestemming te vereisen, trok onmiddellijk de aandacht toen deze eerder deze week debuteerde. Gebruikers ontdekten dat ze automatisch waren ingeschreven voor het programma, waarbij hun persoonlijke foto's trainingsvoer werden voor Meta's model voor het genereren van afbeeldingen.

SAG-AFTRA en CAA leiden de aanval

De Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) was een van de meest uitgesproken critici en drong er bij haar leden en alle Instagram-gebruikers op aan om zich af te melden voor de functie. De vakbond heeft een verklaring uitgegeven waarin mensen worden opgeroepen ‘actie te ondernemen om jouw gelijkenis te beschermen’, wat een weerspiegeling is van de diepe zorgen in de entertainmentindustrie over AI-tools die beelden van artiesten kunnen repliceren en manipuleren zonder compensatie of toestemming.

Creative Artists Agency (CAA), een van de machtigste talentenbureaus van Hollywood, veroordeelde de speelfilm ook. Volgens Deadline hebben beide organisaties de tool in openbare verklaringen "vernield", waardoor de druk op Meta om de uitrol te heroverwegen werd vergroot.

De reactie van organisaties uit de entertainmentindustrie weegt bijzonder zwaar op Meta, dat heeft gewerkt aan het opbouwen van relaties met Hollywood-makers en studio's voor zijn mixed reality- en AI-initiatieven.

De opt-in-controverse

De kern van de controverse concentreerde zich op Meta's beslissing om gebruikers automatisch in te schrijven voor het AI-trainingsprogramma in plaats van hen te verplichten zich expliciet aan te melden. Dit betekende dat miljoenen Instagram-gebruikers hun foto's in de Muse Image-generator lieten invoeren zonder hun medeweten of positieve toestemming.

Axios meldde dat de functie specifiek de aandacht trok vanwege de toestemmingskwestie, waarbij critici beweerden dat Meta's aanpak in strijd was met de basisprincipes van gebruikersautonomie en gegevensbescherming. Voorstanders van privacy merkten op dat hoewel Meta een opt-out-mechanisme bood, de last volledig bij de gebruikers werd gelegd om de instellingen te ontdekken en er doorheen te navigeren.

Shacknews meldde dat Meta de Instagram Muse AI-beeldfunctie heeft opgeschort na slechts drie dagen van aanhoudende terugslag, waardoor het een van de snelste productomkeringen van het bedrijf in de recente geschiedenis is.

Meta's reactie

In een verklaring waarin zij de reactie erkende, zei Meta dat de functie "het doel had gemist", aldus Deadline en TheWrap. Het bedrijf schakelde de functie uit in plaats van eenvoudigweg het opt-in-mechanisme aan te passen, wat suggereert dat het fundamentele ontwerp te gebrekkig was om in zijn huidige vorm te redden.

Dit is niet de eerste keer dat Meta kritiek krijgt op zijn AI-initiatieven. Het bedrijf lanceerde eerder begin juli zijn eerste interne AI-beeldgenerator, Muse Image, op Instagram en WhatsApp. Die eerste lancering werd met voorzichtige belangstelling ontvangen, maar de daaropvolgende toevoeging van automatische foto-inschrijving voor trainingsdoeleinden overschreed voor veel gebruikers en brancheorganisaties een grens.

Bredere implicaties voor AI en toestemming

Het incident benadrukt een groeiende spanning in de AI-industrie tussen de honger van bedrijven naar trainingsgegevens en de rechten van gebruikers om te bepalen hoe hun persoonlijke informatie wordt gebruikt. Omdat generatieve AI-modellen steeds grotere datasets vereisen, zijn technologiebedrijven zich steeds meer gaan richten op door gebruikers gegenereerde inhoud als bron van trainingsmateriaal.

Het verzet van georganiseerde arbeidsgroepen als SAG-AFTRA toont aan dat de entertainmentindustrie, die voorop heeft gelopen in de debatten over AI en creatieve arbeid, een krachtige kracht blijft in het vormgeven van de manier waarop AI-bedrijven toestemming en compensatie benaderen.

De controverse roept ook vragen op over de naleving van de regelgeving. In de Europese Unie stellen de AI-wet en de Algemene Verordening Gegevensbescherming (AVG) strenge eisen aan toestemming en datagebruik. Meta's automatische opt-in-aanpak zou te maken kunnen krijgen met kritiek van Europese toezichthouders, die steeds assertiever zijn geworden in het afdwingen van gegevensbeschermingsregels tegen grote technologieplatforms.

LA Times merkte op dat de verwijdering specifiek kwam na verzet van de creatieve gemeenschap, waarbij acteurs en artiesten hun bezorgdheid uitten over de mogelijkheid dat hun beeltenissen zonder hun toestemming zouden worden gebruikt in door AI gegenereerde inhoud.

Blijf AI een stap voor

Voor verdere berichtgeving over de AI-industrie (https://aibuzzwire.new) en analyse van de ethische debatten die kunstmatige intelligentie vormgeven, volgt u AI Buzz Wire.

Lees meer AI-nieuws → https://aibuzzwire.news