Meta odstranila svou kontroverzní funkci Muse Image AI z Instagramu jen pár dní po uvedení na trh a přiznala, že tento nástroj „nedosáhl cíle“ po intenzivním odporu ze strany hollywoodských odborů, talentových agentur a obhájců soukromí kvůli jeho návrhu automatického opt-in.
Tato funkce, která používala fotografie a obsah uživatelů Instagramu ke generování obrázků AI bez nutnosti výslovného souhlasu, vyvolala okamžitý požár, když byla poprvé v týdnu uvedena. Uživatelé zjistili, že byli automaticky zaregistrováni do programu a jejich osobní fotografie se staly tréninkovým krmivem pro model generování obrázků Meta.
SAG-AFTRA a CAA vedou náboj
Mezi nejhlasitější kritiky patřila americká federace televizních a rozhlasových umělců Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA), která naléhala na své členy a všechny uživatele Instagramu, aby se z této funkce odhlásili. Unie vydala prohlášení, ve kterém vyzvala lidi, aby „podnikli kroky k ochraně vaší podoby“, což odráží hluboké obavy v zábavním průmyslu ohledně nástrojů AI, které mohou replikovat a manipulovat s obrázky umělců bez náhrady nebo souhlasu.
Creative Artists Agency (CAA), jedna z nejmocnějších talentových agentur v Hollywoodu, tuto funkci také odsoudila. Podle Deadline obě organizace „zlikvidovaly nástroj“ ve veřejných prohlášeních, čímž zesílily tlak na Meta, aby znovu zvážila zavedení.
Odpor organizací zábavního průmyslu má zvláštní váhu pro Meta, která pracuje na budování vztahů s hollywoodskými tvůrci a studii pro své iniciativy smíšené reality a AI.
Kontroverze o opt-in
Jádro sporu se soustředilo na rozhodnutí Meta automaticky zapsat uživatele do školicího programu AI namísto toho, aby se museli výslovně přihlásit. To znamenalo, že milionům uživatelů Instagramu se jejich fotografie vkládaly do generátoru obrázků Muse bez jejich vědomí nebo souhlasu.
Společnost Axios uvedla, že tato funkce vyvolala požár konkrétně kvůli problému se souhlasem, přičemž kritici argumentovali, že přístup Meta porušuje základní principy autonomie uživatelů a ochrany dat. Zastánci ochrany osobních údajů poznamenali, že zatímco Meta poskytuje mechanismus pro odhlášení, břemeno bylo plně na uživateli, aby objevili a procházeli nastavení.
Shacknews oznámila, že Meta pozastavila funkci obrázků Instagram Muse AI po pouhých třech dnech trvalého odporu, což z ní dělá jeden z nejrychlejších obratů společnosti v nedávné paměti.
Odpověď Meta
V prohlášení, které uznalo negativní reakci, Meta uvedla, že tato funkce se podle Deadline a TheWrap „minula cíle“. Společnost tuto funkci spíše deaktivovala, než aby jednoduše upravila mechanismus přihlášení, což naznačuje, že základní design byl příliš chybný, než aby jej bylo možné zachránit ve své současné podobě.
Není to poprvé, co Meta čelí kritice kvůli svým iniciativám AI. Společnost již dříve na začátku července spustila svůj první vlastní generátor obrázků AI, Muse Image, na Instagramu a WhatsApp. Toto počáteční spuštění se setkalo s opatrným zájmem, ale následné přidání automatického zápisu fotografií pro účely školení překročilo hranici pro mnoho uživatelů a průmyslových organizací.
Širší důsledky pro umělou inteligenci a souhlas
Incident poukazuje na rostoucí napětí v odvětví umělé inteligence mezi hladem společností po školicích datech a právy uživatelů kontrolovat, jak jsou používány jejich osobní údaje. Vzhledem k tomu, že generativní modely umělé inteligence vyžadují stále větší soubory dat, technologické společnosti se stále více obracejí na obsah vytvářený uživateli jako na zdroj školicích materiálů.
Odpor od organizovaných dělnických skupin, jako je SAG-AFTRA, ukazuje, že zábavní průmysl, který stál v popředí debat o AI a kreativní práci, zůstává mocnou silou při utváření toho, jak společnosti AI přistupují k souhlasu a kompenzaci.
Kontroverze také vyvolává otázky ohledně dodržování předpisů. V Evropské unii stanoví zákon o umělé inteligenci a obecné nařízení o ochraně osobních údajů (GDPR) přísné požadavky na souhlas a používání dat. Automatický opt-in přístup Meta by mohl čelit kontrole ze strany evropských regulačních orgánů, které jsou stále asertivnější při prosazování pravidel ochrany dat proti hlavním technologickým platformám.
LA Times poznamenal, že odstranění přišlo konkrétně po odporu ze strany kreativní komunity, kdy herci a umělci vyjádřili znepokojení nad potenciálem, že jejich podobizny mohou být použity v obsahu generovaném umělou inteligencí bez jejich svolení.
Udržujte si náskok před AI
Chcete-li pokračovat v pokrytí odvětví AI a analyzovat etické debaty utvářející umělou inteligenci, sledujte AI Buzz Wire.
Přečtěte si další zprávy o AI → https://aibuzzwire.news
