Studie MIT zjistila, že obrázky generované umělou inteligencí často nelze vysledovat k žádným tréninkovým datům

Nová studie počítačových vědců z MIT zveřejněná v úterý v Nature Communications přináší zjištění, které by mohlo přetvořit debatu o autorských právech na umělou inteligenci: jak se modely difúze trénují na více datech, jejich výstupy je čím dál tím nemožné vysledovat zpět k jakémukoli konkrétnímu výukovému materiálu. Vědci tento jev nazývají „úpadek připisování“. Pro čtenáře, kteří sledují rychle se měnící svět generativní umělé inteligence, je tento článek jedním z nejdůslednějších výsledků výzkumu, který tento týden pokryl AI Buzz Wire.

Příspěvek nazvaný „Výstupy generativních difúzních modelů jsou často nepřiřaditelné“ byl autory Zheng Dai a David K. Gifford, oba přidružení k Computer Science and Artificial Intelligence Laboratory (CSAIL) MIT. Jejich ústřední otázka byla klamně jednoduchá: když generativní model vytváří obrázek, můžete v trénovacích datech najít konkrétní položku, která je zodpovědná za tento výstup?

Co výzkumníci našli

Odpověď je stále více ne. Výzkumníci ukazují, že atribuce – definovaná jako úkol lokalizovat část trénovacích dat, která mohou být zodpovědná za generovaný vzorek – „se může stát nemožným, pokud je model trénován na dostatečně velkém korpusu dat“.

"Zjistili jsme, že čím více dat je model trénován, tím méně se stávají jeho generované vzorky přisuzovatelnými, což je fenomén, který budeme nadále označovat jako úpadek atribuce," píší autoři.

Aby to tým otestoval, vyvinul metodologii „ablace“, která umožňuje odstranit konkrétní příklady školení z již trénovaného modelu bez nákladného přeškolování. Poté provedli rozsáhlé experimenty typu „co kdyby“: co by model vytvořil, kdyby konkrétní obrázek nebo celé dílo tvůrce nikdy nebyly v tréninkové sadě?

V některých z nejpozoruhodnějších výsledků studie vědci zjistili, že u modelů trénovaných na dostatečně velkých souborech dat mohli odstranit Monu Lisu - nebo dokonce celou práci Leonarda da Vinciho - a model mohl stále reprodukovat obrázek nebo umělecký styl. Žádná jednotlivá tréninková položka nebyla kauzálně zodpovědná za výstup.

Proč záleží na sporu o porušení autorských práv

Nálezy přistanou uprostřed aktivního právního bojiště. Difúzní modely, jako je Midjourney a Stable Diffusion, přilákaly žaloby umělců, kteří tvrdí, že kopie jejich práce v tréninkových datech umožňují systémům umělé inteligence reprodukovat jejich výstup a styl.

V jednom probíhajícím případu autorských práv z roku 2023 Andersen a spol. v. Stability AI Ltd. se žalobci pokoušeli přinutit Midjourney, aby zveřejnila datové sady používané k trénování jejích modelů. Tvrdí, že Midjourney postavila své tréninkové sady "vyškrábáním obrázků spojených se jmény konkrétních umělců za účelem umožnit svému modelu napodobit expresivní obsah těchto umělců."

Studie MIT naznačuje, že stanovení takových příčinných souvislostí může být v měřítku technicky nemožné. Jak poznamenal The Register, který jako první informoval o podrobnostech studie, zdá se, že výzkum pravděpodobně zkomplikuje regulaci umělé inteligence spíše než usnadní – opak toho, v co autoři doufali, když začali pracovat.

Otázka fair use

V tiskové zprávě MIT Gifford tvrdí, že zjištění jsou omezena oběma způsoby. Pokud generované výstupy nemají nic společného s jednotlivými trénovacími daty, modely mohou být skutečně kreativní spíše než pouhé kopírovací stroje.

"To vyvolává otázky o fair use, o tom, zda jsou výstupy samy o sobě chráněny autorským právem jako nová díla, a o tom, jak jsou autoři kompenzováni, když to, co vzejde z modelu, nelze přičíst ničemu na internetu," řekl Gifford.

Důsledky přesahují rámec generátorů obrázků. Difúzní modely se staly dominantní architekturou pro generování audiovizuálních médií a stále více se používají ve vědeckých aplikacích, včetně modelování proteinové struktury a terapeutického objevu. Nástroje atribuce byly také navrženy pro strojové odnaučení, detekci otravy dat, interpretovatelnost modelu, audity férovosti a dodržování zásad ochrany osobních údajů.

Varování pro začínající atribuční firmy

Studie také přináší varování pro rostoucí odvětví původu AI a nástrojů pro ověřování obsahu. Výzkumníci zjistili, že atribuce založená na podobnosti – porovnávání generovaných výstupů s vizuálně podobnými tréninkovými obrázky – vytváří falešné atribuce ve velkých režimech tréninkových dat.

Jinými slovy, nástroj, který tvrdí, že „tento obrázek AI pochází z portfolia tohoto umělce“, může být jednoduše nesprávný, když jsou modely trénovány na miliardách obrázků. Pro platformy, soudy a regulační orgány, které při řešení sporů o provenienci spoléhají na technickou atribuci, výsledky MIT naznačují, že taková jistota může být pro modely v hraničním měřítku nedosažitelná.

Co přijde dál

Očekává se, že tento dokument bude citován v probíhajících soudních sporech a politických debatách, včetně diskusí o požadavcích na transparentnost zákona EU AI Act a návrzích systémů odměňování umělců. Pokud u největších produkčních modelů platí úpadek atribuce, může být nutné přepracovat kompenzační schémata založená na sledování výstupů ke konkrétním dílům, a to spíše na základě kolektivního licencování než sledování na úrovni položek.

Studie také vyvolává jemný bod pro vývojáře AI: nepřisuzovatelnost může ve skutečnosti posílit argumenty fair use pro školení o datech chráněných autorskými právy a současně podkopávat schopnost umělců prokázat konkrétní poškození z jednotlivých výstupů. Obě strany boje o autorská práva si v datech najdou něco k využití.

Udržujte si náskok před AI

Další průlomové výzkumy a analýzy AI najdete na AI Buzz Wire, kde najdete denní zpravodajství o průmyslu AI.

Přečtěte si další zprávy o AI →