En ny studie från MIT-datavetare publicerad i Nature Communications på tisdagen ger ett fynd som kan omforma debatten om AI-upphovsrätt: när spridningsmodeller tränas på mer data, blir deras utdata allt mer omöjliga att spåra tillbaka till något specifikt utbildningsmaterial. Forskarna kallar fenomenet "attributionsförfall". För läsare som spårar den snabbrörliga världen av generativ AI, är tidningen ett av de mer följdriktiga forskningsresultaten som täcks denna vecka av AI Buzz Wire.
Uppsatsen, med titeln "Outputs of Generative Diffusion Models are Often Unattributable", skrevs av Zheng Dai och David K. Gifford, båda anslutna till MIT:s datavetenskap och artificiell intelligens Laboratory (CSAIL). Deras centrala fråga var bedrägligt enkel: när en generativ modell producerar en bild, kan du hitta ett specifikt objekt i träningsdatan som är ansvarig för den utdatan?
Vad forskarna hittade
Svaret är i allt högre grad nej. Forskarna visar att tillskrivning – definierad som uppgiften att lokalisera en del av träningsdata som kan hållas ansvarig för ett genererat urval – "kan bli omöjligt om en modell tränas på en tillräckligt stor datasamling."
"Vi finner att ju mer data en modell tränas på, desto mindre hänförbara blir dess genererade sampel, ett fenomen som vi hädanefter kallar attributionsförfall", skriver författarna.
För att testa detta utvecklade teamet en "ablations"-metod som gör att specifika träningsexempel kan tas bort från en redan utbildad modell utan kostsam omskolning. De körde sedan storskaliga vad-om-experiment: vad skulle modellen generera om en viss bild, eller en hel skapares verk, aldrig hade varit med i träningsuppsättningen?
I några av studiens mest slående resultat fann forskarna att för modeller tränade på tillräckligt stora datamängder kunde de ta bort Mona Lisa – eller till och med hela Leonardo da Vincis arbete – och modellen kunde fortfarande återge bilden eller den konstnärliga stilen. Inget enskilt utbildningsobjekt var kausalt ansvarigt för resultatet.
Varför det är viktigt för upphovsrättstvister
Fynden landar mitt i ett aktivt juridiskt slagfält. Diffusionsmodeller som Midjourney och Stable Diffusion har väckt stämningar från artister som hävdar att kopior av deras arbete med träningsdata tillåter AI-system att reproducera sin produktion och stil.
I ett pågående upphovsrättsfall från 2023 har Andersen et al. v. Stability AI Ltd., har käranden försökt tvinga Midjourney att avslöja de datauppsättningar som används för att träna sina modeller. De hävdar att Midjourney byggde sina träningsset "genom att skrapa bilder associerade med specifika artisters namn i det uttryckliga syftet att göra det möjligt för dess modell att efterlikna dessa artisters uttrycksfulla innehåll."
MIT-studien tyder på att upprättande av sådana orsakssamband kan vara tekniskt omöjligt i skala. Som The Register, som först rapporterade studiens detaljer, noterade, verkar forskningen sannolikt göra AI-reglering svårare snarare än lättare - motsatsen till vad författarna hoppades när de började arbetet.
Fair Use-frågan
I MIT:s pressmeddelande hävdar Gifford att resultaten skär åt båda hållen. Om genererade utdata inte har något att göra med någon enskild del av träningsdata, kan modeller vara genuint kreativa snarare än bara kopieringsmaskiner.
"Det väcker frågor om skälig användning, om huruvida produktionen i sig är upphovsrättsskyddad som romanverk, och om hur författare får kompensation när det som kommer ut ur en modell inte kan tillskrivas någonting på internet," sa Gifford.
Implikationerna sträcker sig bortom bildgeneratorer. Diffusionsmodeller har blivit den dominerande arkitekturen för att generera audiovisuella medier och används i allt större utsträckning i vetenskapliga tillämpningar, inklusive proteinstrukturmodellering och terapeutisk upptäckt. Tillskrivningsverktyg har också föreslagits för maskinavlärning, upptäckt av dataförgiftning, modelltolkbarhet, rättvisa granskningar och integritetsefterlevnad.
En varning för attributionsstarter
Studien innehåller också en varning för den växande industrin av AI-härkomst och verktyg för innehållsverifiering. Forskarna fann att likhetsbaserad tillskrivning – matchning av genererade utdata till visuellt liknande träningsbilder – ger falska tillskrivningar i stora träningsdataregimer.
Med andra ord kan ett verktyg som hävdar att "den här AI-bilden kom från den konstnärens portfölj" helt enkelt vara fel när modeller tränas på miljarder bilder. För plattformar, domstolar och tillsynsmyndigheter som räknar med teknisk tillskrivning för att lösa tvister om härkomst, tyder MIT-resultaten på att sådan säkerhet kan vara utom räckhåll för modeller i gränsskala.
Vad kommer härnäst
Uppsatsen förväntas citeras i pågående rättstvister och politiska debatter, inklusive diskussioner kring EU:s AI Acts krav på öppenhet och förslag till system för artistersättning. Om tillskrivningsförfallet gäller för de största produktionsmodellerna, kan kompensationssystem baserade på spårning av utdata till specifika verk behöva omformas kring kollektiv licensiering snarare än spårning på artikelnivå.
Studien lyfter också upp en subtil poäng för AI-utvecklare: otillskrivningsbarhet kan faktiskt stärka argumenten för skälig användning för utbildning på upphovsrättsskyddad data, samtidigt som det undergräver artisters förmåga att bevisa specifik skada från individuella utdata. Båda sidor av upphovsrättsstriden kommer att hitta något att använda i data.
Ligg före AI
För mer banbrytande AI-forskning och analys, besök AI Buzz Wire för daglig bevakning av AI-branschen.
Läs mer AI-nyheter →
