Een nieuwe studie van MIT-computerwetenschappers, dinsdag gepubliceerd in Nature Communications, levert een bevinding op die het debat over AI-auteursrecht een nieuwe vorm zou kunnen geven: naarmate diffusiemodellen op meer gegevens worden getraind, wordt hun output steeds moeilijker terug te voeren op een specifiek stuk trainingsmateriaal. De onderzoekers noemen het fenomeen 'attributieverval'. Voor lezers die de snel veranderende wereld van generatieve AI volgen, is het artikel een van de meest consequente onderzoeksresultaten die deze week door AI Buzz Wire worden behandeld.

Het artikel, getiteld "Outputs of Generative Diffusion Models are Vaak Unattributable", is geschreven door Zheng Dai en David K. Gifford, beiden verbonden aan het Computer Science and Artificial Intelligence Laboratory (CSAIL) van MIT. Hun centrale vraag was bedrieglijk eenvoudig: wanneer een generatief model een beeld produceert, kun je dan een specifiek item in de trainingsgegevens lokaliseren dat verantwoordelijk is voor die output?

Wat de onderzoekers hebben gevonden

Het antwoord is steeds vaker nee. De onderzoekers laten zien dat attributie – gedefinieerd als de taak van het lokaliseren van een deel van de trainingsgegevens die verantwoordelijk kunnen worden gehouden voor een gegenereerde steekproef – ‘onmogelijk kan worden als een model wordt getraind op een voldoende groot corpus aan gegevens’.

"We ontdekken dat hoe meer gegevens een model traint, hoe minder toewijsbaar de gegenereerde steekproeven worden, een fenomeen dat we voortaan attributieverval noemen", schrijven de auteurs.

Om dit te testen heeft het team een ​​‘ablatie’-methodologie ontwikkeld waarmee specifieke trainingsvoorbeelden uit een reeds getraind model kunnen worden verwijderd zonder dure herscholing. Vervolgens voerden ze grootschalige wat-als-experimenten uit: wat zou het model genereren als een bepaald beeld, of het hele oeuvre van een maker, nooit in de trainingsset was geweest?

In enkele van de meest opvallende resultaten van het onderzoek ontdekten de onderzoekers dat voor modellen die waren getraind op voldoende grote datasets, ze de Mona Lisa – of zelfs al het werk van Leonardo da Vinci – konden verwijderen en het model nog steeds het beeld of de artistieke stijl kon reproduceren. Geen enkel trainingsitem was causaal verantwoordelijk voor de output.

Waarom het belangrijk is bij auteursrechtgeschillen

De bevindingen belanden midden in een actief juridisch slagveld. Diffusiemodellen zoals Midjourney en Stable Diffusion hebben rechtszaken aangespannen van kunstenaars die beweren dat kopieën van hun werk in trainingsgegevens AI-systemen in staat stellen hun output en stijl te reproduceren.

In een lopende auteursrechtzaak uit 2023 hebben Andersen et al. v. Stability AI Ltd. hebben eisers geprobeerd Midjourney te dwingen de datasets openbaar te maken die zijn gebruikt om zijn modellen te trainen. Ze beweren dat Midjourney zijn trainingssets heeft gebouwd "door afbeeldingen te schrappen die verband houden met de namen van specifieke artiesten met het uitdrukkelijke doel om het model in staat te stellen de expressieve inhoud van die artiesten na te bootsen."

De MIT-studie suggereert dat het vaststellen van dergelijke causale verbanden op grote schaal technisch onmogelijk kan zijn. Zoals The Register, dat voor het eerst de details van het onderzoek rapporteerde, opmerkte, lijkt het erop dat het onderzoek AI-regulering eerder moeilijker dan gemakkelijker zal maken – het tegenovergestelde van wat de auteurs hoopten toen ze met het werk begonnen.

De vraag over redelijk gebruik

In het persbericht van MIT betoogt Gifford dat de bevindingen twee kanten op gaan. Als de gegenereerde output niets te maken heeft met een individueel stukje trainingsgegevens, kunnen modellen echt creatief zijn in plaats van alleen maar kopieermachines.

"Dat roept vragen op over redelijk gebruik, over de vraag of de output zelf auteursrechtelijk beschermd is als nieuwe werken, en over hoe auteurs gecompenseerd worden als wat uit een model komt niet toe te schrijven is aan iets op internet", aldus Gifford.

De implicaties reiken verder dan alleen beeldgeneratoren. Diffusiemodellen zijn de dominante architectuur geworden voor het genereren van audiovisuele media en worden steeds vaker gebruikt in wetenschappelijke toepassingen, waaronder het modelleren van eiwitstructuren en therapeutische ontdekkingen. Er zijn ook attributietools voorgesteld voor machinaal afleren, detectie van gegevensvergiftiging, interpreteerbaarheid van modellen, eerlijkheidsaudits en naleving van de privacy.

Een waarschuwing voor startups met attributie

De studie brengt ook een waarschuwing met zich mee voor de groeiende industrie van AI-herkomst- en inhoudverificatietools. De onderzoekers ontdekten dat op gelijkenis gebaseerde attributie – het matchen van gegenereerde resultaten met visueel vergelijkbare trainingsbeelden – valse attributies oplevert in grote trainingsdataregimes.

Met andere woorden: een tool die beweert dat “dit AI-beeld uit de portfolio van die kunstenaar komt” kan eenvoudigweg verkeerd zijn als modellen worden getraind op miljarden afbeeldingen. Voor platforms, rechtbanken en toezichthouders die rekenen op technische attributie om geschillen over de herkomst te beslechten, suggereren de MIT-resultaten dat dergelijke zekerheid buiten bereik kan zijn voor modellen op grensschaal.

Wat komt erna

Er wordt verwacht dat het artikel zal worden geciteerd in lopende rechtszaken en beleidsdebatten, waaronder discussies over de transparantievereisten van de EU AI Act en voorstellen voor compensatiesystemen voor artiesten. Als het verval van de toeschrijving geldt voor de grootste productiemodellen, moeten compensatieregelingen die gebaseerd zijn op het traceren van outputs naar specifieke werken wellicht opnieuw worden ontworpen rond collectieve licentieverlening in plaats van tracking op itemniveau.

Het onderzoek brengt ook een subtiel punt naar voren voor AI-ontwikkelaars: niet-toerekenbaarheid kan feitelijk de argumenten voor redelijk gebruik voor training op het gebied van auteursrechtelijk beschermde gegevens versterken, terwijl tegelijkertijd het vermogen van kunstenaars wordt ondermijnd om specifieke schade door individuele output te bewijzen. Beide partijen in de strijd tegen het auteursrecht zullen iets vinden dat ze in de gegevens kunnen gebruiken.

Blijf AI een stap voor

Ga voor meer baanbrekend AI-onderzoek en -analyse naar AI Buzz Wire voor dagelijkse berichtgeving over de AI-industrie.

Lees meer AI-nieuws →