Studiul MIT descoperă că imaginile generate de inteligența artificială nu pot fi deseori urmărite la nicio dată de antrenament

Un nou studiu al oamenilor de știință în domeniul informaticii MIT, publicat marți în Nature Communications, oferă o descoperire care ar putea remodela dezbaterea asupra drepturilor de autor AI: pe măsură ce modelele de difuzare sunt antrenate pe mai multe date, rezultatele lor devin din ce în ce mai imposibil de urmărit până la orice material specific de instruire. Cercetătorii numesc fenomenul „decadere a atribuirii”. Pentru cititorii care urmăresc lumea în mișcare rapidă a IA generativă, lucrarea este unul dintre rezultatele cercetării cele mai importante acoperite în această săptămână de AI Buzz Wire.

Lucrarea, intitulată „Outputs of Generative Diffusion Models are Often Unattributable”, a fost scrisă de Zheng Dai și David K. Gifford, ambii afiliați la MIT’s Computer Science and Artificial Intelligence Laboratory (CSAIL). Întrebarea lor centrală a fost înșelător de simplă: atunci când un model generativ produce o imagine, puteți localiza un anumit element în datele de antrenament care este responsabil pentru acea ieșire?

Ce au descoperit cercetătorii

Răspunsul, din ce în ce mai mult, este nu. Cercetătorii arată că atribuirea – definită ca sarcina de a localiza o parte din datele de antrenament care poate fi considerată responsabilă pentru un eșantion generat – „poate deveni imposibilă dacă un model este antrenat pe un corp suficient de mare de date”.

„Găsim că, cu cât este antrenat un model mai multe date, cu atât eșantioanele sale generate devin mai puțin atribuibile, un fenomen la care de acum înainte ne referim ca dezintegrare a atribuirii”, scriu autorii.

Pentru a testa acest lucru, echipa a dezvoltat o metodologie de „ablație” care permite ca exemplele specifice de antrenament să fie eliminate dintr-un model deja antrenat fără o recalificare costisitoare. Apoi au desfășurat experimente pe scară largă: ce ar genera modelul dacă o anumită imagine sau întregul corp de lucru al unui creator nu ar fi fost niciodată în setul de antrenament?

În unele dintre cele mai izbitoare rezultate ale studiului, cercetătorii au descoperit că, pentru modelele antrenate pe seturi de date suficient de mari, ar putea elimina Mona Lisa - sau chiar toată opera lui Leonardo da Vinci - și modelul ar putea reproduce în continuare imaginea sau stilul artistic. Niciun element de instruire nu a fost responsabil cauzal pentru rezultat.

De ce este important pentru litigiile privind drepturile de autor

Descoperirile aterizează în mijlocul unui câmp de luptă juridic activ. Modelele de difuzare precum Midjourney și Stable Diffusion au atras procese din partea artiștilor care susțin că copiile muncii lor în datele de antrenament permit sistemelor AI să-și reproducă producția și stilul.

Într-un caz în curs de desfășurare a drepturilor de autor din 2023, Andersen și colab. v. Stability AI Ltd., reclamanții au încercat să forțeze Midjourney să dezvăluie seturile de date utilizate pentru a-și antrena modelele. Ei susțin că Midjourney și-a construit seturile de antrenament „prin răzuirea imaginilor asociate cu numele anumitor artiști în scopul expres de a permite modelului său să imite conținutul expresiv al acelor artiști”.

Studiul MIT sugerează că stabilirea unor astfel de legături cauzale poate fi imposibilă din punct de vedere tehnic la scară. După cum a remarcat The Register, care a raportat pentru prima dată detaliile studiului, cercetarea pare să facă mai dificilă reglementarea AI decât mai ușoară – opusul a ceea ce au sperat autorii când au început munca.

Întrebarea privind utilizarea corectă

În comunicatul de presă al MIT, Gifford susține că descoperirile au fost afectate în ambele sensuri. Dacă rezultatele generate nu au nimic de-a face cu nicio bucată individuală de date de antrenament, modelele pot fi cu adevărat creative, mai degrabă decât simple mașini de copiat.

„Aceasta ridică semne de întrebare despre utilizarea loială, despre dacă rezultatele sunt ele însele protejate prin drepturi de autor ca lucrări noi și despre modul în care autorii sunt compensați atunci când ceea ce iese dintr-un model nu este atribuit nimic pe internet”, a spus Gifford.

Implicațiile se extind dincolo de generatoarele de imagini. Modelele de difuzie au devenit arhitectura dominantă pentru generarea media audiovizuală și sunt din ce în ce mai utilizate în aplicații științifice, inclusiv modelarea structurii proteinelor și descoperirea terapeutică. Au fost propuse, de asemenea, instrumente de atribuire pentru dezînvățarea automată, detectarea otrăvirii datelor, interpretabilitatea modelului, auditurile de corectitudine și respectarea confidențialității.

Un avertisment pentru startup-urile de atribuire

Studiul prezintă, de asemenea, o atenție pentru industria în creștere a provenienței AI și a instrumentelor de verificare a conținutului. Cercetătorii au descoperit că atribuirea bazată pe similitudine - potrivirea rezultatelor generate cu imagini de antrenament similare vizual - produce atribuții false în regimuri mari de date de antrenament.

Cu alte cuvinte, un instrument care susține că „această imagine AI provine din portofoliul acelui artist” poate fi pur și simplu greșit atunci când modelele sunt antrenate pe miliarde de imagini. Pentru platformele, instanțele și autoritățile de reglementare care se bazează pe atribuirea tehnică pentru a soluționa litigiile de proveniență, rezultatele MIT sugerează că o astfel de certitudine ar putea fi inaccesabilă pentru modelele la scară de frontieră.

Ce urmează

Este de așteptat ca documentul să fie citat în litigiile și dezbaterile de politică aflate în desfășurare, inclusiv discuții despre cerințele de transparență ale Actului UE AI și propuneri pentru sistemele de compensare a artiștilor. Dacă scăderea atribuirii este valabilă pentru cele mai mari modele de producție, schemele de compensare bazate pe urmărirea rezultatelor la anumite lucrări ar putea fi nevoite să fie reproiectate în jurul licențelor colective, mai degrabă decât a urmăririi la nivel de articol.

Studiul ridică, de asemenea, un punct subtil pentru dezvoltatorii de inteligență artificială: neatribubilitatea poate întări, de fapt, argumentele de utilizare loială pentru instruirea privind datele protejate prin drepturi de autor, subminând în același timp capacitatea artiștilor de a dovedi un prejudiciu specific din rezultatele individuale. Ambele părți ale luptei pentru drepturile de autor vor găsi ceva de folosit în date.

Rămâi înaintea AI

Pentru mai multe cercetări și analize de ultimă oră, vizitați AI Buzz Wire pentru acoperirea zilnică a industriei AI.

Citiți mai multe știri AI →