Badanie MIT wykazało, że obrazów generowanych przez sztuczną inteligencję często nie da się powiązać z żadnymi danymi treningowymi

Nowe badanie informatyków z MIT opublikowane we wtorek w Nature Communications dostarcza wniosków, które mogą zmienić kształt debaty na temat praw autorskich do sztucznej inteligencji: w miarę trenowania modeli dyfuzyjnych na większej liczbie danych coraz trudniej jest prześledzić ich wyniki w jakimkolwiek konkretnym materiale szkoleniowym. Naukowcy nazywają to zjawisko „zanikiem atrybucji”. Dla czytelników śledzących szybko zmieniający się świat generatywnej sztucznej inteligencji ten artykuł jest jednym z ważniejszych wyników badań opisanych w tym tygodniu w AI Buzz Wire.

Autorami artykułu zatytułowanego „Wyniki modeli dyfuzji generatywnej są często nieprzypisane” są Zheng Dai i David K. Gifford, obaj związani z Laboratorium Informatyki i Sztucznej Inteligencji (CSAIL) MIT. Ich główne pytanie było zwodniczo proste: kiedy model generatywny tworzy obraz, czy można zlokalizować w danych szkoleniowych konkretny element odpowiedzialny za ten wynik?

Co odkryli naukowcy

Odpowiedź coraz częściej brzmi: nie. Naukowcy pokazują, że atrybucja – zdefiniowana jako zadanie polegające na zlokalizowaniu części danych uczących, które można pociągnąć do odpowiedzialności za wygenerowaną próbkę – „może stać się niemożliwa, jeśli model zostanie wytrenowany na wystarczająco dużym zbiorze danych”.

„Odkryliśmy, że im więcej danych uczonych jest w modelu, tym mniej można przypisać wygenerowane próbki, co nazywamy odtąd zanikiem atrybucji” – piszą autorzy.

Aby to przetestować, zespół opracował metodologię „ablacji”, która umożliwia usunięcie konkretnych przykładów szkoleniowych z już wytrenowanego modelu bez kosztownego przekwalifikowania. Następnie przeprowadzili zakrojone na szeroką skalę eksperymenty typu „co by było, gdyby”: co wygenerowałby model, gdyby konkretny obraz lub cały dorobek twórcy nigdy nie znajdował się w zestawie treningowym?

Niektóre z najbardziej uderzających wyników badania wykazały, że w przypadku modeli przeszkolonych na wystarczająco dużych zbiorach danych można było usunąć Mona Lisę – a nawet całe dzieło Leonarda da Vinci – a model nadal mógł odtworzyć obraz lub styl artystyczny. Żaden pojedynczy element szkolenia nie był przyczynowo odpowiedzialny za wynik.

Dlaczego ma to znaczenie w sporach dotyczących praw autorskich

Odkrycia trafiają w sam środek aktywnego pola bitwy prawnej. Modele dyfuzji, takie jak Midjourney i Stable Diffusion, przyciągnęły pozwy artystów, którzy twierdzą, że kopie ich pracy w danych szkoleniowych umożliwiają systemom sztucznej inteligencji reprodukcję ich wyników i stylu.

W jednej toczącej się sprawie dotyczącej praw autorskich z 2023 r. Andersen i in. przeciwko Stability AI Ltd. powodowie próbowali zmusić Midjourney do ujawnienia zbiorów danych wykorzystywanych do uczenia swoich modeli. Twierdzą, że Midjourney zbudowało swoje zestawy szkoleniowe „poprzez zeskrobywanie obrazów skojarzonych z nazwiskami konkretnych artystów w wyraźnym celu umożliwienia modelowi naśladowania ekspresyjnych treści tych artystów”.

Badanie MIT sugeruje, że ustalenie takich powiązań przyczynowych może być technicznie niemożliwe na dużą skalę. Jak zauważył dziennik The Register, który jako pierwszy podał szczegóły badania, wygląda na to, że badanie prawdopodobnie utrudni, a nie ułatwi regulację sztucznej inteligencji – co jest sprzeczne z oczekiwaniami autorów, rozpoczynając prace.

Pytanie dotyczące dozwolonego użytku

W komunikacie prasowym MIT Gifford argumentuje, że ustalenia działają w obie strony. Jeśli wygenerowane wyniki nie mają nic wspólnego z pojedynczym fragmentem danych szkoleniowych, modele mogą być naprawdę kreatywne, a nie tylko kopiować maszyny.

„Rodzi to pytania dotyczące dozwolonego użytku, tego, czy wyniki same w sobie podlegają prawu autorskiemu jako dzieła nowatorskie, a także tego, w jaki sposób autorzy otrzymują wynagrodzenie, gdy tego, co wyjdzie z modelu, nie można przypisać żadnemu niczemu w Internecie” – stwierdził Gifford.

Konsekwencje wykraczają poza generatory obrazów. Modele dyfuzyjne stały się dominującą architekturą generowania mediów audiowizualnych i są coraz częściej wykorzystywane w zastosowaniach naukowych, w tym w modelowaniu struktury białek i odkryciach terapeutycznych. Zaproponowano również narzędzia atrybucji do oduczania maszyn, wykrywania zatruć danych, interpretacji modeli, audytów uczciwości i zgodności z prywatnością.

Ostrzeżenie dla start-upów korzystających z atrybucji

Badanie niesie również przestrogę dla rozwijającej się branży narzędzi do weryfikacji pochodzenia sztucznej inteligencji i treści. Naukowcy odkryli, że atrybucja oparta na podobieństwie — dopasowywanie wygenerowanych wyników do wizualnie podobnych obrazów szkoleniowych — prowadzi do fałszywych atrybucji w dużych systemach danych szkoleniowych.

Innymi słowy, narzędzie twierdzące, że „ten obraz AI pochodzi z portfolio tego artysty” może po prostu być błędne, gdy modele są szkolone na miliardach obrazów. W przypadku platform, sądów i organów regulacyjnych, które liczą na atrybucję techniczną w celu rozstrzygania sporów dotyczących pochodzenia, wyniki MIT sugerują, że taka pewność może być poza zasięgiem modeli w skali granicznej.

Co będzie dalej

Oczekuje się, że artykuł będzie cytowany w toczących się sporach sądowych i debatach politycznych, w tym w dyskusjach na temat wymogów przejrzystości wynikających z unijnej ustawy o sztucznej inteligencji oraz propozycji dotyczących systemów wynagrodzeń artystów. Jeśli w przypadku największych modeli produkcji obowiązuje rozkład atrybucji, może zaistnieć potrzeba przeprojektowania systemów wynagrodzeń opartych na śledzeniu wyników do konkretnych dzieł w oparciu o licencjonowanie zbiorowe, a nie śledzenie na poziomie elementu.

Badanie podnosi również subtelną kwestię dla twórców sztucznej inteligencji: brak możliwości przypisania może w rzeczywistości wzmocnić argumenty dotyczące dozwolonego użytku w przypadku szkoleń na temat danych chronionych prawem autorskim, jednocześnie podważając zdolność artystów do udowodnienia konkretnej szkody wynikającej z poszczególnych wyników. Obie strony sporu o prawa autorskie znajdą coś do wykorzystania w danych.

Wyprzedź sztuczną inteligencję

Aby uzyskać więcej przełomowych badań i analiz dotyczących sztucznej inteligencji, odwiedź AI Buzz Wire, gdzie znajdziesz codzienne relacje z branży sztucznej inteligencji.

Przeczytaj więcej aktualności o sztucznej inteligencji →