Sebuah studi baru dari ilmuwan komputer MIT yang diterbitkan di Nature Communications pada hari Selasa memberikan temuan yang dapat mengubah perdebatan mengenai hak cipta AI: ketika model difusi dilatih pada lebih banyak data, keluarannya menjadi semakin mustahil untuk ditelusuri kembali ke materi pelatihan tertentu. Para peneliti menyebut fenomena ini sebagai “peluruhan atribusi”. Bagi pembaca yang menelusuri dunia AI generatif yang bergerak cepat, makalah ini adalah salah satu hasil penelitian penting yang dibahas minggu ini oleh AI Buzz Wire.
Makalah yang berjudul "Keluaran Model Difusi Generatif Seringkali Tidak Dapat Diatribusikan" ditulis oleh Zheng Dai dan David K. Gifford, keduanya berafiliasi dengan Laboratorium Ilmu Komputer dan Kecerdasan Buatan (CSAIL) MIT. Pertanyaan utama mereka tampak sederhana: ketika model generatif menghasilkan gambar, dapatkah Anda menemukan item tertentu dalam data pelatihan yang bertanggung jawab atas keluaran tersebut?
Apa yang Ditemukan Peneliti
Jawabannya semakin lama semakin tidak. Para peneliti menunjukkan bahwa atribusi – yang didefinisikan sebagai tugas untuk menemukan bagian dari data pelatihan yang dianggap bertanggung jawab atas sampel yang dihasilkan – “dapat menjadi tidak mungkin jika model dilatih pada kumpulan data yang cukup besar.”
“Kami menemukan bahwa semakin banyak data yang dilatihkan pada model, semakin sedikit sampel yang dihasilkan yang dapat diatribusikan, sebuah fenomena yang selanjutnya kami sebut sebagai peluruhan atribusi,” tulis para penulis.
Untuk menguji hal ini, tim mengembangkan metodologi "ablasi" yang memungkinkan contoh pelatihan spesifik dihapus dari model yang sudah dilatih tanpa pelatihan ulang yang mahal. Mereka kemudian menjalankan eksperimen bagaimana-jika dalam skala besar: apa yang akan dihasilkan model jika gambar tertentu, atau seluruh karya pencipta, tidak pernah dimasukkan ke dalam set pelatihan?
Dalam beberapa hasil penelitian yang paling mencolok, para peneliti menemukan bahwa untuk model yang dilatih pada kumpulan data yang cukup besar, mereka dapat menghapus Mona Lisa – atau bahkan seluruh karya Leonardo da Vinci – dan model tersebut masih dapat mereproduksi gambar atau gaya artistiknya. Tidak ada satu pun item pelatihan yang bertanggung jawab atas keluarannya.
Mengapa Penting untuk Litigasi Hak Cipta
Temuan ini berada di tengah medan pertempuran hukum yang aktif. Model difusi seperti Midjourney dan Stable Diffusion telah menarik tuntutan hukum dari para seniman yang berpendapat bahwa salinan karya mereka dalam data pelatihan memungkinkan sistem AI mereproduksi keluaran dan gaya mereka.
Dalam satu kasus hak cipta yang sedang berlangsung pada tahun 2023, Andersen dkk. v. Stability AI Ltd., penggugat telah mencoba memaksa Midjourney untuk mengungkapkan kumpulan data yang digunakan untuk melatih modelnya. Mereka menuduh Midjourney membangun set pelatihannya "dengan mengambil gambar yang terkait dengan nama artis tertentu dengan tujuan memungkinkan modelnya meniru konten ekspresif artis tersebut."
Studi MIT menunjukkan bahwa membangun hubungan sebab akibat seperti itu mungkin secara teknis tidak mungkin dilakukan dalam skala besar. Seperti yang dicatat oleh The Register, yang pertama kali melaporkan rincian penelitian tersebut, penelitian ini tampaknya akan membuat regulasi AI menjadi lebih sulit, bukannya lebih mudah – kebalikan dari apa yang penulis harapkan ketika mereka memulai penelitian ini.
Pertanyaan Penggunaan Wajar
Dalam siaran pers MIT, Gifford berpendapat bahwa temuan ini bersifat dua arah. Jika keluaran yang dihasilkan tidak ada hubungannya dengan data pelatihan apa pun, model mungkin benar-benar kreatif, bukan sekadar mesin penyalin.
“Hal ini menimbulkan pertanyaan tentang penggunaan wajar, tentang apakah keluarannya dapat dilindungi hak cipta sebagai karya baru, dan tentang bagaimana penulis mendapatkan kompensasi ketika apa yang dihasilkan dari sebuah model tidak dapat dikaitkan dengan apa pun di internet,” kata Gifford.
Implikasinya melampaui generator gambar. Model difusi telah menjadi arsitektur dominan untuk menghasilkan media audiovisual dan semakin banyak digunakan dalam aplikasi ilmiah, termasuk pemodelan struktur protein dan penemuan terapeutik. Alat atribusi juga telah diusulkan untuk penghentian pembelajaran mesin, deteksi keracunan data, interpretasi model, audit keadilan, dan kepatuhan privasi.
Peringatan untuk Startup Atribusi
Studi ini juga memberikan peringatan bagi industri asal AI dan alat verifikasi konten yang sedang berkembang. Para peneliti menemukan bahwa atribusi berbasis kesamaan – mencocokkan keluaran yang dihasilkan dengan gambar pelatihan yang serupa secara visual – menghasilkan atribusi yang salah dalam rezim data pelatihan yang besar.
Dengan kata lain, alat yang mengklaim "gambar AI ini berasal dari portofolio artis tersebut" mungkin salah jika model dilatih pada miliaran gambar. Bagi platform, pengadilan, dan regulator yang mengandalkan atribusi teknis untuk menyelesaikan sengketa asal usulnya, hasil MIT menunjukkan bahwa kepastian tersebut mungkin di luar jangkauan model skala perbatasan.
Apa yang Terjadi Selanjutnya
Makalah ini diharapkan dapat dikutip dalam litigasi dan perdebatan kebijakan yang sedang berlangsung, termasuk diskusi seputar persyaratan transparansi UU AI UE dan proposal untuk sistem kompensasi artis. Jika peluruhan atribusi terjadi pada model produksi terbesar, skema kompensasi yang didasarkan pada penelusuran keluaran ke karya tertentu mungkin perlu dirancang ulang berdasarkan perizinan kolektif, bukan pelacakan tingkat item.
Studi ini juga mengangkat poin halus bagi para pengembang AI: sifat tidak dapat diatribusikan mungkin sebenarnya memperkuat argumen penggunaan wajar untuk pelatihan mengenai data yang dilindungi hak cipta, sekaligus melemahkan kemampuan seniman untuk membuktikan kerugian tertentu dari keluaran individu. Kedua belah pihak yang berselisih hak cipta akan menemukan sesuatu untuk digunakan dalam data tersebut.
Tetap Terdepan dalam AI
Untuk penelitian dan analisis AI terkini, kunjungi AI Buzz Wire untuk liputan harian industri AI.
Baca berita AI selengkapnya →
