Tanda Air SynthID Google Bertahan dari Uji Stres Brutal, Namun Tidak Akan Mengatasi Misinformasi AI

Saat media yang dihasilkan AI membanjiri internet, teknologi watermarking SynthID Google telah muncul sebagai salah satu alat paling menonjol untuk membedakan konten asli dari gambar sintetis. Sebuah stress test baru yang ketat menegaskan bahwa tanda air yang tidak terlihat ini sangat tahan lama, bertahan dari ratusan putaran kompresi, pengubahan ukuran, dan bahkan tangkapan layar, namun hasil ini juga menggarisbawahi kebenaran yang lebih sulit: label teknis saja tidak mungkin menyelesaikan krisis disinformasi AI yang semakin meningkat. Untuk pelaporan berkelanjutan mengenai perkembangan AI terbaru, temuan ini menandai titik pemeriksaan penting dalam perdebatan asal usul konten.

Skala masalahnya sulit untuk dilebih-lebihkan. Starling Lab, sebuah penelitian kolaborasi antara Stanford University dan University of Southern California, memperkirakan dibutuhkan waktu hingga tahun 1975, 149 tahun setelah penemuan kamera, bagi umat manusia untuk menghasilkan 1,5 miliar gambar. AI generatif menyamai output tersebut hanya dalam 18 bulan. Pada konferensi I/O tahun ini, Google mengumumkan bahwa alatnya sendiri telah digunakan untuk membuat lebih dari 100 miliar gambar dan video AI dalam beberapa tahun.

Cara Kerja SynthID

Saat ini ada dua pendekatan utama untuk memberi label pada konten yang dihasilkan AI: tanda air yang tidak terlihat seperti SynthID dan skema metadata seperti standar Coalition for Content Provenance and Authenticity (C2PA). Google menggunakan keduanya. C2PA aman secara kriptografis dan tidak dapat dipalsukan, namun mudah untuk dilucuti. Cukup mengedit dan menyimpan gambar, atau mengambil tangkapan layar, dapat menghapus metadata C2PA sepenuhnya.

SynthID mengambil pendekatan yang berbeda. Daripada mengandalkan metadata yang ada di samping file, tanda air dikodekan langsung ke dalam piksel gambar atau video, atau ke dalam bentuk gelombang klip audio. Karena sinyal dijalin ke dalam konten itu sendiri, Google berpendapat bahwa sinyal tersebut harus bertahan dari transformasi, kompresi, pemotongan, dan pengkodean ulang yang terjadi secara alami saat media disebarkan di internet.

Tes Stres untuk Sinyal Tingkat Piksel

Ars Technica menguji klaim tersebut menggunakan skrip Python yang dibangun di perpustakaan pencitraan Pillow. Skrip ini menyimulasikan kehilangan data akibat berbagi dan mengunduh secara berulang-ulang dengan kecepatan yang jauh lebih cepat, menerapkan kompresi acak dan mengubah ukuran nilai ke gambar uji, serta memasukkan kembali setiap keluaran sebagai dasar untuk iterasi berikutnya. Dua gambar yang dihasilkan AI dari model Nano Banana Pro Google, satu dibuat sepenuhnya dari awal dan satu foto asli diedit oleh AI, dijadikan sebagai subjek uji.

Setelah 300 generasi simulasi berbagi, di mana dokumen asli yang tajam terdegradasi menjadi gumpalan yang hampir tidak dapat dikenali, tanda air SynthID masih terdaftar di kedua gambar. Tanda air tersebut bahkan bertahan dalam tangkapan layar penuh, karena piksel penanda khusus ditransfer ke file baru. Setiap 50 generasi, penguji juga menghasilkan versi yang dipotong untuk semakin melemahkan deteksi.

Dimana SynthID Akhirnya Rusak

Batasan teknologi hanya muncul dalam kondisi ekstrim. Setelah 300 siklus kompresi, penghapusan beberapa piksel dari batas gambar uji yang terdegradasi akhirnya merusak SynthID pada gambar yang dihasilkan sepenuhnya dan gambar yang diedit AI. Karena sinyal watermark didistribusikan ke seluruh piksel, maka sinyal tersebut menolak pemotongan biasa, namun ketika degradasi sudah cukup terakumulasi, detektor dapat dikalahkan.

Ilmuwan Google DeepMind, Pushmeet Kohli, mengatakan kepada Ars bahwa tim merancang sistem dengan perkiraan akan diserang. “Melalui seluruh proses pengembangan, kami berasumsi bahwa teknologi seperti ini akan diserang,” kata Kohli. "Jadi kami melakukan banyak penelitian untuk membuat SynthID tangguh terhadap berbagai jenis transformasi. Baik ketika orang menambahkan semacam filter atau memotong gambar, kami menggunakan transformasi ini dan memastikan bahwa detektornya kuat terhadap transformasi tersebut."

Tanda Air Berkembang di Seluruh Industri

Uji coba ini dilakukan seiring dengan meluasnya adopsi SynthID di luar produk Google sendiri. Perusahaan telah menjalin kemitraan untuk memperluas penggunaan tanda air, dengan OpenAI, Runway, dan Nvidia di antara mereka yang mulai mengintegrasikan teknologi tersebut ke dalam alat generatif mereka. Google enggan merilis banyak detail teknis di luar makalah penelitian aslinya, itulah sebabnya pengujian independen terhadap jenis yang dilakukan Ars menjadi penting seiring dengan berkembangnya tanda air di lanskap AI.

Label Saja Tidak Cukup

Ketegangan utama yang terungkap dalam eksperimen ini adalah bahwa tanda air yang kuat sekalipun hanya akan berguna jika ada kesediaan platform dan orang untuk memeriksanya. Deteksi SynthID belum terintegrasi secara luas ke dalam jejaring sosial dan aplikasi perpesanan tempat sebagian besar media yang dimanipulasi menyebar. Tanda air yang bertahan selama 300 siklus kompresi memberikan sedikit perlindungan jika tidak ada orang di pihak penerima yang memindainya.

Hasil ketahanannya benar-benar menggembirakan dalam bidang keaslian konten. Mereka berpendapat bahwa watermarking tingkat piksel yang tidak terlihat dapat berfungsi sebagai tulang punggung teknis yang andal untuk menentukan asal usulnya. Namun pertanyaan yang lebih luas, apakah masyarakat dapat membangun norma, infrastruktur, dan insentif untuk benar-benar bertindak berdasarkan sinyal-sinyal tersebut, masih belum terselesaikan. Ketika volume media sintetis terus melampaui angka 100 miliar gambar, kesenjangan antara apa yang dapat ditandai oleh teknologi dan platform apa yang dapat dimoderasi menjadi tantangan yang menentukan.

Tetap Terdepan dalam AI

Ikuti terus berita AI terkini yang membentuk kebijakan, penelitian, dan platform yang membentuk kembali internet.

Baca berita AI selengkapnya