Minangka media sing digawe AI mbanjiri internet, teknologi watermarking SynthID Google wis muncul minangka salah sawijining alat sing paling penting kanggo mbedakake konten asli saka citra sintetik. Tes stres anyar sing ketat nandheske tandha banyu sing ora katon iku awet banget, bisa tahan ratusan putaran kompresi, ngowahi ukuran, lan malah gambar, nanging asile uga nggarisake bebener sing luwih angel: label teknis mung ora bisa ngatasi krisis disinformasi AI sing saya akeh. Kanggo nglaporake babagan perkembangan AI paling anyar, temuan kasebut menehi tandha titik pamriksan penting ing debat asal-usul konten.
Ukuran masalah iku angel kanggo overstate. Starling Lab, kolaborasi riset antarane Universitas Stanford lan Universitas California Kidul, ngira yen butuh nganti 1975, 149 taun sawise panemuan kamera, kanggo manungsa bisa ngasilake 1,5 milyar gambar. Generatif AI cocog karo output kasebut mung sajrone 18 wulan. Ing konferensi I / O taun iki, Google ngumumake yen alat kasebut mung digunakake kanggo nggawe luwih saka 100 milyar gambar lan video AI sajrone sawetara taun.
Cara Kerja SynthID
Saiki ana rong pendekatan utama kanggo menehi label konten sing digawe AI: tandha banyu sing ora katon kaya SynthID lan skema metadata kayata standar Koalisi kanggo Provenance lan Keaslian Konten (C2PA). Google nggunakake loro. C2PA aman kanthi kriptografis lan ora bisa dipalsukan, nanging gampang dicopot. Mung nyunting lan nyimpen gambar, utawa njupuk gambar, bisa mbusak metadata C2PA kabeh.
SynthID njupuk pendekatan sing beda. Tinimbang ngandelake metadata sing ana ing jejere file, tandha banyu dikode langsung menyang piksel gambar utawa video, utawa menyang bentuk gelombang klip audio. Amarga sinyal kasebut dirajut menyang konten kasebut, Google wis mbantah manawa kudu slamet saka transformasi, kompresi, potong, lan enkoding ulang sing kedadeyan kanthi alami nalika media liwat internet.
Tes Stress kanggo Sinyal Tingkat Piksel
Ars Technica nguji pratelan kasebut kanthi nggunakake skrip Python sing dibangun ing perpustakaan pencitraan Bantal. Skrip simulasi mundhut data saka enggo bareng bola-bali lan ngundhuh ing tingkat vastly digawe cepet, aplikasi komprèsi acak lan ngowahi ukuran Nilai kanggo gambar test lan dipakani saben output bali ing minangka basis kanggo pengulangan sabanjuré. Loro gambar sing digawe AI saka model Nano Banana Pro Google, siji digawe saka awal lan siji foto asli sing diowahi dening AI, dadi subyek tes.
Sawise 300 generasi simulasi enggo bareng, nalika asli sing garing dirusak dadi gumpalan sing meh ora bisa dingerteni, tandha banyu SynthID isih kadaptar ing loro gambar kasebut. Watermark malah slamet gambar lengkap, amarga piksel panandha khusus pindhah menyang file anyar. Saben 50 generasi penguji uga ngasilake versi sing dipotong kanggo ngrusak deteksi luwih lanjut.
Where SynthID Akhire Breaks
Watesan teknologi mung muncul ing kahanan sing ekstrem. Sawise 300 siklus kompresi, mbusak sakepel piksel saka wates gambar tes sing rusak pungkasane nyuwil SynthID ing gambar sing wis digawe kanthi lengkap lan gambar sing wis diowahi AI. Amarga sinyal watermark disebarake ing saindhenging piksel, iku nolak cropping sembrono, nanging yen degradasi cukup accumulates, detektor bisa dikalahake.
Ilmuwan Google DeepMind Pushmeet Kohli ngandhani Ars manawa tim kasebut ngrancang sistem sing ngarepake bakal diserang. "Liwat kabeh proses pangembangan, kita nganggep manawa teknologi kaya iki bakal diserang," ujare Kohli. "Dadi kita nindakake akeh riset kanggo nggawe SynthID kuwat kanggo macem-macem jinis transformasi. Apa wong nambah sawetara Filter utawa nugel gambar, kita nggunakake transformasi iki lan mesthekake yen detektor kuwat marang wong-wong mau."
Watermark Ngembangake Ing saindenging Industri
Tes kasebut teka amarga adopsi SynthID saya akeh ngluwihi produk Google dhewe. Perusahaan kasebut wis nggawe kemitraan kanggo nggedhekake panggunaan tandha banyu, kanthi OpenAI, Runway, lan Nvidia ing antarane sing wiwit nggabungake teknologi kasebut menyang alat generatif. Google wis wegah ngeculake akeh rincian teknis ngluwihi kertas riset asli, mulane tes mandiri saka jinis Ars sing ditindakake amarga tandha banyu nyebar ing lanskap AI.
Label Mung Ora Cukup
Ketegangan tengah eksperimen kasebut yaiku sanajan tandha banyu sing kuat mung migunani kaya platform lan wong sing pengin mriksa. Deteksi SynthID durung dibangun sacara wiyar ing jaringan sosial lan aplikasi olahpesen ing ngendi media sing paling dimanipulasi nyebar. Tandha banyu sing bisa tahan 300 siklus kompresi menehi proteksi sethithik yen ora ana wong ing mburi panampa sing mindhai.
Asil daya tahan kasebut pancen nyengkuyung kanggo lapangan keaslian konten. Dheweke nyaranake manawa watermarking tingkat piksel sing ora katon bisa dadi penyangga teknis sing dipercaya kanggo asale. Nanging pitakonan sing luwih jembar, apa masyarakat bisa mbangun norma, prasarana, lan insentif kanggo nindakake sinyal kasebut, tetep ora bisa dirampungake. Minangka volume media sintetik terus munggah liwat tonggak sejarah 100-miliar-gambar, longkangan antarane apa teknologi bisa menehi tandha lan apa platform bakal moderat dadi tantangan sing nemtokake.
Tetep Ahead saka AI
Terusake karo breaking AI news mbentuk kabijakan, riset, lan platform sing nggawe maneh internet.
Waca liyane warta AI
