Yapay zeka tarafından oluşturulan medya internete akın ederken, Google'ın SynthID filigran teknolojisi, orijinal içeriği sentetik görüntülerden ayırmaya yönelik en önemli araçlardan biri olarak ortaya çıktı. Yeni ve sıkı bir stres testi, görünmez filigranın son derece dayanıklı olduğunu, yüzlerce sıkıştırma, yeniden boyutlandırma ve hatta ekran görüntülerine dayandığını doğruluyor; ancak sonuçlar aynı zamanda daha sert bir gerçeğin de altını çiziyor: teknik etiketlerin yapay zekanın artan dezenformasyon krizini tek başına çözmesi pek mümkün değil. En son yapay zeka gelişmelerine ilişkin devam eden raporlama açısından, bulgular içerik kaynağı tartışmasında önemli bir kontrol noktasına işaret ediyor.
Sorunun boyutunu abartmak zordur. Stanford Üniversitesi ile Güney Kaliforniya Üniversitesi arasındaki bir araştırma işbirliği olan Starling Lab, insanlığın 1,5 milyar görüntü üretmesinin, kameranın icadından 149 yıl sonra, yani 1975 yılına kadar sürdüğünü tahmin ediyor. Üretken yapay zeka bu çıktıyı yalnızca 18 ayda karşıladı. Bu yılki I/O konferansında Google, araçlarının tek başına birkaç yıl içinde 100 milyardan fazla yapay zeka görseli ve videosu oluşturmak için kullanıldığını duyurdu.
SynthID Nasıl Çalışır?
Şu anda yapay zeka tarafından oluşturulan içeriği etiketlemeye yönelik iki ana yaklaşım bulunmaktadır: SynthID gibi görünmez filigranlar ve İçerik Kanıt ve Orijinallik Koalisyonu (C2PA) standardı gibi meta veri şemaları. Google her ikisini de kullanır. C2PA kriptografik olarak güvenlidir ve sahtesi yapılamaz, ancak çıkarılması son derece kolaydır. Basitçe bir görüntüyü düzenleyip kaydetmek veya ekran görüntüsü almak, C2PA meta verilerini tamamen kaldırabilir.
SynthID farklı bir yaklaşım benimsiyor. Filigran, bir dosyanın yanında bulunan meta verilere güvenmek yerine, doğrudan bir görüntünün veya videonun piksellerine veya bir ses klibinin dalga biçimine kodlanır. Sinyal içeriğin içine işlendiğinden Google, medyanın internette dolaşırken doğal olarak meydana gelen dönüşümlere, sıkıştırmaya, kırpmaya ve yeniden kodlamaya dayanması gerektiğini savundu.
Piksel Düzeyindeki Sinyal için Stres Testi
Ars Technica, bu iddiaları Pillow görüntüleme kütüphanesi üzerine kurulu bir Python betiği kullanarak teste tabi tuttu. Komut dosyası, çok yüksek bir hızda tekrarlanan paylaşım ve indirmelerden kaynaklanan veri kaybını simüle etti, bir test görüntüsüne rastgele sıkıştırma ve yeniden boyutlandırma değerleri uyguladı ve her çıktıyı bir sonraki yinelemenin temeli olarak geri besledi. Google'ın Nano Banana Pro modelinden yapay zeka tarafından oluşturulan, biri tamamen sıfırdan oluşturulmuş ve biri yapay zeka tarafından düzenlenen orijinal fotoğraf olmak üzere iki görsel, test konuları olarak kullanıldı.
Net orijinallerin zorlukla tanınabilen lekelere indirgendiği 300 nesillik simüle edilmiş paylaşımdan sonra, SynthID filigranı hâlâ her iki görüntüde de kayıtlıydı. Özel işaret pikselleri yeni dosyaya aktarıldığı için filigran tam ekran görüntülerinden bile kurtuldu. Her 50 nesilde bir test cihazı, algılamayı daha da zayıflatmak için kırpılmış versiyonlar da üretti.
SynthID'nin Nihayet Kırıldığı Yer
Teknolojinin sınırları ancak aşırı koşullar altında ortaya çıktı. 300 sıkıştırma döngüsünden sonra, kalitesi düşük test görüntülerinin kenarlarından bir avuç pikselin kaldırılması, sonunda hem tamamen oluşturulan hem de yapay zeka ile düzenlenen görüntülerde SynthID'yi bozdu. Filigran sinyali pikseller boyunca dağıtıldığı için rastgele kırpmaya karşı dayanıklıdır, ancak yeterli bozulma biriktiğinde dedektör yenilebilir.
Google DeepMind bilim insanı Pushmeet Kohli, Ars'a ekibin sistemi saldırıya uğrayacağını düşünerek tasarladığını söyledi. Kohli, "Tüm geliştirme süreci boyunca böyle bir teknolojinin saldırıya uğrayacağını varsaydık" dedi. "Dolayısıyla SynthID'yi farklı dönüşüm türlerine karşı dayanıklı hale getirmek için çok sayıda araştırma yaptık. İnsanlar ister bir tür filtre ekliyor, ister görüntüyü kırpıyor olsun, bu dönüşümleri kullandık ve dedektörün bunlara karşı dayanıklı olduğundan emin olduk."
Filigranlar Sektör Geneline Yayılıyor
Test, SynthID'nin benimsenmesinin Google'ın kendi ürünlerinin ötesine geçmesiyle gerçekleşti. Şirket, filigranın kullanımını genişletmek için teknolojiyi kendi üretken araçlarına entegre etmeye başlayanlar arasında OpenAI, Runway ve Nvidia ile ortaklıklar kurdu. Google, orijinal araştırma makalesinin ötesinde çok fazla teknik ayrıntı yayınlama konusunda isteksizdi; bu nedenle, filigran yapay zeka ortamında çoğaldıkça, Ars'ın yürüttüğü türden bağımsız testler önem taşıyor.
Etiketler Tek Başına Yeterli Değildir
Deneyin ortaya çıkardığı temel gerilim, sağlam bir filigranın bile yalnızca platformların ve insanların onu kontrol etme istekliliği kadar faydalı olmasıdır. SynthID tespiti, manipüle edilmiş medyanın çoğunun gerçekten yayıldığı sosyal ağlarda ve mesajlaşma uygulamalarında henüz geniş çapta yerleşik değildir. 300 sıkıştırma döngüsünden sonra hayatta kalabilen bir filigran, eğer alıcı tarafta onu tarayan kimse yoksa çok az koruma sağlar.
Dayanıklılık sonuçları içerik özgünlüğü alanı için gerçekten cesaret vericidir. Görünmez, piksel düzeyindeki filigranın, kaynak için güvenilir bir teknik omurga görevi görebileceğini öne sürüyorlar. Ancak toplumun bu sinyallere göre hareket etmek için gerekli normları, altyapıyı ve teşvikleri oluşturup oluşturamayacağına ilişkin daha geniş soru hala çözülmemiş durumda. Sentetik medyanın hacmi 100 milyar görüntü sınırını aşmaya devam ederken, teknolojinin neyi işaretleyebileceği ile hangi platformların denetleyeceği arasındaki fark, belirleyici zorluk haline geliyor.
Yapay Zekanın Önünde Kalın
Politikaları, araştırmaları ve interneti yeniden şekillendiren platformları şekillendiren son dakika yapay zeka haberlerini takip edin.
Daha fazla AI haberini okuyun
