जैसे-जैसे एआई-जनित मीडिया इंटरनेट पर बाढ़ ला रहा है, Google की सिंथआईडी वॉटरमार्किंग तकनीक सिंथेटिक इमेजरी से प्रामाणिक सामग्री को अलग करने के लिए सबसे प्रमुख उपकरणों में से एक के रूप में उभरी है। एक कठोर नया तनाव परीक्षण पुष्टि करता है कि अदृश्य वॉटरमार्क उल्लेखनीय रूप से टिकाऊ है, संपीड़न, आकार बदलने और यहां तक कि स्क्रीनशॉट के सैकड़ों दौर तक जीवित रहता है, लेकिन परिणाम एक कठिन सच्चाई को भी रेखांकित करते हैं: अकेले तकनीकी लेबल एआई दुष्प्रचार के बढ़ते संकट को हल करने की संभावना नहीं है। नवीनतम एआई विकास पर चल रही रिपोर्टिंग के लिए, निष्कर्ष सामग्री-सिद्धांत बहस में एक महत्वपूर्ण जांच बिंदु को चिह्नित करते हैं।
समस्या के पैमाने को बढ़ा-चढ़ाकर बताना कठिन है। स्टैनफोर्ड विश्वविद्यालय और दक्षिणी कैलिफोर्निया विश्वविद्यालय के बीच एक अनुसंधान सहयोग, स्टार्लिंग लैब का अनुमान है कि कैमरे के आविष्कार के 149 साल बाद, मानवता को 1.5 बिलियन छवियां बनाने में 1975 तक का समय लगा। जेनरेटिव एआई ने केवल 18 महीनों में उस आउटपुट का मिलान कर लिया। इस वर्ष अपने I/O सम्मेलन में, Google ने घोषणा की कि अकेले उसके टूल का उपयोग कुछ वर्षों में 100 बिलियन से अधिक AI चित्र और वीडियो बनाने के लिए किया गया है।
सिंथआईडी कैसे काम करता है
एआई-जनित सामग्री को लेबल करने के लिए वर्तमान में दो मुख्य दृष्टिकोण हैं: सिंथआईडी जैसे अदृश्य वॉटरमार्क और मेटाडेटा स्कीमा जैसे सामग्री प्रोवेंस और प्रामाणिकता (सी2पीए) मानक के लिए गठबंधन। Google दोनों का उपयोग करता है. C2PA क्रिप्टोग्राफ़िक रूप से सुरक्षित है और इसे नकली नहीं बनाया जा सकता है, लेकिन इसे अलग करना बहुत आसान है। बस किसी छवि को संपादित करना और सहेजना, या स्क्रीनशॉट लेना, C2PA मेटाडेटा को पूरी तरह से हटा सकता है।
SynthID एक अलग दृष्टिकोण अपनाता है। किसी फ़ाइल के साथ मौजूद मेटाडेटा पर भरोसा करने के बजाय, वॉटरमार्क को सीधे किसी छवि या वीडियो के पिक्सेल या ऑडियो क्लिप के तरंग रूप में एन्कोड किया जाता है। क्योंकि सिग्नल सामग्री में ही बुना हुआ है, Google ने तर्क दिया है कि इसे उन परिवर्तनों, संपीड़न, क्रॉपिंग और पुन: एन्कोडिंग से बचना चाहिए जो स्वाभाविक रूप से होते हैं क्योंकि मीडिया इंटरनेट के आसपास गुजरता है।
पिक्सेल-स्तरीय सिग्नल के लिए एक तनाव परीक्षण
Ars Technica ने पिलो इमेजिंग लाइब्रेरी पर निर्मित पायथन स्क्रिप्ट का उपयोग करके उन दावों का परीक्षण किया। स्क्रिप्ट ने बार-बार साझा करने और अत्यधिक त्वरित दर से डाउनलोड करने, यादृच्छिक संपीड़न लागू करने और परीक्षण छवि में मूल्यों का आकार बदलने और प्रत्येक आउटपुट को अगले पुनरावृत्ति के आधार के रूप में वापस फीड करने से डेटा हानि का अनुकरण किया। Google के नैनो बनाना प्रो मॉडल से दो एआई-जनरेटेड छवियां, एक पूरी तरह से स्क्रैच से बनाई गई और एआई द्वारा संपादित एक मूल तस्वीर, परीक्षण विषयों के रूप में काम की गई।
सिम्युलेटेड साझाकरण की 300 पीढ़ियों के बाद, जिसके दौरान स्पष्ट मूल को बमुश्किल पहचाने जाने योग्य बूँदों में बदल दिया गया, सिंथआईडी वॉटरमार्क अभी भी दोनों छवियों पर पंजीकृत है। वॉटरमार्क पूर्ण स्क्रीनशॉट में भी बच गया, क्योंकि विशेष मार्कर पिक्सेल नई फ़ाइल में स्थानांतरित हो जाते हैं। हर 50 पीढ़ियों में परीक्षक ने पहचान को और कमजोर करने के लिए क्रॉप किए गए संस्करण भी तैयार किए।
जहां सिंथआईडी अंततः टूट जाता है
प्रौद्योगिकी की सीमाएँ केवल विषम परिस्थितियों में ही उभरीं। 300 संपीड़न चक्रों के बाद, ख़राब परीक्षण छवियों की सीमा से मुट्ठी भर पिक्सेल को हटाने से अंततः पूरी तरह से उत्पन्न और एआई-संपादित छवियों दोनों पर सिंथआईडी टूट गया। क्योंकि वॉटरमार्क सिग्नल पूरे पिक्सेल में वितरित होता है, यह आकस्मिक क्रॉपिंग का विरोध करता है, लेकिन एक बार पर्याप्त गिरावट जमा हो जाने पर, डिटेक्टर को हराया जा सकता है।
Google DeepMind के वैज्ञानिक पुष्मीत कोहली ने Ars को बताया कि टीम ने इस उम्मीद से सिस्टम डिज़ाइन किया था कि इस पर हमला किया जाएगा। कोहली ने कहा, "पूरी विकास प्रक्रिया के दौरान, हमने एक तरह से यह मान लिया था कि इस तरह की तकनीक पर हमला किया जाएगा।" "इसलिए हमने सिंथआईडी को विभिन्न प्रकार के परिवर्तनों के लिए मजबूत बनाने के लिए बहुत शोध किया। चाहे लोग किसी प्रकार का फ़िल्टर जोड़ रहे हों या छवि को क्रॉप कर रहे हों, हमने इन परिवर्तनों का उपयोग किया और सुनिश्चित किया कि डिटेक्टर उनके खिलाफ मजबूत था।"
वॉटरमार्क का पूरे उद्योग में विस्तार
यह परीक्षण तब आया है जब SynthID को अपनाना Google के अपने उत्पादों से आगे बढ़ रहा है। कंपनी ने वॉटरमार्क के उपयोग को बढ़ाने के लिए ओपनएआई, रनवे और एनवीडिया के साथ साझेदारी की है, जिन्होंने प्रौद्योगिकी को अपने जेनरेटर टूल में एकीकृत करना शुरू कर दिया है। Google मूल शोध पत्र से परे बहुत अधिक तकनीकी विवरण जारी करने में अनिच्छुक रहा है, यही कारण है कि एआई परिदृश्य में वॉटरमार्क के प्रसार के कारण एआरएस द्वारा किए गए स्वतंत्र परीक्षण मायने रखते हैं।
केवल लेबल ही पर्याप्त नहीं हैं
प्रयोग से उजागर होने वाला केंद्रीय तनाव यह है कि एक मजबूत वॉटरमार्क भी उतना ही उपयोगी है जितना कि प्लेटफ़ॉर्म और लोगों की इसकी जांच करने की इच्छा। सिंथआईडी का पता लगाना अभी तक व्यापक रूप से उन सोशल नेटवर्क और मैसेजिंग ऐप्स में नहीं बनाया गया है जहां सबसे अधिक हेरफेर किया गया मीडिया वास्तव में फैलता है। एक वॉटरमार्क जो 300 संपीड़न चक्रों तक जीवित रहता है, थोड़ी सुरक्षा प्रदान करता है यदि प्राप्तकर्ता छोर पर कोई भी इसे स्कैन नहीं कर रहा है।
स्थायित्व के परिणाम वास्तव में सामग्री-प्रामाणिकता क्षेत्र के लिए उत्साहजनक हैं। उनका सुझाव है कि अदृश्य, पिक्सेल-स्तरीय वॉटरमार्किंग उद्गम के लिए एक विश्वसनीय तकनीकी रीढ़ के रूप में काम कर सकता है। लेकिन व्यापक प्रश्न, क्या समाज वास्तव में उन संकेतों पर कार्य करने के लिए मानदंड, बुनियादी ढांचे और प्रोत्साहन का निर्माण कर सकता है, अनसुलझा बना हुआ है। जैसे-जैसे सिंथेटिक मीडिया की मात्रा 100-बिलियन-छवि के मील के पत्थर को पार कर रही है, प्रौद्योगिकी क्या चिह्नित कर सकती है और कौन से प्लेटफ़ॉर्म मध्यम होंगे, के बीच का अंतर परिभाषित चुनौती बनता जा रहा है।
