AI-व्युत्पन्न माध्यमांनी इंटरनेटवर पूर आला असताना, Google चे SynthID वॉटरमार्किंग तंत्रज्ञान सिंथेटिक इमेजरीपासून अस्सल सामग्री वेगळे करण्यासाठी सर्वात प्रमुख साधनांपैकी एक म्हणून उदयास आले आहे. एक कठोर नवीन ताण चाचणी अदृश्य वॉटरमार्क लक्षणीय टिकाऊ आहे, शेकडो फेऱ्यांचे कॉम्प्रेशन, आकार बदलणे आणि अगदी स्क्रीनशॉट देखील टिकून आहे याची पुष्टी करते, परंतु परिणाम एक कठोर सत्य देखील अधोरेखित करतात: केवळ तांत्रिक लेबले AI डिसइन्फॉर्मेशनच्या वाढत्या संकटाचे निराकरण करण्याची शक्यता नाही. नवीनतम AI घडामोडी वर चालू असलेल्या अहवालासाठी, निष्कर्ष सामग्री-प्रोव्हेन्स वादविवादातील एक महत्त्वाचा चेकपॉइंट चिन्हांकित करतात.
समस्येचे प्रमाण ओव्हरस्टेट करणे कठीण आहे. स्टॅनफोर्ड युनिव्हर्सिटी आणि युनिव्हर्सिटी ऑफ सदर्न कॅलिफोर्निया यांच्यातील संशोधन सहयोग स्टारलिंग लॅबचा अंदाज आहे की, कॅमेऱ्याचा शोध लागल्यानंतर मानवतेला 1.5 अब्ज प्रतिमा तयार करण्यासाठी 1975 पर्यंत, 149 वर्षे लागली. जनरेटिव्ह एआयने ते आउटपुट केवळ 18 महिन्यांत जुळवले. या वर्षीच्या त्याच्या I/O परिषदेत, Google ने जाहीर केले की दोन वर्षात 100 अब्ज पेक्षा जास्त AI प्रतिमा आणि व्हिडिओ तयार करण्यासाठी फक्त त्यांची साधने वापरली गेली आहेत.
SynthID कसे कार्य करते
AI-व्युत्पन्न सामग्री लेबल करण्यासाठी सध्या दोन मुख्य पध्दती आहेत: अदृश्य वॉटरमार्क जसे की SynthID आणि मेटाडेटा स्कीमा जसे की Coalition for Content Provenance and Authenticity (C2PA) मानक. Google दोन्ही वापरते. C2PA हे क्रिप्टोग्राफिकदृष्ट्या सुरक्षित आहे आणि ते बनावट केले जाऊ शकत नाही, परंतु ते काढणे क्षुल्लक सोपे आहे. फक्त प्रतिमा संपादित करणे आणि जतन करणे किंवा स्क्रीनशॉट घेणे, C2PA मेटाडेटा पूर्णपणे काढून टाकू शकतो.
SynthID एक वेगळा दृष्टीकोन घेते. फाईलच्या शेजारी बसलेल्या मेटाडेटावर अवलंबून राहण्याऐवजी, वॉटरमार्क थेट इमेज किंवा व्हिडिओच्या पिक्सेलमध्ये किंवा ऑडिओ क्लिपच्या वेव्हफॉर्ममध्ये एन्कोड केला जातो. संकेत हे सामग्रीमध्येच विणलेले असल्यामुळे, Google ने असा युक्तिवाद केला आहे की ते परिवर्तन, कॉम्प्रेशन, क्रॉपिंग आणि री-एनकोडिंगमध्ये टिकून राहावे जे इंटरनेटच्या आसपास माध्यमे पास होत असताना नैसर्गिकरित्या घडतात.
पिक्सेल-स्तरीय सिग्नलसाठी एक ताण चाचणी
पिलो इमेजिंग लायब्ररीवर तयार केलेल्या पायथन स्क्रिप्टचा वापर करून आर्स टेक्निकाने ते दावे चाचणीसाठी ठेवले. स्क्रिप्टने मोठ्या प्रमाणात प्रवेगक दराने पुनरावृत्ती शेअरिंग आणि डाउनलोड केल्याने डेटाचे नुकसान झाले, यादृच्छिक कॉम्प्रेशन लागू केले आणि चाचणी प्रतिमेवर मूल्यांचा आकार बदलला आणि प्रत्येक आउटपुटला पुढील पुनरावृत्तीसाठी आधार म्हणून फीड केले. Google च्या Nano Banana Pro मॉडेलमधील दोन AI-व्युत्पन्न केलेल्या प्रतिमा, एक पूर्णपणे सुरवातीपासून तयार केलेला आणि एक मूळ फोटो AI ने संपादित केला, चाचणी विषय म्हणून काम केले.
सिम्युलेटेड शेअरिंगच्या 300 पिढ्यांनंतर, ज्या दरम्यान खुसखुशीत मूळ केवळ ओळखता येण्याजोग्या ब्लॉबमध्ये कमी केले गेले, तरीही सिंथआयडी वॉटरमार्क दोन्ही प्रतिमांवर नोंदणीकृत आहे. वॉटरमार्क पूर्ण स्क्रीनशॉट देखील टिकून राहिला, कारण विशेष मार्कर पिक्सेल नवीन फाइलवर हस्तांतरित करतात. प्रत्येक 50 पिढ्यांनंतर परीक्षकाने तपास आणखी कमकुवत करण्यासाठी क्रॉप केलेल्या आवृत्त्या देखील तयार केल्या.
जिथे सिंथआयडी शेवटी तुटते
तंत्रज्ञानाच्या मर्यादा केवळ अत्यंत परिस्थितीत उदयास आल्या. 300 कॉम्प्रेशन चक्रांनंतर, खराब झालेल्या चाचणी प्रतिमांच्या बॉर्डरमधून मूठभर पिक्सेल काढून टाकल्याने शेवटी पूर्णपणे व्युत्पन्न केलेल्या आणि AI-संपादित प्रतिमा दोन्हीवर SynthID खंडित झाला. वॉटरमार्क सिग्नल संपूर्ण पिक्सेलमध्ये वितरीत केल्यामुळे, ते प्रासंगिक क्रॉपिंगला प्रतिकार करते, परंतु एकदा पुरेशी निकृष्टता जमा झाली की, डिटेक्टरचा पराभव होऊ शकतो.
गुगल डीपमाइंडचे शास्त्रज्ञ पुष्मीत कोहली यांनी अर्सला सांगितले की टीमने या प्रणालीवर हल्ला केला जाईल या अपेक्षेने डिझाइन केले आहे. "संपूर्ण विकास प्रक्रियेतून, आम्ही असे गृहीत धरले की अशा तंत्रज्ञानावर हल्ला केला जाईल," कोहली म्हणाला. "म्हणून आम्ही विविध प्रकारच्या परिवर्तनांसाठी SynthID मजबूत बनवण्यासाठी बरेच संशोधन केले. लोक काही प्रकारचे फिल्टर जोडत असतील किंवा प्रतिमा क्रॉप करत असतील, आम्ही या परिवर्तनांचा वापर केला आणि डिटेक्टर त्यांच्या विरूद्ध मजबूत असल्याची खात्री केली."
वॉटरमार्कचा संपूर्ण उद्योगात विस्तार होतो
Google च्या स्वतःच्या उत्पादनांच्या पलीकडे सिंथआयडीचा अवलंब वाढत असल्याने चाचणी आली. कंपनीने वॉटरमार्कचा वापर वाढवण्यासाठी भागीदारी केली आहे, ज्यामध्ये OpenAI, Runway आणि Nvidia हे तंत्रज्ञान त्यांच्या जनरेटिव्ह टूल्समध्ये समाकलित करू लागले आहेत. Google मूळ संशोधन पेपरच्या पलीकडे जास्त तांत्रिक तपशील प्रसिद्ध करण्यास नाखूष आहे, म्हणूनच AI लँडस्केपमध्ये वॉटरमार्क पसरत असल्याने Ars च्या स्वतंत्र चाचणीने महत्त्व दिले.
फक्त लेबल्स पुरेसे नाहीत
प्रयोगाने दाखवलेला केंद्रीय ताण म्हणजे एक मजबूत वॉटरमार्क देखील प्लॅटफॉर्म आणि लोकांच्या इच्छेइतकाच उपयुक्त आहे. सिंथआयडी डिटेक्शन अजून व्यापकपणे सोशल नेटवर्क्स आणि मेसेजिंग ॲप्समध्ये तयार केलेले नाही जिथे सर्वाधिक हाताळलेले मीडिया प्रत्यक्षात पसरते. 300 कॉम्प्रेशन सायकल टिकून राहणारा वॉटरमार्क जर रिसीव्हिंग एंडवरील कोणीही स्कॅन करत नसेल तर ते थोडेसे संरक्षण देते.
टिकाऊपणाचे परिणाम सामग्री-प्रामाणिकता क्षेत्रासाठी खरोखर उत्साहवर्धक आहेत. ते असे सुचवतात की अदृश्य, पिक्सेल-स्तरीय वॉटरमार्किंग हे उत्पत्तीसाठी विश्वसनीय तांत्रिक आधार म्हणून काम करू शकते. परंतु समाज त्या संकेतांवर प्रत्यक्षात कार्य करण्यासाठी मानदंड, पायाभूत सुविधा आणि प्रोत्साहने तयार करू शकतो का, हा व्यापक प्रश्न अनुत्तरीत आहे. सिंथेटिक मीडियाचे प्रमाण 100-अब्ज-प्रतिमा मैलाचा दगड ओलांडत असताना, तंत्रज्ञान काय चिन्हांकित करू शकते आणि कोणते प्लॅटफॉर्म मध्यम करेल यामधील अंतर हे निश्चित आव्हान बनत आहे.
