एंथ्रोपिक अपने क्लाउड मॉडल द्वारा उत्पन्न पाठ पर अदृश्य वॉटरमार्क लागू करना शुरू कर देगा, कंपनी ने इस सप्ताह पुष्टि की, नए यूरोपीय पारदर्शिता नियमों के जवाब में मशीन-पठनीय उद्गम संकेतों को जोड़ने वाला नवीनतम एआई प्रदाता बन जाएगा।
अद्यतन समर्थन पृष्ठ में विस्तृत परिवर्तन का अर्थ है कि क्लाउड द्वारा उत्पादित सामग्री में एक छिपा हुआ हस्ताक्षर होगा जिसे कॉपी किए जाने और कहीं और चिपकाए जाने से बचने के लिए डिज़ाइन किया गया है। यह यूरोपीय संघ के एआई अधिनियम पारदर्शिता कोड का सीधा जवाब है, जो 2 अगस्त को प्रभावी हुआ और एआई कंपनियों को उत्पन्न या संपादित सामग्री को इस तरह से चिह्नित करने की आवश्यकता है कि अन्य सिस्टम इसका पता लगा सकें।
वॉटरमार्क कैसे काम करता है
एंथ्रोपिक ने कहा कि 2 अगस्त के बाद जारी किए गए सभी मॉडलों में स्वचालित रूप से कंप्यूटर-जनरेटेड टेक्स्ट और फ़ाइलों दोनों को वॉटरमार्क करने की तकनीक शामिल होगी। फ़ाइलों के लिए, कंपनी C2PA ओपन मानक को अपना रही है, एक सामग्री क्रेडेंशियल फ़्रेमवर्क जो पहले से ही कुछ कैमरा निर्माताओं और छवि-संपादन टूल द्वारा उपयोग किया जाता है ताकि यह रिकॉर्ड किया जा सके कि मीडिया का एक टुकड़ा कैसे बनाया गया था।
टेक्स्ट वॉटरमार्क को बाद में विचार के रूप में लागू करने के बजाय मॉडल स्तर पर एम्बेड किया गया है। एंथ्रोपिक के समर्थन दस्तावेज़ के अनुसार, "चूंकि वॉटरमार्क पाठ का हिस्सा है, यह पाठ के साथ यात्रा करेगा जब इसे कॉपी किया जाएगा और कहीं और चिपकाया जाएगा, और कुछ संपादन के माध्यम से बना रह सकता है। वॉटरमार्किंग को मॉडल स्तर पर लागू किया जाएगा, जिसका अर्थ है कि यह मौजूद रहेगा चाहे पाठ किसी भी क्लाउड उत्पाद या सतह से आए।"
कंपनी ने कहा कि वह पुराने मॉडलों में भी वॉटरमार्किंग समर्थन बढ़ाने की योजना बना रही है। यह सुविधा एंथ्रोपिक की उत्पाद श्रृंखला पर लागू होगी, जिसमें क्लाउड प्लेटफ़ॉर्म एपीआई, क्लाउड चैट ऐप, क्लाउड कोड, क्लाउड कोवर्क और क्लाउड टैग शामिल हैं।
वास्तव में किसी उपयोगकर्ता को निशान हटाने के लिए कितना संपादन करने की आवश्यकता होगी, यह पूरी तरह से स्पष्ट नहीं है, और एंथ्रोपिक ने सार्वजनिक रूप से तकनीक का विवरण नहीं दिया है। टेक्स्ट वॉटरमार्किंग तकनीकी रूप से कठिन है क्योंकि शब्दों में छोटे बदलाव नाजुक सांख्यिकीय पैटर्न को तोड़ सकते हैं, जो क्षेत्र में शोधकर्ताओं के लिए लंबे समय से चली आ रही चुनौती है।
उपयोगकर्ताओं के लिए कोई ऑप्ट-आउट नहीं
विशेष रूप से, क्लाउड उपयोगकर्ता वॉटरमार्क को अक्षम नहीं कर पाएंगे। सेटिंग को प्रति अनुरोध टॉगल करने के बजाय मॉडल द्वारा ही लागू किया जाता है, जिसका अर्थ है कि क्लाउड सतह के माध्यम से टेक्स्ट उत्पन्न करने वाले किसी भी व्यक्ति को यह चिह्नित करना होगा कि वे इसे चाहते हैं या नहीं।
इस रुख पर कुछ पेशेवर उपयोगकर्ताओं को आपत्ति होने की संभावना है। लेखक, डेवलपर्स और व्यवसाय जो सामग्री का मसौदा तैयार करने के लिए क्लाउड का उपयोग करते हैं, वे साफ, अचिह्नित आउटपुट के आदी हो गए हैं, और कुछ लोग इंटरनेट पर अपने पाठ के बाद अदृश्य हस्ताक्षर से असहज हो सकते हैं। ऐसा प्रतीत होता है कि एन्थ्रोपिक ने निष्कर्ष निकाला है कि नियामक अनुपालन उस प्राथमिकता से अधिक महत्वपूर्ण है।
एक व्यापक उद्योग हाथापाई का हिस्सा
एंथ्रोपिक अकेले अभिनय नहीं कर रहा है। यूरोपीय संघ की पारदर्शिता आवश्यकताओं ने एआई और सामग्री प्लेटफार्मों के बीच नियामकों के आने से पहले उद्गम संकेत जोड़ने की होड़ शुरू कर दी है।
पिछले हफ्ते ही, एआई म्यूजिक प्लेटफॉर्म सुनो ने कहा था कि वह एआई-जनरेटेड ऑडियो पर कानूनी चुनौतियों की लहर के बाद अपनी सेवा पर बनाए गए ट्रैक को चिह्नित करना शुरू कर देगा। पिछले महीने, न्यूज़लेटर प्लेटफ़ॉर्म सबस्टैक ने एआई-जनित सामग्री को फ़्लैग करने के लिए डिटेक्शन फर्म पैंग्राम के साथ साझेदारी की थी, जिसमें सबस्टैक के सीईओ क्रिस बेस्ट ने सार्वजनिक रूप से "क्लाउडफ़िशिंग" कहा था, जो एआई का उपयोग करने वाले लोगों के लिए कम गुणवत्ता वाली सामग्री के साथ प्लेटफ़ॉर्म बाढ़ करने के लिए उनका शब्द था।
दबाव एंथ्रोपिक के प्रत्यक्ष प्रतिस्पर्धियों से कहीं आगे तक फैला हुआ है। टेकक्रंच की रिपोर्ट के अनुसार, ब्लैक फॉरेस्ट लैब्स, गूगल, मेटा, माइक्रोसॉफ्ट, ओपनएआई और सिंथेसिया सभी ईयू के पारदर्शिता कोड का पालन करने के लिए प्रतिबद्ध हैं, जो दर्शाता है कि वॉटरमार्किंग एक विभेदक के बजाय तेजी से आधारभूत उद्योग की अपेक्षा बन रही है।
उद्गम अचानक अत्यावश्यक क्यों है
वॉटरमार्क के लिए दबाव दो मिलती-जुलती चिंताओं को दर्शाता है। पहला नियामक है: ईयू एआई अधिनियम अब लागू है, और जो कंपनियां अनुपालन करने में विफल रहती हैं उन्हें महत्वपूर्ण दंड की संभावना का सामना करना पड़ता है। प्रवर्तन दबाव के तहत इसे पुनः स्थापित करने की तुलना में उद्गम अवसंरचना को शीघ्रता से स्थापित करना सस्ता है।
दूसरा प्रतिष्ठित है. चूंकि एआई-जनित पाठ, चित्र, ऑडियो और वीडियो ने सामाजिक प्लेटफार्मों पर बाढ़ ला दी है, प्रकाशकों और प्लेटफार्मों को "एआई स्लोप" पर बढ़ती प्रतिक्रिया का सामना करना पड़ रहा है, कम गुणवत्ता वाली सिंथेटिक सामग्री जो मानव कार्य को खत्म कर देती है और विश्वास को खत्म कर देती है। अदृश्य वॉटरमार्क एक प्रश्न का तकनीकी उत्तर प्रदान करते हैं जिसे अकेले मॉडरेशन से हल नहीं किया जा सकता: क्या यह एक मशीन द्वारा लिखा गया था?
एंथ्रोपिक के लिए, जिसने एआई सुरक्षा के इर्द-गिर्द अपना ब्रांड बनाया है, वॉटरमार्क अपनाना भी एक विश्वसनीयता कदम है। एक कंपनी जो खुद को जिम्मेदार विकल्प के रूप में प्रचारित करती है, उसे अपने पैर पीछे खींचते हुए दिखने के बजाय पारदर्शिता पर आगे बढ़ने के लिए मजबूत प्रोत्साहन मिलता है।
कठिन प्रश्न अनसुलझे हैं। वॉटरमार्क केवल तभी मदद करते हैं जब पता लगाने वाले उपकरण वास्तव में उनकी तलाश करते हैं, और यदि खुले वेब पर सामग्री के स्थानांतरण के दौरान होने वाले संपादन, पुन: स्वरूपण और लॉन्डरिंग से बचने के लिए निशान पर्याप्त रूप से मजबूत साबित होते हैं। एंथ्रोपिक का दावा है कि मॉडल स्तर पर सिग्नल एम्बेड करना सबसे टिकाऊ दृष्टिकोण है। यह व्यवहार में कायम है या नहीं, इसका परीक्षण आने वाले महीनों में शीघ्रता से और सार्वजनिक रूप से किया जाएगा।
एआई नीति और उद्योग को नया आकार देने वाले उपकरणों के चल रहे कवरेज के लिए, बुकमार्क करें [एआई बज़ वायर की ब्रेकिंग एआई समाचार कवरेज] (https://aibuzzwire.news)।
