ओपनएआई ने 5 अक्टूबर को घोषणा की कि वह यूरोपीय संघ में उपयोगकर्ताओं के लिए चैटजीपीटी और कोडेक्स द्वारा उत्पन्न टेक्स्ट में अदृश्य वॉटरमार्क जोड़ना शुरू कर देगा, जो ईयू एआई अधिनियम के टेक्स्ट उद्गम नियमों के प्रति इसकी ठोस प्रतिक्रिया है। "ईयू पाठ उद्गम नियमों के प्रति हमारा दृष्टिकोण" शीर्षक से एक ब्लॉग पोस्ट में, कंपनी ने कहा कि ब्लॉक में योग्य आउटपुट के लिए वॉटरमार्किंग "आने वाले हफ्तों में" शुरू हो जाएगी, एक योजना की रिपोर्ट उसी दिन टेकक्रंच, द वर्ज, ब्लीपिंगकंप्यूटर, एनगैजेट और अन्य आउटलेट्स द्वारा की गई थी।
परिवर्तन के पीछे की तकनीक को टेक्स्टग्रेन कहा जाता है। एक दृश्यमान चिह्न को एम्बेड करने के बजाय, टेक्स्टग्रेन मॉडल के शब्द विकल्पों को सूक्ष्मता से संचालित करके काम करता है ताकि परिणामी पाठ में एक सांख्यिकीय पैटर्न हो जिसे बाद में पता लगाया जा सके। एआई-जनित पाठ का उपभोग या प्रतिलिपि बनाते समय पाठकों को कुछ भी ध्यान नहीं आएगा; पता लगाने के लिए OpenAI के डिटेक्टर तक पहुंच की आवश्यकता होती है, जो आम जनता के लिए उपलब्ध नहीं है। एआई नियमों को लेकर नियामक और प्रयोगशालाएं कैसे टकरा रहे हैं, इस पर व्यापक नजर डालने के लिए, हमारी चल रही एआई नीति कवरेज का पालन करें।
टेक्स्टग्रेन वॉटरमार्किंग कैसे काम करती है
OpenAI का दृष्टिकोण पीढ़ी के दौरान टोकन चयन प्रक्रिया को संशोधित करता है। ब्लीपिंगकंप्यूटर की रिपोर्ट के अनुसार, कंपनी का कहना है कि टेक्स्टग्रेन "एक सांख्यिकीय पैटर्न बनाने के लिए मॉडल के शब्द विकल्पों को थोड़ा बदलता है जिसे बाद में पता लगाया जा सकता है।" जब टेक्स्ट पढ़ा जाता है या कॉपी किया जाता है तो वॉटरमार्क अदृश्य होता है, और OpenAI का दावा है कि यह आउटपुट गुणवत्ता को ख़राब नहीं करता है।
पता लगाने वाले पक्ष को जानबूझकर प्रतिबंधित किया गया है। वॉटरमार्क लॉन्च के साथ-साथ, ओपनएआई अपने वॉटरमार्क डिटेक्टर के लिए एप्लिकेशन खोल रहा है, लेकिन शुरुआत में पहुंच अनुमोदित शोधकर्ताओं और विशेषज्ञ संगठनों तक ही सीमित होगी। यह डिज़ाइन इसे हथियार बनाने की उम्मीद रखने वाले किसी भी व्यक्ति के हाथों से पता लगाने की क्षमता को दूर रखता है, लेकिन इसका मतलब यह भी है कि प्रकाशक, शिक्षक और नियोक्ता स्वतंत्र रूप से सत्यापित नहीं कर सकते हैं कि पाठ का एक टुकड़ा वॉटरमार्क है या नहीं।
एपीआई एक्सेस दुनिया भर में ऑप्ट-इन है
ईयू जनादेश ब्लॉक में चैटजीपीटी और कोडेक्स आउटपुट पर लागू होता है, लेकिन ओपनएआई एक साथ हर जगह डेवलपर्स को एक विकल्प दे रहा है। 5 अक्टूबर से, दुनिया भर के एपीआई डेवलपर्स समर्थित मॉडलों के लिए टेक्स्ट वॉटरमार्किंग का विकल्प चुन सकते हैं। यह सुविधा एपीआई पर डिफ़ॉल्ट रूप से अक्षम रहती है, एक निर्णय जिसे द न्यू स्टैक ने एंथ्रोपिक के दृष्टिकोण के विपरीत बताया है, जिसने इस साल की शुरुआत में समान नियमों के प्रति अपनी प्रतिक्रिया में ईयू ट्रैफ़िक के लिए उद्गम अंकन को चालू कर दिया था।
वह ऑप्ट-इन आसन अप्रत्याशित दुष्प्रभावों के बारे में चिंतित डेवलपर्स को आश्वस्त करेगा। सांख्यिकीय वॉटरमार्किंग से टोकन के नमूने लेने के तरीके में परिवर्तन होता है, और पीढ़ी में किसी भी संशोधन से किनारे के मामलों में व्यवहार में बदलाव का कम से कम सैद्धांतिक जोखिम होता है। वॉटरमार्किंग को डिफ़ॉल्ट के बजाय एक ध्वज बनाकर, OpenAI अपने मॉडल पर निर्माण करने वाली कंपनियों को अनुपालन निर्णय स्थानांतरित करता है।
ईयू एआई अधिनियम ने इसे क्यों मजबूर किया
ईयू एआई अधिनियम के पारदर्शिता प्रावधानों के लिए आवश्यक है कि एआई-जनरेटेड टेक्स्ट को मशीन-जनरेटेड के रूप में पहचाना जा सके, एक दायित्व जिसने ओपनएआई और एंथ्रोपिक दोनों को सांख्यिकीय वॉटरमार्किंग योजनाओं की ओर धकेल दिया। ओपनएआई का ब्लॉग पोस्ट टेक्स्टग्रेन को उन मूल आवश्यकताओं के कार्यान्वयन के रूप में प्रस्तुत करता है, और पीवाईएमएनटीएस ने ओपनएआई को सीधे "ईयू एआई अधिनियम जनादेश" को पूरा करने के रूप में रोलआउट की सूचना दी।
समय उल्लेखनीय है. ओपनएआई की सार्वजनिक स्थिति के लिए असामान्य रूप से अशांत खिंचाव के बीच वॉटरमार्क की घोषणा हुई: उसी समाचार चक्र में सुरक्षा नेता डेविड रॉबिन्सन का प्रस्थान, प्रमुख एआई प्रयोगशालाओं में उपभोक्ता जोखिमों की एफटीसी जांच और एक शेयरधारक मुकदमे का माहौल आया जिसने कंपनी को जांच के दायरे में रखा है। वॉटरमार्किंग कुछ नियामक मांगों में से एक है, ओपनएआई उत्पाद परिवर्तनों के बजाय बुनियादी ढांचे से पूरी तरह से संतुष्ट हो सकता है, जो यह बता सकता है कि इसे पहले क्यों भेजा गया।
द कैच: वॉटरमार्क संपादन के तहत टूटते हैं
OpenAI स्वयं मूलभूत सीमा को स्वीकार करता है। कंपनी मानती है कि जब पाठ संपादित किया जाता है तो उसका वॉटरमार्क गायब हो सकता है, और भाषाई स्टेग्नोग्राफ़ी पर दशकों के शोध इस चिंता का समर्थन करते हैं: व्याख्या, अनुवाद या मामूली पुनर्लेखन भी सांख्यिकीय वॉटरमार्क को नष्ट कर सकता है। "मानवीकरण" टूल के माध्यम से एआई टेक्स्ट को साफ करने का संकल्प लेने वाला कोई भी व्यक्ति संभवतः सफल होगा।
उस कमजोरी ने नियामकों को वॉटरमार्किंग की आवश्यकता से नहीं रोका है, और इसने प्रयोगशालाओं को इसकी शिपिंग से नहीं रोका है। यथार्थवादी लक्ष्य छेड़छाड़-प्रूफ उद्गम नहीं है, बल्कि आकस्मिक धोखे की लागत को बड़े पैमाने पर बढ़ाना है, वही तर्क जो मुद्रा वॉटरमार्क को नियंत्रित करता है। स्वैच्छिक उद्योग उपायों पर संदेह करने वाले कुछ एआई सुरक्षा समूहों सहित आलोचकों का तर्क है कि केवल अनुमोदित संगठनों के लिए पहुंच वाले डिटेक्टर अपनी एआई-सामग्री नीतियों को लागू करने की कोशिश कर रहे शिक्षकों, संपादकों या प्लेटफार्मों के लिए बहुत कम करते हैं।
उपयोगकर्ताओं और डेवलपर्स के लिए इसका क्या अर्थ है
EU के अंदर ChatGPT और कोडेक्स उपयोगकर्ताओं के लिए, स्पष्ट रूप से कुछ भी नहीं बदलेगा। टेक्स्ट एक जैसा दिखेगा और महसूस होगा, और आउटपुट पर कोई लेबल दिखाई नहीं देगा। वॉटरमार्क बस वहीं रहेगा, जिसे ओपनएआई के अनुमोदित साझेदारों द्वारा सैद्धांतिक रूप से पता लगाया जा सकेगा।
डेवलपर्स के लिए, एपीआई ध्वज तुरंत आता है और सावधानीपूर्वक मूल्यांकन करने योग्य है: इसे चालू करने का मतलब है कि हर पूर्णता के दौरान टोकन नमूने में सूक्ष्म परिवर्तन स्वीकार करना, यहां तक कि गैर-ईयू उपयोगकर्ताओं के लिए भी, क्योंकि एपीआई सेटिंग वैश्विक है। सख्त विलंबता या गुणवत्ता बजट वाली टीमें स्विच फ़्लिप करने से पहले अपने वर्तमान सेटअप के विरुद्ध वॉटरमार्क पीढ़ी को बेंचमार्क करना चाह सकती हैं।
ओपनएआई का कहना है कि पात्र मॉडल और डिटेक्टर आवेदन प्रक्रिया पर अधिक विवरण आने वाले हफ्तों में आएंगे। चूंकि अन्य प्रयोगशालाएं समान यूरोपीय संघ के दायित्वों का सामना करती हैं, इसलिए टेक्स्टग्रेन उद्योग द्वारा इस वर्ष लागू की जाने वाली आखिरी वॉटरमार्किंग योजना होने की संभावना नहीं है।
एआई से आगे रहें
विनियमन इस बात को नया आकार दे रहा है कि एआई उत्पाद हुड के नीचे कैसे काम करते हैं। एआई बज़ वायर पर नवीनतम एआई विकास प्राप्त करें, पूरे दिन नीति विश्लेषण और मॉडल समाचार अपडेट किए जाते हैं।
अधिक एआई समाचार यहां पढ़ें।
