OpenAI ने 5 ऑक्टोबर रोजी जाहीर केले की ते युरोपियन युनियनमधील वापरकर्त्यांसाठी ChatGPT आणि Codex द्वारे व्युत्पन्न केलेल्या मजकुरामध्ये अदृश्य वॉटरमार्क जोडण्यास सुरुवात करेल, EU AI कायद्याच्या मजकूर सिद्धता नियमांना त्याचा ठोस प्रतिसाद. "EU मजकूर उद्दीष्ट नियमांकडे आमचा दृष्टिकोन" या शीर्षकाच्या ब्लॉग पोस्टमध्ये, कंपनीने म्हटले आहे की ब्लॉकमधील पात्र आउटपुटसाठी वॉटरमार्किंग "येत्या आठवड्यात" रोल आउट होईल, त्याच दिवशी TechCrunch, The Verge, BleepingComputer, Engadget आणि इतर आऊटलेट्सने अहवाल दिला.
बदलामागील तंत्रज्ञानाला टेक्स्टग्रेन म्हणतात. दृश्यमान चिन्ह एम्बेड करण्याऐवजी, टेक्स्टग्रेन मॉडेलच्या शब्द निवडींचे सूक्ष्मपणे सुकाणू करून कार्य करते जेणेकरून परिणामी मजकूर एक सांख्यिकीय नमुना असेल जो नंतर शोधला जाऊ शकतो. एआय-व्युत्पन्न मजकूर वापरताना किंवा कॉपी करताना वाचकांना काहीही लक्षात येणार नाही; शोधण्यासाठी OpenAI च्या डिटेक्टरमध्ये प्रवेश आवश्यक आहे, जो सामान्य लोकांसाठी उपलब्ध नाही. AI नियमांवर रेग्युलेटर आणि लॅब कसे टक्कर देत आहेत ते विस्तृतपणे पाहण्यासाठी, आमच्या चालू असलेल्या AI पॉलिसी कव्हरेजचे अनुसरण करा.
टेक्स्टग्रेन वॉटरमार्किंग कसे कार्य करते
OpenAI चा दृष्टिकोन जनरेशन दरम्यान टोकन निवड प्रक्रियेत बदल करतो. ब्लीपिंग कॉम्प्युटरच्या अहवालानुसार टेक्स्टग्रेन "सांख्यिकीय नमुना तयार करण्यासाठी मॉडेलच्या शब्द निवडींमध्ये किंचित बदल करते जे नंतर शोधले जाऊ शकते," कंपनी म्हणते. जेव्हा मजकूर वाचला किंवा कॉपी केला जातो तेव्हा वॉटरमार्क अदृश्य असतो आणि ओपनएआयचा दावा आहे की ते आउटपुट गुणवत्ता खराब करत नाही.
ओळखीची बाजू जाणीवपूर्वक प्रतिबंधित आहे. वॉटरमार्क लॉन्चबरोबरच, OpenAI त्याच्या वॉटरमार्क डिटेक्टरसाठी ऍप्लिकेशन्स उघडत आहे, परंतु प्रवेश सुरुवातीला मान्यताप्राप्त संशोधक आणि तज्ञ संस्थांपुरता मर्यादित असेल. ते डिझाईन शस्त्र बनवण्याच्या आशेने कोणाच्याही हातातून शोधण्याची क्षमता दूर ठेवते, परंतु याचा अर्थ असा आहे की प्रकाशक, शिक्षक आणि नियोक्ते मजकूराचा एक भाग वॉटरमार्क केलेला आहे की नाही हे स्वतंत्रपणे सत्यापित करू शकत नाहीत.
एपीआय ऍक्सेस जगभरात निवडले आहे
EU आदेश ब्लॉकमधील ChatGPT आणि कोडेक्स आउटपुटवर लागू होतो, परंतु OpenAI एकाच वेळी सर्वत्र विकसकांना पर्याय देत आहे. 5 ऑक्टोबरपासून, जगभरातील API विकसक समर्थित मॉडेलसाठी मजकूर वॉटरमार्किंगची निवड करू शकतात. हे वैशिष्ट्य API वर डीफॉल्टनुसार अक्षम राहते, हा निर्णय नवीन स्टॅकने अँथ्रोपिकच्या दृष्टिकोनाशी विरोधाभास म्हणून ठळक केला, ज्याने या वर्षाच्या सुरुवातीला त्याच नियमांना स्वतःच्या प्रतिसादात EU रहदारीसाठी प्रोव्हेन्स मार्किंग चालू केले.
त्या निवडीचा पवित्रा अनपेक्षित दुष्परिणामांबद्दल चिंतित असलेल्या विकसकांना दिलासा देईल. सांख्यिकीय वॉटरमार्किंग टोकन्सचे नमुने कसे बनवतात हे बदलते आणि पिढीतील कोणत्याही बदलामुळे काठावर वर्तन बदलण्याचा किमान सैद्धांतिक धोका असतो. वॉटरमार्किंगला डिफॉल्ट ऐवजी ध्वज बनवून, OpenAI अनुपालन निर्णय त्यांच्या मॉडेल्सवर तयार करणाऱ्या कंपन्यांकडे हस्तांतरित करते.
EU AI कायद्याने याची सक्ती का केली
EU AI कायद्याच्या पारदर्शकता तरतुदींनुसार AI-व्युत्पन्न केलेला मजकूर मशीन-व्युत्पन्न म्हणून ओळखता येण्याजोगा असणे आवश्यक आहे, एक बंधन ज्याने OpenAI आणि Anthropic दोन्ही सांख्यिकीय वॉटरमार्किंग योजनांकडे ढकलले. OpenAI च्या ब्लॉग पोस्टने टेक्स्टग्रेनला त्या मूळ आवश्यकतांची अंमलबजावणी म्हणून फ्रेम केले आहे आणि PYMNTS ने OpenAI मीटिंग "EU AI कायदा आदेश" थेट म्हणून रोलआउटचा अहवाल दिला आहे.
वेळ लक्षणीय आहे. वॉटरमार्क घोषणा OpenAI च्या सार्वजनिक मुद्रेसाठी असामान्यपणे अशांत पसरलेल्या दरम्यान उतरली: त्याच बातम्या चक्रामुळे सुरक्षा नेते डेव्हिड रॉबिन्सन यांचे प्रस्थान, प्रमुख AI लॅबमधील ग्राहक जोखमींवरील FTC तपासणी आणि शेअरहोल्डर खटल्याच्या वातावरणामुळे कंपनी छाननीखाली आहे. वॉटरमार्किंग अशा काही नियामक मागण्यांपैकी एक आहे ज्या ओपनएआय उत्पादनातील बदलांऐवजी पायाभूत सुविधांसह पूर्णपणे पूर्ण करू शकतात, ज्यामुळे ते प्रथम का पाठवले गेले हे स्पष्ट होऊ शकते.
द कॅच: वॉटरमार्क्स एडिटिंग अंतर्गत मोडतात
OpenAI स्वतः मूलभूत मर्यादा मान्य करते. कंपनी कबूल करते की जेव्हा मजकूर संपादित केला जातो तेव्हा त्याचे वॉटरमार्क गायब होऊ शकतात आणि भाषिक स्टेग्नोग्राफीवरील अनेक दशकांच्या संशोधनामुळे ही चिंता परत येते: पॅराफ्रेसिंग, भाषांतर किंवा अगदी माफक पुनर्लेखन देखील सांख्यिकीय वॉटरमार्क नष्ट करू शकते. "ह्युमॅनायझर" टूलद्वारे AI मजकूर धुण्याचा निर्धार केलेला कोणीही यशस्वी होईल.
त्या कमकुवतपणाने नियामकांना वॉटरमार्किंगची आवश्यकता रोखली नाही आणि प्रयोगशाळांना ते पाठवण्यापासून थांबवले नाही. वास्तववादी उद्दिष्ट हे छेडछाड-प्रुफ प्रोव्हन्सन्स नसून अनौपचारिक फसवणुकीची किंमत मोठ्या प्रमाणावर वाढवणे आहे, हेच तर्क चलन वॉटरमार्कला नियंत्रित करते. स्वैच्छिक उद्योग उपायांबद्दल साशंक असलेल्या काही AI सुरक्षा गटांसह समीक्षकांचा असा युक्तिवाद आहे की केवळ मान्यताप्राप्त संस्थांसाठी प्रवेशयोग्य डिटेक्टर शिक्षक, संपादक किंवा त्यांची स्वतःची AI-सामग्री धोरणे लागू करण्याचा प्रयत्न करणाऱ्या प्लॅटफॉर्मसाठी फारसे काम करत नाहीत.
वापरकर्ते आणि विकसकांसाठी याचा अर्थ काय आहे
EU मधील ChatGPT आणि Codex वापरकर्त्यांसाठी, काहीही दृश्यमानपणे बदलणार नाही. मजकूर सारखाच दिसेल आणि आउटपुटवर कोणतेही लेबल दिसणार नाही. वॉटरमार्क फक्त तेथे असेल, जे OpenAI च्या मान्यताप्राप्त भागीदारांद्वारे तत्त्वतः शोधण्यायोग्य असेल.
विकसकांसाठी, API ध्वज ताबडतोब येतो आणि काळजीपूर्वक मूल्यमापन करण्यासारखे आहे: ते चालू करणे म्हणजे प्रत्येक पूर्णतेवर टोकन सॅम्पलिंगमध्ये सूक्ष्म बदल स्वीकारणे, अगदी गैर-EU वापरकर्त्यांसाठी, API सेटिंग जागतिक असल्याने. कठोर लेटन्सी किंवा दर्जेदार बजेट असलेले संघ स्विच फ्लिप करण्यापूर्वी त्यांच्या सध्याच्या सेटअपच्या विरूद्ध वॉटरमार्क केलेल्या जनरेशनचे बेंचमार्क करू शकतात.
OpenAI म्हणते की पात्र मॉडेल्सबद्दल अधिक तपशील आणि डिटेक्टर अर्ज प्रक्रिया येत्या आठवड्यात येईल. इतर प्रयोगशाळांना समान EU दायित्वांचा सामना करावा लागत असल्याने, टेक्स्टग्रेन ही या वर्षी उद्योगाने तैनात केलेली शेवटची वॉटरमार्किंग योजना असण्याची शक्यता नाही.
AI च्या पुढे रहा
AI उत्पादने हुड अंतर्गत कसे कार्य करतात हे नियमन बदलत आहे. AI Buzz Wire वर नवीनतम AI घडामोडी मिळवा, धोरण विश्लेषण आणि मॉडेल बातम्या दिवसभर अपडेट केल्या जातात.
येथे अधिक AI बातम्या वाचा.
