ओपनएआई ने बुधवार को घोषणा की कि वह अपने फ्रंटियर मॉडलों के लिए जीरो डेटा रिटेंशन (जेडडीआर) की पेशकश कर रहा है और प्राइवेट सेफ्टी प्रोसेसिंग नामक एक नई प्रणाली का पूर्वावलोकन किया है, जिसे कंपनी को ग्राहक सामग्री तक पहुंच प्रदान किए बिना कई इंटरैक्शन में दुरुपयोग का पता लगाने के लिए डिज़ाइन किया गया है। यह कदम प्रतिस्पर्धियों के खिलाफ एक तीखी रेखा खींचता है: एक्सियोस ने बताया कि यह घोषणा तब हुई है जब एंथ्रोपिक को अब ग्राहकों को डेटा लॉग की अनुमति देने की आवश्यकता है, और फ़र्स्टपोस्ट ने एंथ्रोपिक के 30-दिवसीय डेटा प्रतिधारण के कदम के साथ विरोधाभास को नोट किया है।
समय सूक्ष्म नहीं है. अपनी घोषणा में, ओपनएआई ने देखा कि "कुछ हालिया फ्रंटियर-मॉडल तैनाती के लिए ग्राहकों को अपने एआई प्रदाता को सुरक्षा निगरानी के लिए संवेदनशील सामग्री को बनाए रखने की अनुमति देने की आवश्यकता है" - कंपनी का कहना है कि आवश्यकताएं "उनके सुरक्षा दायित्वों या उन लोगों के प्रति प्रतिबद्धताओं के साथ संघर्ष करती हैं जिनकी वे सेवा करते हैं।" कंपनी विनियमित उद्यम ग्राहकों के लिए प्रतिस्पर्धा में गोपनीयता को एक प्रतिस्पर्धी हथियार के रूप में पेश कर रही है। For more context on this story, see our ongoing more AI stories.
जीरो डेटा रिटेंशन क्या वादा करता है
ZDR पेशकश के तहत, पात्र एपीआई ग्राहकों को वह मिलता है जिसे OpenAI "एक स्पष्ट वादा" के रूप में वर्णित करता है: अनुरोध संसाधित होने के बाद OpenAI संकेत या मॉडल प्रतिक्रियाएं बरकरार नहीं रखता है। ग्राहक सामग्री समीक्षा के लिए OpenAI कर्मियों के लिए उपलब्ध नहीं है, और एंटरप्राइज़ ग्राहक डेटा का उपयोग OpenAI के मॉडल को प्रशिक्षित करने के लिए नहीं किया जाता है जब तक कि ग्राहक स्पष्ट रूप से विकल्प नहीं चुनते हैं।
एआई अपनाने पर विचार करने वाले बैंकों, अस्पतालों और कानून फर्मों के लिए, वे प्रतिबद्धताएं सबसे आम डील-ब्रेकर को संबोधित करती हैं: जोखिम यह है कि एआई प्रदाता के सिस्टम के माध्यम से बहने वाली संवेदनशील सामग्री को भविष्य के मॉडल में संग्रहीत, पढ़ा या अवशोषित किया जा सकता है। OpenAI उन संगठनों को नोट करता है जिनके साथ वह काम करता है "वित्तीय रिकॉर्ड, स्वास्थ्य डेटा, गोपनीय व्यावसायिक योजनाएं और मालिकाना अनुसंधान।"
सुरक्षा समस्या प्रतिधारण का समाधान हो रहा था
घोषणा में वास्तविक तकनीकी तनाव को भी स्वीकार किया गया है। जैसा कि OpenAI स्वयं इसका वर्णन करता है, सबसे गंभीर AI सुरक्षा जोखिम हमेशा एक ही इंटरैक्शन में दिखाई नहीं देते हैं। हानिकारक इरादे तभी स्पष्ट हो सकते हैं जब कई इंटरैक्शन को एक साथ देखा जाता है - जब बुरे कलाकार बार-बार सुरक्षा उपायों की जांच करते हैं, खातों में समन्वय करते हैं, खतरों को नियमित अनुसंधान के रूप में छिपाते हैं, या जब कोई एआई एजेंट रुकने के लिए कहे जाने के बाद भी कार्य करता रहता है।
मौजूदा ZDR-संगत सुरक्षा प्रणालियाँ प्रत्येक इंटरैक्शन का व्यक्तिगत रूप से मूल्यांकन करती हैं, जिसका अर्थ है कि पैटर्न-आधारित जोखिम खत्म हो जाते हैं। जिन प्रदाताओं ने प्रतिधारण की आवश्यकता पर प्रतिक्रिया व्यक्त की, उन्होंने एक समस्या को दूसरी बनाकर हल कर दिया, जिससे ग्राहकों को सुरक्षा निगरानी और अपने स्वयं के गोपनीयता दायित्वों के बीच चयन करने के लिए मजबूर होना पड़ा।
निजी सुरक्षा प्रसंस्करण कैसे काम करता है
OpenAI का प्रस्तावित रिज़ॉल्यूशन वास्तुशिल्प है। निजी सुरक्षा प्रसंस्करण के तहत, ग्राहक सामग्री ग्राहक द्वारा नियंत्रित बुनियादी ढांचे पर बनी रहती है - या, अभी भी विकास में एक विकल्प में, ग्राहक द्वारा नियंत्रित कुंजी के साथ एन्क्रिप्टेड ओपनएआई बुनियादी ढांचे पर संग्रहीत की जाती है। स्वचालित सिस्टम तब संबंधित इंटरैक्शन में पैटर्न का विश्लेषण करते हैं और "सीमित सुरक्षा सिग्नल" लौटाते हैं - संभावित दुरुपयोग के बारे में झंडे - ओपनएआई कर्मियों के अंतर्निहित संकेतों या प्रतिक्रियाओं को उजागर किए बिना।
ग्राहक अपने सिस्टम में उपलब्ध जानकारी का उपयोग करके अलर्ट की जांच करते हैं। यदि वे प्रवर्तन निर्णय के खिलाफ अपील करना चाहते हैं, वैध गतिविधि को स्पष्ट करना चाहते हैं, या सत्यापित दुरुपयोग की जांच का समर्थन करना चाहते हैं, तो वे ओपनएआई के साथ प्रासंगिक जानकारी साझा करना चुन सकते हैं। गोपनीयता, दूसरे शब्दों में, ग्राहक का डिफ़ॉल्ट और प्रकटीकरण विकल्प बन जाता है।
सिस्टम का फिलहाल शुरुआती ग्राहकों के साथ परीक्षण किया जा रहा है। ओपनएआई का कहना है कि वह निजी सुरक्षा प्रसंस्करण शुरू करने और सितंबर में एक तकनीकी श्वेत पत्र प्रकाशित करने की योजना बना रहा है।
एक बाज़ार के रूप में उद्यम का भरोसा
घोषणा एक ग्राहक प्रशंसापत्र के साथ आई जो खरीद तर्क की तरह पढ़ती है। ग्लेन के मुख्य सूचना सुरक्षा अधिकारी सुनील अग्रवाल ने कहा, "एंटरप्राइज़ एआई को अपनाना पूरी तरह से डेटा के ग्राहक नियंत्रण पर निर्भर करता है, जिसमें चुनी गई सेवा से परे कोई प्रत्यक्ष या व्युत्पन्न उपयोग नहीं होता है।" जिनका उद्धरण ओपनएआई ने पोस्ट के साथ प्रकाशित किया है। "जैसे-जैसे मॉडल अधिक सक्षम होते जाते हैं, ओपनएआई दिखाता है कि उद्यम के विश्वास को बनाए रखने वाली गोपनीयता और नियंत्रण से समझौता किए बिना सुरक्षा आगे बढ़ सकती है।"
ओपनएआई ने पूर्वावलोकन को मांग की प्रतिक्रिया के रूप में तैयार किया है, यह कहते हुए कि उसने ग्राहकों से "जोर से और स्पष्ट रूप से सुना है कि उन्हें इस बारे में पूर्वानुमान की आवश्यकता है कि एआई सिस्टम अधिक सक्षम होने के कारण उनकी सामग्री को कैसे संरक्षित किया जाएगा।" कंपनी का कहना है कि इस दृष्टिकोण को "उद्योगों, क्षेत्रों और कंपनी के आकारों में" ग्राहकों द्वारा आकार दिया जा रहा है, और यह ग्राहकों को परिवर्तनों के आसपास तैनाती की योजना बनाने के लिए पर्याप्त लीड समय के साथ सूचित रखेगा।
इससे बहस छिड़ जाएगी
सुरक्षा शोधकर्ताओं ने लंबे समय से तर्क दिया है कि नुकसान पहुंचाने से पहले दुरुपयोग को पकड़ने के लिए उपयोग पैटर्न में दृश्यता आवश्यक है, और कुछ लोग सवाल करेंगे कि क्या स्वचालित, एन्क्रिप्टेड विश्लेषण मानव समीक्षा की पहचान गुणवत्ता से मेल खा सकता है। इस बीच, गोपनीयता की वकालत करने वाले ऐसे आर्किटेक्चर का स्वागत करेंगे जो ग्राहक डेटा तक पहुंच को प्रदाता के विशेषाधिकार के बजाय ग्राहक के निर्णय के रूप में मानता है।
जो स्पष्ट है वह यह है कि डेटा गवर्नेंस कानूनी फाइन प्रिंट से एआई प्रतिस्पर्धा के केंद्र में स्थानांतरित हो गया है। जैसे-जैसे फ्रंटियर मॉडल विनियमित उद्योगों में अधिक स्वायत्त कार्य करते हैं, यह सवाल कि सिस्टम द्वारा छोड़े गए निशानों को कौन देखता है - ग्राहक, प्रदाता, या कोई नहीं - एक प्राथमिक धुरी बन रहा है जिस पर एंटरप्राइज़ एआई सौदे जीते और हारे हैं। OpenAI ने अब अपना उत्तर स्पष्ट कर दिया है, और अपने प्रतिद्वंद्वियों को अपना बचाव करने की स्थिति में ला दिया है।
डेटा प्रशासन एआई उद्योग को कैसे नया आकार दे रहा है, इस पर अधिक जानकारी के लिए एआई बज़ वायर की ब्रेकिंग एआई समाचार कवरेज का अनुसरण करें।---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
