OpenAI ने बुधवारी जाहीर केले की ते त्याच्या फ्रंटियर मॉडेल्ससाठी झिरो डेटा रिटेन्शन (ZDR) ऑफर करत आहे आणि कंपनीला ग्राहक सामग्रीमध्ये प्रवेश न देता अनेक परस्परसंवादांमध्ये गैरवापर शोधण्यासाठी डिझाइन केलेल्या प्रायव्हेट सेफ्टी प्रोसेसिंग नावाच्या नवीन प्रणालीचे पूर्वावलोकन केले आहे. या हालचालीने प्रतिस्पर्ध्यांच्या विरोधात एक तीक्ष्ण रेषा काढली आहे: ॲन्थ्रोपिकने आता ग्राहकांना डेटा लॉगची परवानगी देणे आवश्यक असल्याने ही घोषणा आली आहे आणि फर्स्टपोस्टने अँथ्रोपिकच्या 30-दिवसांच्या डेटा रिटेंशनमध्ये फरक नोंदवला आहे.
वेळ सूक्ष्म नाही. आपल्या घोषणेमध्ये, OpenAI ने निरीक्षण केले की "काही अलीकडील फ्रंटियर-मॉडेल उपयोजनांमुळे ग्राहकांना त्यांच्या AI प्रदात्याला सुरक्षितता निरीक्षणासाठी संवेदनशील सामग्री ठेवण्याची परवानगी देणे आवश्यक आहे" - कंपनी म्हणते "त्यांच्या सुरक्षा दायित्वांशी किंवा ते सेवा देत असलेल्या लोकांच्या वचनबद्धतेशी विरोधाभास आहे." कंपनी नियमन केलेल्या एंटरप्राइझ ग्राहकांसाठी स्पर्धात्मक शस्त्र म्हणून गोपनीयतेला स्थान देत आहे. For more context on this story, see our ongoing more AI stories.
शून्य डेटा धारणा काय वचन देते
ZDR ऑफरिंग अंतर्गत, पात्र API ग्राहकांना OpenAI चे वर्णन "स्पष्ट वचन" म्हणून मिळते: ओपनएआय विनंतीवर प्रक्रिया केल्यानंतर प्रॉम्प्ट किंवा मॉडेल प्रतिसाद ठेवत नाही. OpenAI कर्मचाऱ्यांना पुनरावलोकनासाठी ग्राहक सामग्री उपलब्ध नाही आणि जोपर्यंत ग्राहक स्पष्टपणे निवड करत नाहीत तोपर्यंत OpenAI च्या मॉडेल्सना प्रशिक्षण देण्यासाठी एंटरप्राइझ ग्राहक डेटा वापरला जात नाही.
बँका, रुग्णालये आणि कायदेशीर संस्थांसाठी AI दत्तक घेण्याचे वजन असलेल्या, त्या वचनबद्धता सर्वात सामान्य डील-ब्रेकरला संबोधित करतात: AI प्रदात्याच्या सिस्टममधून वाहणारी संवेदनशील सामग्री भविष्यातील मॉडेलमध्ये संग्रहित केली जाऊ शकते, वाचली जाऊ शकते किंवा शोषली जाऊ शकते. ओपनएआय "आर्थिक रेकॉर्ड, आरोग्य डेटा, गोपनीय व्यवसाय योजना आणि मालकी संशोधन" हँडलसह कार्य करते त्या संस्थांची नोंद करते.
सेफ्टी प्रॉब्लेम रिटेन्शन सोडवत होता
घोषणा देखील एक वास्तविक तांत्रिक तणाव मान्य करते. ओपनएआयने स्वतःच वर्णन केल्याप्रमाणे, सर्वात गंभीर AI सुरक्षितता जोखीम नेहमी एकाच परस्परसंवादात दिसून येत नाहीत. हानीकारक हेतू केवळ तेव्हाच स्पष्ट होऊ शकतात जेव्हा एकाधिक परस्परसंवाद एकत्र पाहिले जातात — जेव्हा वाईट कलाकार वारंवार सुरक्षा उपायांची चौकशी करतात, खात्यांमध्ये समन्वय साधतात, नियमित संशोधन म्हणून धमक्या देतात किंवा जेव्हा एआय एजंट थांबण्यास सांगितल्यानंतर कृती करत राहतो.
विद्यमान ZDR-सुसंगत सुरक्षा प्रणाली प्रत्येक परस्परसंवादाचे वैयक्तिकरित्या मूल्यमापन करतात, याचा अर्थ नमुना-आधारित जोखीम कमी होतात. धारणेची आवश्यकता असलेल्या प्रदात्याने प्रतिसाद देत एक समस्या दुसरी तयार करून सोडवली, ग्राहकांना सुरक्षितता निरीक्षण आणि त्यांच्या स्वतःच्या गोपनीयतेची जबाबदारी यापैकी निवडण्यास भाग पाडले.
खाजगी सुरक्षा प्रक्रिया कशी कार्य करते
OpenAI चा प्रस्तावित रिझोल्यूशन आर्किटेक्चरल आहे. प्रायव्हेट सेफ्टी प्रोसेसिंग अंतर्गत, ग्राहकाची सामग्री ग्राहक नियंत्रित करत असलेल्या पायाभूत सुविधांवर राहते — किंवा, अद्याप विकासात असलेल्या पर्यायामध्ये, ग्राहकाद्वारे नियंत्रित की सह एनक्रिप्ट केलेल्या OpenAI पायाभूत सुविधांवर संग्रहित केली जाते. ऑटोमेटेड सिस्टीम नंतर संबंधित परस्परसंवादांमध्ये नमुन्यांचे विश्लेषण करतात आणि "मर्यादित सुरक्षा सिग्नल" - संभाव्य गैरवापराबद्दल ध्वज - अंतर्निहित प्रॉम्प्ट्स किंवा OpenAI कर्मचाऱ्यांना प्रतिसाद न देता परत करतात.
ग्राहक त्यांच्या स्वतःच्या सिस्टीममध्ये उपलब्ध माहिती वापरून अलर्ट तपासतात. जर त्यांना अंमलबजावणीच्या निर्णयावर अपील करायचे असेल, कायदेशीर क्रियाकलाप स्पष्ट करायचा असेल किंवा सत्यापित दुरुपयोगाच्या तपासास समर्थन द्यायचे असेल, तर ते OpenAI सह संबंधित माहिती सामायिक करणे निवडू शकतात. गोपनीयता, दुसऱ्या शब्दांत, डीफॉल्ट बनते आणि ग्राहकाचा पर्याय उघड करते.
या प्रणालीची सध्या सुरुवातीच्या ग्राहकांसह चाचणी केली जात आहे. OpenAI म्हणते की ते खाजगी सुरक्षा प्रक्रिया सुरू करण्याची आणि सप्टेंबरमध्ये तांत्रिक श्वेतपत्र प्रकाशित करण्याची योजना आखत आहे.
मार्केट म्हणून एंटरप्राइझ ट्रस्ट
ही घोषणा ग्राहकाच्या प्रशस्तिपत्रासह आली आहे जी खरेदीच्या युक्तिवादाप्रमाणे वाचते. "एंटरप्राइझ AI दत्तक घेणे केवळ ग्राहकांच्या डेटाच्या नियंत्रणावर अवलंबून असते, निवडलेल्या सेवेच्या पलीकडे थेट किंवा व्युत्पन्न वापर न करता," Glean चे मुख्य माहिती सुरक्षा अधिकारी सुनील अग्रवाल म्हणाले, ज्यांचे कोट OpenAI पोस्टच्या बाजूने प्रकाशित केले आहे. "मॉडेल अधिक सक्षम होत असताना, OpenAI दाखवते की एंटरप्राइझ ट्रस्ट टिकवून ठेवणाऱ्या गोपनीयता आणि नियंत्रणाशी तडजोड न करता सुरक्षितता प्रगती करू शकते."
ओपनएआय मागणीला प्रतिसाद म्हणून पूर्वावलोकन फ्रेम करते, असे म्हणतात की ते ग्राहकांकडून "मोठ्याने आणि स्पष्टपणे ऐकले आहे की एआय सिस्टम अधिक सक्षम झाल्यामुळे त्यांची सामग्री कशी संरक्षित केली जाईल याबद्दल त्यांना अंदाज लावण्याची गरज आहे." कंपनी जोडते की हा दृष्टिकोन ग्राहकांद्वारे "उद्योग, प्रदेश आणि कंपनीच्या आकारात" आकारला जात आहे आणि ते बदलांच्या आसपास उपयोजनांची योजना करण्यासाठी पुरेशा लीड टाईमसह ग्राहकांना माहिती देईल.
यावरून वाद सुरू होईल
सुरक्षितता संशोधकांनी बर्याच काळापासून असा युक्तिवाद केला आहे की वापराच्या नमुन्यांमधील दृश्यमानता हानी होण्याआधी गैरवापर पकडण्यासाठी आवश्यक आहे आणि काहीजण प्रश्न करतील की स्वयंचलित, एनक्रिप्ट केलेले विश्लेषण मानवी पुनरावलोकनाच्या शोध गुणवत्तेशी जुळू शकते का. गोपनीयतेचे वकिल, दरम्यानच्या काळात, प्रदात्याच्या विशेषाधिकाराऐवजी ग्राहकांच्या डेटामध्ये प्रवेश हा ग्राहक निर्णय म्हणून मानणाऱ्या आर्किटेक्चरचे स्वागत करतील.
काय स्पष्ट आहे की डेटा गव्हर्नन्स कायदेशीर फाइन प्रिंटवरून एआय स्पर्धेच्या केंद्रस्थानी हलविला गेला आहे. सीमावर्ती मॉडेल्स नियमन केलेल्या उद्योगांमध्ये जास्त वेळ, अधिक स्वायत्त कार्ये घेत असल्याने, त्या प्रणालींनी मागे सोडलेल्या खुणा कोणाला पहायला मिळतात - ग्राहक, प्रदाता किंवा कोणीही - हा एक प्राथमिक अक्ष बनत आहे ज्यावर एंटरप्राइझ AI सौदे जिंकले आणि हरले. OpenAI ने आता आपले उत्तर स्पष्ट केले आहे आणि त्यांच्या प्रतिस्पर्ध्यांना त्यांचा बचाव करण्याच्या स्थितीत ठेवले आहे.
डेटा गव्हर्नन्स एआय उद्योगाला कसा आकार देत आहे याविषयी अधिक माहितीसाठी, एआय बझ वायरच्या ब्रेकिंग एआय न्यूज कव्हरेजचे अनुसरण करा.---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
