एक दूसरे गणितज्ञ ने सार्वजनिक रूप से ओपनएआई पर अपनी प्रसिद्ध गणित सफलताओं के पीछे डेटा पर अनैतिक और "बेईमान" व्यवहार का आरोप लगाया है, और कहा है कि कंपनी यह साबित करने में विफल रही है कि चैटजीपीटी के साथ उनकी निजी बातचीत ने पिछले महीने बड़ी धूमधाम से घोषित परिणामों में योगदान नहीं दिया।
बुधवार को द वर्ज द्वारा रिपोर्ट की गई मास्टोडन पर पोस्ट की एक श्रृंखला में, गणितज्ञ एंड्रियास थॉम ने चिंता जताई कि ओपनएआई की घोषणा से पहले चैटजीपीटी के साथ उनकी और उनके सहयोगियों की बातचीत ने मॉडल की सफलता को प्रभावित किया होगा। उनका हस्तक्षेप न्यूयॉर्क विश्वविद्यालय के गणित के प्रोफेसर ट्रिस्टन बकमास्टर के सार्वजनिक रूप से सवाल उठाने के कुछ ही दिनों बाद आया कि क्या ओपनएआई के मॉडल को कंपनी के कोडेक्स टूल के अपने उपयोग से फायदा हुआ था - जिसने प्रयोगशाला के लिए जीत के क्षण को प्रशिक्षण-डेटा उद्गम पर चल रहे विवाद में बदल दिया। For more context on this story, see our ongoing breaking AI news.
ब्रेकथ्रू से बैकलैश तक
अगस्त में, ओपनएआई ने घोषणा की कि उसके सिस्टम ने गणित और सैद्धांतिक कंप्यूटर विज्ञान में दस महत्वपूर्ण परिणाम दिए हैं, प्रत्येक को मशीन-सत्यापित लीन प्रमाणों के साथ जांचा गया - एक मील का पत्थर जो इस साइट ने उस समय कवर किया था, साथ ही कंपनी ने मिलेनियम पुरस्कार समस्या के समाधान का दावा किया था। दस परिणामों में से एक ने तथाकथित गैर-सामाजिक समूहों के अस्तित्व को स्थापित किया, जो समूह सिद्धांत में एक लंबे समय से खुला प्रश्न है।
वह परिणाम नए विवाद के केंद्र में है। द वर्ज के अनुसार, ओपनएआई ने स्वीकार किया कि सबूत थॉम और साथी गणितज्ञ गैबोर कुन के पिछले काम पर आधारित है - और गणितीय हलकों से उनके हालिया योगदान को स्वीकार करने में विफल रहने के लिए आलोचना के बाद, कंपनी ने चुपचाप अपने लेखन में संशोधन किया।
थॉम के लिए, स्वीकृति ने एक असहज सवाल खड़ा कर दिया: मॉडल को उनकी और कुन की तकनीकों को इतने विस्तार से कैसे नियंत्रित किया गया?
थॉम के अनुसार प्रश्न अनुत्तरित रह गया
थॉम ने कहा कि वह "ओपनएआई की हमारी तकनीकों के विस्तृत आदेश" से चकित थे, उन्होंने कहा कि वे उस समय समाधान के लिए न तो सबसे स्पष्ट और न ही सबसे आशाजनक मार्ग थे। उन्होंने ओपनएआई शोधकर्ताओं सेबेस्टियन बुबेक और मार्क सेलके को ईमेल लिखा - जो हार्वर्ड में एक सांख्यिकीविद् भी हैं - उन्होंने पूछा कि क्या चैटजीपीटी के साथ उनकी बातचीत "प्रशिक्षण डेटा का हिस्सा थी या तर्क प्रक्रिया के लिए सुलभ थी" और इसलिए परिणाम में योगदान दे सकती थी।
उन्हें जो उत्तर मिला वह केवल इस बात पर केंद्रित था कि क्या उनकी बातचीत तक सीधे पहुंचा जा सकता है, न कि यह कि क्या उन्होंने कंपनी के मॉडल को प्रशिक्षित करने और सुधारने के लिए उपयोग किए गए डेटा के विशाल पूल में प्रवेश किया था। थॉम ने लिखा, "ऐसी कोई योग्यता, स्पष्टीकरण या सबूत नहीं दिया गया।" "मैं इसे कम से कम बेईमानी के रूप में लेता हूं।"
द वर्ज द्वारा उद्धृत अनुवर्ती कार्रवाई में, उन्होंने आरोप को तीखा किया: "सेल्के का स्पष्ट उत्तर, कम से कम, अनुचित रूप से व्यापक और भौतिक रूप से भ्रामक था; पीछे मुड़कर देखने पर यह स्पष्ट रूप से बेईमानी था।"
थॉम्स का तर्क इस बारे में कम है कि ओपनएआई ने क्या किया, बल्कि इस बारे में है कि सबूत का बोझ कौन उठाता है। उन्होंने कहा, शोधकर्ता कंपनी की प्रशिक्षण पाइपलाइन को रिवर्स-इंजीनियर करने के लिए सुसज्जित नहीं हैं। उन्होंने लिखा, "केवल OpenAI के पास इसके लिए प्रासंगिक डेटा है - इसलिए यदि कंपनी इस बात से इनकार करना चाहती है कि उपयोगकर्ता डेटा ने उसके परिणामों में योगदान दिया है, तो प्रासंगिक डेटासेट का खुलासा करके और यह स्पष्ट करके कि यह ग्राहक इंटरैक्शन का उपयोग कैसे करता है, इसे साबित करने की जिम्मेदारी OpenAI पर है।
OpenAI का सावधानीपूर्वक खंडन
द वर्ज के अनुसार, यह विवाद कंपनी द्वारा दावा की गई नेवियर-स्टोक्स सफलता से निपटने के तरीके को प्रतिबिंबित करता है, जिस पर बकमास्टर व्यक्तिगत क्षमता में एंथ्रोपिक शोधकर्ता लेवेंट एल्पोगे के साथ काम कर रहा था। उस परिणाम की घोषणा करते हुए ब्लॉग पोस्ट में, OpenAI ने कहा: "हमने (शोधकर्ताओं और एजेंटों ने) उनके किसी भी काम को किसी भी माध्यम से तब तक नहीं देखा जब तक कि उन्होंने इसे सार्वजनिक रूप से जारी नहीं किया - विशेष रूप से, इस समस्या को हल करने के लिए किसी विशिष्ट उपयोगकर्ता डेटा तक पहुंच नहीं बनाई गई थी।"
लेकिन उसी पोस्ट ने एक अप्रत्यक्ष चैनल को स्वीकार किया: "संभावना न होते हुए भी, हम इस बात से इंकार नहीं कर सकते कि हमारे उत्पादों के उपयोग से प्राप्त अज्ञात डेटा ने हमारे मॉडल को बेहतर बनाने में मदद की है।"
थॉम के लिए, वह भेद ही पूरी समस्या है। उन्होंने लिखा, "पहचान मिटाने से नाम हटाया जा सकता है; यह गणितीय विचार की बौद्धिक सामग्री को नहीं हटाता है।" ओपनएआई ने टिप्पणी के लिए द वर्ज के अनुरोध का तुरंत जवाब नहीं दिया।
उन्होंने कहा कि यह "नैतिक रूप से असुरक्षित होगा" यदि उपयोगकर्ताओं द्वारा प्रदान किए गए गैर-सार्वजनिक शोध ने मॉडल को बेहतर बनाने में मदद की, जिसका उपयोग कंपनी ने उन्हीं उपयोगकर्ताओं को प्रकाशन के लिए दौड़ में किया - सहमति, उचित प्रकटीकरण या क्रेडिट के बिना।
गणित को लेकर चिंता
मिलेनियम पुरस्कार प्रोत्साहन की परिस्थितियों ने तंत्रिकाओं को शांत करने के लिए कुछ नहीं किया है। ओपनएआई ने कहा है कि उसने ऑनलाइन अफवाहें सुनने के बाद समस्या का समाधान किया है कि अन्य शोधकर्ताओं ने बड़ी प्रगति की है - प्रभावी ढंग से शिक्षाविदों को उस परिणाम तक पहुंचाया है जिसके लिए उन्होंने कई साल बिताए हैं।
कई शोधकर्ताओं ने द वर्ज को बताया कि उन्हें चिंता है कि इस तरह का व्यवहार गणित को और अधिक गुप्त स्थिति में धकेल देगा, अगर गणितज्ञों को यह विश्वास हो जाए कि आसन्न सफलता की अफवाहें भी महिमा के लिए उत्सुक एक अच्छी तरह से संसाधन वाली तकनीकी दिग्गज के खिलाफ दौड़ को भड़का सकती हैं। द वर्ज के संबंधित कवरेज - "ओपनएआई की चतुर गणितीय सफलता ने शिक्षा जगत में खलबली मचा दी है" - ने क्षेत्र के मूड को पकड़ लिया।
यह प्रकरण एआई कंपनियों और अनुसंधान समुदायों के लिए एक नाजुक क्षण में आता है, जिनके खिलाफ वे तेजी से बढ़ रहे हैं। किसी भी व्यक्तिगत परिणाम के गुण जो भी हों, थॉम द्वारा वर्णित विषमता संरचनात्मक है: प्रयोगशालाएं बड़े पैमाने पर उपयोगकर्ता की बातचीत को निगल सकती हैं, जबकि उस डेटा को उत्पन्न करने वाले लोगों के पास जो लिया गया था उसका ऑडिट करने का कोई तरीका नहीं है। जब तक कंपनियां या तो अपने प्रशिक्षण पाइपलाइनों को जांच के लिए नहीं खोलती हैं या ग्राहक वार्तालापों और मॉडल प्रशिक्षण के बीच कठोर, सत्यापन योग्य फ़ायरवॉल नहीं लगाती हैं, तब तक प्रत्येक "हमने आपके डेटा का उपयोग नहीं किया" कथन में एक अंतर्निहित तारांकन चिह्न होगा - और हर सफलता गणितज्ञों और अन्य क्षेत्रों में बढ़ते शोधकर्ताओं के साथ आएगी, जो सबूत मांग रहे हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
