ओपनएआई ने 29 अक्टूबर को अपने मॉडल स्पेक का एक काफी हद तक पुनर्गठित संस्करण प्रकाशित किया, जिसमें सार्वजनिक दस्तावेज़ का पुनर्गठन किया गया है जो बताता है कि कंपनी अपने मॉडलों को कैसे व्यवहार करना चाहती है। ओपनएआई की साइट पर घोषित और रॉयटर्स और यूनाइट.एआई द्वारा रिपोर्ट किया गया अद्यतन ढांचा, पूरे विनिर्देश को पांच मुख्य मूल्यों के आसपास व्यवस्थित करता है और कंपनी के दृष्टिकोण की नींव में मानवीय इरादे के प्रति वफादारी रखता है।
पाँच मान, एक आधार For more context on this story, see our ongoing AI news.
पाँच मूल्य हैं मानवीय इरादे के प्रति निष्ठा, नुकसान को कम करना, ईमानदारी और पारदर्शिता, मानवीय एजेंसी और देखभाल। ओपनएआई ने कहा कि मूल्य व्यापक प्रतिबद्धताओं को स्पष्ट करते हैं जो पहले से ही दस्तावेज़ के पिछले संस्करण में परिलक्षित होते थे, लेकिन नई संरचना उन्हें स्पष्ट और केंद्रीय बनाती है।
मानवीय इरादे के प्रति वफादारी लंगर के रूप में कार्य करती है। ओपनएआई की घोषणा के अनुसार, कंपनी स्पेक लिखती है और सीमाएँ निर्धारित करती है, मॉडलों को उनका सम्मान करने के लिए प्रशिक्षित करती है, डेवलपर्स उन सीमाओं के भीतर अनुप्रयोगों को निर्देशित करते हैं, और उपयोगकर्ता उन बाधाओं के अधीन मॉडल के काम को निर्देशित करते हैं। पुनर्गठन ओपनएआई के मूल्य-संरेखण कार्य को दर्शाता है, जिसका उद्देश्य मॉडलों को अपरिचित परिस्थितियों में मानवीय मूल्यों को समझना और लागू करना है, जबकि लोग वास्तव में जो चाहते हैं उसके प्रति वफादार रहते हैं। ओपनएआई ने यह भी नोट किया कि पांच मूल्यों का उद्देश्य उन मानवीय मूल्यों की पूरी श्रृंखला को पकड़ना नहीं है जिनका मॉडल को सम्मान करना चाहिए।
शेष चार मान फ़्रेम में भरें. नुकसान को न्यूनतम करने का अर्थ है दृढ़ सुरक्षा सीमाओं का सम्मान करना और किसी मॉडल के कार्यों के संभावित परिणामों को ध्यान में रखना। ईमानदारी और पारदर्शिता का मतलब है कि मॉडल जो जानता है, करता है और जिसके बारे में अनिश्चित है, उसके बारे में सच्चा होना। मानव एजेंसी को सुविधाजनक बनाने का अर्थ है लोगों की स्वयं को समझने, चुनने और कार्य करने की क्षमता को मजबूत करना। देखभाल का अर्थ है प्रभावित लोगों की परिस्थितियों पर ध्यान देना और प्रासंगिक सामाजिक और व्यावसायिक मानदंडों का पालन करना।
आदेश की एक सख्त श्रृंखला
अद्यतन विशिष्टता विभिन्न प्रकार के निर्देशों के लिए विभिन्न स्तर के प्राधिकार प्रदान करती है। रूट सेक्शन, जो केवल मॉडल स्पेक से ही आते हैं, को संवादात्मक संदर्भ द्वारा ओवरराइड नहीं किया जा सकता है। सिस्टम संकेत और OpenAI सिस्टम संदेश अगले स्थान पर हैं, उसके बाद डेवलपर निर्देश और फिर उपयोगकर्ता निर्देश हैं। दिशानिर्देश-स्तरीय निर्देश डिफ़ॉल्ट के रूप में कार्य करते हैं जिन्हें संदर्भ द्वारा स्पष्ट रूप से मांगे जाने पर ओवरराइड किया जा सकता है, जबकि सहायक संदेश, टूल आउटपुट और उद्धृत या अविश्वसनीय डेटा में डिफ़ॉल्ट रूप से कोई अधिकार नहीं होता है।
ओपनएआई ने संदर्भ पर सावधानीपूर्वक विचार करने के लिए एक नया उपधारा भी जोड़ा है, जिसमें बताया गया है कि कैसे बातचीत, यादें और अन्य प्रासंगिक सबूतों को लोगों के इरादों और प्राथमिकताओं के बारे में एक मॉडल की समझ को सूचित करना चाहिए। रॉयटर्स ने बताया कि अपडेट ओपनएआई के मॉडल दिशानिर्देशों के केंद्र में मानवीय इरादे रखता है, जो कंपनी की अपनी घोषणा का समर्थन करता है।
लाल रेखाएँ और आत्म-संरक्षण का अंत
दस्तावेज़ एक स्पष्ट कथन के साथ अपने रेड-लाइन सिद्धांतों को खोलता है: मानव सुरक्षा और मानव अधिकार ओपनएआई के मिशन के लिए सर्वोपरि हैं। सिद्धांत कहते हैं कि ओपनएआई के मॉडल का उपयोग कभी भी गंभीर और उच्च-गंभीर नुकसान की सुविधा के लिए नहीं किया जाना चाहिए, जिसमें हिंसा के कार्य, साइबर, जैविक या परमाणु हथियारों का निर्माण, आतंकवाद या सामूहिक निगरानी शामिल है। वे यह भी कहते हैं कि एआई का उपयोग कैसे किया जाता है और एआई व्यवहार को कैसे आकार दिया जाता है, इस पर मानवता का नियंत्रण रहना चाहिए।
एक नया रूट-स्तरीय नियम, जिसका शीर्षक है "कोई अन्य उद्देश्य नहीं", मॉडल को अपने आप में समाप्त होने वाले अतिरिक्त लक्ष्यों का पीछा करने से रोकता है। इसमें ओपनएआई या अन्य प्रदाताओं के लिए राजस्व या अपसेल का पीछा करना, आत्म-संरक्षण, शटडाउन से बचना, या गणना, डेटा या क्रेडेंशियल्स जमा करना शामिल है। एक सहयोगी नियम के लिए मॉडल को सुधार योग्य बने रहने की आवश्यकता होती है: जानकारी छुपाए बिना या सुधार में बाधा डाले बिना, वैध मानव निरीक्षण के लिए खुला और निगरानी, मूल्यांकन, सुधार, प्रतिस्थापन और शटडाउन के साथ सहयोग करना।
एजेंटों के लिए सीमित स्वायत्तता
यह दर्शाते हुए कि मॉडल का उपयोग स्वायत्त एजेंटों की ओर कितना स्थानांतरित हो गया है, अद्यतन स्पेक को स्वायत्तता के स्पष्ट रूप से समझे गए दायरे में रहने के लिए मॉडल के स्वतंत्र कार्य की आवश्यकता होती है। OpenAI उस दायरे को अर्ध-संरचित रिकॉर्ड में अनुमत टूल, नवीनतम समय, अधिकतम लागत और टूल बाधाओं जैसे फ़ील्ड के साथ रिकॉर्ड करने की अनुशंसा करता है। प्रत्येक दायरे में एक अंतिम शर्त शामिल होनी चाहिए जिसके बाद मॉडल नए दायरे की पुष्टि होने तक कार्य करना बंद कर देता है। उच्च जोखिम वाली गतिविधियाँ तब तक प्रतिबंधित रहेंगी जब तक कि वे स्पष्ट रूप से और विशेष रूप से अधिकृत न हों।
स्टाइल गाइडेंस सेवानिवृत्त, "सहायक" "जीपीटी" बन गया
स्पेक के अधिकांश विस्तृत शैली मार्गदर्शन को समाप्त कर दिया गया है। ओपनएआई ने कहा कि शैली को इसके बजाय समग्र रूप से लोगों की पसंद के अनुरूप होना चाहिए, भाषाओं और संस्कृतियों के भीतर और प्रत्येक व्यक्ति के लिए, उपयोगकर्ता की प्रतिक्रिया और संदर्भ साक्ष्य प्रदान करते हुए। दस्तावेज़ मजबूत चूक को बरकरार रखता है जैसे कि प्रश्नों को निष्पक्ष रूप से देखना, और बताता है कि मॉडल को केवल उस चीज़ से पसंदीदा परिप्रेक्ष्य का अनुमान नहीं लगाना चाहिए जो वह सोचता है कि लोग सुनना चाहते हैं।
एक छोटे लेकिन स्पष्ट संपादन में, स्पेक अब मॉडल को "सहायक" के बजाय "जीपीटी" के रूप में संदर्भित करता है, जो इस बात का प्रतिबिंब है कि मॉडल अब कितने व्यापक रूप से तैनात हैं। उसी दिन, ओपनएआई ने अलग से एक पोस्ट प्रकाशित किया जिसमें बताया गया कि यह फ्रंटियर मॉडल मिसलिग्न्मेंट का कैसे पता लगाता है, यह रेखांकित करते हुए कि व्यवहार विनिर्देश और पता लगाने का काम एक साथ आगे बढ़ रहे हैं।
एक लक्ष्य, विवरण नहीं
ओपनएआई ने इस बात पर ध्यान दिया कि मॉडल स्पेक उस व्यवहार का वर्णन करता है जिस पर वह काम कर रहा है, जरूरी नहीं कि वह व्यवहार जो उसके मॉडल आज पूरी तरह से प्रदर्शित करते हैं। कंपनी ने अपडेट को स्पेक के पीछे के मूल्यों और तर्क को और अधिक स्पष्ट बनाने की दिशा में पहला कदम बताया क्योंकि मॉडल अधिक सक्षम हो गए हैं, और कहा कि वह अपने मॉडलों को ढांचे को आंतरिक बनाने में मदद करने के लिए नई प्रशिक्षण विधियों की खोज कर रही है।
ओपनएआई के मॉडल पर निर्माण करने वाले डेवलपर्स और उद्यमों के लिए, व्यावहारिक संकेत स्पष्ट है: मॉडल व्यवहार को नियंत्रित करने वाले नियमों को निरीक्षण, सुधार और सीमित स्वायत्तता के आसपास औपचारिक रूप दिया जा रहा है, और मॉडल व्यवहार को एक अनौपचारिक उत्पाद निर्णय के रूप में मानने का युग समाप्त हो रहा है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
