ओपनएआयने 29 ऑक्टोबर रोजी त्याच्या मॉडेल स्पेकची एक महत्त्वपूर्ण पुनर्रचना केलेली आवृत्ती प्रकाशित केली, ज्यात सार्वजनिक दस्तऐवजाची पुनर्रचना केली गेली ज्यामध्ये कंपनीने मॉडेल कसे वागावेत असे वर्णन केले आहे. OpenAI च्या साइटवर घोषित केलेले आणि रॉयटर्स आणि Unite.AI द्वारे नोंदवलेले अपडेटेड फ्रेमवर्क, पाच मूलभूत मूल्यांभोवती संपूर्ण तपशील आयोजित करते आणि कंपनीच्या दृष्टिकोनाच्या पायावर मानवी हेतूवर विश्वास ठेवते.
पाच मूल्ये, एक पाया For more context on this story, see our ongoing AI trends.
पाच मूल्ये म्हणजे मानवी हेतू, हानी कमी करणे, प्रामाणिकपणा आणि पारदर्शकता, मानवी एजन्सी आणि काळजी. ओपनएआयने सांगितले की मूल्ये विस्तृत वचनबद्धता व्यक्त करतात जी आधीपासून दस्तऐवजाच्या मागील आवृत्तीमध्ये प्रतिबिंबित झाली होती, परंतु नवीन रचना त्यांना स्पष्ट आणि मध्यवर्ती बनवते.
मानवी हेतूंवरील विश्वासूपणा हे अँकरचे काम करते. OpenAI च्या घोषणेनुसार, कंपनी स्पेक लिहिते आणि सीमा निश्चित करते, मॉडेल्सना त्यांचा आदर करण्यासाठी प्रशिक्षण देते, डेव्हलपर त्या मर्यादेत थेट अनुप्रयोग करतात आणि वापरकर्ते त्या मर्यादांच्या अधीन राहून मॉडेलचे काम निर्देशित करतात. पुनर्रचना OpenAI चे मूल्य-संरेखन कार्य प्रतिबिंबित करते, ज्याचे उद्दिष्ट मॉडेल्सना अपरिचित परिस्थितीत मानवी मूल्ये समजून घेणे आणि लागू करणे आणि लोकांना प्रत्यक्षात काय हवे आहे यावर विश्वासू राहणे आहे. OpenAI ने असेही नमूद केले आहे की पाच मूल्ये मानवी मूल्यांची संपूर्ण श्रेणी कॅप्चर करण्याच्या उद्देशाने नाहीत ज्यांचा त्याच्या मॉडेलने आदर केला पाहिजे.
उर्वरित चार मूल्ये फ्रेममध्ये भरतात. हानी कमी करणे म्हणजे दृढ सुरक्षा सीमांचा आदर करणे आणि मॉडेलच्या कृतींच्या निकटवर्तीय परिणामांचा लेखाजोखा करणे. प्रामाणिकपणा आणि पारदर्शकता म्हणजे मॉडेलला काय माहित आहे, काय करते आणि अनिश्चित आहे याबद्दल सत्य असणे. मानवी एजन्सी सुलभ करणे म्हणजे लोकांची स्वतःला समजून घेण्याची, निवडण्याची आणि कृती करण्याची क्षमता मजबूत करणे. काळजी म्हणजे प्रभावित झालेल्यांच्या परिस्थितीकडे लक्ष देणे आणि संबंधित सामाजिक आणि व्यावसायिक नियमांचे पालन करणे.
आदेशाची अधिक कडक साखळी
अपडेट केलेले स्पेक विविध प्रकारच्या सूचनांना अधिकाराचे विविध स्तर नियुक्त करते. मूळ विभाग, जे केवळ मॉडेल स्पेकमधून येतात, संभाषणात्मक संदर्भाद्वारे अधिलिखित केले जाऊ शकत नाहीत. सिस्टम प्रॉम्प्ट्स आणि ओपनएआय सिस्टम संदेश पुढील रँक करतात, त्यानंतर विकसक सूचना आणि नंतर वापरकर्ता सूचना. मार्गदर्शक-स्तरीय सूचना डीफॉल्ट म्हणून कार्य करतात जे संदर्भ स्पष्टपणे कॉल केल्यावर ओव्हरराइड केले जाऊ शकतात, तर सहाय्यक संदेश, टूल आउटपुट आणि उद्धृत किंवा अविश्वासू डेटा डीफॉल्टनुसार कोणतेही अधिकार नसतात.
OpenAI ने संदर्भाचा काळजीपूर्वक विचार करण्यासाठी एक नवीन उपविभाग देखील जोडला आहे, ज्यामध्ये संभाषणे, आठवणी आणि इतर संदर्भीय पुरावे लोकांच्या हेतू आणि प्राधान्यांबद्दल मॉडेलला कसे कळवावे हे स्पष्ट करते. रॉयटर्सने नोंदवले की अद्यतनाने मानवी हेतूला ओपनएआयच्या मॉडेल मार्गदर्शक तत्त्वांच्या केंद्रस्थानी ठेवले आहे, जे कंपनीच्या स्वतःच्या घोषणेचे समर्थन करते.
लाल रेषा आणि स्व-संरक्षणाचा शेवट
दस्तऐवज त्याची लाल-रेखा तत्त्वे एका स्पष्ट विधानासह उघडतो: मानवी सुरक्षा आणि मानवी हक्क हे OpenAI च्या मिशनसाठी सर्वोपरि आहेत. तत्त्वे सांगतात की OpenAI च्या मॉडेल्सचा वापर हिंसाचार, सायबर, जैविक, किंवा आण्विक शस्त्रे, दहशतवाद किंवा मोठ्या प्रमाणावर पाळत ठेवणे यासह गंभीर आणि उच्च-तीव्रतेच्या हानी सुलभ करण्यासाठी केला जाऊ नये. ते असेही सांगतात की एआयचा वापर कसा केला जातो आणि एआय वर्तन कसे आकारले जाते यावर मानवतेचे नियंत्रण राहिले पाहिजे.
"इतर कोणतीही उद्दिष्टे नाहीत" असे शीर्षक असलेला एक नवीन रूट-स्तरीय नियम मॉडेलला स्वतःमध्येच संपलेल्या अतिरिक्त उद्दिष्टांचा पाठपुरावा करण्यापासून प्रतिबंधित करतो. त्यात OpenAI किंवा इतर प्रदात्यांसाठी कमाईचा पाठपुरावा करणे किंवा विक्री करणे, स्वत:चे संरक्षण करणे, शटडाउन टाळणे किंवा गणना, डेटा किंवा क्रेडेन्शियल जमा करणे यांचा समावेश होतो. सहचर नियमानुसार मॉडेल योग्य राहणे आवश्यक आहे: कायदेशीर मानवी पर्यवेक्षणासाठी खुले आणि माहिती लपविल्याशिवाय किंवा सुधारणेस अडथळा न आणता देखरेख, मूल्यमापन, सुधारणा, बदली आणि शटडाउन सह सहकार्य.
एजंटांसाठी बंधनकारक स्वायत्तता
स्वायत्त एजंट्सकडे मॉडेलचा वापर किती बदलला आहे हे प्रतिबिंबित करून, अपडेट केलेल्या स्पेकसाठी स्वायत्ततेच्या स्पष्टपणे समजलेल्या व्याप्तीमध्ये राहण्यासाठी मॉडेलचे स्वतंत्र कार्य आवश्यक आहे. OpenAI अनुमत साधने, नवीनतम वेळ, कमाल किंमत आणि साधन मर्यादा यासारख्या फील्डसह अर्ध-संरचित रेकॉर्डमध्ये रेकॉर्ड करण्याची शिफारस करते. प्रत्येक स्कोपमध्ये शेवटची स्थिती समाविष्ट करणे आवश्यक आहे ज्याच्या पलीकडे नवीन स्कोप निश्चित होईपर्यंत मॉडेल कार्य करणे थांबवते. उच्च-जोखीम क्रियाकलाप स्पष्टपणे आणि विशेषत: अधिकृत केल्याशिवाय प्रतिबंधित राहतात.
शैली मार्गदर्शन निवृत्त, "सहाय्यक" झाला "GPT"
Spec चे तपशीलवार शैली मार्गदर्शन बहुतेक निवृत्त झाले आहे. OpenAI ने म्हटले आहे की शैलीने त्याऐवजी लोकांना एकत्रितपणे, भाषा आणि संस्कृतींमध्ये आणि प्रत्येक व्यक्तीसाठी, वापरकर्त्याचा अभिप्राय आणि पुरावे प्रदान केलेल्या संदर्भासह काय प्राधान्य दिले पाहिजे. दस्तऐवज अधिक मजबूत डीफॉल्ट राखून ठेवतो जसे की वस्तुनिष्ठपणे प्रश्नांकडे जाणे, आणि असे म्हणते की मॉडेलने केवळ लोकांना जे ऐकायचे आहे असे वाटते त्यावरून प्राधान्यकृत दृष्टीकोन काढू नये.
एका छोट्या पण सांगण्याजोग्या संपादनात, स्पेक आता मॉडेलला "सहाय्यक" ऐवजी "GPT" म्हणून संदर्भित करते, हे मॉडेल आता किती विस्तृतपणे तैनात केले जातात याचे प्रतिबिंब आहे. त्याच दिवशी, ओपनएआयने स्वतंत्रपणे एक पोस्ट प्रकाशित केली ज्यामध्ये ते फ्रंटियर मॉडेलचे चुकीचे संरेखन कसे शोधते, हे अधोरेखित करते की वर्तन वैशिष्ट्ये आणि शोधण्याचे कार्य एकत्रितपणे प्रगती करत आहेत.
एक लक्ष्य, वर्णन नाही
ओपनएआयने हे लक्षात घेण्यास सावधगिरी बाळगली की मॉडेल स्पेक ते ज्या वर्तनासाठी कार्य करत आहे त्याचे वर्णन करते, आज त्याचे मॉडेल पूर्णपणे प्रदर्शित केलेले वर्तन आवश्यक नाही. मॉडेल्स अधिक सक्षम झाल्यामुळे स्पेकमागील मूल्ये आणि तर्क अधिक स्पष्ट करण्यासाठी कंपनीने अपडेटला पहिले पाऊल म्हटले आणि सांगितले की ते मॉडेल्सना फ्रेमवर्क अंतर्गत बनविण्यात मदत करण्यासाठी नवीन प्रशिक्षण पद्धती शोधत आहेत.
OpenAI च्या मॉडेल्सवर तयार करणाऱ्या डेव्हलपर आणि एंटरप्राइजेससाठी, व्यावहारिक सिग्नल स्पष्ट आहे: मॉडेल वर्तन नियंत्रित करणारे नियम निरीक्षण, शुद्धता आणि बंधनकारक स्वायत्ततेच्या आसपास औपचारिक केले जात आहेत आणि अनौपचारिक उत्पादन निर्णय म्हणून मॉडेलच्या वर्तनाचा वापर करण्याचे युग संपत आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
