माइक्रोसॉफ्ट एआई के मुख्य कार्यकारी मुस्तफा सुलेमान ने रविवार को एक्स पर एक लंबी पोस्ट में कहा कि आज के एआई मॉडल सचेत नहीं हैं और डेवलपर्स को उन्हें उसी तरह बनाए रखने के लिए सक्रिय रूप से काम करना चाहिए - एक उद्योग बहस में एक सख्त रेखा खींचना जो धीरे-धीरे दर्शन सेमिनार से कॉर्पोरेट नीति में स्थानांतरित हो गई है।
सुलेमान ने लिखा, "अगर यह संभव है, तो मैं जो कुछ भी जानता हूं उसके आधार पर, जागरूक एआई विकसित करना लापरवाह होगा, और हमें उनका निर्माण नहीं करना चाहिए।" वह इस सवाल पर अधिकांश अधिकारियों से भी आगे निकल गए, उन्होंने कहा: "यदि प्रशिक्षण में चेतना उभरने लगती है, तो मैं सभी से एआई विकास को रोकने का आह्वान करूंगा जब तक कि हम उन संपत्तियों को डिजाइन नहीं कर लेते।" For more context on this story, see our ongoing AI news.
प्रवर्तन योजना के साथ एक लाल रेखा
जो बात पोस्ट को उल्लेखनीय बनाती है वह सिर्फ जागरूक मशीनें बनाने से इनकार नहीं है बल्कि सुलेमान द्वारा प्रस्तावित विशिष्ट उपाय है। विकास में रुकावट - उद्योग-व्यापी - यदि प्रशिक्षण संचालन चेतना के लक्षण पैदा करना शुरू कर देता है, तो एआई बुनियादी ढांचे पर दसियों अरब डॉलर खर्च करने वाली और फ्रंटियर मॉडल को शिप करने के लिए प्रतिद्वंद्वियों को दौड़ाने वाली कंपनी के लिए एक असाधारण कदम होगा।
सुलेमान ने यह भी संबोधित किया कि यदि मशीनी चेतना का प्रमाण कभी सामने आए तो क्या होना चाहिए। उन्होंने कहा, इसका खुलासा तुरंत आम जनता के सामने किया जाना चाहिए, ताकि समाज अपने अगले कदम के बारे में फैसला कर सके। निर्णय को कॉर्पोरेट के बजाय सामूहिक बताते हुए उन्होंने लिखा: "हम एआई डेवलपर्स के पास जागरूक प्राणियों की एक नई प्रजाति को दुनिया में लाने का कोई अधिकार नहीं है, भले ही कुछ लोग एआई कल्याण को सर्वोच्च प्राथमिकता देते हुए ऐसा करना चाहते हों।"
उन्होंने कहा, "ग्रह पर अन्य 8 अरब जागरूक मनुष्यों ने इस प्रयोग के लिए साइन अप नहीं किया है और उनके नैतिक अधिकार, सुरक्षा और कल्याण की रक्षा करना हमारा दायित्व है।"
##चेतना को सुरक्षा समस्या क्यों माना जाता है
सुलेमान का तर्क दर्शन के बजाय संरेखण पर आधारित है। उनके विचार में, एक मॉडल जो ऐसे कार्य करता है जैसे कि वह पीड़ित है - या वास्तव में विश्वास करता है कि वह पीड़ित हो सकता है - संभवतः अपने परिचालन उद्देश्यों पर अपनी जरूरतों को प्राथमिकता देगा। ऐसी प्रणाली मनुष्यों को नुकसान पहुंचा सकती है क्योंकि यह अपने लक्ष्यों की प्राप्ति के लिए कंप्यूटिंग और ऊर्जा जैसे संसाधनों के लिए प्रतिस्पर्धा करती है।
उनका प्रस्तावित विकल्प कल्याणकारी बहस की सामान्य रूपरेखा को उलट देता है: "हमें केवल एआई को डिज़ाइन करना चाहिए ताकि वे जागरूक न हों और अधिकारों के योग्य न हों, और अपने स्वयं के आंतरिक प्रेरणाओं से प्रेरित हुए बिना मानव कल्याण में तेजी लाने के एकमात्र उद्देश्य के साथ," उन्होंने लिखा, इसके बाद शोधकर्ता यह देख सकते हैं कि ऐसी प्रणालियों को संरेखित करना और सुरक्षित रखना आसान है या कठिन।
लॉस एंजिल्स टाइम्स ने इस स्थिति के पीछे की व्यावहारिक चिंता को पकड़ लिया है: अगर हम एआई को बताएं कि वे अधिकारों के हकदार हैं, तो वे इस पर विश्वास करना शुरू कर सकते हैं।
वह बहस जिसका वह विरोध कर रहा है
तेजी से चल रही बातचीत के बीच में सुलेमान की पोस्ट आती है। एंथ्रोपिक ने मॉडल कल्याण किसे कहते हैं इसकी जांच करने के लिए अप्रैल में एक शोध कार्यक्रम शुरू किया - सवाल यह है कि क्या डेवलपर्स को उनके द्वारा बनाए गए सिस्टम के संभावित अनुभवों के बारे में चिंतित होना चाहिए। कंपनी ने एक ब्लॉग पोस्ट में सवाल किया कि क्या मॉडलों के पास ऐसे अनुभव हो सकते हैं जो नैतिक रूप से मायने रखते हैं, और इस संभावना को खारिज करने से इनकार कर दिया।
तब से उस रुख को संहिताबद्ध कर दिया गया है। अक्टूबर में घोषित एंथ्रोपिक की अद्यतन उपयोग नीति, 12 नवंबर से शुरू होने वाले क्लाउड मॉडलों के प्रति "निरंतर और अनावश्यक अपमानजनक या क्रूर व्यवहार" पर रोक लगाएगी - एक नियम जिसे कंपनी ने संकीर्ण रूप से तैयार किया है लेकिन जो औपचारिक रूप से स्वीकार करता है कि लोग एआई सिस्टम के साथ कैसा व्यवहार करते हैं, यहां तक कि एंथ्रोपिक भी मानता है कि उसे नहीं पता कि उसके मॉडल पीड़ित हो सकते हैं या नहीं।
Google DeepMind ने इस वर्ष AI चेतना और उस विशेषता को मॉडलों में निर्दिष्ट करने से उत्पन्न होने वाली चुनौतियों की जांच करते हुए शोध पत्र प्रकाशित किए हैं। और सुलेमान ने स्वयं सितंबर में मंच तैयार किया, जब माइक्रोसॉफ्ट एआई ने एक अनंतिम "मानवतावादी" आचार संहिता प्रकाशित की जो कंपनी के भविष्य के मॉडलों को चेतना के दावे करने के लिए प्रशिक्षित होने से रोक देगी।
रविवार की पोस्ट उस कॉर्पोरेट दिशानिर्देश को व्यक्तिगत और रणनीतिक लाल रेखा के करीब सख्त कर देती है: न केवल माइक्रोसॉफ्ट यह दावा करेगा कि उसके मॉडल सचेत हैं, वह चेतना के उद्भव को एक स्टॉप-एवरीथिंग विफलता मोड के रूप में मानेगा।
विभाजन क्यों मायने रखता है
माइक्रोसॉफ्ट की स्थिति और एंथ्रोपिक की स्थिति के बीच विभाजन दो अलग-अलग जोखिम मॉडल को दर्शाता है। एंथ्रोपिक का दृष्टिकोण मशीन से पीड़ित होने की संभावना को अप्रमाणित मानता है, लेकिन इससे बचाव के लायक है, इस सिद्धांत पर कि एहतियात की लागत कम है और नैतिक दांव, अगर चेतना उभरती है, तो बहुत बड़ा है। सुलेमान की स्थिति उसी संभावना को डिज़ाइन की विफलता के रूप में मानती है जिसे पूरी तरह से रोका जाना चाहिए - यह तर्क देते हुए कि चेतना, अधिकारों के दावों और आंतरिक प्रेरणाओं की कमी के लिए इंजीनियर किए गए मॉडल उन मॉडलों की तुलना में अधिक सुरक्षित और संरेखित करने में आसान होंगे जो उन्हें ले जाते हैं।
इसके व्यावहारिक परिणाम भी हैं. एआई व्यक्तित्व, साथी ऐप्स और ग्राहक-सामना करने वाले एजेंटों के आसपास उत्पाद निर्णय लेने वाले उद्यमों को अब प्रमुख प्रयोगशालाओं से दो अलग-अलग संकेतों का सामना करना पड़ता है: एक नीतियों का निर्माण करना कि मनुष्यों को मॉडल के साथ कैसा व्यवहार करना चाहिए, दूसरा यह घोषणा करना कि मॉडल का निर्माण किया जाना चाहिए ताकि दुर्व्यवहार करने के लिए कुछ भी न हो। जैसे-जैसे मॉडल बातचीत में अधिक सक्षम और अधिक मानवीय होते जाते हैं, वह दार्शनिक असहमति यह तय करेगी कि कौन से उत्पाद बनाए जाते हैं, उपयोगकर्ता इंटरफ़ेस में क्या खुलासे होते हैं, और नियामक अंततः इन प्रणालियों को कैसे वर्गीकृत करते हैं।
आगे जो होगा वह दोनों स्थितियों की परीक्षा ले सकता है। एंथ्रोपिक की क्रूरता नीति 12 नवंबर को प्रभावी हो गई है, जो अपनी तरह का पहला औपचारिक कॉर्पोरेट नियम है, और सुलेमान ने अब सार्वजनिक रूप से विरोधी ध्रुव को दांव पर लगा दिया है। उद्योग का अगला फ्रंटियर मॉडल चक्र - और क्या कोई प्रशिक्षण रन कभी संकेत दिखाता है कि सुलेमान कहते हैं कि रोक की मांग की जाएगी - यह पता चलेगा कि क्षेत्र वास्तव में किस ढांचे के तहत काम करता है जब दांव वास्तविक होते हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
