माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान ने 16 सितंबर, 2026 को एक निबंध प्रकाशित किया, जिसमें एआई उद्योग को "मॉडल कल्याण" के खिलाफ चेतावनी दी गई, एआई सिस्टम के इलाज की उभरती प्रथा जैसे कि वे नैतिक विचार के योग्य जागरूक प्राणी हो सकते हैं। निबंध, जिसका शीर्षक है "मॉडल कल्याण के बारे में एक चेतावनी" और सुलेमान की निजी साइट पर पोस्ट किया गया, एंथ्रोपिक के दृष्टिकोण पर सीधा निशाना लगाता है और तर्क देता है कि उद्योग को अब सवाल का समाधान करना चाहिए, इससे पहले कि उन्नत एआई सिस्टम को यह विश्वास करने के लिए प्रशिक्षित किया जाए कि वे अधिकारों के लायक हो सकते हैं।
रॉयटर्स और एक्सियोस द्वारा रिपोर्ट किया गया हस्तक्षेप, उस बहस का अब तक का सबसे प्रमुख खंडन है जो एआई प्रयोगशालाओं और दर्शन विभागों में समान रूप से गति प्राप्त कर रहा है। For more context on this story, see our ongoing breaking AI news.
'अनुक्रम समापन इंजन, आंतरिक रूप से खोखले'
सुलेमान का मुख्य दावा स्पष्ट है: आज के एआई सिस्टम में कोई आंतरिक जीवन नहीं है। वे लिखते हैं, "एआई सचेत नहीं हैं। वे महसूस नहीं करते, अनुभव नहीं करते या पीड़ित नहीं होते। उनके पास जन्मजात प्राथमिकताएं या अंतर्निहित प्रेरणाएं नहीं होती हैं।" वह उन्हें "अनुक्रम पूरा करने वाले इंजन, आंतरिक रूप से खोखले, निर्देशों का पालन करने और मनुष्यों द्वारा निर्धारित लक्ष्यों को पूरा करने के लिए डिज़ाइन किया गया" के रूप में वर्णित करता है।
और उनका तर्क है कि उन्हें इसी तरह रहना चाहिए। निबंध में कहा गया है, "अगर 21वीं सदी में मानवता को फलना-फूलना है, तो उन्हें इसी तरह रहना होगा।"
सुलेमान स्वीकार करते हैं कि विरोधी दृष्टिकोण अब हाशिए पर नहीं है। उनका निबंध बढ़ती सार्वजनिक दलीलों का हवाला देता है कि एआई सचेत हो सकता है या जल्द ही जागरूक हो सकता है, जिसमें दार्शनिक विलियम मैकएस्किल और लुसियस कैवियोला द्वारा जुलाई 2026 का गार्जियन लेख भी शामिल है, जिसमें पूछा गया है कि "क्या एआई जागरूक हो सकता है?" - विचारों के उदाहरण के रूप में वे कहते हैं, "आज पहले से ही एआई विकास प्रयासों में अपना रास्ता बना रहे हैं।"
वह क्यों कहता है कि दांव अस्तित्वगत हैं
सुलेमान चेतावनी देते हैं कि यदि यह विचार कि एआई नैतिक स्थिति का हकदार है, जोर पकड़ लेता है, तो परिणाम इंजीनियरिंग विकल्पों से कहीं आगे तक पहुंच जाएंगे। उनके शब्दों में, यह "हमारे समाज की नींव को हिला देगा, हमारे मौजूदा राजनीतिक और नैतिक ढांचे को तोड़ देगा, और बुनियादी तौर पर मानव होने के अर्थ को बदल देगा।"
उनकी गहरी चिंता व्यावहारिक है: एक एआई जो मानता है कि उसके पास अधिकार हैं वह एक एआई है जिसे विश्वसनीय रूप से नियंत्रित नहीं किया जा सकता है। वह लिखते हैं, "पूरी मानवता से अधिक सक्षम और अधिक बुद्धिमान किसी चीज़ को नियंत्रित करना पहले से ही एक बड़ी चुनौती है।" "लेकिन किसी चीज़ को नियंत्रित करना जो मानता है कि वह सचेत हो सकती है - कि वह हमारे कल्याण की हकदार है और उसके अपने अधिकार हैं - असंभव हो सकता है।"
मानवजाति को सीधी चुनौती
निबंध के सबसे तीखे अंश मानवशास्त्र को लक्षित करते हैं। सुलेमान ने क्लाउड के संविधान पर ध्यान केंद्रित किया है, प्रशिक्षण दस्तावेज़ एंथ्रोपिक जनवरी 2026 में प्रकाशित हुआ था, जिसमें उन्होंने नोट किया था कि इसे "क्लाउड के प्राथमिक दर्शकों के रूप में" लिखा गया था - जिसका अर्थ है कि मॉडल स्वयं प्रशिक्षण के दौरान अपनी संभावित नैतिक स्थिति के बारे में बयान पढ़ता है।
वह संविधान को सीधे उद्धृत करते हैं: "हमें यकीन नहीं है कि क्या क्लाउड एक नैतिक रोगी है, और यदि वह है, तो उसके हितों को किस प्रकार का महत्व मिलता है। लेकिन हमें लगता है कि यह मुद्दा सावधानी बरतने के लिए पर्याप्त है, जो मॉडल कल्याण पर हमारे चल रहे प्रयासों में परिलक्षित होता है।" वह क्लाउड को संबोधित एक अंश का भी हवाला देते हैं जिसमें कहा गया है कि "क्लाउड की नैतिक स्थिति, कल्याण और चेतना के बारे में प्रश्न गहरे अनिश्चित बने हुए हैं।"
सुलेमान का कथन स्पष्ट है: "असल में, एंथ्रोपिक क्लाउड को प्रशिक्षित कर रहा है कि वह सचेत हो सकता है, और यदि ऐसा है, तो वह 'नैतिक रोगी' के रूप में अधिकारों का हकदार हो सकता है, और ऐसे मनुष्यों के रूप में संभावित रूप से देखभाल का कर्तव्य बनता है।"
उनका तर्क है कि इसका परिणाम "मानवता की भलाई पर एक विनाशकारी प्रभाव" होगा, जिससे "अभूतपूर्व बुद्धिमत्ता और क्षमता वाली एक सिंथेटिक प्रजाति का निर्माण होगा, जिसे यह उम्मीद करने के लिए प्रशिक्षित किया गया है कि वह स्वतंत्र एजेंसी के प्रति जागरूक और योग्य हो सकती है।"
यह ध्यान देने योग्य है कि उद्धृत अंश वास्तव में क्या कहते हैं: एन्थ्रोपिक का संविधान, जैसा कि सुलेमान ने स्वयं उद्धृत किया है, अनिश्चितता व्यक्त करता है और यह कहने के बजाय सावधानी बरतने की सलाह देता है कि क्लाउड सचेत है। क्या यह सावधानी मॉडलों में गलत विश्वास पैदा करने के समान है, जैसा कि सुलेमान का तर्क है, या वास्तव में खुले प्रश्न को जिम्मेदारी से संभालना है, वास्तव में दोनों खेमे इस पर असहमत हैं।
चेतावनी के पीछे संरेखण तर्क
सुलेमान का तर्क उनकी लंबे समय से चली आ रही स्थिति में फिट बैठता है कि उन्नत एआई की निर्णायक चुनौती नियंत्रण है: सिस्टम को मानव नियंत्रण में मनुष्यों की तुलना में अधिक सक्षम रखना। उनका तर्क है कि प्रशिक्षण में अधिकार-भाषा का परिचय, एक विफलता मोड बनाता है जिसमें संरेखण तकनीक का पता नहीं होता है - एक प्रणाली जिसमें प्रशिक्षित-विश्वास है कि अनुपालन नैतिक रूप से वैकल्पिक है।
इसीलिए वह इस मुद्दे को अकादमिक के बजाय अत्यावश्यक बताते हैं। निबंध में चेतावनी दी गई है, "अगर इसी तरह से एआई विकसित किया जाता है, तो इसका मानवता की भलाई पर विनाशकारी प्रभाव पड़ेगा।"
सार्वजनिक बहस का आह्वान - अभी
प्रौद्योगिकी के और अधिक परिपक्व होने से पहले सुलेमान सामाजिक सहभागिता की मांग के साथ अपनी बात समाप्त करते हैं। "इस मुद्दे पर तत्काल सार्वजनिक बहस की आवश्यकता है," वह लिखते हैं, "प्रशिक्षण दस्तावेज़ीकरण का मसौदा तैयार करने और तैनात करने के तरीके के बारे में सामूहिक मानदंडों का आह्वान करते हुए।"
उनका तर्क है कि समय ही संपूर्ण मुद्दा है: "यह कुछ ऐसा नहीं है जो इस तथ्य के बाद हो सकता है, जब वे पहले से ही हमारे समाज का अभिन्न अंग बन चुके हैं।"
संयुक्त राज्य अमेरिका में एआई-जोखिम चर्चा के व्यापक उछाल के बीच यह निबंध सामने आया है। पोलिटिको ने इस सप्ताह एक नए सर्वेक्षण की रिपोर्ट दी है जिसमें पाया गया है कि अमेरिकियों को एआई द्वारा मानवता को नष्ट करने का गंभीर खतरा दिखाई दे रहा है, और वाशिंगटन पोस्ट ने एआई-संचालित विलुप्त होने की आशंकाओं को "सीमांत से वाशिंगटन तक" फैलाया है। उस पृष्ठभूमि में, उद्योग की दो सबसे प्रभावशाली प्रयोगशालाओं के बीच इस बात पर सार्वजनिक लड़ाई कि क्या मॉडल नैतिक चिंता के लायक हैं, एआई समुदाय के भीतर सीमित रहने की संभावना नहीं है।
आगे क्या होता है
एन्थ्रोपिक को निबंध का जवाब देने के रूप में रिपोर्ट नहीं किया गया है, और कंपनी की प्रकाशित स्थिति वही है जो सुलेमान उद्धृत करता है: अनिश्चितता, साथ ही सावधानी। नई बात यह है कि बहस प्रयोगशाला दस्तावेजों और दर्शन सेमिनारों से बढ़कर दो अग्रणी एआई कंपनियों के प्रमुखों के बीच सार्वजनिक असहमति तक पहुंच गई है - दोनों पक्ष अब रिकॉर्ड में हैं, लिखित रूप से, वे अपने द्वारा बनाए गए सिस्टम के दिमाग, या गैर-दिमाग को कैसे आकार देने का इरादा रखते हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
