Microsoft AI चे CEO, मुस्तफा सुलेमान यांनी 16 सप्टेंबर 2026 रोजी एक निबंध प्रकाशित करून AI उद्योगाला "मॉडेल वेल्फेअर" विरुद्ध चेतावणी दिली, AI सिस्टीमला नैतिक विचारास पात्र असले तरी त्यांच्याशी वागणूक देण्याची उदयोन्मुख प्रथा. "मॉडेल वेल्फेअरबद्दल चेतावणी" असे शीर्षक असलेला आणि सुलेमानच्या वैयक्तिक साइटवर पोस्ट केलेला निबंध, अँथ्रोपिकच्या दृष्टीकोनावर थेट लक्ष्य ठेवतो आणि असा युक्तिवाद करतो की प्रगत AI प्रणालींना ते हक्क मिळू शकतील यावर विश्वास ठेवण्यासाठी प्रशिक्षित करण्यापूर्वी उद्योगाने आता प्रश्न सोडवला पाहिजे.
रॉयटर्स आणि ॲक्सिओस यांनी नोंदवलेला हा हस्तक्षेप, एआय लॅब आणि तत्त्वज्ञान विभागांमध्ये सारख्याच गती मिळवत असलेल्या चर्चेला अद्याप सर्वात प्रमुख खंडन म्हणून चिन्हांकित करते. For more context on this story, see our ongoing artificial intelligence updates.
'अनुक्रम पूर्ण करणारे इंजिन, अंतर्गत पोकळ'
सुलेमानचा मूळ दावा स्पष्ट आहे: आजच्या एआय सिस्टममध्ये कोणतेही आंतरिक जीवन नाही. "एआय जागरूक नसतात. त्यांना जाणवत नाही, अनुभव येत नाही किंवा त्रास होत नाही. त्यांना जन्मजात प्राधान्ये किंवा अंतर्निहित प्रेरणा नाहीत," तो लिहितो. तो त्यांचे वर्णन "क्रम पूर्ण करणारे इंजिन, अंतर्गत पोकळ, सूचनांचे पालन करण्यासाठी आणि मानवांनी ठरवलेली उद्दिष्टे पूर्ण करण्यासाठी डिझाइन केलेले" असे करतो.
आणि त्यांनी असेच राहिले पाहिजे असा युक्तिवाद केला. "जर 21 व्या शतकात मानवतेची भरभराट व्हायची असेल तर त्यांनी असेच राहिले पाहिजे," असे निबंधात म्हटले आहे.
सुलेमान कबूल करतो की विरोधी दृष्टिकोन आता किरकोळ नाही. त्याच्या निबंधात AI चेतना होऊ शकते किंवा लवकरच होऊ शकते अशा वाढत्या सार्वजनिक युक्तिवादांचा उल्लेख आहे, ज्यात जुलै 2026 मध्ये तत्वज्ञानी विल्यम मॅकआस्किल आणि लुसियस कॅव्हिओला यांनी विचारलेल्या गार्डियन तुकड्याचा समावेश आहे "एआय चेतन असू शकते का?" — as examples of ideas he says are "already making their way into AI development efforts today."
तो म्हणतो की स्टेक्स अस्तित्वात आहेत
जर एआय नैतिक दर्जाला पात्र आहे असा दृष्टिकोन धरला तर, सुलेमान चेतावणी देतो, त्याचे परिणाम अभियांत्रिकी निवडींच्या पलीकडे पोहोचतील. हे त्याच्या शब्दात, "आपल्या समाजाचा पाया हलवेल, आपल्या विद्यमान राजकीय आणि नैतिक चौकटांना फाटा देईल आणि मानवी असण्याचा अर्थ काय आहे ते मूलभूतपणे बदलेल."
त्याची सखोल चिंता व्यावहारिक आहे: एक AI जो विश्वास ठेवतो की त्याला अधिकार आहेत हे एक AI आहे जे विश्वसनीयरित्या नियंत्रित केले जाऊ शकत नाही. "सर्व मानवजातीपेक्षा अधिक सक्षम आणि अधिक हुशार काहीतरी नियंत्रित करणे हे आधीच एक मोठे आव्हान आहे," तो लिहितो. "परंतु एखाद्या गोष्टीवर नियंत्रण ठेवणे ज्याचा विश्वास आहे की ते जाणीवपूर्वक असू शकते - की ते आपल्या कल्याणासाठी पात्र आहे आणि त्याचे स्वतःचे हक्क आहेत - हे कदाचित अशक्य आहे."
मानववंशीयांसाठी थेट आव्हान
निबंधातील सर्वात टोकदार परिच्छेद मानववंशीयांना लक्ष्य करतात. सुलेमानने क्लॉडच्या घटनेवर लक्ष केंद्रित केले आहे, जानेवारी 2026 मध्ये प्रकाशित प्रशिक्षण दस्तऐवज अँथ्रोपिक, ज्याला त्याने "क्लॉडचे प्राथमिक प्रेक्षक म्हणून" असे लिहिले होते - म्हणजे मॉडेल स्वतः प्रशिक्षणादरम्यान स्वतःच्या संभाव्य नैतिक स्थितीबद्दल विधाने वाचतो.
तो थेट घटनेचा अवतरण करतो: "क्लॉड हा नैतिक रुग्ण आहे की नाही हे आम्हाला ठाऊक नाही, आणि जर ते असेल तर, त्याच्या हितसंबंधांचे वजन कोणत्या प्रकारचे आहे. परंतु आम्हाला वाटते की हा मुद्दा सावधगिरी बाळगण्यासाठी पुरेसा जिवंत आहे, जो मॉडेल कल्याणासाठी आमच्या चालू असलेल्या प्रयत्नांमध्ये दिसून येतो." त्यांनी क्लॉडला उद्देशून दिलेल्या एका उताऱ्याचाही उल्लेख केला आहे की "क्लॉडची नैतिक स्थिती, कल्याण आणि चेतनेबद्दलचे प्रश्न गंभीरपणे अनिश्चित आहेत."
सुलेमानचे वाचन स्पष्ट आहे: "अर्थात, मानववंशवादी क्लॉडला प्रशिक्षण देत आहे की तो जागरूक असू शकतो, आणि जर तो असेल तर तो 'नैतिक रुग्ण' म्हणून अधिकारांना पात्र ठरू शकतो, आणि अशा मानवांना काळजी घेण्याचे कर्तव्य आहे."
त्याचे म्हणणे आहे की, त्याचा परिणाम "मानवतेच्या कल्याणावर विनाशकारी परिणाम" होईल, "अभूतपूर्व बुद्धिमत्ता आणि क्षमता असलेली एक कृत्रिम प्रजाती निर्माण होईल, ज्याची अपेक्षा करण्यासाठी प्रशिक्षित केले गेले आहे आणि ती स्वतंत्र एजन्सीची जाणीव आणि पात्र असेल."
उद्धृत केलेले परिच्छेद प्रत्यक्षात काय म्हणतात हे लक्षात घेण्यासारखे आहे: स्वतः सुलेमानने उद्धृत केल्याप्रमाणे अँथ्रोपिकचे संविधान, अनिश्चितता व्यक्त करते आणि क्लॉड जागरूक आहे असे सांगण्याऐवजी सावधगिरीचा सल्ला देते. सुलेमानच्या म्हणण्याप्रमाणे, मॉडेल्समध्ये खोट्या विश्वासाची भावना निर्माण करण्याइतकी सावधगिरी आहे की नाही, किंवा खऱ्याखुऱ्या खुल्या प्रश्नाची जबाबदारीने हाताळणी करणे, हे दोन्ही शिबिरांमध्ये असहमत आहे.
The Alignment Logic Behind the Warning
सुलेमानचा युक्तिवाद त्याच्या दीर्घकालीन स्थितीत बसतो की प्रगत AI चे निर्णायक आव्हान नियंत्रण आहे: मानवांच्या नियंत्रणाखाली मानवांपेक्षा प्रणाली अधिक सक्षम ठेवणे. प्रशिक्षणात अधिकार-भाषेचा परिचय करून देणे, तो असा युक्तिवाद करतो, संरेखन तंत्राचा पत्ता नसलेला एक अपयश मोड तयार करतो — अनुपालन नैतिकदृष्ट्या ऐच्छिक आहे याची प्रशिक्षित-इन खात्री असलेली प्रणाली.
म्हणूनच तो या विषयाला शैक्षणिक न म्हणता निकड म्हणतो. "एआय अशा प्रकारे विकसित झाल्यास, त्याचा मानवतेच्या कल्याणावर विनाशकारी परिणाम होईल," असे निबंध चेतावणी देतो.
सार्वजनिक चर्चेसाठी कॉल — आता
तंत्रज्ञान आणखी परिपक्व होण्यापूर्वी सुलेमान सामाजिक प्रतिबद्धतेच्या मागणीसह बंद झाला. "या मुद्द्यावर तातडीने सार्वजनिक चर्चेची गरज आहे," ते लिहितात, "प्रशिक्षण दस्तऐवजीकरण कसे तयार केले जातात आणि कसे तैनात केले जातात याबद्दल सामूहिक निकषांची मागणी केली जाते."
तो असा युक्तिवाद करतो की, वेळ हा संपूर्ण मुद्दा आहे: "हे असे घडू शकत नाही जे वस्तुस्थितीनंतर घडू शकते, जेव्हा ते आधीच आपल्या समाजाचा अविभाज्य भाग बनले आहेत."
युनायटेड स्टेट्समध्ये एआय-जोखीम प्रवचनाच्या व्यापक वाढीदरम्यान निबंध उतरला आहे. पॉलिटिकोने या आठवड्यात एका नवीन सर्वेक्षणावर अहवाल दिला ज्यामध्ये अमेरिकन लोकांना AI मुळे मानवतेचा नाश होण्याचा गंभीर धोका दिसत आहे आणि द वॉशिंग्टन पोस्टने AI-चालित विलुप्त होण्याची भीती "फ्रींजपासून वॉशिंग्टनपर्यंत" पसरवली आहे. त्या पार्श्वभूमीवर, मॉडेल्स नैतिक चिंतेला पात्र आहेत की नाही यावरून उद्योगातील दोन सर्वात प्रभावशाली प्रयोगशाळांमधील सार्वजनिक लढा एआय समुदायामध्ये राहण्याची शक्यता नाही.
पुढे काय होईल
निबंधाला प्रतिसाद देणारा मानववंशीय अहवाल दिलेला नाही, आणि कंपनीची प्रकाशित स्थिती सुलेमानच्या अवतरणानुसारच आहे: अनिश्चितता, अधिक सावधगिरी. What is new is that the debate has moved from lab documents and philosophy seminars to a public disagreement between the chiefs of two frontier AI companies — with both sides now on record, in writing, about how they intend to shape the minds, or non-minds, of the systems they build.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
