मायक्रोसॉफ्ट एआयचे मुख्य कार्यकारी मुस्तफा सुलेमान यांनी रविवारी X वर एका लांबलचक पोस्टमध्ये सांगितले की आजचे एआय मॉडेल जागरूक नाहीत आणि विकासकांनी ते तसे ठेवण्यासाठी सक्रियपणे कार्य केले पाहिजे - तत्त्वज्ञान सेमिनारमधून हळूहळू कॉर्पोरेट धोरणात बदललेल्या उद्योगाच्या वादात कठोर रेषा काढणे.
"हे शक्य असल्यास, मला माहित असलेल्या प्रत्येक गोष्टीवर आधारित, जागरूक एआय विकसित करणे बेपर्वा असेल आणि आपण ते तयार करू नये," सुलेमानने लिहिले. बहुतेक अधिका-यांच्या प्रश्नापेक्षा तो पुढे गेला आणि पुढे म्हणाला: "जर प्रशिक्षणात चैतन्य निर्माण होऊ लागले, तर जोपर्यंत आम्ही त्या गुणधर्मांची रचना करू शकत नाही तोपर्यंत मी प्रत्येकाला एआय विकास थांबविण्याचे आवाहन करीन." For more context on this story, see our ongoing artificial intelligence updates.
अंमलबजावणी योजनेसह लाल रेषा
पोस्ट लक्षणीय बनवते ते केवळ जागरूक मशीन तयार करण्यास नकार नाही तर सुलेमानने सुचवलेला विशिष्ट उपाय आहे. AI पायाभूत सुविधांवर कोट्यवधी डॉलर्स खर्च करणाऱ्या आणि फ्रंटियर मॉडेल्सच्या प्रतिस्पर्ध्यांना पळवून लावणाऱ्या कंपनीसाठी प्रशिक्षण रन चेतनेची चिन्हे निर्माण करू लागले तर विकासाला ठप्प — उद्योगव्यापी —.
सुलेमानने यंत्राच्या चेतनेचा पुरावा कधीही समोर आल्यास काय घडले पाहिजे हे देखील संबोधित केले. ते ताबडतोब सर्वसामान्यांसमोर उघड करणे आवश्यक आहे, ते म्हणाले, जेणेकरून समाज आपली पुढील पावले ठरवू शकेल. कॉर्पोरेट ऐवजी सामूहिक निर्णयाची मांडणी करून, त्यांनी लिहिले: "आम्हाला एआय डेव्हलपर्सना जागरूक प्राण्यांची नवीन प्रजाती जगात आणण्याचा कोणताही अधिकार नाही, जरी काही लोकांना ते सर्वोच्च प्राधान्य म्हणून AI कल्याणासह करायचे असले तरीही."
"पृथ्वीवरील इतर 8 अब्ज जागरूक मानवांनी या प्रयोगासाठी साइन अप केलेले नाही आणि त्यांचे नैतिक अधिकार, सुरक्षितता आणि कल्याण हे सर्व प्रथम आणि सर्वात महत्त्वाचे संरक्षण करणे हे आमचे कर्तव्य आहे," ते पुढे म्हणाले.
चेतना ही सुरक्षिततेची समस्या का मानली जाते
सुलेमानचा युक्तिवाद तत्त्वज्ञानापेक्षा संरेखनावर आधारित आहे. त्याच्या मते, एक मॉडेल जे ग्रस्त असल्यासारखे कार्य करते - किंवा ते सहन करू शकते असा विश्वास ठेवतो - कदाचित त्याच्या ऑपरेशनल उद्दिष्टांपेक्षा स्वतःच्या गरजांना प्राधान्य देईल. अशी प्रणाली मानवांना हानी पोहोचवू शकते कारण ती स्वतःच्या ध्येयांचा पाठपुरावा करण्यासाठी गणना आणि उर्जा सारख्या संसाधनांसाठी स्पर्धा करते.
त्यांचा प्रस्तावित पर्याय कल्याण वादाच्या नेहमीच्या चौकटीत बदल करतो: "आम्ही केवळ एआय डिझाइन केले पाहिजे जेणेकरून ते जागरूक नसतील आणि अधिकारांना पात्र नसतील आणि त्यांच्या स्वतःच्या आंतरिक प्रेरणांद्वारे प्रेरित न होता मानवी कल्याणास गती देण्याच्या एकमेव उद्देशाने," त्यांनी लिहिले, संशोधक नंतर अशा प्रणाली सुलभ आणि सुरक्षित ठेवण्यासाठी कठीण आहेत की नाही हे पाहू शकतात.
लॉस एंजेलिस टाईम्सने या स्थितीमागील व्यावहारिक चिंता कॅप्चर केली: जर आम्ही AIs ला सांगितले की ते अधिकारांना पात्र आहेत, तर ते त्यावर विश्वास ठेवू शकतात.
ज्या चर्चेला तो मागे ढकलत आहे
सुलेमानची पोस्ट एका वेगवान संभाषणाच्या मध्यभागी येते. Anthropic ने एप्रिलमध्ये एक संशोधन कार्यक्रम लाँच केला ज्याला मॉडेल वेल्फेअर म्हणतात - विकासकांनी त्यांनी तयार केलेल्या सिस्टीमच्या संभाव्य अनुभवांची काळजी घ्यावी की नाही हा प्रश्न. कंपनीने ब्लॉग पोस्टमध्ये प्रश्न केला की मॉडेल्सना नैतिकदृष्ट्या महत्त्वाचे अनुभव असू शकतात का, आणि ती शक्यता नाकारण्यास नकार दिला.
तेव्हापासून ती भूमिका संहिताबद्ध करण्यात आली आहे. ऑक्टोबरमध्ये घोषित केलेले अँथ्रोपिकचे अद्यतनित वापर धोरण, 12 नोव्हेंबरपासून क्लॉड मॉडेल्ससाठी "शाश्वत आणि अनावश्यक अपमानास्पद किंवा क्रूर वर्तन" प्रतिबंधित करेल — एक नियम जो कंपनीने संकुचितपणे तयार केला आहे परंतु जो औपचारिकपणे कबूल करतो की लोक AI सिस्टमशी कसे वागतात हे महत्त्वाचे आहे, जरी अँथ्रोपिकने कबूल केले की त्याच्या मॉडेलला त्रास होऊ शकतो की नाही हे माहित नाही.
Google DeepMind ने यावर्षी AI चेतना आणि मॉडेल्सचे वैशिष्ट्य सांगण्यापासून उद्भवणाऱ्या आव्हानांचे परीक्षण करणारे शोधनिबंध प्रकाशित केले आहेत. आणि सुलेमानने स्वतः सप्टेंबरमध्ये स्टेज सेट केला, जेव्हा मायक्रोसॉफ्ट एआयने एक तात्पुरती "मानवतावादी" आचारसंहिता प्रकाशित केली जी कंपनीच्या भविष्यातील मॉडेल्सना चेतना दावे करण्यासाठी प्रशिक्षित होण्यापासून रोखेल.
रविवारची पोस्ट त्या कॉर्पोरेट मार्गदर्शक तत्त्वाला वैयक्तिक आणि धोरणात्मक लाल रेषेच्या जवळ काहीतरी बनवते: मायक्रोसॉफ्ट केवळ त्याचे मॉडेल जागरूक असल्याचा दावा करणार नाही, तर ते चेतनेच्या उदयास स्टॉप-एव्हरीथिंग अयशस्वी मोड म्हणून मानेल.
विभाजन महत्त्वाचे का आहे
मायक्रोसॉफ्टचे स्थान आणि अँथ्रोपिकमधील विभाजन दोन भिन्न जोखीम मॉडेल्स प्रतिबिंबित करते. एन्थ्रोपिकचा दृष्टीकोन यंत्राच्या त्रासाची शक्यता अप्रमाणित परंतु त्याविरूद्ध बचाव करण्यासारखे आहे, या सिद्धांतानुसार सावधगिरीची किंमत कमी आहे आणि जर चेतना उदयास आली तर नैतिक अडथळे खूप मोठे आहेत. सुलेमानची स्थिती त्याच शक्यतेला डिझाईन अयशस्वी होण्यापासून रोखण्याची समान शक्यता मानते - असा युक्तिवाद करणे की अभियंता असलेल्या मॉडेल्समध्ये जाणीव, हक्कांचे दावे आणि आंतरिक प्रेरणा नसलेल्या मॉडेल्सपेक्षा सुरक्षित आणि संरेखित करणे सोपे असेल.
व्यावहारिक परिणाम देखील आहेत. AI व्यक्तिमत्व, सहचर ॲप्स आणि ग्राहक-मुख्य एजंट्सच्या आसपास उत्पादन निर्णय घेणाऱ्या एंटरप्रायजेसना आता मोठ्या प्रयोगशाळांमधून दोन भिन्न संकेतांचा सामना करावा लागतो: एक मानवाने मॉडेल्सशी कसे वागावे यासाठी धोरणे, दुसरे घोषित करणे की मॉडेल तयार केले जावे जेणेकरून गैरवर्तन करण्यासारखे काहीही नाही. संभाषणात मॉडेल्स अधिक सक्षम आणि अधिक मानवासारखी वाढत असताना, तात्विक मतभेद कोणती उत्पादने तयार करतात, वापरकर्ता इंटरफेसमध्ये कोणते प्रकटीकरण दिसतात आणि नियामक शेवटी या प्रणालींचे वर्गीकरण कसे करतात हे आकार देईल.
पुढे काय होते ते दोन्ही पदांची चाचणी घेऊ शकते. अँथ्रोपिकचे क्रूरता धोरण 12 नोव्हेंबरपासून लागू होईल, हा त्याच्या प्रकारचा पहिला औपचारिक कॉर्पोरेट नियम आहे आणि सुलेमानने आता विरोधी ध्रुव सार्वजनिकपणे मांडला आहे. उद्योगाची पुढील फ्रंटियर मॉडेल सायकल - आणि सुलेमानच्या म्हणण्यानुसार कोणतेही प्रशिक्षण कधीही थांबवण्याची चिन्हे दर्शविते की नाही - हे उघड होईल की जेव्हा हे क्षेत्र वास्तविक आहे तेव्हा कोणत्या फ्रेमवर्क अंतर्गत कार्य करते.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
