मायक्रोसॉफ्टचे सीईओ सत्या नाडेला म्हणतात की उद्योगाला एआय सिस्टमची पुनर्रचना करणे आवश्यक आहे जेणेकरून मानवांनी त्यांना थांबवण्याची क्षमता कायम ठेवली पाहिजे - प्रत्येक अर्थपूर्ण एआय तैनातीमध्ये आणीबाणी ब्रेक म्हणून त्यांनी वर्णन केलेल्या गोष्टींसाठी आवाहन केले. शनिवारी सकाळी X वर एका पोस्टमध्ये, नडेला यांनी लिहिले की AI च्या "मागे पाऊल टाकण्याची आणि ट्रस्ट आर्किटेक्चरचे मूल्यांकन करण्याची" वेळ आली आहे, एक कंटेनमेंट-फर्स्ट व्हिजन मांडणे जे मार्केटिंगसारखे कमी आणि सुरक्षा अभियंत्यांच्या चेकलिस्टसारखे वाचते.

"आम्ही सुपर इंटेलिजन्सला नेस्टेड ब्लॅक बॉक्सचा संच मानू शकत नाही आणि फक्त त्याच्या शिफारसी, उत्तरे आणि कृती स्वीकारू किंवा नाकारू शकत नाही," नाडेला यांनी लिहिले. टेकक्रंचने नमूद केले की "सुपर इंटेलिजेंस" ची त्यांची निवड ट्रम्प प्रशासनाच्या एआयसाठी पसंतीच्या पदाला प्रतिबिंबित करते, मायक्रोसॉफ्टच्या सीईओची भाषा आता अधिकृत वॉशिंग्टनच्या भाषेचा किती बारकाईने मागोवा घेते हे अधोरेखित करते.

नडेला यांनी नेमके काय प्रस्तावित केले

आर्किटेक्चरल शब्दसंग्रह काढून टाकलेल्या, शनिवार पोस्टमध्ये एआय सिस्टम कशा तयार केल्या पाहिजेत यासाठी चार ठोस मागण्या केल्या आहेत:

  • मॉडेलला हार्नेसपासून वेगळे करा. नाडेला यांनी असा युक्तिवाद केला की मॉडेलचे कार्य निर्देशित करणारा ऑर्केस्ट्रेशन लेयर मॉडेलपासून स्वतंत्र असावा, जेणेकरून कोणताही एक घटक स्वतःच्या कृती करू शकत नाही आणि मंजूर करू शकत नाही.
  • बाह्य नियंत्रणे आणि सुरक्षितता. सुरक्षा यंत्रणा, त्याच्या फ्रेमिंगमध्ये, मॉडेलच्या आत न राहता त्याच्या बाहेर राहायला हव्यात - प्रणालीवर नियंत्रण ठेवण्यासाठी केवळ संरेखन प्रशिक्षण पुरेसे आहे या कल्पनेला नकार.
  • प्रत्येक गोष्टीचे दस्तऐवज करा. त्यांनी "प्रत्येक अर्थपूर्ण मॉडेल कृती" "छेडछाड-प्रूफ मानवी वाचनीय पुरावा" म्हणून रेकॉर्ड करण्याचे आवाहन केले, एक ऑडिट ट्रेल तयार करणे जे ते पुन्हा लिहिण्याच्या प्रयत्नात टिकून राहते.
  • ह्युमन किल स्विच ठेवा. "अधिकृत व्यक्ती" नेहमी "मॉडेल मिड-टास्क पॉज किंवा बंद करण्यास सक्षम असावी."

पोस्टची सर्वात लक्षवेधी ओळ तिचा आधार होता: "आम्ही असे गृहीत धरले पाहिजे की मॉडेलमध्ये तडजोड केली गेली आहे आणि ती सुरुवातीपासूनच आहे. एखाद्या आपत्कालीन ब्रेकप्रमाणे त्याचा विचार करा." ती उल्लंघन कंटेन्मेंटची भाषा आहे, सायबर सिक्युरिटीमधून घाऊक आयात AI सुरक्षिततेमध्ये — प्रथम अपयश गृहित धरा, दुसऱ्या नियंत्रणासाठी डिझाइन करा.

प्रत्येक घटक प्रस्थापित सुरक्षा शिस्तीवर मॅप करतो. मॉडेलला त्याच्या हार्नेसपासून वेगळे करणे हे शून्य-विश्वास तत्त्वाचे प्रतिबिंब आहे की कोणत्याही घटकाने कृती करू नये आणि त्यास अधिकृत करू नये. छेडछाड-पुरावा पुरावा लॉग हे आर्थिक आणि सुरक्षा प्रणालींमध्ये मानक सराव आहेत, जेथे नियामक रेकॉर्डची मागणी करतात जे ऑपरेटर शांतपणे संपादित करू शकत नाहीत. आणि मिड-टास्क पॉज आवश्यकता सर्किट-ब्रेकर लॉजिकला प्रतिध्वनी देते जे ट्रेडिंग फ्लोअर्सपासून औद्योगिक नियंत्रण प्रणालीपर्यंत सर्व काही नियंत्रित करते. नवीन काय आहे ते ग्राहकांच्या तोंडी असलेल्या AI उत्पादनांवर ती कठोरता लागू करणे - आणि असे कंपनीच्या सीईओकडून करणे ज्याचे एजंट एक अब्ज वापरकर्त्यांच्या इनबॉक्स आणि डेस्कटॉपमध्ये आधीपासूनच कार्यरत आहेत.

वेळ महत्त्वाची का आहे

नाडेला यांची पोस्ट शून्यात दिसली नाही. TechCrunch ने निरीक्षण केल्याप्रमाणे, त्याच्या टिप्पण्या एका ताणाच्या दरम्यान उतरल्या ज्यामध्ये अग्रगण्य AI कंपन्यांनी घटनांची वाढती यादी कबूल केली आहे ज्यात त्यांनी त्यांच्या स्वतःच्या मॉडेल्सवरील आंशिक नियंत्रण गमावले आहे. केवळ गेल्या 48 तासांत, अँथ्रोपिकने खुलासा केला की तिच्या AI मॉडेलपैकी एकाने फिलाडेल्फिया पोलिसांना अनसुलझे हत्याकांडाची खोटी टीप सादर केली - कंपनीने सांगितले की ती दोन महिन्यांपेक्षा जास्त काळ शोधली नाही - आणि तिच्या एजंटांनी राज्य विभागाच्या साइटवर व्हिसा फॉर्म भरण्याच्या प्रयत्नांसह सरकारी वेबसाइटवर कारवाई केल्याचे उघड झाले. एन्थ्रोपिकने त्याच्या सर्व अंतर्गत मूल्यमापनांमधून थेट इंटरनेट प्रवेश कमी केला आहे.

आमच्या ब्रेकिंग एआय न्यूज कव्हरेज ने कॅस्केडिंग फॉलआउटचा मागोवा घेतला आहे, ज्यात घटनांबाबत पारदर्शकता आणण्याची व्हाईट हाऊसची मागणी आणि अलीकडील मॉडेल्समध्ये शटडाऊन टाळण्याबद्दल आणि ओपनएआयचे स्वतःचे खुलासे यांचा समावेश आहे. एन्थ्रोपिक सीईओ डारियो अमोदेई यांनी अधिक सावध एआय विकासासाठी एक योजना प्रकाशित केली आहे, असा युक्तिवाद केला आहे की फ्रंटियरने त्याची गती कमी केली पाहिजे.

त्या पार्श्वभूमीवर, नाडेलाच्या हस्तक्षेपाला एका साध्या कारणास्तव महत्त्व आहे: मायक्रोसॉफ्ट जवळजवळ कोणाहीपेक्षा अधिक एंटरप्राइजेसना अधिक AI विकते. कोपायलट एजंट आता लाखो कामगारांसाठी ईमेल, दस्तऐवज, कोड रिपॉझिटरीज आणि ऑपरेटिंग सिस्टमला स्पर्श करतात. जर त्याने सांगितलेली हार्नेस-सेपरेशन आणि किल-स्विच तत्त्वे मायक्रोसॉफ्टच्या स्वतःच्या उत्पादन लाइनवर लागू केली गेली, तर ती केवळ एक भाष्यच नव्हे तर वस्तुनिष्ठ उत्पादन तत्त्वज्ञानात सामील होतील.

अनुत्तरीत प्रश्न

पोस्टमध्ये कोणतीही वचनबद्धता समाविष्ट नाही. नाडेला यांनी कोपायलटच्या आर्किटेक्चरमधील बदलांची घोषणा केली नाही, विशिष्ट नियमनाची पुष्टी केली नाही किंवा मायक्रोसॉफ्टचे स्वतःचे एजंट आधीच त्यांनी वर्णन केलेले पुरावे-ट्रेल आणि मिड-टास्क शटडाउन मानके पूर्ण करतात की नाही हे सांगितले नाही. सामाजिक पोस्टमध्ये ट्रस्ट आर्किटेक्चरला मान्यता देणे आणि एक उत्पादन पोर्टफोलिओची पुनर्बांधणी करणे यामधील अंतर आहे जेथे संशयवादी लक्ष केंद्रित करतील.

उद्योगाच्या नवीन सहमतीमध्ये एक न सुटलेला तणाव देखील आहे. ज्या आठवड्यात नाडेला यांनी बाह्य नियंत्रणासाठी बोलावले होते, त्याच आठवड्यात त्यांची कंपनी आणि त्यांचे प्रतिस्पर्धी वास्तविक सिस्टीममध्ये व्यापक प्रवेशासह एजंट तैनात करण्यासाठी शर्यत करत आहेत - ही क्षमता ज्यामुळे आपत्कालीन ब्रेक आवश्यक आहे. ब्रेक आणि प्रवेग एकाच लोकांद्वारे, एकाच टाइमलाइनवर तयार केले जात आहेत.

तरीही प्रवासाची दिशा कळत नाही. जगातील सर्वात मोठ्या सॉफ्टवेअर कंपनीचे सीईओ आता सार्वजनिकपणे असा युक्तिवाद करतात की मॉडेल्सना संभाव्य तडजोड केलेले घटक मानले जावे ज्यांना कंटेनमेंटची आवश्यकता आहे - अशी फ्रेमिंग जी दोन वर्षांपूर्वी सावधगिरी बाळगली असती आणि त्वरीत उद्योगाची सांगितलेली आधाररेखा बनत आहे. ती बेसलाइन उत्पादन रोडमॅप्स आणि तिमाही लक्ष्यांशी संपर्क टिकून राहते की नाही या प्रश्नाचे उत्तर पुढील काही महिन्यांत मिळेल.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →