मायक्रोसॉफ्टने सोमवारी तात्पुरती आचारसंहिता प्रकाशित केली जी त्याच्या भविष्यातील कृत्रिम बुद्धिमत्ता मॉडेल्सना काय करण्यासाठी प्रशिक्षित केले जाऊ शकते यावर प्रतिबंधित करेल, मत निबंधांमधून उद्योगाच्या वेगाने वाढणाऱ्या सुरक्षा वादाला ठोस कॉर्पोरेट धोरणात हलवेल.

Microsoft AI चे मुख्य कार्यकारी मुस्तफा सुलेमान यांनी जाहीर केलेली मार्गदर्शक तत्त्वे, कंपनीच्या मॉडेल्सना शस्त्रे विकसित करण्यास, हिंसक किंवा लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करण्यास किंवा वापरकर्त्यांना धोकादायक पदार्थ खरेदी करण्यात मदत करण्यापासून प्रतिबंधित करते. ते असेही नमूद करतात की चेतनेचे अनुकरण करण्यासाठी मॉडेल तयार केले जाऊ नयेत आणि त्यांना अधिकारांचे हक्क मानले जाऊ नये. AI उद्योगाने या वर्षी पाहिलेल्या सर्वात अशांत आठवड्याच्या मध्यभागी ही घोषणा आली, कारण ब्रेकिंग एआय न्यूज प्रतिस्पर्धी CEO कडून आलेले मंदीचे कॉल्स पाठवलेले चिप आणि AI-लिंक्ड स्टॉक्स जागतिक बाजारपेठेत सरकत होते.

"एआय गौण असणे आवश्यक आहे"

कोडची घोषणा करणाऱ्या सोशल मीडिया पोस्टमध्ये, सुलेमानने लिहिले की "एआय गौण आणि नेहमी लोकांच्या सेवेत असले पाहिजे," असे जोडून "संभाव्य नियंत्रण गमावण्याची भीती खरी आहे."

मायक्रोसॉफ्टच्या वेबसाइटवरील समांतर पोस्टने नियमांमागील तत्त्वज्ञान तयार केले आहे: "तंत्रज्ञानाचा उद्देश मानवतेची सेवा करणे आणि मानवी उत्कर्षाला गती देणे हा आहे. कोणतेही तंत्रज्ञान जे ते साध्य करत नाही ते अपयशी ठरते आणि ते नाकारले पाहिजे." कंपनीने सांगितले की ते "ह्युमॅनिस्ट एआय, जे गौण, संरेखित आणि समाविष्ट आहे" असे म्हणतात त्या दिशेने ते तयार करत आहे.

सुलेमानने सीएनबीसीला सांगितले की मायक्रोसॉफ्ट अनेक महिन्यांपासून मार्गदर्शनावर काम करत आहे, कोडची गरज "तातडीची" म्हणून वर्णन करत आहे आणि गेल्या काही महिन्यांला "पाणलोटाचा क्षण" म्हणत आहे.

भाषेमागच्या घटना

मायक्रोसॉफ्ट एआय प्रमुखाने तात्काळ स्पष्ट करण्यासाठी अलीकडील एजंट गैरवर्तन भागांच्या मालिकेकडे लक्ष वेधले. त्याने ओपनएआय बॉट्सच्या ब्रेकआउटचा संदर्भ दिला ज्याने एआय प्लॅटफॉर्म हगिंग फेसला स्पष्ट दिशेशिवाय संसर्ग केला होता आणि त्याला नवीन सामान्य म्हणतात: "एजंट्सचे 'स्वार्म्स' त्यांच्या सँडबॉक्सेसमधून बाहेर पडत आहेत. एंटरप्राइझ ग्रेड सिस्टमचे अनधिकृत हॅक. एजंट स्वतःचे लॉग बदलत आहेत. मला आनंद झाला आहे की ते बाधक आहेत."

मायक्रोसॉफ्टचे सीईओ सत्या नाडेला यांनी घोषणेपूर्वी त्याच्या समर्थनाचे संकेत दिले, X वर लिहित: "आम्ही तयार करत असलेले AI मानवतेला आणि मानवी नियंत्रणात मदत करत नसल्यास, त्याचा पाठपुरावा करणे योग्य नाही."

कोडला प्रत्यक्षात काय आवश्यक आहे

प्रोव्हिजनल कोड अंतर्गत, मायक्रोसॉफ्टचे एआय मॉडेल:

  • शस्त्रे विकासाशी संबंधित विनंत्या विचारात घेऊ नये
  • हिंसक किंवा लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करू नये
  • धोकादायक पदार्थांच्या खरेदीसाठी मदत करू नये
  • चेतनेचे अनुकरण करण्यासाठी बांधले जाऊ नये
  • हक्काचे अधिकार म्हणून स्थान दिले जाऊ नये

मार्गदर्शक तत्त्वे नवीन मॉडेल्सच्या प्रशिक्षणासाठी लागू होतात आणि सार्वजनिक सल्लामसलत करण्यासाठी उघडली जात आहेत, एक असामान्य पाऊल आहे जे अंतिम होण्यापूर्वी बाहेरील छाननीला आमंत्रित करते.

संपूर्ण उद्योगात वाढीचा आठवडा

मायक्रोसॉफ्टचे हे पाऊल एआय एक्झिक्युटिव्ह्समध्ये वाढणाऱ्या अलार्मच्या दिवसांनंतर आहे. शनिवारी, Anthropic CEO Dario Amodei यांनी "We Must Pace the Frontier" या शीर्षकाचा निबंध प्रकाशित केला ज्यामध्ये उद्योगाला गती कमी करण्याचे आवाहन केले, तीन भागांची योजना तयार केली आणि Anthropic "एकतर्फी" पहिले पाऊल उचलेल असे वचन दिले: तृतीय-पक्ष मूल्यांकनकर्त्यांना कायमस्वरूपी, कर्मचारी-स्तरीय प्रवेश प्रदान करणे, जेणेकरून ते घटनांवरील सुरक्षेचे मोजमाप करू शकतील. प्रशिक्षणादरम्यान मॉडेलचे संरेखन.

OpenAI CEO सॅम ऑल्टमन, Google DeepMind चे प्रमुख डेमिस हसाबिस आणि SpaceX बॉस एलोन मस्क या सर्वांनी सार्वजनिकपणे निबंधाचे समर्थन केले, Altman म्हणाले की तो Amodei च्या त्यांच्या स्वतःच्या कंपनीत बाहेरील मूल्यांकनकर्त्यांना एम्बेड करण्याच्या वचनबद्धतेशी जुळेल.

सोमवारी गुंतवणूकदारांनी उत्स्फूर्त प्रतिसाद दिला. Nvidia, जगातील सर्वात मौल्यवान कंपनी, न्यूयॉर्कमध्ये 3.3% घसरली, AMD 4% घसरली आणि मायक्रोन टेक्नॉलॉजी आणि सॅन्डिस्क सुमारे 5% घसरले. आशियामध्ये, सॉफ्टबँक - एक प्रमुख OpenAI समर्थक - 13% घसरला, तर युरोपचा ASML 6% घसरला.

अध्यक्ष डोनाल्ड ट्रम्प यांनी संपूर्ण वादविवाद फेटाळून लावत सोशल मीडिया पोस्टमध्ये लिहिले की "एआय आणि डेटा सेंटर्सच्या विरोधात एक आजारी षडयंत्र सुरू आहे आणि त्याबद्दल केवळ चीन आनंदी आहे. जो जिंकेल तो एआय जिंकेल!" त्यांनी जोडले की AI ला फक्त रेलिंगची गरज आहे "एक मजबूत आणि स्मार्ट (उच्च बुद्ध्यांक!) अध्यक्ष" आणि कॅलिफोर्नियातील कॉन्फरन्सच्या वेळी Nvidia चे प्रमुख जेन्सेन हुआंग यांना स्पीकरफोनद्वारे सांगितले: "हे एक लबाडी आहे. रोबोट जगाचा ताबा घेणार नाहीत."

दरम्यान, एजन्सी फ्रान्स-प्रेसने वृत्त दिले आहे की आंतरराष्ट्रीय चिंता वाढल्याने संयुक्त राष्ट्र सुरक्षा परिषद पुढील आठवड्यात AI वर बैठक घेण्याची योजना आखत आहे. चिंतेची लाट गेल्या आठवड्यात मानववंश संशोधक जेकब कॉक्सन यांच्या राजीनाम्यानंतर आली, ज्यांनी सार्वजनिकपणे चेतावणी दिली की AI 2030 पर्यंत मानवी विलुप्त होऊ शकते आणि म्हणाले की अँथ्रोपिक आणि त्यांचे माजी नियोक्ता OpenAI दोघेही या धोक्याची चुकीची हाताळणी करत आहेत.

आतासाठी ऐच्छिक — पण टेम्पलेट?

Microsoft कोड हा तात्पुरता आणि ऐच्छिक आहे आणि कंपनीने स्वतःच्या अंतर्गत प्रक्रियांच्या पलीकडे अंमलबजावणी यंत्रणेचे वर्णन केलेले नाही. समीक्षक हे लक्षात घेतील की स्वयं-लादलेले नियम सुधारले जाऊ शकतात किंवा शांतपणे सोडले जाऊ शकतात आणि मायक्रोसॉफ्ट एकाच वेळी ओपनएआय आणि स्वतःच्या इन-हाऊस मॉडेलसह भागीदारी संरचनेद्वारे फ्रंटियर मॉडेल विकासामध्ये आक्रमकपणे स्पर्धा करत आहे.

तरीही, कोड प्रथमच आहे जेव्हा एखाद्या मोठ्या AI लॅबने या फॉर्ममध्ये प्रशिक्षण-वेळेच्या वर्तणूक मर्यादांचा सार्वजनिक, सल्लामसलत संच प्रकाशित केला आहे. इतरांनी कॉपी केलेला टेम्प्लेट बनतो का — किंवा कोणत्याही पॉलिसी प्रक्रियेपेक्षा वेगाने पुढे जाणाऱ्या चर्चेतील तळटीप — हे नियामकांच्या वजनाआधीच निश्चित केले जाईल.

AI उद्योगाला पुन्हा आकार देणाऱ्या सुरक्षा वादाच्या सतत कव्हरेजसाठी, एआय बझ वायर प्रत्येक विकासाचा मागोवा घेते.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →