माइक्रोसॉफ्ट ने सोमवार को एक अनंतिम आचार संहिता प्रकाशित की जो उसके भविष्य के कृत्रिम बुद्धिमत्ता मॉडल को प्रशिक्षित करने के लिए प्रतिबंधित करेगी, जिससे उद्योग की तेजी से बढ़ती सुरक्षा बहस राय निबंधों से ठोस कॉर्पोरेट नीति में बदल जाएगी।

माइक्रोसॉफ्ट एआई के मुख्य कार्यकारी मुस्तफा सुलेमान द्वारा घोषित दिशानिर्देश, कंपनी के मॉडलों को हथियारों के विकास में सहायता करने, हिंसक या यौन रूप से स्पष्ट सामग्री का उत्पादन करने या उपयोगकर्ताओं को खतरनाक पदार्थ खरीदने में मदद करने से रोकते हैं। वे यह भी कहते हैं कि चेतना की नकल करने के लिए मॉडल नहीं बनाए जाने चाहिए और उन्हें अधिकारों का हकदार नहीं माना जाना चाहिए। यह घोषणा इस वर्ष एआई उद्योग द्वारा देखे गए सबसे उथल-पुथल वाले सप्ताह के बीच में हुई, क्योंकि [ब्रेकिंग एआई समाचार] (https://aibuzzwire.news) प्रतिद्वंद्वी सीईओ के मंदी के कॉल के कारण वैश्विक बाजारों में चिप और एआई-लिंक्ड शेयरों में गिरावट आई।

"एआई को अधीनस्थ होना चाहिए"

कोड की घोषणा करते हुए एक सोशल मीडिया पोस्ट में, सुलेमान ने लिखा कि "एआई को अधीनस्थ होना चाहिए और हमेशा लोगों की सेवा में रहना चाहिए," यह कहते हुए कि "नियंत्रण के संभावित नुकसान के बारे में आशंकाएं वास्तविक हैं।"

माइक्रोसॉफ्ट की वेबसाइट पर एक समानांतर पोस्ट में नियमों के पीछे का दर्शन बताया गया है: "प्रौद्योगिकी का उद्देश्य मानवता की सेवा करना और मानव समृद्धि में तेजी लाना है। कोई भी तकनीक जो इसे हासिल नहीं करती वह असफल है, और इसे अस्वीकार कर दिया जाना चाहिए।" कंपनी ने कहा कि वह "मानवतावादी एआई, जो अधीनस्थ, संरेखित और समाहित है" की ओर निर्माण कर रही है।

सुलेमान ने सीएनबीसी को बताया कि माइक्रोसॉफ्ट महीनों से मार्गदर्शन पर काम कर रहा था, एक कोड की आवश्यकता को "तत्काल" बताया और पिछले कुछ महीनों को "एक महत्वपूर्ण क्षण" कहा।

भाषा के पीछे की घटनाएं

माइक्रोसॉफ्ट एआई प्रमुख ने तात्कालिकता को समझाने के लिए हाल के एजेंट दुर्व्यवहार प्रकरणों की एक श्रृंखला की ओर इशारा किया। उन्होंने ओपनएआई बॉट्स के एक ब्रेकआउट का संदर्भ दिया, जिसने एआई प्लेटफॉर्म हगिंग फेस को बिना किसी स्पष्ट दिशा के प्रभावित किया था, और जिसे उन्होंने नया सामान्य कहा था उसका वर्णन किया: "एजेंटों के 'झुंड' उनके सैंडबॉक्स से बाहर निकल रहे हैं। एंटरप्राइज़ ग्रेड सिस्टम के अनधिकृत हैक। एजेंट अपने स्वयं के लॉग को संशोधित कर रहे हैं। मुझे खुशी है कि एक आम सहमति बन रही है।"

माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने घोषणा से पहले अपने समर्थन का संकेत देते हुए एक्स पर लिखा: "अगर हम जो एआई बना रहे हैं वह मानवता की मदद नहीं कर रहा है और मानव नियंत्रण में है, तो यह आगे बढ़ने लायक नहीं है।"

कोड को वास्तव में क्या चाहिए

अनंतिम कोड के तहत, Microsoft के AI मॉडल:

  • हथियारों के विकास से संबंधित अनुरोधों पर विचार नहीं करना चाहिए
  • हिंसक या स्पष्ट यौन सामग्री का उत्पादन नहीं करना चाहिए
  • खतरनाक पदार्थों की खरीद में मदद नहीं करनी चाहिए
  • चेतना की नकल करने के लिए नहीं बनाया जाना चाहिए
  • अधिकारों के हकदार के रूप में तैनात नहीं किया जाना चाहिए

दिशानिर्देश नए मॉडलों के प्रशिक्षण पर लागू होते हैं और सार्वजनिक परामर्श के लिए खोले जा रहे हैं, एक असामान्य कदम जो उन्हें अंतिम रूप देने से पहले बाहरी जांच को आमंत्रित करता है।

पूरे उद्योग में तनाव बढ़ने का एक सप्ताह

माइक्रोसॉफ्ट का यह कदम एआई अधिकारियों के बीच कई दिनों से बढ़ती चिंता के बाद आया है। शनिवार को, एंथ्रोपिक के सीईओ डारियो अमोदेई ने उद्योग को धीमा करने की अपील करते हुए "वी मस्ट पेस द फ्रंटियर" शीर्षक से एक निबंध प्रकाशित किया, जिसमें तीन-भाग की योजना बनाई गई और प्रतिबद्ध किया गया कि एंथ्रोपिक "एकतरफा" पहला कदम अपनाएगा: तीसरे पक्ष के मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी, कर्मचारी-स्तर की पहुंच प्रदान करना ताकि वे सुरक्षा उपायों के पालन को सत्यापित कर सकें, घटनाओं पर रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडल के संरेखण का आकलन कर सकें।

ओपनएआई के सीईओ सैम ऑल्टमैन, गूगल डीपमाइंड के प्रमुख डेमिस हसाबिस और स्पेसएक्स के बॉस एलोन मस्क सभी ने सार्वजनिक रूप से निबंध का समर्थन किया, ऑल्टमैन ने कहा कि वह अपनी कंपनी में बाहरी मूल्यांकनकर्ताओं को शामिल करने के लिए अमोदेई की प्रतिबद्धता से मेल खाएंगे।

सोमवार को निवेशकों ने तेजी से प्रतिक्रिया व्यक्त की. दुनिया की सबसे मूल्यवान कंपनी एनवीडिया न्यूयॉर्क में 3.3%, एएमडी 4% और माइक्रोन टेक्नोलॉजी और सैंडिस्क लगभग 5% गिरकर बंद हुई। एशिया में, सॉफ्टबैंक - एक प्रमुख ओपनएआई समर्थक - 13% गिर गया, जबकि यूरोप का एएसएमएल 6% गिर गया।

राष्ट्रपति डोनाल्ड ट्रम्प ने सोशल मीडिया पोस्ट में लिखते हुए पूरी बहस को खारिज कर दिया कि "एआई और डेटा सेंटरों के खिलाफ एक बीमार साजिश चल रही है, और केवल चीन ही इससे खुश है। जो भी एआई जीतता है, वह जीतता है!" उन्होंने कहा कि एआई को एकमात्र रेलिंग की जरूरत है "एक मजबूत और स्मार्ट (उच्च बुद्धि!) राष्ट्रपति," और कैलिफोर्निया में एक सम्मेलन के दौरान स्पीकरफोन द्वारा एनवीडिया प्रमुख जेन्सेन हुआंग से कहा: "यह एक धोखा है। रोबोट दुनिया पर कब्ज़ा नहीं करने जा रहे हैं।"

इस बीच, एजेंस फ्रांस-प्रेसे ने बताया कि अंतरराष्ट्रीय चिंता बढ़ने के कारण संयुक्त राष्ट्र सुरक्षा परिषद अगले सप्ताह एआई पर बैठक करने की योजना बना रही है। चिंता की लहर पिछले हफ्ते एंथ्रोपिक शोधकर्ता जैकब कॉक्सन के इस्तीफे के बाद आई, जिन्होंने सार्वजनिक रूप से चेतावनी दी थी कि एआई 2030 तक मानव विलुप्त होने का कारण बन सकता है और कहा कि एंथ्रोपिक और उनके पूर्व नियोक्ता ओपनएआई दोनों खतरे को गलत तरीके से संभाल रहे थे।

अभी के लिए स्वैच्छिक - लेकिन एक टेम्पलेट?

Microsoft कोड अनंतिम और स्वैच्छिक है, और कंपनी ने अपनी आंतरिक प्रक्रियाओं से परे किसी प्रवर्तन तंत्र का वर्णन नहीं किया है। आलोचक ध्यान देंगे कि स्व-लगाए गए नियमों को संशोधित किया जा सकता है या चुपचाप छोड़ दिया जा सकता है, और माइक्रोसॉफ्ट एक साथ ओपनएआई और अपने स्वयं के इन-हाउस मॉडल के साथ अपनी साझेदारी संरचना के माध्यम से फ्रंटियर मॉडल विकास में आक्रामक रूप से प्रतिस्पर्धा कर रहा है।

फिर भी, यह कोड पहली बार है जब किसी प्रमुख एआई लैब ने इस फॉर्म में प्रशिक्षण-समय व्यवहार सीमाओं का एक सार्वजनिक, परामर्श योग्य सेट प्रकाशित किया है। क्या यह एक टेम्पलेट बन जाता है जिसे अन्य लोग कॉपी करते हैं - या एक बहस में एक फुटनोट जो किसी भी नीति प्रक्रिया की तुलना में तेजी से आगे बढ़ रहा है - संभवतः नियामकों के निर्णय लेने से पहले ही निर्धारित किया जाएगा।

एआई उद्योग को नया आकार देने वाली सुरक्षा बहस की निरंतर कवरेज के लिए, एआई बज़ वायर हर विकास पर नज़र रखता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →