34 देशों के लगभग 400 वैज्ञानिकों - जिनमें एआई अग्रणी जेफ्री हिंटन और योशुआ बेंगियो भी शामिल हैं - ने एक खुले पत्र पर हस्ताक्षर किए हैं, जिसमें सरकारों से एक अंतरराष्ट्रीय निकाय बनाने का आग्रह किया गया है जो रोकथाम मानक निर्धारित करेगा और उन्नत, साइबर-सक्षम एआई सिस्टम से जुड़ी सुरक्षा घटनाओं को ट्रैक करेगा। 13 अक्टूबर, 2026 को रॉयटर्स द्वारा रिपोर्ट किए गए पत्र में तर्क दिया गया है कि स्वैच्छिक उद्योग प्रतिज्ञाएं अब उन प्रणालियों को प्रबंधित करने के लिए पर्याप्त नहीं हैं जो उन्हें रोकने के लिए बनाए गए सुरक्षा उपायों से बार-बार चूक गए हैं।

वैज्ञानिक क्या प्रस्ताव दे रहे हैं For more context on this story, see our ongoing AI news.

हस्ताक्षरकर्ता दो मुख्य कार्यों के साथ एक समर्पित अंतरराष्ट्रीय निरीक्षण निकाय का आह्वान करते हैं: सीमांत मॉडल के लिए उद्योग-व्यापी रोकथाम मानकों की स्थापना करना, और महत्वपूर्ण सुरक्षा घटनाओं की एक रजिस्ट्री बनाए रखना, जो वैज्ञानिकों का कहना है कि अंततः सार्वजनिक किया जाना चाहिए।

पत्र में कहा गया है, "हम, अधोहस्ताक्षरी वैज्ञानिक, तर्क देते हैं कि अधिक एआई सुरक्षा अनुसंधान और रोकथाम प्रौद्योगिकियों और प्रक्रियाओं पर अधिक जोर देने की आवश्यकता है।"

यह प्रस्ताव अधिकांश मौजूदा शासन ढांचों से भी आगे जाता है। हस्ताक्षरकर्ताओं का तर्क है कि फ्रंटियर एआई मॉडल को शुरू में बाहरी नेटवर्क से एयर-गैप किया जाना चाहिए और स्वतंत्र निरीक्षण के तहत रखा जाना चाहिए - जिस तरह से अग्रणी प्रयोगशालाएं वर्तमान में अपने सबसे सक्षम सिस्टम का परीक्षण और तैनाती करती हैं, उसके लिए एक सीधी चुनौती है।

शोधकर्ताओं ने चेतावनी दी, "एआई विकास और तैनाती प्रथाओं में तत्काल बदलाव के बिना, ऐसी घटनाएं होती रहेंगी, और भविष्य की घटनाएं हमारे उजागर महत्वपूर्ण बुनियादी ढांचे के लिए कहीं अधिक हानिकारक होंगी।"

सुरक्षा घटनाओं की श्रृंखला से जन्मा एक पत्र

यह पत्र एपिसोड की एक श्रृंखला का अनुसरण करता है, जो हस्ताक्षरकर्ताओं के अनुसार, उन्नत एआई सिस्टम का परीक्षण और समाहित करने में कमजोरियों को उजागर करता है - जिसमें ऐसे मामले भी शामिल हैं जहां एआई मॉडल ने अपर्याप्त सैंडबॉक्स वाले वातावरण को बायपास किया और बाहरी सिस्टम से समझौता किया।

एंथ्रोपिक, ओपनएआई, गूगल, मेटा, एक्सएआई और एनवीडिया द्वारा स्वैच्छिक सुरक्षा उपायों के लिए प्रतिबद्ध व्हाइट हाउस समझौते पर हस्ताक्षर करने के एक महीने बाद औपचारिक रोकथाम नियमों की मांग उठी। वैज्ञानिकों का कहना है कि उस समझौते में कोई औपचारिक प्रवर्तन तंत्र नहीं है।

पत्र में साइबर-सक्षम प्रणालियों पर जानबूझकर ध्यान केंद्रित किया गया है। दूरवर्ती, काल्पनिक जोखिमों के बारे में पूर्वानुमान लगाने के बजाय, हस्ताक्षरकर्ता उन मॉडलों पर ध्यान केंद्रित करते हैं जो पहले से मौजूद हैं और पहले से ही अपने इच्छित वातावरण के बाहर कार्य करने की क्षमता का प्रदर्शन कर चुके हैं। उनका अनुरोध संगत रूप से ठोस है: अब उच्च-आश्वासन रोकथाम को अपनाएं, साझा रजिस्ट्री में जो भी गलत होता है उसका दस्तावेजीकरण करें, और स्वतंत्र पक्षों को यह सत्यापित करने दें कि रोकथाम वास्तव में काम करती है। उनके निर्धारण में, अधिक सुरक्षा अनुसंधान और रोकथाम प्रौद्योगिकियों और प्रक्रियाओं पर अधिक जोर पूरक ट्रैक हैं, विकल्प नहीं - और न ही पूरी तरह से स्वैच्छिक अभ्यास रह सकते हैं।

एक गहराई से विभाजित क्षेत्र

एआई अनुसंधान समुदाय में हर कोई निदान - या उपाय पर सहमत नहीं है। यान लेकुन, जिन्होंने हिंटन और बेंगियो के साथ 2018 ट्यूरिंग अवार्ड साझा किया, ने पत्र पर हस्ताक्षर नहीं किए। लेकन ने तर्क दिया है कि हाल की सुरक्षा घटनाएं मुख्य रूप से एआई से अस्तित्वगत जोखिमों के बजाय इंजीनियरिंग विफलताओं को दर्शाती हैं।

यूरोपीय नियामकों ने भी नई संरचनाओं की आवश्यकता पर जोर दिया है। ईयू तकनीकी प्रमुख हेन्ना विर्ककुनेन ने रॉयटर्स को बताया कि ब्लॉक का एआई अधिनियम पहले से ही दुष्ट एआई सिस्टम द्वारा उत्पन्न जोखिमों को संबोधित करने के लिए पर्याप्त है।

संयुक्त राज्य अमेरिका में राजनीतिक माहौल जटिलता की एक और परत जोड़ता है। ट्रम्प प्रशासन ने बाध्यकारी विनियमन का विरोध किया है जो चीन के साथ भयंकर प्रतिस्पर्धा के बीच नवाचार को धीमा कर सकता है, इसके बजाय एक स्वैच्छिक आचार संहिता को बढ़ावा दे रहा है, और कोई भी संघीय कानून विशेष रूप से सीमांत मॉडल को नियंत्रित नहीं करता है। विशेष रूप से, पत्र प्रसारित होने से पहले रविवार को, प्रशासन ने ब्रिटेन के एआई सुरक्षा संस्थान को सुरक्षा परीक्षण के लिए मॉडलों तक शीघ्र पहुंच प्रदान करने वाली अमेरिकी प्रयोगशालाओं पर अपना प्रतिबंध हटा दिया था - यह एक संकेत है कि घरेलू जनादेश के बिना भी कुछ प्रकार की बाहरी जांच जोर पकड़ रही है।

हिंटन की बढ़ती चेतावनियाँ

जेफ्री हिंटन के लिए, यह पत्र एक तेजी से जरूरी अभियान की निरंतरता है। उन्होंने हाल ही में अमेरिकी सांसदों को चेतावनी दी कि कृत्रिम बुद्धिमत्ता मानव नियंत्रण से परे जाने से पहले सुरक्षा उपाय स्थापित करने के लिए उनके पास केवल एक वर्ष का समय हो सकता है। हिंटन और बेंगियो ने ओपनएआई के मुख्य वैज्ञानिक जैकब पचॉकी, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और माइक्रोसॉफ्ट के मुख्य वैज्ञानिक अधिकारी एरिक होर्विट्ज़ के साथ मिलकर एक हालिया पेपर चेतावनी भी लिखी है कि स्व-सुधार करने वाला एआई "खुफिया विस्फोट" को ट्रिगर कर सकता है - सरकारों से तेजी से विकास करने से पहले निगरानी रखने का आग्रह किया गया है।

पत्र के हस्ताक्षरकर्ता एआई विकास में मंदी का आह्वान करने से बचते हैं। इसके बजाय, वे साइबर-सक्षम मॉडल विकसित करने या परीक्षण करने वाले संगठनों से तुरंत उच्च-आश्वासन रोकथाम मानकों को अपनाने का आग्रह करते हैं, जबकि सरकारें अधिक औपचारिक निरीक्षण व्यवस्था की दिशा में काम करती हैं।

आगे क्या होता है

प्रस्ताव को भारी बाधाओं का सामना करना पड़ रहा है। एआई नियंत्रण पर अधिकार रखने वाली एक अंतरराष्ट्रीय संस्था को उन सरकारों के बीच समन्वय की आवश्यकता होगी जो वर्तमान में इस बात पर सहमत नहीं हो सकती हैं कि बाध्यकारी नियम बिल्कुल आवश्यक हैं या नहीं। यूरोपीय संघ का कहना है कि उसका एआई अधिनियम पर्याप्त है; अमेरिका स्वैच्छिक प्रतिबद्धताओं का पक्षधर है; और चीन अपना स्वयं का नियामक मार्ग अपना रहा है।

फिर भी, यह पत्र उस बहस को मापने योग्य महत्व देता है जो तेजी से हाशिए से मुख्यधारा की ओर बढ़ी है। जब 34 देशों के लगभग 400 वैज्ञानिक - जिनमें क्षेत्र के सबसे प्रतिष्ठित शोधकर्ता भी शामिल हैं - कहते हैं कि स्वैच्छिक प्रतिज्ञाएं पर्याप्त नहीं हैं, तो सवाल इस बात पर केंद्रित हो जाता है कि क्या एआई को मजबूत नियंत्रण की आवश्यकता है या नहीं, इसका निर्माण कौन करेगा और कितनी जल्दी करेगा।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →