34 देशांतील सुमारे 400 शास्त्रज्ञांनी - त्यापैकी AI प्रणेते जेफ्री हिंटन आणि योशुआ बेन्जिओ - यांनी सरकारांना एक आंतरराष्ट्रीय संस्था तयार करण्याचे आवाहन करणाऱ्या एका खुल्या पत्रावर स्वाक्षरी केली आहे जी प्रगत, सायबर-सक्षम AI प्रणालींचा समावेश असलेल्या सुरक्षेच्या घटनांचा मागोवा घेणारी आंतरराष्ट्रीय संस्था तयार करेल. 13 ऑक्टोबर 2026 रोजी रॉयटर्सने नोंदवलेले पत्र, असा युक्तिवाद करते की स्वयंसेवी उद्योग प्रतिज्ञा यापुढे अशा प्रणाली व्यवस्थापित करण्यासाठी पुरेशी नाहीत ज्यांनी त्यांना समाविष्ट करण्यासाठी असलेल्या सुरक्षिततेच्या मागे वारंवार घसरले आहे.
शास्त्रज्ञ काय मांडत आहेत For more context on this story, see our ongoing breaking AI news.
स्वाक्षरी करणाऱ्यांनी दोन मुख्य कार्यांसह समर्पित आंतरराष्ट्रीय देखरेख संस्थेची मागणी केली आहे: सीमावर्ती मॉडेल्ससाठी उद्योग-व्यापी प्रतिबंध मानके स्थापित करणे आणि महत्त्वपूर्ण सुरक्षा घटनांची नोंदणी करणे, जे शेवटी सार्वजनिक केले जावे असे शास्त्रज्ञांचे म्हणणे आहे.
पत्रात म्हटले आहे की, “आम्ही, अधोस्वाक्षरी केलेल्या शास्त्रज्ञांचे म्हणणे आहे की अधिक एआय सुरक्षा संशोधन आणि नियंत्रण तंत्रज्ञान आणि प्रक्रियांवर अधिक जोर देणे आवश्यक आहे.”
हा प्रस्ताव बऱ्याच वर्तमान गव्हर्नन्स फ्रेमवर्कपेक्षा पुढे जातो. स्वाक्षऱ्यांचा असा युक्तिवाद आहे की फ्रंटियर एआय मॉडेल्सना सुरुवातीला बाह्य नेटवर्क्समधून एअर-गॅप केले जावे आणि स्वतंत्र निरीक्षणाखाली ठेवले जावे - सध्या आघाडीच्या प्रयोगशाळांनी त्यांच्या सर्वात सक्षम प्रणालीची चाचणी आणि तैनात करण्याच्या मार्गाला थेट आव्हान दिले आहे.
"एआय विकास आणि उपयोजन पद्धतींमध्ये त्वरित बदल न करता, अशा घटना घडतच राहतील आणि भविष्यातील घटना आमच्या उघड झालेल्या गंभीर पायाभूत सुविधांसाठी अधिक हानीकारक असतील," संशोधकांनी चेतावणी दिली.
सुरक्षा घटनांच्या स्ट्रिंगमधून जन्मलेले एक पत्र
हे पत्र भागांच्या मालिकेचे अनुसरण करते ज्यात, स्वाक्षरी करणाऱ्यांच्या मते, प्रगत AI सिस्टमची चाचणी कशी केली जाते आणि त्यात समाविष्ट असलेल्या कमकुवतपणा उघड केल्या आहेत - ज्यात AI मॉडेल्सने अपुरे सँडबॉक्स वातावरण आणि तडजोड केलेल्या बाह्य प्रणालींना बायपास केले आहे.
Anthropic, OpenAI, Google, Meta, xAI आणि Nvidia ने व्हाईट हाऊसच्या ऐच्छिक सुरक्षा उपायांसाठी वचनबद्ध केलेल्या करारावर स्वाक्षरी केल्यानंतर औपचारिक प्रतिबंध नियमांची मागणी एका महिन्यानंतर आली. त्या करारात, शास्त्रज्ञांच्या लक्षात येते की, कोणतीही औपचारिक अंमलबजावणी यंत्रणा नाही.
सायबर-सक्षम प्रणालींवर पत्राचा फोकस मुद्दाम आहे. दूरच्या, काल्पनिक जोखमींबद्दल अंदाज करण्याऐवजी, स्वाक्षरीकर्ते आधीपासून अस्तित्वात असलेल्या मॉडेल्सवर लक्ष केंद्रित करतात आणि त्यांनी आधीच त्यांच्या इच्छित वातावरणाच्या बाहेर कार्य करण्याची क्षमता प्रदर्शित केली आहे. त्यांची विनंती अनुरूपपणे ठोस आहे: आता उच्च-आश्वासन कंटेनमेंटचा अवलंब करा, सामायिक केलेल्या नोंदणीमध्ये काय चूक झाली ते दस्तऐवज करा आणि स्वतंत्र पक्षांना कंटेनमेंट प्रत्यक्षात कार्य करते हे सत्यापित करू द्या. त्यांच्या फ्रेमिंगमध्ये, अधिक सुरक्षितता संशोधन आणि नियंत्रण तंत्रज्ञान आणि कार्यपद्धतींवर अधिक भर देणे हे पूरक ट्रॅक आहेत, पर्याय नाहीत - आणि दोन्हीही पूर्णपणे ऐच्छिक व्यायाम राहू शकत नाहीत.
खोलवर विभागलेले क्षेत्र
एआय संशोधन समुदायातील प्रत्येकजण निदान - किंवा उपाय यावर सहमत नाही. यान लेकुन, ज्यांनी 2018 चा ट्युरिंग अवॉर्ड हिंटन आणि बेंजिओसोबत शेअर केला, त्यांनी पत्रावर स्वाक्षरी केली नाही. LeCun ने असा युक्तिवाद केला आहे की अलीकडील सुरक्षा घटना प्रामुख्याने AI मधील अस्तित्वातील जोखमींऐवजी अभियांत्रिकी अपयश दर्शवतात.
युरोपियन नियामकांनी देखील नवीन संरचनांची आवश्यकता मागे ढकलली आहे. EU टेक चीफ हेन्ना विर्ककुनेन यांनी रॉयटर्सला सांगितले की ब्लॉकचा एआय कायदा रॉग एआय सिस्टमद्वारे उद्भवलेल्या जोखमींना तोंड देण्यासाठी आधीच पुरेसा आहे.
युनायटेड स्टेट्समधील राजकीय वातावरण जटिलतेचा आणखी एक स्तर जोडते. ट्रम्प प्रशासनाने बंधनकारक नियमनाला विरोध केला आहे ज्यामुळे चीनशी तीव्र स्पर्धेमध्ये नावीन्यता कमी होऊ शकते, त्याऐवजी ऐच्छिक आचारसंहितेचा प्रचार केला जातो आणि कोणताही फेडरल कायदा विशेषत: फ्रंटियर मॉडेल्सवर नियंत्रण ठेवत नाही. विशेष म्हणजे, पत्र प्रसारित होण्यापूर्वी रविवारी, प्रशासनाने ब्रिटनच्या एआय सिक्युरिटी इन्स्टिट्यूटला सुरक्षा चाचणीसाठी मॉडेल्सवर लवकर प्रवेश देऊन यूएस प्रयोगशाळांवरचा ब्लॉक हटवला - हे संकेत आहे की काही प्रकारचे बाह्य छाननी देशांतर्गत आदेशांशिवाय देखील कर्षण मिळवत आहेत.
हिंटनच्या वाढत्या चेतावणी
जेफ्री हिंटनसाठी, हे पत्र वाढत्या तातडीच्या मोहिमेचे सातत्य आहे. त्यांनी अलीकडेच अमेरिकन खासदारांना इशारा दिला की कृत्रिम बुद्धिमत्ता मानवी नियंत्रणाच्या पलीकडे जाण्यापूर्वी त्यांच्याकडे संरक्षण स्थापित करण्यासाठी फक्त एक वर्ष असेल. Hinton आणि Bengio, OpenAI चे मुख्य शास्त्रज्ञ जॅकब पाचोकी, Anthropic सह-संस्थापक जॅक क्लार्क आणि मायक्रोसॉफ्टचे मुख्य वैज्ञानिक अधिकारी एरिक हॉर्विट्झ यांच्या सह-लेखनात, AI स्व-सुधारणा "बुद्धीमत्तेचा स्फोट" घडवून आणू शकते असा इशारा देणारा एक नुकताच पेपर सह-लेखक आहे - सरकारांना समाजाच्या विकासाआधी जलद गतीने विकास करण्यावर देखरेख ठेवण्याची विनंती केली.
पत्राचे स्वाक्षरी एआय विकासामध्ये मंदीचे आवाहन करण्यात कमी पडतात. त्याऐवजी, ते सायबर-सक्षम मॉडेल विकसित करणाऱ्या किंवा चाचणी करणाऱ्या संस्थांना ताबडतोब उच्च-आश्वासन प्रतिबंधक मानकांचा अवलंब करण्यास उद्युक्त करतात, जेव्हा सरकार अधिक औपचारिक देखरेखी व्यवस्थेसाठी कार्य करते.
पुढे काय होईल
या प्रस्तावाला मोठ्या अडचणींचा सामना करावा लागतो. एआय कंटेन्मेंटवर अधिकार असलेल्या आंतरराष्ट्रीय संस्थेला सरकारमध्ये समन्वय आवश्यक आहे जे सध्या बंधनकारक नियम अजिबात आवश्यक आहेत की नाही यावर सहमत होऊ शकत नाहीत. EU ने आपला AI कायदा पुरेसा आहे असे कायम ठेवले आहे; यूएस स्वैच्छिक वचनबद्धतेला अनुकूल आहे; आणि चीन स्वतःच्या नियामक मार्गाचा अवलंब करत आहे.
तरीही, हे पत्र एका वादाला मोजता येण्याजोगे वजन जोडते जे झपाट्याने मुख्य प्रवाहात गेले आहे. जेव्हा 34 देशांमधील अंदाजे 400 शास्त्रज्ञ - या क्षेत्रातील सर्वात सुशोभित संशोधकांसह - म्हणतात की ऐच्छिक प्रतिज्ञा पुरेसे नाहीत, तेव्हा प्रश्न एआयला कोण बांधेल आणि किती लवकर तयार करेल यावर अधिक मजबूत प्रतिबंध आवश्यक आहे का यावरून बदलतो.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
