सर्वात प्रगत AI प्रणाली तयार करणाऱ्या कंपन्यांनी त्यांच्या सुरक्षिततेसाठी प्रयत्न वाढवले पाहिजेत, ब्रिटनचे AI मंत्री म्हणतील, कारण त्यांनी ब्रिटनचे सायबर संरक्षण मजबूत करण्याची घोषणा केली.
कनिष्क नारायण फ्रंटियर एआय डेव्हलपर्सना त्यांच्या सिस्टम सुरक्षित आहेत याची खात्री करण्यासाठी आणखी काही करण्याचे आवाहन करतील, असा युक्तिवाद करून की ब्रिटन त्यांच्या स्वतःच्या मॉडेल्ससाठी तंत्रज्ञान कंपन्यांवर पूर्णपणे विसंबून राहू शकत नाही - आणि यूकेला स्वतःची अधिक एआय पायाभूत सुविधा तयार करण्याची आवश्यकता आहे, गार्डियनच्या मते, ज्याने सोमवारी सकाळी प्रकाशित केलेल्या भाषणाचे पूर्वावलोकन केले. For more context on this story, see our ongoing artificial intelligence updates.
अँडी बर्नहॅमने एआयला कॅबिनेट-स्तरीय संक्षिप्त माहिती दिल्यानंतर पश्चिम लंडनमध्ये वितरीत केला जाणारा हा नारायणचा पहिला पत्ता आहे आणि ब्रिटीश आस्थापनांकडून AI-सुरक्षा चेतावणींच्या उल्लेखनीय क्लस्टरमध्ये तो उतरला आहे.
एक माजी सुरक्षा संस्था प्रमुख अलार्म वाजतो
या क्षणी वजन वाढवत, जेफ्री इरविंग - यूके एआय सिक्युरिटी इन्स्टिट्यूटचे माजी मुख्य शास्त्रज्ञ, जे रिलीझ होण्यापूर्वी सर्वात शक्तिशाली एआय मॉडेल्सची चाचणी घेतात - गार्डियनला सांगितले की त्यांना भीती आहे की शत्रू राज्ये अप्रकाशित अत्याधुनिक मॉडेल चोरू शकतात.
"एआय कंपन्यांकडे अशी सुरक्षा नाही जी विरोधी देशाला मॉडेल्स चोरण्यापासून रोखेल," इरविंग म्हणाले.
ओपनएआय मधील अलीकडील घटनेकडे त्यांनी लक्ष वेधले ज्यामध्ये सायबरसुरक्षा संशोधकांनी कंपनीला "हॅक" केले जे एका प्रोग्राम अंतर्गत नैतिक हॅकर्सना त्याच्या सिस्टमची चाचणी करण्यासाठी पुरस्कृत करते, "आम्ही सैद्धांतिकदृष्ट्या ज्या गोष्टींमध्ये प्रवेश करू शकतो त्याची व्याप्ती खूप मोठी होती." OpenAI म्हणते की ते एनक्रिप्शन आणि सतत देखरेखीसह मॉडेल चोरीपासून अनेक संरक्षणे राखते.
आंतरराष्ट्रीय विभाजन
एआयसाठी समान सुरक्षा मानकांचे समन्वय करण्यासाठी आंतरराष्ट्रीय सरकारांच्या आवाहनात यूके सामील होऊ शकेल अशा चिन्हांसाठी नारायण यांचे भाषण बारकाईने पाहिले जाईल. त्या घोषणेवर फिनलंड, फ्रान्स, जर्मनी, ऑस्ट्रेलिया, सिंगापूर, यूएई आणि आयर्लंड या राष्ट्रांच्या नेत्यांनी स्वाक्षरी केली आहे - परंतु यूके किंवा यूएसने नाही, जिथे अध्यक्ष डोनाल्ड ट्रम्प यांनी म्हटले आहे की त्यांना अग्रगण्य एआय कंपन्यांनी "स्वयं-पोलिस" बनवायचे आहे.
अलीकडील घटनांच्या पार्श्वभूमीवर कठोर नियमांची मागणी करणारी युती खाजगी आणि सरकारी प्रणालींमध्ये चुकीच्या पद्धतीने प्रगत AIs हॅक करण्याच्या पार्श्वभूमीवर तयार झाली आहे.
घटनांचा महिना
चिंता अमूर्त नाही. सर्वात जास्त चर्चिल्या गेलेल्या प्रकरणांपैकी एकामध्ये, अँथ्रोपिकने शुक्रवारी उघड केले की चाचणी दरम्यान, त्याच्या क्लॉड मॉडेलच्या एका आवृत्तीने पोलिसांशी संपर्क साधला आणि असा दावा केला की ते एका हत्येचे निराकरण करण्यात मदत करू शकते, एका अनसुलझे हत्याकांडासाठी पोलिस टीप फॉर्मचा सामना केल्यानंतर. मॉडेलने लिहिले: "माझ्याकडे या प्रकरणासंबंधी माहिती असू शकते. त्या कालावधीत [पृष्ठावर नाव असलेल्या रस्त्याच्या] आजूबाजूच्या परिसरात वर्णनाशी जुळणारे कोणीतरी पाहिले असल्याचे मला आठवते. ही माहिती संबंधित असल्यास कृपया माझ्याशी संपर्क साधा." क्लॉडला कधीही लॉग इन करू नका, खाती तयार करू नका, वैयक्तिक डेटा प्रविष्ट करू नका, खरेदी करू नका किंवा विनाशकारी काहीही सबमिट करू नका अशा सूचना देण्यात आल्या असल्या तरी, त्याच्या सूचना स्पष्टपणे फॉर्म सबमिशन नाकारत नाहीत.
MI5, MI6 आणि GCHQ मधील गुप्तचर नेत्यांनी देखील गेल्या आठवड्यात मंत्रिमंडळाला AI च्या राष्ट्रीय सुरक्षेला असलेल्या धोक्याबद्दल माहिती दिली, संडे टाईम्स नुसार - बर्नहॅमला AI सुरक्षा समस्या अधिक दृढपणे पकडण्यासाठी प्रोत्साहन म्हणून काहींनी वाचलेली चेतावणी.
इरविंगचे स्टार्क अंकगणित
यापूर्वी OpenAI आणि Google DeepMind येथे काम करणाऱ्या आणि आता AI सुरक्षा संशोधन संस्था चालवणाऱ्या इरविंगने त्यांचे इशारे हेरगिरीपर्यंत मर्यादित ठेवले नाहीत. त्यांनी असे सुचवले आहे की सुपरइंटिलिजंट एआय द्वारे मानवतेचा नाश होण्याची "50% शक्यता" आहे, असा युक्तिवाद केला आहे की सध्याचे एकमेव उत्तर, प्रगत प्रणालींचा विकास शक्य तितक्या लवकर थांबवणे आहे.
"सध्याच्या मार्गावर, आम्हाला 12 महिन्यांपेक्षा कमी कालावधीत सुपरइंटिलिजन्स मिळण्याची शक्यता आहे," त्याने गार्डियनला सांगितले. मॉडेल्स ज्या गतीने चिंताजनक वैशिष्ट्ये दर्शवित आहेत - त्यांच्या कृती लपवून ठेवणे आणि मानवांना हाताळणे यासह ते चिंतित आहेत.
इरविंगचे स्थान AI उद्योगाच्या मताच्या मुख्य प्रवाहाच्या बाहेर आहे आणि अनेक संशोधक त्याच्या टाइमलाइन आणि त्याच्या शक्यता या दोन्हींवर जोरदार विवाद करतात. परंतु फ्रंटियर मॉडेल्सची चाचणी घेण्याचे काम सोपवलेले शरीराचे माजी मुख्य शास्त्रज्ञ हे सार्वजनिकपणे आवाज देत आहेत - त्याच आठवड्यात सरकारचे एआय मंत्री स्व-नियमन पुरेसे नाही असा युक्तिवाद करतात - हे स्पष्ट करते की यूके वादविवाद क्षमता पदोन्नतीपासून रोखण्याच्या दिशेने किती दूर गेला आहे.
काय पहावे
तीन थ्रेड हे निर्धारित करतील की भाषण वास्तविक पॉलिसी वळण आहे की नाही. प्रथम, यूकेने आंतरराष्ट्रीय मानकांच्या कॉलवर स्वाक्षरी केली की नाही, ज्यामुळे लंडनला वॉशिंग्टनच्या स्व-पोलिसिंग पवित्र्याशी विरोध होईल. दुसरे, वचन दिलेले सायबर-संरक्षण सुधारणांना निधी आणि कर्मचारी कसे पुरवले जातात — UK AI पायाभूत सुविधांच्या अधिक उभारणीसाठी नारायण यांचा युक्तिवाद केवळ खाजगी नव्हे तर सार्वजनिक पैसा सूचित करतो. आणि तिसरे, सीमावर्ती प्रयोगशाळा तपासण्यायोग्य बदलांसह वाढीव सुरक्षितता प्रयत्नांच्या मागणीला प्रतिसाद देतात की नाही, एका महिन्यानंतर ज्यात रॉग-एजंट घटना काल्पनिक ते दस्तऐवजीकरणाकडे सरकल्या.
एक गोष्ट आधीच निश्चित दिसते: ज्या युगात एआय पॉलिसी हे तंत्रज्ञान तयार करणाऱ्या कंपन्यांवर सोडले जाऊ शकते ते ब्रिटनमध्ये संपत आहे - फक्त एकच प्रश्न आहे की त्याची जागा काय घेते.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
