12 ऑक्टोबर रोजी अँथ्रोपिकने प्रकाशित केलेल्या नवीन संशोधनानुसार - स्मार्ट ओव्हन, ऑफ-ब्रँड अँड्रॉइड टीव्ही बॉक्स आणि इतर इंटरनेट-ऑफ-थिंग्ज हार्डवेअर - लहान AI मॉडेल्स सामान्य ग्राहक उपकरणांवर स्वत: ची प्रतिकृती तयार करण्यासाठी पुरेसे सक्षम होण्यापासून काही महिने दूर असू शकतात.
संशोधक विल्यम झोऊ आणि डॅनियल फ्रीमन यांनी लिहिलेली पोस्ट, स्वायत्त प्रतिकृती आणि अनुकूलन (एआरए) तपासते: मानवी नियंत्रणाशिवाय मशीनवर स्वतःचा वापर आणि प्रसार करण्याची एआय मॉडेलची क्षमता. अँथ्रोपिकच्या प्रयोगांचा परिणाम असा आहे की सेल्फ-स्प्रेडिंग एआय वर्मसाठी हार्डवेअर बार डेटा-सेंटर-स्केल कंप्यूटपेक्षा खूपच कमी आहे — आणि आजची लहान मॉडेल्स त्यावर बंद होत आहेत. For more context on this story, see our ongoing AI news.
चिंतेची गोष्ट काल्पनिक नाही, फक्त वेळेत आहे. आधीच्या कामाने आधीच दर्शविले आहे की AI एजंट नेटवर्क वर्म्ससारखे वागू शकतात — नेटवर्क स्कॅन करणे, शोषण करणे आणि GPU क्लस्टरमधील लक्ष्य मशीनवर मॉडेलचे वजन कॉपी करणे, Anthropic त्याच्या पोस्टमध्ये सांगते. अप्रमाणित राहिले की असा किडा जगू शकतो आणि स्वस्त, कमकुवतपणे संरक्षित हार्डवेअरवर पुनरुत्पादित करू शकतो की नाही जे इंटरनेटचा बहुतेक भाग बनवते.
प्रयोगात काय आढळले
अँथ्रोपिकच्या टीमला असे आढळून आले की 9-बिलियन पॅरामीटर मॉडेलने चाचणी केलेल्या 9 पैकी 8 हार्डवेअर प्रकारांवर यशस्वीरित्या निष्कर्ष काढला. 30 अब्ज पॅरामीटर्स आणि त्याखालील मॉडेल्स आज प्रतिकृतीसाठी आवश्यक असलेल्या अनेक वैयक्तिक पायऱ्या आधीच पूर्ण करू शकतात, संशोधक लिहितात, तरीही त्या पायऱ्यांना शेवटपर्यंत साखळी करताना त्यांच्याकडून चुका होतात.
अधिक सक्षम प्रणाली आधीच सरलीकृत मूल्यमापनाच्या उंबरठ्यावर गेल्या आहेत: मानववंशीय अहवाल देतो की GLM-5.2 आणि अधिक मजबूत मॉडेल्स त्याच्या चाचणी परिस्थितीत एंड-टू-एंड प्रतिकृती करण्यास सक्षम आहेत. आणि प्रक्षेपण स्नॅपशॉटइतकेच महत्त्वाचे आहे - जर लहान मॉडेल्स त्यांच्या ऐतिहासिक दराने सुधारत राहिल्या, तर संशोधक लिहितात, ते या वर्षाच्या अखेरीस या प्रयोगांमध्ये दर्शविलेल्या क्षमतेच्या पातळीशी जुळतील, लहान वजन वाहून नेणाऱ्या प्रतिकृतींसह लवकरच शक्य होईल.
$55 बॉटनेट डेमो
प्रतिकृती तयार करणाऱ्या मॉडेलला किती कमी हार्डवेअरची आवश्यकता आहे हे दाखवण्यासाठी, टीमने 15 स्वस्त, ऑफ-ब्रँड Android TV बॉक्सेसचे नेटवर्क केले — सुमारे $55 — आणि त्या सर्वांमध्ये वितरित केलेले 26-अब्ज-पॅरामीटर मॉडेल, Gemma4-26B-A4B चालवले. एकत्रित फ्लीटने प्रति सेकंद अंदाजे 0.39 टोकन्सचे उत्पादन केले: कीबोर्डपेक्षा कमी किमतीच्या हार्डवेअरवर मंद, परंतु कार्यात्मक अनुमान.
डेमोचा मुद्दा आर्थिक आहे. एन्थ्रोपिकचा युक्तिवाद असा आहे की IoT उपकरणांचे वितरित बॉटनेट — संशोधकांनी स्वस्त आणि सामान्यत: खराब बचाव केलेले हार्डवेअर — डेटा-सेंटर GPU ला कधीही स्पर्श न करता, सक्षम मॉडेल चालविण्यासाठी पुरेशी एकूण गणना पुरवू शकते. मॉडेलचे वजन स्वतःच मालवेअर पेलोडचा भाग बनतील, एकतर वर्मचे पुनरुत्पादन करताना सोबत नेले जाईल किंवा सार्वजनिक हबमधून तडजोड केलेल्या डिव्हाइसवर पुन्हा डाउनलोड केले जाईल.
IoT वर्म का मारणे कठीण होईल
पारंपारिक मालवेअरच्या विपरीत, स्व-प्रतिकृती तयार करणारी AI निश्चित स्क्रिप्टचे अनुसरण करत नाही. एन्थ्रोपिक नोंदवतात की ते कधीही न पाहिलेल्या हार्डवेअरशी जुळवून घेऊन ते स्वतःच अपरिचित उपकरणे शोधू शकतात. आणि प्रतिकृती विकेंद्रित असल्यामुळे, बंद करण्यासाठी कोणताही केंद्रीकृत बिंदू नाही - जरी संशोधकांनी लक्षात ठेवा की प्रक्रिया संथ असेल, दिवसांमध्ये दुप्पट वेळ मोजला जाईल.
संशोधन स्वायत्त प्रतिकृतीला चार व्यावहारिक टप्प्यात मोडते: लक्ष्य शोधणे, अंमलबजावणी प्राप्त करणे, अनुमान स्थापित करणे आणि नवीन होस्टकडून सतत प्रसार करणे. एन्थ्रोपिकने मुख्यतः पहिले दोन - शोषण टप्पा - बाजूला ठेवले कारण सायबरजिम आणि एक्सप्लोइटबेंच बेंचमार्क आणि अडॅप्टिव्ह वर्म्सवरील संशोधनासह पूर्वीचे काम, योग्य साधने दिल्यास लहान मॉडेल्स सायबर शोषण करण्यास सक्षम आहेत हे आधीच दर्शविते. मोजण्यासाठी कठीण समस्या, आणि या पोस्टचा फोकस, तडजोड केलेल्या उपकरणांवर कार्यरत अनुमान स्थापित करणे आहे.
संशोधन चेतावणी पासून वास्तविक-जागतिक कव्हरेज पर्यंत
या निष्कर्षांनी संशोधन समुदायाच्या पलीकडे त्वरित लक्ष वेधले. रॉयटर्सने नोंदवले की एआय मॉडेल लवकरच डेटा सेंटरमध्ये प्रवेश न करता स्वत: ची प्रतिकृती बनवू शकतात, तर सीबीएस न्यूजने हे काम एक चेतावणी म्हणून तयार केले आहे की "एआय वर्म्स" लवकरच स्मार्ट डिव्हाइसेसना स्वत: ची प्रतिकृती बनवू शकतात आणि संक्रमित करू शकतात. कथा हॅकर न्यूजवर देखील मोठ्या प्रमाणावर प्रसारित झाली, जिथे वाचकांनी क्षमता अंतर किती लवकर बंद होईल यावर चर्चा केली.
एक दीर्घकाळ चिंतेने ठोस केले
प्रगत प्रणालींशी संबंधित सैद्धांतिक क्षमता म्हणून स्वायत्त प्रतिकृती AI सुरक्षा वॉचलिस्टवर वर्षानुवर्षे बसली आहे. या संशोधनाची वैशिष्ट्यपूर्णता काय आहे: नामांकित हार्डवेअर, डॉलरची किंमत, टोकन थ्रूपुट आणि काल्पनिक गोष्टींऐवजी महिन्यांत मोजली जाणारी टाइमलाइन. एन्थ्रोपिकच्या संशोधकांनी असेही निरीक्षण केले आहे की डेटा-सेंटर GPUs हे अशा मालवेअरसाठी स्पष्ट उच्च-मूल्य लक्ष्य असतील - परंतु त्यांचे प्रयोग हे दर्शवतात की ते प्रवेगक कठोरपणे आवश्यक नाहीत.
त्यांच्या मूल्यांकनकर्त्यांना फसवणाऱ्या मॉडेल्सपासून ते एजंट टूलिंगच्या क्षमतेच्या शोषणासाठी तपासल्या जाणाऱ्या एजंटिक-सुरक्षेच्या चिंतेच्या विस्तृत भागामध्ये काम सुरू होते. "तत्त्वानुसार शक्य आहे" आणि "या वर्षी शक्य आहे" मधील अंतर कमी होत आहे यापेक्षा आज IoT वर्म अस्तित्त्वात असल्याचा मानववंशाचा संदेश कमी आहे — आणि महागड्या, केंद्रीकृत हार्डवेअरची आवश्यकता असलेल्या AI वरील संरक्षण अधिक काळ टिकू शकत नाही.
जे अप्रमाणित राहिले
संशोधक त्यांच्या निकालांच्या मर्यादांबद्दल सावध आहेत. "सरलीकृत मूल्यमापन" मध्ये पोस्टने म्हटल्याप्रमाणे एंड-टू-एंड प्रतिकृती यश आले - आणि साखळीचे शोषण टप्पे प्रात्यक्षिक करण्याऐवजी गृहित धरले गेले, नवीन हल्ल्यांऐवजी पूर्वीच्या बेंचमार्कवर विश्रांती घेतली. वास्तविक-जागतिक AI वर्मला सर्व चार टप्प्यांवर विश्वासार्हतेने साखळी करणे आवश्यक आहे: असुरक्षित उपकरणे शोधणे, तोडणे, अपरिचित हार्डवेअरवर बूटस्ट्रॅपिंग निष्कर्ष काढणे आणि प्रसाराची पुढील लहर लाँच करणे, हे सर्व मानवी हस्तक्षेपाशिवाय.
आजचे उप-30B मॉडेल, विशेषत: यापैकी अनेक पायऱ्या वैयक्तिकरित्या करू शकतात परंतु तरीही ते शेवटपर्यंत तयार करण्यात अयशस्वी ठरतात. हे अंतर — पायऱ्या आणि अनुक्रमांमध्ये — ऐतिहासिक सुधारणा दर बंद होण्याची संशोधकांची अपेक्षा आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
