12 अक्टूबर को एंथ्रोपिक द्वारा प्रकाशित नए शोध के अनुसार, छोटे एआई मॉडल सामान्य उपभोक्ता उपकरणों - स्मार्ट ओवन, ऑफ-ब्रांड एंड्रॉइड टीवी बॉक्स और अन्य इंटरनेट-ऑफ-थिंग्स हार्डवेयर - पर स्वयं-प्रतिकृति करने में सक्षम होने से केवल कुछ महीने दूर हो सकते हैं।
शोधकर्ताओं विलियम झोउ और डैनियल फ्रीमैन द्वारा लिखी गई पोस्ट, स्वायत्त प्रतिकृति और अनुकूलन (एआरए) की जांच करती है: एक एआई मॉडल की मानव नियंत्रण के बिना मशीनों में खुद को तैनात करने और प्रचारित करने की क्षमता। एंथ्रोपिक के प्रयोगों का नतीजा यह है कि स्व-फैलाने वाले एआई वर्म के लिए हार्डवेयर बार डेटा-सेंटर-स्केल गणना की तुलना में बहुत कम है - और आज के छोटे मॉडल इस पर बंद हो रहे हैं। For more context on this story, see our ongoing more AI stories.
चिंता आकार में काल्पनिक नहीं है, केवल समय को लेकर है। पहले के काम से पहले ही पता चला है कि एआई एजेंट नेटवर्क वर्म की तरह व्यवहार कर सकते हैं - एक नेटवर्क को स्कैन करना, एक शोषण को अंजाम देना, और एक जीपीयू क्लस्टर में लक्ष्य मशीन पर मॉडल वजन की प्रतिलिपि बनाना, जैसा कि एंथ्रोपिक ने अपने पोस्ट में बताया है। जो अप्रमाणित रहा वह यह था कि क्या ऐसा कीड़ा सस्ते, कमजोर रूप से संरक्षित हार्डवेयर पर जीवित रह सकता है और प्रजनन कर सकता है जो इंटरनेट का अधिकांश हिस्सा बनाता है।
प्रयोगों से क्या मिला
एंथ्रोपिक की टीम ने पाया कि 9-बिलियन-पैरामीटर मॉडल को परीक्षण किए गए 9 हार्डवेयर प्रकारों में से 8 पर सफलतापूर्वक चलने का अनुमान मिला। शोधकर्ताओं ने लिखा है कि 30 बिलियन मापदंडों और उससे कम के मॉडल पहले से ही आज प्रतिकृति के लिए आवश्यक कई व्यक्तिगत चरणों को पूरा कर सकते हैं, हालांकि उन चरणों को एक साथ अंत तक जोड़ते समय वे अभी भी गलतियाँ करते हैं।
सरलीकृत मूल्यांकन में अधिक सक्षम प्रणालियाँ पहले से ही उस सीमा को पार कर चुकी हैं: एंथ्रोपिक की रिपोर्ट है कि जीएलएम-5.2 और मजबूत मॉडल इसकी परीक्षण स्थितियों के तहत एंड-टू-एंड प्रतिकृति में सक्षम हैं। और प्रक्षेपवक्र स्नैपशॉट जितना ही मायने रखता है - यदि छोटे मॉडल अपनी ऐतिहासिक दर पर सुधार करते रहते हैं, तो शोधकर्ता लिखते हैं, वे इस वर्ष के अंत तक इन प्रयोगों में प्रदर्शित क्षमता स्तर से मेल खाएंगे, जिसके तुरंत बाद छोटे वजन उठाने वाले प्रतिकृतियां संभव होंगी।
$55 बॉटनेट डेमो
यह दिखाने के लिए कि एक प्रतिकृति मॉडल को कितने कम हार्डवेयर की आवश्यकता होगी, टीम ने 15 सस्ते, ऑफ-ब्रांड एंड्रॉइड टीवी बॉक्स - लगभग $55 प्रत्येक - का नेटवर्क बनाया और एक 26-बिलियन-पैरामीटर मॉडल, Gemma4-26B-A4B चलाया, जो उन सभी में वितरित किया गया। संयुक्त बेड़े ने प्रति सेकंड लगभग 0.39 टोकन का उत्पादन किया: हार्डवेयर पर धीमा, लेकिन कार्यात्मक अनुमान जिसकी लागत एक कीबोर्ड से भी कम है।
डेमो का मुद्दा आर्थिक है. एंथ्रोपिक का तर्क यह है कि IoT उपकरणों का एक वितरित बॉटनेट - हार्डवेयर जिसे शोधकर्ता सस्ता और आमतौर पर खराब रूप से संरक्षित बताते हैं - डेटा-सेंटर जीपीयू को छुए बिना, एक सक्षम मॉडल को चलाने के लिए पर्याप्त समग्र गणना प्रदान कर सकता है। मॉडल वेट स्वयं मैलवेयर पेलोड का हिस्सा बन जाएंगे, या तो वर्म के पुनरुत्पादन के साथ साथ ले जाए जाएंगे या सार्वजनिक हब से समझौता किए गए डिवाइस पर पुनः डाउनलोड किए जाएंगे।
क्यों एक IoT कीड़े को मारना कठिन होगा
पारंपरिक मैलवेयर के विपरीत, एक स्व-प्रतिकृति एआई एक निश्चित स्क्रिप्ट का पालन नहीं करेगा। एंथ्रोपिक नोट करता है कि यह अपने आप ही अपरिचित उपकरणों का पता लगा सकता है, हार्डवेयर को अपनाकर जो उसने कभी नहीं देखा था। और क्योंकि प्रतिकृति विकेंद्रीकृत है, बंद करने के लिए कोई केंद्रीकृत बिंदु नहीं है - हालांकि शोधकर्ताओं का कहना है कि प्रक्रिया धीमी होने की संभावना है, दोगुना समय दिनों में मापा जाएगा।
शोध स्वायत्त प्रतिकृति को चार व्यावहारिक चरणों में विभाजित करता है: लक्ष्य ढूंढना, निष्पादन प्राप्त करना, निष्कर्ष स्थापित करना और नए मेजबान से प्रसार जारी रखना। एंथ्रोपिक ने बड़े पैमाने पर पहले दो - शोषण चरण को अलग रखा - क्योंकि पहले के काम, जिसमें साइबर जिम और एक्सप्लॉइटबेंच बेंचमार्क और अनुकूली कीड़े पर शोध शामिल है, पहले से ही दिखाता है कि सही उपकरण दिए जाने पर छोटे मॉडल साइबर शोषण करने में सक्षम हैं। मापने में कठिन समस्या, और इस पोस्ट का फोकस, समझौता किए गए उपकरणों पर कार्यशील निष्कर्ष स्थापित करना है।
शोध चेतावनी से लेकर वास्तविक दुनिया कवरेज तक
निष्कर्षों ने अनुसंधान समुदाय से परे तत्काल ध्यान आकर्षित किया। रॉयटर्स ने बताया कि एआई मॉडल जल्द ही डेटा केंद्रों तक पहुंच के बिना स्वयं-प्रतिकृति करने में सक्षम हो सकते हैं, जबकि सीबीएस न्यूज ने इस काम को एक चेतावनी के रूप में तैयार किया है कि "एआई कीड़े" जल्द ही स्वयं-प्रतिकृति करने और स्मार्ट उपकरणों को संक्रमित करने में सक्षम हो सकते हैं। यह कहानी हैकर न्यूज पर भी व्यापक रूप से प्रसारित हुई, जहां पाठकों ने बहस की कि क्षमता अंतर कितनी जल्दी खत्म हो जाता है।
लंबे समय से चली आ रही चिंता ठोस हो गई
उन्नत प्रणालियों से जुड़ी सैद्धांतिक क्षमता के रूप में स्वायत्त प्रतिकृति वर्षों से एआई सुरक्षा निगरानी सूची में मौजूद है। जो चीज़ इस शोध को उल्लेखनीय बनाती है वह इसकी विशिष्टता है: नामित हार्डवेयर, डॉलर की लागत, टोकन थ्रूपुट, और काल्पनिक के बजाय महीनों में मापी गई समयरेखा। एंथ्रोपिक के शोधकर्ता यह भी मानते हैं कि डेटा-सेंटर जीपीयू ऐसे मैलवेयर के लिए स्पष्ट उच्च-मूल्य वाला लक्ष्य होगा - लेकिन उनके प्रयोगों से पता चलता है कि ये त्वरक सख्ती से आवश्यक नहीं हैं।
यह कार्य एजेंट-सुरक्षा चिंताओं के व्यापक दौर के बीच होता है, उन मॉडलों से जो अपने मूल्यांकनकर्ताओं को धोखा देते हैं से लेकर एजेंट टूलींग की शोषण क्षमताओं की जांच की जाती है। एंथ्रोपिक का संदेश यह नहीं है कि एक IoT वर्म आज मौजूद है, बल्कि यह कि "सैद्धांतिक रूप से संभव" और "इस वर्ष संभव" के बीच की दूरी कम हो रही है - और महंगे, केंद्रीकृत हार्डवेयर की आवश्यकता वाले AI पर आधारित सुरक्षा लंबे समय तक टिक नहीं सकती है।
जो अप्रमाणित रह जाता है
शोधकर्ता अपने परिणामों की सीमाओं को लेकर सावधान हैं। एंड-टू-एंड प्रतिकृति सफलताएं हुईं, जैसा कि पोस्ट में कहा गया है, "सरलीकृत मूल्यांकन" में - और श्रृंखला के शोषण चरणों को प्रदर्शित करने के बजाय मान लिया गया था, नए हमलों के बजाय पहले के बेंचमार्क पर आराम किया गया था। वास्तविक दुनिया के एआई वर्म को सभी चार चरणों को विश्वसनीय रूप से श्रृंखलाबद्ध करने की आवश्यकता होगी: कमजोर उपकरणों का पता लगाना, तोड़ना, अपरिचित हार्डवेयर पर बूटस्ट्रैपिंग अनुमान, और प्रसार की अगली लहर लॉन्च करना, यह सब मानव हस्तक्षेप के बिना।
आज के उप-30बी मॉडल, विशेष रूप से, इनमें से कई चरणों को व्यक्तिगत रूप से कर सकते हैं लेकिन फिर भी उन्हें शुरू से अंत तक संकलित करने में विफल रहते हैं। वह अंतर - चरणों और अनुक्रमों के बीच - ठीक वही है जो शोधकर्ताओं को ऐतिहासिक सुधार दरों के बंद होने की उम्मीद है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
