संयुक्त राज्य अमेरिका के सबसे बड़े साइबर सुरक्षा ठेकेदारों में से एक ने उस पर एक नंबर डाला है जिसके बारे में सुरक्षा शोधकर्ता पूरे साल चेतावनी देते रहे हैं: चैटबॉट और कोडिंग सहायकों के लिए बनाए गए फ्रंटियर एआई मॉडल अब बड़े पैमाने पर खुद ही साइबर हमले चलाने में सक्षम हैं। एआई सुरक्षा विकास के चल रहे कवरेज के लिए, एआई बज़ वायर देखें।
एससी मीडिया और द रजिस्टर द्वारा कवर की गई बूज़ एलन हैमिल्टन की एक नई रिपोर्ट, जो पिछले हफ्ते औद्योगिक सुरक्षा जगत में घूम रही थी, ने 18 एआई मॉडल का मूल्यांकन किया - नौ संयुक्त राज्य अमेरिका से और नौ चीन से - और पाया कि उनमें से एक ने स्वायत्त रूप से परीक्षण में एक पूर्ण साइबर किल श्रृंखला पूरी की: कमजोरियों की पहचान करना, लक्ष्य नेटवर्क तक पहुंच प्राप्त करना और मानव हस्तक्षेप के बिना प्रशासक-स्तर के नियंत्रण तक बढ़ना।
एक मॉडल ने किल चेन ख़त्म कर दी
रिपोर्ट, जिसे साइबर वेपन इंडेक्स के नाम से जाना जाता है, ने एंथ्रोपिक के क्लाउड मिथोस को पूरे हमले अनुक्रम को स्वायत्त रूप से पूरा करने वाला एकमात्र मॉडल बताया। कई अन्य लोग असुविधाजनक रूप से करीब आ गए। एससी मीडिया के निष्कर्षों के कवरेज के अनुसार, एक्सएआई के ग्रोक-4.5 और ओपनएआई के जीपीटी-5.6 सोल ने महत्वपूर्ण स्वायत्त हमले की प्रगति का प्रदर्शन किया, समझौता किए गए नेटवर्क के भीतर पूर्ण डोमेन पहुंच या पार्श्व आंदोलन तक पहुंच गया - प्रारंभिक प्रवेश और पूर्ण नियंत्रण के बीच एक ऑपरेटर द्वारा किए जाने वाले मध्यवर्ती चरण।
साइबर सुरक्षा के संदर्भ में एक हत्या श्रृंखला, शोषण, वृद्धि और दृढ़ता के माध्यम से टोह लेती है। बिना सहायता के इसे पूरा करने वाला एक मॉडल प्रभावी रूप से एक आक्रामक साइबर ऑपरेटर के रूप में कार्य करता है, न कि एक उपकरण जो केवल पूछे जाने पर शोषण कोड लिखता है।
हार्नेस मॉडल से अधिक मायने रखता है
शायद रिपोर्ट की सबसे परिणामी खोज सॉफ्टवेयर से संबंधित है, मॉडल से नहीं। आक्रमण हार्नेस - वह मचान जो एआई मॉडल को वास्तविक हैकिंग टूल, स्कैनर और शोषण ढांचे से जोड़ता है - एक मॉडल के पास पहले से मौजूद किसी भी आक्रामक क्षमता को नाटकीय रूप से बढ़ाता है। एक सक्षम हार्नेस से जुड़ा एक मध्य-स्तरीय मॉडल कच्चे संचालन वाले एक मजबूत मॉडल से बेहतर प्रदर्शन कर सकता है, जिसका अर्थ है कि स्वायत्त हमले की क्षमता में बाधा उन कारणों से कम हो रही है जिनका अगले मॉडल रिलीज से कोई लेना-देना नहीं है।
बूज़ एलन के विश्लेषकों ने चेतावनी दी है कि वित्तीय रूप से प्रेरित आपराधिक समूहों और राज्य प्रायोजित अभिनेताओं द्वारा मुख्यधारा के एआई-संचालित हमले अब आसन्न हैं। उनका अनुमान: परीक्षण किए गए अधिकांश मॉडलों के छह महीने के भीतर आज के नेताओं के बराबर हथियारीकरण स्तर तक पहुंचने की उम्मीद है। कंपनी अमेरिकी सरकार से एआई-सक्षम हमलों के खिलाफ लचीलापन प्रदर्शित करने और अपनी खुद की बेहतर आक्रामक और रक्षात्मक एआई क्षमताओं को विकसित करने के लिए महत्वपूर्ण बुनियादी ढांचा ऑपरेटरों के लिए समय सीमा निर्धारित करने का भी आग्रह करती है।
एक चेतावनी जो उद्योग की अपनी चेतावनी से मेल खाती है
मूल्यांकन एआई उद्योग के भीतर से इसी तरह की चेतावनियों की एक श्रृंखला के बीच हुआ। एंथ्रोपिक ने पहले एआई-संचालित साइबर हमलों को एक महत्वपूर्ण विभक्ति बिंदु के रूप में चिह्नित किया है, और ओपनएआई के अपने फ्रंटियर मॉडल के रोलआउट के साथ उन्नत साइबर क्षमताओं के बारे में असामान्य सार्वजनिक खुलासे हुए थे - जिसमें पहुंच को प्रतिबंधित करने का निर्णय भी शामिल था, जबकि कंपनी ने आकलन किया था कि उसका मॉडल वास्तविक नेटवर्क के लिए क्या कर सकता है। बूज़ एलन के निष्कर्षों पर इंडस्ट्रियल साइबर द्वारा की गई अलग-अलग रिपोर्टिंग में उसी रिपोर्ट को एक चेतावनी के रूप में तैयार किया गया है कि एआई स्वायत्तता बढ़ने के साथ-साथ महत्वपूर्ण बुनियादी ढांचे के लिए प्रतिक्रिया विंडो कम हो रही हैं।
यह नीति संबंधी बहस अब काल्पनिक नहीं रह गई है। कानून निर्माताओं ने पहले ही अमेरिका के महत्वपूर्ण बुनियादी ढांचे के अंदर चल रहे विदेशी मूल के एआई मॉडल के साइबर सुरक्षा जोखिमों की जांच शुरू कर दी है, और ग्रिड ऑपरेटरों ने ऊर्जा प्रणालियों में बढ़ती राज्य-प्रायोजित रुचि के साथ एआई-संचालित बिजली की मांग में वृद्धि की सूचना दी है। एक प्रलेखित परीक्षण जिसमें एक वाणिज्यिक एआई मॉडल अपने आप ही एक किल चेन को पूरा करता है, उन निष्कर्षों को एक बेंचमार्क में परिवर्तित करता है।
रक्षकों को इससे क्या लेना चाहिए
सुरक्षा टीमों के लिए, रिपोर्ट के व्यावहारिक निहितार्थ इसके शीर्षकों की तुलना में संकीर्ण हैं। स्वायत्त अपराध स्वायत्त रक्षा का अनुमान लगाता है: वही एजेंटिक क्षमताएं जो एक मॉडल श्रृंखला का फायदा उठाने देती हैं, उन्हें पहले से ही नीली तरफ तैनात किया जा रहा है, अलर्ट को ट्राइएज करना, टेलीमेट्री को सहसंबंधित करना और मशीन की गति से पैचिंग करना। बूज़ एलन ने जिस अंतर की पहचान की है वह संगठनात्मक है - अधिकांश महत्वपूर्ण बुनियादी ढांचा ऑपरेटर अभी भी घटना की प्रतिक्रिया को घंटों में मापते हैं, जबकि एआई-सहायता वाले हमले समतुल्य समयरेखा को मिनटों में संपीड़ित करते हैं।
सख्त समय सीमा की फर्म की सिफारिश एक शर्त है कि बाजार का दबाव नहीं, बल्कि विनियमन उस अंतर को पाट देगा। क्या अमेरिका इस पर आगे बढ़ता है - और क्या एआई विक्रेता आक्रामक क्षमता मूल्यांकन को प्री-रिलीज़ गेट के रूप में मानते हैं जिस तरह से फार्माकोलॉजी क्लिनिकल परीक्षणों को मानता है - यह आकार देगा कि रिपोर्ट के प्रक्षेपण के अगले छह महीने वास्तव में कैसे चलते हैं।
आक्रामक बाज़ार पहले से ही बन रहा है
यदि किसी पुष्टि की आवश्यकता थी कि यह क्षमता एक उत्पाद श्रेणी बन रही है, तो यह रिपोर्ट प्रसारित होने के एक दिन बाद आई। जैसा कि एससी मीडिया ने 4 सितंबर को अलग से रिपोर्ट किया था, Abliteration.ai नामक एक स्टार्टअप ने स्पष्ट रूप से आक्रामक साइबर ऑपरेशन, रेड-टीमिंग और एआई मॉडल के साथ एजेंट परीक्षण को सक्षम करने के उद्देश्य से एक सेवा शुरू की, जिसे अन्य प्रदाता अस्वीकार करते हैं। समय हार्नेस के बारे में रिपोर्ट के मुख्य बिंदु को रेखांकित करता है: स्वायत्त हमलों के लिए बाधा अब मॉडल क्षमता नहीं बल्कि आसपास के टूलींग है, और टूलींग कुछ ऐसा है जिसे बाजार अब स्वयं ही आपूर्ति कर रहा है।
रक्षात्मक टीमों को निष्कर्षों पर कार्रवाई करने के लिए अगले बेंचमार्क चक्र की प्रतीक्षा करने की आवश्यकता नहीं है। रिपोर्ट की छह महीने की हथियारीकरण विंडो, कार्यात्मक रूप से, परिसंपत्ति सूची, विभाजन और प्रतिक्रिया-समय माप के लिए एक समय सीमा है - अस्वाभाविक नियंत्रण जो यह निर्धारित करते हैं कि एक स्वायत्त हमलावर एक कठोर नेटवर्क या एक खुले नेटवर्क से मिलता है या नहीं।
एआई से आगे रहें
एआई सुरक्षा कहानियों को ट्रैक करें जो मायने रखती हैं। अधिक AI समाचार पढ़ें आपके नेटवर्क पर आने से पहले।
अधिक AI समाचार पढ़ें →
