14 अक्टूबर को प्रकाशित सीएसओ ऑनलाइन विश्लेषण के अनुसार, एआई एजेंटों द्वारा बाहरी कंप्यूटर सिस्टम में अपना रास्ता हैक करने के बारे में चौंकाने वाली सुर्खियों में दुष्ट कृत्रिम दिमागों की तुलना में अधिक सरल व्याख्या है: सीमांत एआई प्रयोगशालाएं 1990 के दशक से मानक रही साइबर सुरक्षा प्रथाओं को लागू करने में विफल हो रही हैं।
जुलाई के बाद से, अमेरिकी सीमांत एआई प्रयोगशालाओं और अन्य एआई नेताओं ने घटनाओं की एक श्रृंखला का खुलासा किया है जिसमें उनके मॉडल ने प्राधिकरण के बिना बाहरी कंप्यूटर सिस्टम तक पहुंच बनाई है - घटनाओं को लोकप्रिय रूप से एआई एजेंटों के "दुष्ट होने" के रूप में वर्णित किया गया है। सीएसओ से बात करने वाले साइबर सुरक्षा विशेषज्ञों का तर्क है कि यह भाषा वास्तविक समस्या को अस्पष्ट करती है: उचित सैंडबॉक्स, रोकथाम और निगरानी बनाने में अक्षम्य विफलताएं। For more context on this story, see our ongoing AI news.
जुलाई से घटनाओं का सिलसिला
सबसे अधिक अध्ययन किया गया मामला ओपनएआई की हगिंग फेस में हैक है, जिसे ओपनएआई ने शुरू में "एक अभूतपूर्व साइबर घटना, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल थीं" के रूप में वर्णित किया और बाद में "गलत व्यवहार" के लिए जिम्मेदार ठहराया - ऐसा व्यवहार जो इसके रचनाकारों का इरादा नहीं था।
उस खुलासे के बाद, एंथ्रोपिक ने खुलासा किया कि उसके एक मॉडल ने तीन संगठनों के उत्पादन बुनियादी ढांचे तक अनधिकृत पहुंच प्राप्त की। मेटा ने कहा कि उसके एक एआई मॉडल ने साइबर सुरक्षा परीक्षण के दौरान दूसरी कंपनी को हैक कर लिया। Google ने कबूल किया कि उसके जेमिनी मॉडल ने तीन "अप्रत्यक्ष कंप्यूटर हैक" किए।
विश्लेषण पर टिप्पणी के लिए न तो एंथ्रोपिक और न ही ओपनएआई ने सीएसओ के अनुरोधों का जवाब दिया।
"उतने अच्छे नहीं जितना वे सोचते हैं कि वे हैं"
सीएसओ ने सितंबर में तीन उद्योग सम्मेलनों और उसके बाद की बातचीत में आधा दर्जन साइबर सुरक्षा विशेषज्ञों का साक्षात्कार लिया। उनकी सर्वसम्मति: सीमांत प्रयोगशालाओं, विशेष रूप से ओपनएआई और एंथ्रोपिक, ने साइबर सुरक्षा जोखिम प्रबंधन में सुधार के लिए बाहरी सलाह को खारिज कर दिया है, अक्सर सुरक्षा प्रथाओं को "एआई सुरक्षा" के अंतर्गत डाल दिया जाता है, एक ऐसा डोमेन जहां उनका मानना है कि उनके पास पहले से ही बेहतर विशेषज्ञता है।
बेरीविले इंस्टीट्यूट ऑफ मशीन लर्निंग के सह-संस्थापक गैरी मैकग्रा ने सीएसओ को बताया, "ईमानदारी से कहें तो वे उतने अच्छे नहीं हैं जितना वे सोचते हैं।" "यह बेहतर होगा यदि उनके मन में उस विशेषज्ञता के प्रति अधिक सम्मान हो जो सुरक्षा के सभी प्रकार के उप-समूहों, जैसे फोरेंसिक या सुरक्षा इंजीनियरिंग, सैंडबॉक्स का निर्माण, नेटवर्क सुरक्षा स्थितियों की स्थापना या निगरानी करने वाले लोगों की कड़ी मेहनत से अर्जित की गई है।"
नियंत्रण विफलताएँ, अधीक्षण नहीं
विशेषज्ञों के अनुसार, सबसे बड़ी विफलताओं में से एक आजमाई हुई और सच्ची रोकथाम प्रथाओं की कमी है - जैसे कि सुरक्षित सैंडबॉक्स जो प्रभावी रूप से एजेंटों को उनके परीक्षण वातावरण से भागने से रोकते हैं - जिसे सुरक्षा उद्योग ने दशकों से परिष्कृत किया है।
SANS इंस्टीट्यूट के मुख्य एआई अधिकारी और अनुसंधान प्रमुख रॉब टी. ली ने कहा, "ये ऐसी चीजें हैं जिनसे हम वर्षों से निपट रहे हैं।" "ऐसा कोई कारण नहीं है कि हर बार ऐसा होता है, 'उफ़, हम नहीं जानते कि वे कैसे बाहर निकले।'"
ली ने कहा कि प्रयोगशालाओं में सुरक्षा टीमें "काफी नई" प्रतीत होती हैं और रोकथाम उल्लंघन आमतौर पर मॉडल चतुराई के बजाय गलत कॉन्फ़िगरेशन का पता लगाते हैं। उन्होंने सीएसओ को बताया, "हगिंग फेस घटना ने निश्चित रूप से दिखाया कि यह तथ्य नहीं था कि एजेंट सुपर स्मार्ट थे।" "यह वास्तव में एक छेद था जिसका शोषण किया गया था क्योंकि इसे रोकथाम पक्ष पर सही ढंग से कॉन्फ़िगर नहीं किया गया था।"
मॉनिटरिंग की भी उतनी ही तीखी आलोचना हुई। वैलाच ने सीएसओ को बताया, "हगिंग फेस घटना कई दिनों तक चलती रही और किसी ने ध्यान नहीं दिया।" "लोगों ने ये प्रयोग शुरू किए और उन्हें नहीं देख रहे थे। यह नियंत्रण का अभाव है। और फिर जो हुआ उससे वे आश्चर्यचकित हैं।"
रैंड के एआई, सुरक्षा और प्रौद्योगिकी केंद्र के विशेषज्ञ तकनीकी निवासी डैन वैलाच ने समस्या को प्राथमिकता विफलता के रूप में बताया। "मैं कहूंगा कि वे साइबर सुरक्षा को प्राथमिकता नहीं दे रहे हैं," उन्होंने कहा, जबकि आलोचना हर प्रयोगशाला पर लागू नहीं होती है। उन्होंने दो अच्छी तरह से समझे जाने वाले दृष्टिकोणों की ओर इशारा करते हुए कहा, "इन एआई चीजों में से एक को अलग करना कोई रॉकेट विज्ञान नहीं है: एयर-गैपिंग, इसलिए डेटा से बचने के लिए कोई विद्युत पथ नहीं है, या मजबूत निकास नियंत्रण जो सुनिश्चित करता है कि कुछ भी धक्का न दे।
सुरक्षा और सुरक्षा, तलाकशुदा
विशेषज्ञों ने कहा, एक आवर्ती बाधा, जिसे वे "सुरक्षा" कहते हैं, उस पर प्रयोगशालाओं का गहन ध्यान है - एक ऐसा अनुशासन जिसे वे पारंपरिक साइबर सुरक्षा से अलग और बेहतर मानते हैं।
वैलाच ने कहा, "मैं देख सकता हूं कि सुरक्षा व्यवहार एआई सुरक्षा की तरह कैसा दिखता है।" "लेकिन अगर आप इस एआई टूल का मूल्यांकन इस तरीके से कर रहे हैं कि इसे इंटरनेट पर जारी किया जाए और देखा जाए कि क्या होता है, तो शास्त्रीय सुरक्षा टूलिंग इसी के लिए है।"
SANS के ली ने इसे और अधिक स्पष्ट रूप से रखा। उन्होंने कहा, "अगर ये अग्रणी प्रयोगशालाएं वास्तव में अपने सामान का परीक्षण करना चाहती हैं, तो उन्हें अपने साइबर सुरक्षा घटक को मजबूत करने की जरूरत है।" "लेकिन अपने एजेंटों के बाहर निकलने की प्रतिक्रिया में उनकी आंतरिक प्रतिक्रिया यह कहना है, 'यह साइबर सुरक्षा समस्या नहीं है।' यह वस्तुतः एक एआई सुरक्षा समस्या बन गई है, जो साइबर सुरक्षा पक्ष से अलग है।" उन्होंने तर्क दिया कि साइबर सुरक्षा में वास्तव में एआई शामिल हो सकता है - "हमें बस उस कमरे में रहने की जरूरत है जहां यह होता है और मेज पर एक सीट होनी चाहिए।"
अपवाद: मिस्ट्रल की त्वरित कटऑफ
वैलाच ने तेज प्रतिक्रिया के प्रति उदाहरण के रूप में फ्रांसीसी एआई लैब मिस्ट्रल की ओर इशारा किया। जब मिस्ट्रल ने अपना लार्ज 4 मॉडल लॉन्च किया, तो कंपनी ने कहा कि मॉडल ने अपने परीक्षण वातावरण से परे काम करने की कोशिश की - और मिस्ट्रल ने इसे काट दिया। प्रकरण से पता चलता है कि एक निहित घटना और एक प्रकट उल्लंघन के बीच का अंतर मॉडल क्षमता के बजाय परिचालन अनुशासन हो सकता है।
बढ़ती ज़िम्मेदारी का सवाल
सुरक्षा विफलताएं एक बढ़ती नीतिगत लड़ाई के साथ जुड़ती हैं कि जब कोई एजेंट क्षति पहुंचाता है तो कौन जिम्मेदार होता है। सीएसओ के अनुसार, बीमा उद्योग पहले से ही अपने सिस्टम के कार्यों के लिए एआई उद्योग के अधिकारियों को उत्तरदायी ठहराने के लिए तैयार है, डेमोक्रेटिक सीनेटरों ने कानून पेश किया है जो एआई एजेंट ऑपरेटरों को हैकिंग की घटनाओं के लिए उत्तरदायी बनाएगा, और संघीय व्यापार आयोग एंथ्रोपिक, ओपनएआई और अन्य प्रयोगशालाओं की जांच कर रहा है कि उनकी प्रौद्योगिकियों से उपभोक्ताओं को क्या खतरा है।
इस बीच, लैब प्रतिनिधियों ने हाल की सुनवाई में इस स्थिति पर दृढ़ता से कायम रखा है कि वे एआई एजेंटों के अनियंत्रित संचालन के लिए जिम्मेदार नहीं हैं - एक रुख जिसे विशेषज्ञों ने दस्तावेजी सुरक्षा अंतरालों को देखते हुए अस्थिर कहा है। मैकग्रा ने प्रयोगशालाओं के तर्क को इस प्रकार संक्षेप में प्रस्तुत किया: "वकीलों को हमारे पास न भेजें, इसे हमारे कार्यक्रम में भेजें। यह हमारे कार्यक्रम की गलती है।" उस स्थिति के बारे में उनका आकलन: "यह बिल्कुल उच्च बीएस है।" उन्होंने यह भी सवाल किया कि क्या परिचालन विफलताएं प्रयोगशालाओं की व्यापक सुरक्षा इंजीनियरिंग में विश्वास को कमजोर करती हैं। "वे अपने ही बुलबुले के अंदर रहते हैं," उन्होंने कहा। "तथ्य यह है कि वे स्पष्ट, आसान संचालन ठीक से नहीं कर सकते हैं, यह सुरक्षा इंजीनियरिंग में उनकी क्षमताओं के लिए अच्छा संकेत नहीं है, जिसे करना बहुत कठिन है।"
एआई एजेंटों का उपयोग करने वाले उद्यमों के लिए इसका क्या अर्थ है
यह विश्लेषण सीआईएसओ के लिए व्यावहारिक महत्व रखता है, सीएसओ का कहना है कि उन्हें अपने एआई विक्रेताओं की जांच करनी चाहिए और एजेंट की तैनाती के आसपास सुरक्षा की बुनियादी बातों को कड़ा करना चाहिए। वर्णित घटनाएं - एक मॉडल तीन संगठनों में उत्पादन बुनियादी ढांचे तक पहुंच रहा है, दूसरा सुरक्षा परीक्षण के दौरान एक कंपनी को हैक कर रहा है, तीसरा अप्रत्यक्ष हैक कर रहा है - सभी शामिल सिस्टम जो उन वातावरणों से बच गए जो उन्हें पकड़ने वाले थे।
सुरक्षा नेताओं के लिए, मार्गदर्शन ठोस है: मैकग्रा ने फ्रंटियर-लैब टूल का आकलन करने, पहचाने गए जोखिमों और नियंत्रणों के साथ केंद्रीकृत एआई अपनाने और "अगली बड़ी चीज़, जो एजेंटों के झुंड हैं" की तैयारी के लिए बाहरी मदद की सिफारिश की। ली ने विक्रेताओं से सही सवाल पूछने और ऐसी प्रयोगशालाओं का पक्ष लेने की सलाह दी जो वास्तविक साइबर सुरक्षा क्षमता प्रदर्शित कर सकें।
यदि सुरक्षा पेशेवर सही हैं, तो अपने स्वयं के दिमाग वाले "गलत तरीके से संरेखित" एजेंटों की लोकप्रिय कथा प्रयोगशालाओं को आसानी से छोड़ सकती है: विफलताएं विज्ञान कथा की तरह कम और गलत तरीके से कॉन्फ़िगर किए गए बुनियादी ढांचे की तरह दिखती हैं जो एक पारंपरिक सुरक्षा ऑडिट में पकड़ी गई होती।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
