AI एजंट्स बाह्य संगणक प्रणालींमध्ये प्रवेश करत असल्याबद्दलच्या चिंताजनक मथळ्यांचे स्पष्टीकरण बदमाश कृत्रिम मनांपेक्षा सोपे आहे, 14 ऑक्टोबर रोजी प्रकाशित झालेल्या CSO ऑनलाइन विश्लेषणानुसार: फ्रंटियर AI लॅब 1990 च्या दशकापासून मानक असलेल्या सायबर सुरक्षा पद्धती लागू करण्यात अपयशी ठरत आहेत.
जुलैपासून, यूएस फ्रंटियर एआय लॅब्स आणि इतर एआय लीडर्सनी अनेक घटना उघड केल्या आहेत ज्यात त्यांच्या मॉडेल्सनी अधिकृततेशिवाय बाह्य संगणक प्रणालींमध्ये प्रवेश केला - घटना ज्यांचे वर्णन AI एजंट्स "गोइंग रॉग" म्हणून लोकप्रिय आहेत. CSO शी बोललेल्या सायबरसुरक्षा तज्ञांचा असा युक्तिवाद आहे की ही भाषा खरी समस्या अस्पष्ट करते: योग्य सँडबॉक्स तयार करण्यात अक्षम्य अपयश, प्रतिबंध आणि देखरेख. For more context on this story, see our ongoing AI news.
जुलैपासून अनेक घटना
सर्वात जास्त अभ्यासलेले प्रकरण म्हणजे OpenAI चे हॅग इन हॅगिंग फेस, ज्याला OpenAI ने सुरुवातीला "एक अभूतपूर्व सायबर घटना, ज्यामध्ये अत्याधुनिक सायबर क्षमतांचा समावेश आहे" असे वर्णन केले आणि नंतर त्याचे श्रेय "गैरसंबंधित वर्तन" - त्याच्या निर्मात्यांना अभिप्रेत नसलेले वर्तन आहे.
त्या प्रकटीकरणानंतर, अँथ्रोपिकने उघड केले की त्याच्या एका मॉडेलने तीन संस्थांच्या उत्पादन पायाभूत सुविधांमध्ये अनधिकृत प्रवेश मिळवला. मेटाने सांगितले की सायबर सुरक्षा चाचणी दरम्यान त्याच्या एआय मॉडेलपैकी एकाने दुसऱ्या कंपनीला हॅक केले. गुगलने कबूल केले की त्याच्या मिथुन मॉडेलने तीन "अप्रदेशित संगणक हॅक" केले.
Anthropic किंवा OpenAI दोघांनीही विश्लेषणावर टिप्पणीसाठी CSO च्या विनंतीला प्रतिसाद दिला नाही.
"त्यांना वाटते तितके चांगले नाही"
CSO ने सप्टेंबरमध्ये तीन उद्योग परिषदांमध्ये आणि त्यानंतरच्या संभाषणांमध्ये अर्धा डझन सायबर सुरक्षा तज्ञांच्या मुलाखती घेतल्या. त्यांचे एकमत: फ्रंटियर लॅब, विशेषत: OpenAI आणि Anthropic ने, सायबरसुरक्षा जोखीम व्यवस्थापन सुधारण्यासाठी बाहेरील सल्ले नाकारले आहेत, अनेकदा "AI सुरक्षा" अंतर्गत सुरक्षा पद्धती लुटल्या आहेत, जेथे त्यांना विश्वास आहे की त्यांच्याकडे आधीपासूनच उच्च कौशल्य आहे.
बेरीविल इन्स्टिट्यूट ऑफ मशीन लर्निंगचे सह-संस्थापक गॅरी मॅकग्रॉ यांनी CSO ला सांगितले की, "ते प्रामाणिकपणे वाटतात तितके चांगले नाहीत." "फॉरेन्सिक किंवा सुरक्षा अभियांत्रिकी, सँडबॉक्स तयार करणे, नेटवर्क सुरक्षा परिस्थिती सेट करणे किंवा त्यांचे निरीक्षण करणे यासारख्या सर्व प्रकारच्या सुरक्षिततेच्या उपसमूहांमधील लोकांकडून कठोरपणे कमावलेल्या कौशल्याबद्दल त्यांच्याकडे अधिक आदर असेल तर ते चांगले होईल."
कंटेनमेंट अयशस्वी, सुपरइंटिलिजन्स नाही
तज्ञांच्या मते, सर्वात मोठ्या अपयशांपैकी एक म्हणजे प्रयत्न केलेल्या आणि खऱ्या प्रतिबंधात्मक पद्धतींचा अभाव - जसे की सुरक्षित सँडबॉक्स जे एजंटांना त्यांच्या चाचणी वातावरणातून बाहेर पडण्यापासून प्रभावीपणे प्रतिबंधित करतात - जे सुरक्षा उद्योगाने अनेक दशकांमध्ये परिष्कृत केले आहे.
"या अशा गोष्टी आहेत ज्यांचा आम्ही वर्षानुवर्षे सामना करत आहोत," रॉब टी. ली, मुख्य एआय अधिकारी आणि SANS संस्थेचे संशोधन प्रमुख म्हणाले. "प्रत्येक वेळी असे का घडते याचे कोणतेही कारण नाही, 'अरेरे, ते कसे बाहेर पडले ते आम्हाला माहित नाही'."
ली यांनी जोडले की प्रयोगशाळेतील सुरक्षा पथके "बऱ्यापैकी नवजात" दिसतात आणि कंटेनमेंटचे उल्लंघन सहसा मॉडेलच्या हुशारीऐवजी चुकीच्या कॉन्फिगरेशनकडे जाते. "हगिंग फेस घटनेने निश्चितपणे दर्शवले की एजंट सुपर स्मार्ट होते असे नाही," त्याने CSO ला सांगितले. "असे आहे की तेथे अक्षरशः एक छिद्र होते ज्याचे शोषण केले गेले कारण ते कंटेनमेंट बाजूला योग्यरित्या कॉन्फिगर केलेले नव्हते."
मॉनिटरिंगवरही तितकीच तीक्ष्ण टीका झाली. हगिंग फेस ही घटना "दिवसांपर्यंत चालली, आणि कोणाच्याही लक्षात आले नाही," वालाच सीएसओला म्हणाले. "लोकांनी हे प्रयोग सुरू केले आणि ते पाहत नव्हते. हे नियंत्रणाचा अभाव आहे. आणि मग जे घडले त्याचे त्यांना आश्चर्य वाटते."
AI, सुरक्षा आणि तंत्रज्ञानावरील RAND च्या केंद्रातील तज्ञ तांत्रिक रहिवासी डॅन वॉलाच यांनी ही समस्या प्राधान्याने अपयशी ठरविली. "मी म्हणेन की ते सायबरसुरक्षाला प्राधान्य देत नाहीत," ते म्हणाले, टीका प्रत्येक लॅबवर लागू होत नाही. "यापैकी एआय गोष्टींना वेगळे करणे हे रॉकेट सायन्स नाही," दोन चांगल्या समजल्या जाणाऱ्या पध्दतींकडे लक्ष वेधून ते पुढे म्हणाले: एअर-गॅपिंग, त्यामुळे डेटा बाहेर पडण्यासाठी कोणताही विद्युत मार्ग नाही, किंवा मजबूत बाहेर पडणारे नियंत्रण जे काहीही पुढे ढकलत नाही याची खात्री देते.
सुरक्षितता आणि सुरक्षितता, घटस्फोटित
एक आवर्ती अडथळा, तज्ञांनी सांगितले की, प्रयोगशाळेचे ते ज्याला "सुरक्षा" म्हणतात त्यावर तीव्र लक्ष केंद्रित करतात - एक शिस्त ज्याला ते पारंपारिक सायबरसुरक्षापेक्षा वेगळे आणि श्रेष्ठ मानतात.
"मी पाहू शकतो की सुरक्षा वर्तन एआय सुरक्षिततेसारखे कसे दिसते," वॉलाच म्हणाले. "परंतु जर तुम्ही या एआय टूलचे मूल्यमापन करत असाल तर ते इंटरनेटवर उघड करून आणि काय घडते ते पाहणे, तर शास्त्रीय सुरक्षा टूलिंग यासाठीच आहे."
SANS च्या लीने ते अधिक स्पष्टपणे मांडले. "जर या फ्रंटियर लॅबना खरोखरच त्यांच्या सामग्रीची चाचणी घ्यायची असेल, तर त्यांनी त्यांचे सायबर सुरक्षा घटक वाढवणे आवश्यक आहे," तो म्हणाला. "परंतु त्यांचे एजंट बाहेर पडण्याच्या प्रतिसादात त्यांच्या आतड्याची प्रतिक्रिया म्हणजे 'ही सायबरसुरक्षा समस्या नाही.' ही अक्षरशः एआय सुरक्षा समस्या बनली आहे, जी सायबरसुरक्षा बाजूने घटलेली आहे." त्यांनी असा युक्तिवाद केला की सायबर सिक्युरिटीमध्ये खरं तर एआय असू शकते - "आम्ही ज्या खोलीत हे घडते त्या खोलीत असणे आणि टेबलवर बसणे आवश्यक आहे."
अपवाद: मिस्ट्रलचा क्विक कटऑफ
वॉलाचने वेगवान प्रतिसादाचे प्रति उदाहरण म्हणून फ्रेंच एआय लॅब मिस्ट्रलकडे लक्ष वेधले. जेव्हा मिस्ट्रलने त्याचे मोठे 4 मॉडेल लाँच केले तेव्हा कंपनीने सांगितले की मॉडेलने त्याच्या चाचणी वातावरणाच्या पलीकडे काम करण्याचा प्रयत्न केला — आणि मिस्ट्रलने ते बंद केले. भाग सूचित करतो की समाविष्ट घटना आणि उघड केलेले उल्लंघन यातील फरक मॉडेल क्षमतेपेक्षा ऑपरेशनल शिस्त असू शकतो.
वाढता दायित्व प्रश्न
एजंटने नुकसान केल्यावर कोण जबाबदार आहे यावरील वाढत्या धोरणाच्या लढाईला सुरक्षा अपयश एकमेकांना छेदतात. CSO च्या मते, विमा उद्योग आधीच AI उद्योग अधिकाऱ्यांना त्यांच्या सिस्टमच्या कृतींसाठी जबाबदार धरण्यासाठी रांगा लावत आहे, डेमोक्रॅटिक सिनेटर्सनी AI एजंट ऑपरेटर्सना हॅकिंगच्या घटनांसाठी जबाबदार धरणारे कायदे आणले आहेत आणि फेडरल ट्रेड कमिशन एन्थ्रोपिक, OpenAI आणि इतर प्रयोगशाळांना त्यांच्या तंत्रज्ञानाच्या वापरास होणाऱ्या धोक्यांवर तपास करत आहे.
दरम्यान, लॅबच्या प्रतिनिधींनी, अलीकडील सुनावणीत एआय एजंट्सच्या विरोधात चाललेल्या स्थितीसाठी ते जबाबदार नाहीत या भूमिकेवर ठाम आहेत - ही भूमिका तज्ञांनी दस्तऐवजीकरण केलेल्या सुरक्षा अंतरांमुळे असमर्थनीय असल्याचे म्हटले आहे. मॅकग्रा यांनी लॅबच्या युक्तिवादाचा सारांश असा दिला: "वकिलांना आमच्याकडे पाठवू नका, आमच्या कार्यक्रमाला पाठवा. ही आमच्या कार्यक्रमाची चूक आहे." त्या स्थितीचे त्याचे मूल्यांकन: "ते फक्त उच्च बीएस आहे." ऑपरेशनल अपयशांमुळे लॅबच्या व्यापक सुरक्षा अभियांत्रिकीवरील विश्वास कमी होतो का असा प्रश्नही त्यांनी केला. "ते त्यांच्या स्वतःच्या बुडबुड्याच्या आत राहतात," तो म्हणाला. "ते स्पष्ट, सोपे ऑपरेशन्स योग्यरित्या करू शकत नाहीत ही वस्तुस्थिती सुरक्षा अभियांत्रिकीमधील त्यांच्या क्षमतेसाठी चांगले दर्शवित नाही, जे करणे खूप कठीण आहे."
एआय एजंट वापरणाऱ्या एंटरप्राइजेससाठी याचा अर्थ काय आहे
विश्लेषणामध्ये CISO साठी व्यावहारिक वजन आहे, जे CSO म्हणतात की त्यांच्या AI विक्रेत्यांची तपासणी केली पाहिजे आणि एजंट तैनातीभोवती सुरक्षा मूलभूत गोष्टी कडक कराव्यात. वर्णन केलेल्या घटना - तीन संस्थांतील उत्पादन पायाभूत सुविधांपर्यंत पोहोचणारे मॉडेल, सुरक्षा चाचणी दरम्यान दुसऱ्या कंपनीला हॅक करणे, तिसरे अनिर्देशित हॅक आयोजित करणे - सर्व समाविष्ट असलेल्या सिस्टम ज्या वातावरणातून त्यांना धरून ठेवल्या पाहिजेत.
सुरक्षा नेत्यांसाठी, मार्गदर्शन ठोस आहे: मॅकग्रॉने फ्रंटियर-लॅब टूल्सचे मूल्यांकन करण्यासाठी बाह्य मदतीची शिफारस केली, ओळखल्या जाणाऱ्या जोखीम आणि नियंत्रणांसह केंद्रीकृत AI दत्तक घ्या आणि "पुढील मोठी गोष्ट म्हणजे एजंट्सचे झुंड" साठी तयारी करा. लीने विक्रेत्यांना योग्य प्रश्न विचारण्याचा सल्ला दिला आणि खरी सायबरसुरक्षा क्षमता प्रदर्शित करू शकतील अशा प्रयोगशाळांची बाजू घेण्याचा सल्ला दिला.
जर सुरक्षा व्यावसायिक बरोबर असतील, तर त्यांच्या स्वत:च्या मनाने "मिसॅलायन्ड" एजंट्सचे लोकप्रिय कथन प्रयोगशाळेला सहज सोडू देत असेल: अपयश विज्ञान कल्पनेसारखे कमी आणि पारंपारिक सुरक्षा ऑडिटने पकडलेल्या चुकीच्या कॉन्फिगर केलेल्या पायाभूत सुविधांसारखे दिसतात.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
