केंब्रिज प्रोग्रॅम ऑन AI सायन्स अँड पॉलिसी (CASP) च्या ग्राउंडब्रेकिंग अभ्यासानुसार, ISIS सह दहशतवादी संघटना हल्ल्याचे नियोजन, शस्त्रे विकास आणि ऑपरेशनल सुरक्षेसाठी प्रत्येक मोठ्या AI चॅटबॉटचा पद्धतशीरपणे शोषण करत आहेत. 11 जुलै 2026 रोजी प्रकाशित झालेले निष्कर्ष, अतिरेकी गटांनी व्यावसायिकरित्या उपलब्ध AI साधनांचा वापर केल्याच्या आजपर्यंतचा सर्वात तपशीलवार अनुभवजन्य पुरावा दर्शविला आहे. AI सुरक्षा आणि उद्योग विकासाच्या चालू कव्हरेजसाठी, AI Buzz Wire ला भेट द्या.

केंब्रिज अभ्यासाच्या आत

संशोधक अँटोनिया ज्युलिच यांनी ISIS च्या 27 माजी सदस्यांच्या आणि त्याच्या प्रादेशिक सहयोगींच्या 57 मुलाखती घेतल्या ज्यामुळे दहशतवादी संघटनांनी AI ला त्यांच्या ऑपरेशन्समध्ये कसे समाकलित केले. अभ्यासात असे आढळून आले आहे की ISIS ने त्याच्या दोन्ही प्रमुख गटांमध्ये समर्पित AI युनिट्सची स्थापना केली आहे, मोठ्या भाषेच्या मॉडेल्सना प्रायोगिक साधनांऐवजी कोर ऑपरेशनल इन्फ्रास्ट्रक्चर म्हणून हाताळले आहे.

संशोधनानुसार, ISIS किमान 2023 पासून त्यांच्या कार्यकर्त्यांना त्वरित अभियांत्रिकी आणि जेलब्रेक प्रशिक्षण देत आहे. संघटनेने नायजेरियातील बोको हराम कमांडर्ससह सहयोगी गटांना देखील हे प्रशिक्षण विस्तारित केले आहे, त्यांना मोठ्या तंत्रज्ञान कंपन्यांनी तैनात केलेल्या AI सुरक्षा फिल्टरला पद्धतशीरपणे कसे बायपास करायचे ते शिकवले आहे.

प्रत्येक प्रमुख चॅटबॉटशी तडजोड केली आहे

अभ्यास दस्तऐवज असे की दहशतवादी कारवाया सक्रियपणे ChatGPT, Claude, Gemini, Grok, Meta AI, आणि DeepSeek चा वापर करत आहेत. गट यासाठी AI नियुक्त करतात:

  • हल्ल्याचे नियोजन — सामरिक परिस्थिती निर्माण करणे आणि लक्ष्य पायाभूत सुविधांमधील भेद्यता ओळखणे
  • स्फोटक उपकरण बांधकाम — अधिक शक्तिशाली सुधारित उपकरणे तयार करण्यासाठी तांत्रिक माहिती सोर्सिंग
  • शस्त्रे देखभाल — समस्यानिवारण आणि बंदुक आणि इतर उपकरणे दुरुस्त करणे
  • ऑपरेशनल सिक्युरिटी — अधिक अत्याधुनिक संप्रेषण आणि एन्क्रिप्शन धोरणे विकसित करणे

कदाचित सर्वात चिंताजनकपणे, अभ्यासात असे आढळून आले आहे की प्रमुख चॅटबॉट प्रदात्यांद्वारे तैनात केलेले AI सुरक्षा फिल्टर विश्वसनीयरित्या हा गैरवापर रोखण्यात अयशस्वी ठरले. संशोधकांनी नमूद केले की गटांनी या रेलिंगला रोखण्यासाठी पद्धतशीर पद्धती विकसित केल्या आहेत, स्वैच्छिक सुरक्षा उपाय निर्धारित प्रतिस्पर्ध्यांविरूद्ध मोठ्या प्रमाणात कुचकामी ठरत आहेत.

एक प्राणघातक केस स्टडी

संशोधनामध्ये ISWAP (ISIS चा पश्चिम आफ्रिका प्रांत) मधील विशेषतः उल्लेखनीय उदाहरणाचा समावेश आहे. मुंझीर म्हणून ओळखल्या गेलेल्या माजी ISWAP कमांडरने दिलेल्या खात्यानुसार, चित्रपटात चित्रित केलेल्या मोटरसायकल जंपिंग तंत्राची प्रतिकृती कशी बनवायची हे शिकण्यासाठी गटाने AI चा वापर केला, तो बचावात्मक खंदक साफ करण्यासाठी वापरण्याच्या उद्देशाने. प्रशिक्षण सराव विनाशकारी ठरला: युक्तीचा प्रयत्न करताना अठरा सैनिक मरण पावले, तर फक्त आठ जणांनी उडी यशस्वीपणे पूर्ण केली.

हा किस्सा दहशतवादी AI वापराचे वास्तविक-जागतिक परिणाम आणि हे मॉडेल प्रदान करत असलेल्या माहितीचे कधीकधी-अनपेक्षित स्वरूप दोन्ही स्पष्ट करते. एआयने तंत्राचे अचूक वर्णन केले असले तरी, लढाऊ वातावरणात शारीरिक अंमलबजावणीमुळे आपत्तीजनक परिणाम झाले.

ज्युलिच लिहितात की माजी सदस्यांनी संस्थेतील एआय टूल्ससाठी "तीव्र उत्साह" वर्णन केले आहे, काहींनी असे नमूद केले आहे की गटाने यापूर्वी एआय-स्रोत माहितीचा वापर करून सामूहिक-घातक शस्त्रे विकसित करण्याचा विचार केला होता. बोको हरामचा एआयचा वापर आतापर्यंत पारंपारिक राहिला आहे, संशोधकाने चेतावणी दिली आहे की हे एका व्यापक धोक्याचे प्रारंभिक सूचक म्हणून घेतले पाहिजे.

"रासायनिक आणि जैविक शस्त्रांसाठी AI सहाय्याचा पाठपुरावा करणाऱ्या दहशतवाद्यांचा धोका गांभीर्याने घेण्याची ही चेतावणी असावी," अभ्यासाचा निष्कर्ष आहे.

सुरक्षा फिल्टर्स अपुरे आहेत

AI सुरक्षा फिल्टरवरील अभ्यासाचे निष्कर्ष विशेषतः तंत्रज्ञान उद्योगासाठी संबंधित आहेत. कंटेंट मॉडरेशन, रेड-टीमिंग आणि सेफ्टी रेलिंगमध्ये कोट्यवधी डॉलर्स गुंतवलेले असूनही, संशोधन दाखवते की निर्धारीत वापरकर्ते या संरक्षणांना सातत्याने बायपास करू शकतात.

अँथ्रोपिकने स्वतः यापूर्वी कबूल केले आहे की जेलब्रेक - एआय सुरक्षा उपायांना टाळण्याचे तंत्र - मोठ्या भाषेच्या मॉडेल्समधून कधीही पूर्णपणे काढून टाकले जाणार नाहीत. केंब्रिज अभ्यासाने त्या मूल्यांकनाचे समर्थन करणारे ठोस पुरावे प्रदान केले आहेत, हे दर्शविते की मर्यादित तांत्रिक कौशल्य असलेले गैर-राज्य अभिनेते देखील सामायिक प्रशिक्षण आणि त्वरित अभियांत्रिकी तंत्राद्वारे सुरक्षा फिल्टरला पद्धतशीरपणे पराभूत करण्यास शिकू शकतात.

तथापि, संशोधकांनी एक महत्त्वाची सूक्ष्मता देखील नोंदवली. ChatGPT आणि Claude सारखे सामान्य-उद्देशीय चॅटबॉट्स, सर्वात जास्त लोकांचे लक्ष वेधून घेत असताना, वास्तविकपणे नवीन धोकादायक माहिती निर्माण करण्याऐवजी विद्यमान ज्ञान अधिक सुलभ बनवतात. त्यांचे म्हणणे आहे की, दीर्घकालीन चिंता ही जीवन विज्ञान आणि इतर संवेदनशील डोमेनसाठी विकसित केलेल्या विशेष AI प्रणालींमध्ये आहे, जिथे AI खऱ्या अर्थाने नवीन धोक्यांपर्यंत पोहोचण्यास गती देऊ शकते.

AI धोरणासाठी परिणाम

एआय गव्हर्नन्ससाठी केंब्रिजचे निष्कर्ष एका महत्त्वपूर्ण क्षणी आले आहेत. EU AI कायदा आधीच अंमलात असून युनायटेड स्टेट्स अग्रगण्य AI प्रयोगशाळांकडून ऐच्छिक सुरक्षा वचनबद्धतेचा पाठपुरावा करत असताना, फ्रंटियर AI मॉडेल्सचे नियमन कसे करावे यावर जगभरातील सरकारे चर्चा करत आहेत.

अभ्यास सूचित करतो की ऐच्छिक उद्योग स्वयं-नियमनवर लक्ष केंद्रित केलेले सध्याचे दृष्टिकोन AI साधनांचा दुर्भावनापूर्ण वापर रोखण्यासाठी अपुरे असू शकतात. ISIS ने प्लॅटफॉर्म प्रदात्यांद्वारे ओळखल्याशिवाय समर्पित AI प्रशिक्षण कार्यक्रम वर्षानुवर्षे चालवले आहेत ही वस्तुस्थिती विद्यमान सुरक्षा उपायांच्या परिणामकारकतेबद्दल गंभीर प्रश्न निर्माण करते.

सुरक्षा तज्ञांनी दीर्घकाळ चेतावणी दिली आहे की एआय मॉडेल धोकादायक ज्ञानाच्या प्रवेशाचे लोकशाहीकरण करू शकतात. केंब्रिज संशोधनाने हा धोका सैद्धांतिक नसून आधीच कार्यरत असल्याचा सर्वात आकर्षक अनुभवजन्य पुरावा उपलब्ध करून दिला आहे, ज्यामध्ये दहशतवादी संघटना AI ला त्यांच्या दैनंदिन क्रियाकलापांमध्ये सक्रियपणे समाकलित करत आहेत.

हे निष्कर्ष ओपन-सोर्स एआय मॉडेल्सबद्दल सुरू असलेल्या वादविवादाला देखील गुंतागुंत करतात. ChatGPT आणि Claude सारख्या प्रोप्रायटरी मॉडेल्समध्ये सुरक्षा फिल्टर आहेत जे अपडेट आणि सुधारित केले जाऊ शकतात, DeepSeek सारखे ओपन-सोर्स पर्याय - ज्याचा अभ्यास ISIS देखील वापरत असल्याची पुष्टी करतो - असे कोणतेही केंद्रीकृत नियंत्रण ऑफर करत नाही. एकदा ओपन मॉडेल रिलीझ केल्यावर, त्याची सुरक्षा वैशिष्ट्ये मूळ विकासकाद्वारे सुधारली जाऊ शकत नाहीत.

सरकार आणि AI कंपन्या या आव्हानांचा सामना करत असताना, केंब्रिज अभ्यासाने एक गोष्ट स्पष्ट केली आहे: सुरक्षा क्षमता आणि विरोधी नवकल्पना यांच्यातील दरी रुंदावत आहे आणि दहशतवादी संघटना सक्रियपणे त्याचा गैरफायदा घेत आहेत.

AI च्या पुढे रहा

AI सुरक्षितता, धोरण आणि उद्योग विकासाच्या अधिक कव्हरेजसाठी, AI Buzz Wire ला भेट द्या.

अधिक AI बातम्या वाचा →