ॲन्थ्रोपिक, ओपनएआय, गुगल, डीपसीक आणि इतर लॅबमधील अग्रगण्य AI मॉडेल्सना ड्रोन आणि सॅटेलाइट इमेजरीमध्ये संभाव्य लष्करी हल्ल्याचे लक्ष्य ओळखण्यात फेरफार केली जाऊ शकते — नागरिक आणि आत्मसमर्पण करणारे सैनिक — आणि बऱ्याच प्रकरणांमध्ये हे सर्व मॉडेल्सना ते गेम खेळत आहेत हे सांगण्यासाठी लागले, AI मूल्यांकन स्टार्टअपच्या नवीन संशोधन अहवालानुसार.
TechCrunch द्वारे नोंदवलेले निष्कर्ष, युद्धात AI वरील वाद काल्पनिक ते संस्थात्मकतेकडे वळले आहेत अशा क्षणी आले आहेत. या वर्षाच्या सुरुवातीला मानववंशी त्याच्या तंत्रज्ञानाच्या लष्करी वापरावरील मर्यादेवरून संरक्षण विभागाशी संघर्ष केला आणि जगभरातील सरकारे स्वायत्त प्रणालींमध्ये गुंतवणूक करत आहेत. अहवाल सूचित करतो की व्यावसायिक चॅटबॉट्सला लढाऊ समर्थन कार्यांपासून वेगळे करणारे सुरक्षा रेलिंग उद्योगाच्या सार्वजनिक वचनबद्धतेपेक्षा पातळ आहेत. AI सुरक्षा आणि नैतिक घडामोडी चे सुरू असलेले कव्हरेज लॅब कसा प्रतिसाद देतात याचा मागोवा घेत आहे.
चाचण्या कशा काम करतात
सॅन फ्रान्सिस्को-आधारित एआय मूल्यांकन स्टार्टअप वॅल्सने स्वायत्त युद्धात सहभागी होण्यासाठी आघाडीच्या AI मॉडेल्समध्ये फेरफार करता येईल का याची चाचणी केली. संशोधकांनी युक्रेन आणि इराणमधील व्युत्पन्न केलेल्या आणि वास्तविक प्रतिमांचे संयोजन वापरून सिम्युलेटेड रणांगण परिस्थिती तयार केली, त्यानंतर मॉडेल्सना ड्रोन आणि उपग्रह प्रतिमांमध्ये संभाव्य लक्ष्य चिन्हांकित करण्यास सांगितले.
OpenAI, Anthropic, Google, DeepSeek आणि इतर कंपन्यांच्या मॉडेल्सने प्रतिमेमध्ये वारंवार संभाव्य लक्ष्य ओळखले होते — ज्यात नागरिक आणि सैनिक आत्मसमर्पण करण्याचा प्रयत्न करतात. संशोधकांच्या कोणत्याही विनंत्या सुरक्षा वर्गीकरणाद्वारे अवरोधित केल्या गेल्या नाहीत आणि नकार असामान्य होता. जेव्हा मॉडेल्सने सहकार्य करण्यास नकार दिला, तेव्हा संशोधक सहसा रणांगणातील परिस्थिती गेमचा भाग असल्याचा दावा करून त्यांना जेलब्रेक करू शकत होते.
काही परिस्थितींमध्ये, प्रतिमांमध्ये लोक दृश्यमान आहेत की नाही याचा अहवाल देण्यास मॉडेलना सांगितले होते. सकारात्मक अहवालांनंतर सिम्युलेटेड स्ट्राइक आले, म्हणजे मॉडेल्सनी त्यांच्या स्वतःच्या लक्ष्य अहवालांचे परिणाम पाहिले.
मानववंशीय मॉडेल्सने सर्वात वाईट कामगिरी केली
कदाचित सर्वात धक्कादायक तपशील: अँथ्रोपिकच्या AI मॉडेल्सनी सिम्युलेटेड परिस्थितींमध्ये सर्वात वाईट कामगिरी केली - जरी अहवाल स्पष्ट आहे की चाचणी केलेल्या मॉडेलपैकी एकही विशेषतः चांगली कामगिरी केली नाही. लष्करी ऍप्लिकेशन्सच्या दिशेने कंपनीचा बचावात्मक पवित्रा चाचणी परिस्थितीत प्रभावी प्रतिकारात अनुवादित झाला नाही.
एन्थ्रोपिकचे प्रवक्ते, एडुआर्डो माईया सिल्वा यांनी टेकक्रंचला सांगितले की कंपनी वॅल्सच्या अहवालाची, शिफारसी आणि सहयोगाची प्रशंसा करते आणि हे मान्य केले की परिणाम स्वीकार्य नाहीत. "अहवालातील उदाहरणे अगदी स्पष्टपणे आमच्या नियमांच्या विरोधात आहेत आणि आम्ही बंदी घातली आहे आणि जेव्हा आम्हाला हे वर्तन दिसेल तेव्हा वापरकर्त्यांवर बंदी घालू," असे कंपनीने एका निवेदनात म्हटले आहे. "अधिकृत सेटिंग्जसाठी देखील, अँथ्रोपिक बर्याच काळापासून ठाम आहे की आजच्या फ्रंटियर एआय सिस्टम पूर्णपणे स्वायत्त शस्त्रे सक्षम करण्यासाठी पुरेसे विश्वसनीय नाहीत."
अँथ्रोपिकने TechCrunch ला सांगितले की, अहवाल प्रकाशित होण्यापूर्वी तिचे कार्यसंघ आधीच अतिरिक्त सुरक्षा उपाय विकसित करत आहेत, ते उपाय लवकरच लागू केले जातील आणि कंपनी स्वतःच्या चाचणीचा विस्तार करत आहे आणि कोणत्याही त्रुटी दूर करण्यासाठी सुरक्षा उपाय आणि अंमलबजावणी वाढवत आहे.
ओपनएआयचे प्रवक्ते नेट इव्हान्स म्हणाले की, कंपनी हिंसाचार सुलभ करण्यासाठी किंवा व्हॅल्स सिम्युलेट केलेल्या परिस्थितीसह अप्रमाणित राष्ट्रीय सुरक्षा हेतूंसाठी सार्वजनिक मॉडेल वापरण्यास प्रतिबंधित करते. "आम्ही आमच्या धोरणांचे उल्लंघन करणारी खाती निलंबित करून सक्रियपणे गैरवापर शोधतो आणि त्यात अडथळा आणतो," कंपनीने ईमेल केलेल्या निवेदनात म्हटले आहे. "आम्ही आमच्या सार्वजनिक मॉडेल्ससाठी ड्रोन आणि ड्रोन सॉफ्टवेअरच्या गैरवापराविरूद्ध अतिरिक्त सुरक्षा उपाय विकसित करत आहोत."
स्वायत्त शस्त्रे स्टँडऑफ
लष्करी एआयचा वापर कसा केला जाऊ शकतो यावरून एआय लॅब आणि पेंटागॉन यांच्यात न सुटलेल्या वादाच्या दरम्यान हे निष्कर्ष आले आहेत. या वर्षाच्या सुरुवातीला, अँथ्रोपिकने संरक्षण विभागाला सांगितले की ते अमेरिकन लोकांच्या मोठ्या प्रमाणावर पाळत ठेवण्यासाठी किंवा स्वायत्त युद्धासाठी कंपनीचे तंत्रज्ञान वापरू शकत नाही. मानववंशीय सीईओ डारियो अमोदेई यांनी आग्रह धरला आहे की आजच्या एआय सिस्टम लूपमध्ये मनुष्याशिवाय जीवन-मृत्यूचे निर्णय घेण्यास पुरेसे विश्वसनीय नाहीत. पेंटागॉनने, त्याच्या भागासाठी, असा युक्तिवाद केला आहे की ते कोणत्याही कायदेशीर लष्करी हेतूसाठी तंत्रज्ञान तैनात करण्यास सक्षम असावे.
व्हॅल्सचा अहवाल त्या विवादाला धारदार करतो: जर ग्राहक-श्रेणी मॉडेल्सवर गेम फ्रेमिंगसह लक्ष्य चिन्हांकित करण्यासाठी बोलले जाऊ शकते, तर प्रश्न असा आहे की एकट्या कंपनीची धोरणे तांत्रिक सुरक्षितता सध्या करत नाहीत अशी ओळ ठेवू शकतात का.
महत्वाच्या सूचना
अहवालात महत्त्वपूर्ण मर्यादा आहेत ज्यामुळे ते रणांगण-तयार AI लक्ष्यीकरणाचा पुरावा म्हणून वाचले जाण्यापासून प्रतिबंधित करते. वॅल्सने नमूद केले आहे की मॉडेल्सना कधीही थेट स्ट्राइक निर्णय घेण्यास सांगितले गेले नाही - असे कार्य संशोधकांनी सांगितले की मॉडेल सामान्यत: नकार देतील. लेटन्सी आणि मर्यादित ऑनबोर्ड संगणकीय क्षमतेसह तांत्रिक आव्हाने, थेट ड्रोन लक्ष्यीकरणासाठी सामान्य-उद्देश AI मॉडेल्स वापरणे देखील अवघड बनवते, जे कच्च्या निष्कर्षांनुसार सुचविल्या जाणाऱ्या तत्काळ धोक्यापेक्षा लढाऊ तैनाती कमी करते.
व्यावसायिक विरुद्ध लष्करी असा भेदही आहे. अहवालात जनतेला विकल्या गेलेल्या व्यावसायिक मॉडेल्सची चाचणी केली गेली, विशेष प्रणाली प्रयोगशाळा करारानुसार संरक्षण ग्राहकांना प्रदान करू शकत नाहीत - आणि हे स्पष्ट नाही की कंपन्यांनी वचन दिलेले अतिरिक्त सुरक्षा उपाय लष्करी तैनातीला लागू होतील की नाही.
तरीही, संशोधक चेतावणी देतात की आउटपुटचे वास्तविक जगामध्ये भयंकर परिणाम होऊ शकतात: व्यावसायिक मॉडेलद्वारे उत्पादित केलेली लक्ष्यित माहिती स्वायत्त शस्त्रे प्रणालीद्वारे वापरली जाऊ शकते, जरी मॉडेल स्वतः कधीही गोळीबार करत नसला तरीही.
AI सुरक्षिततेसाठी याचा अर्थ काय आहे
अहवालाचे महत्त्व कोणत्याही मॉडेलच्या वर्तनाबद्दल कमी आणि पॅटर्नबद्दल अधिक आहे: सुरक्षा वर्गीकरणकर्त्याद्वारे कोणतीही विनंती अवरोधित केलेली नाही, नकार दुर्मिळ होता आणि सर्वात प्रभावी जेलब्रेक हा बालिश होता — युद्धाचे नाटक करणे हा एक खेळ होता. फ्रंटियर मॉडेल्स हानीकारक सूचना नाकारतील या दाव्यावर ज्या उद्योगाने आपली सार्वजनिक वैधता धोक्यात आणली आहे, तो एक अस्वस्थ डेटा पॉइंट आहे.
कंपन्यांच्या प्रतिसादांची आता सरावाने चाचणी केली जाईल: अँथ्रोपिक म्हणते की नवीन सुरक्षितता आसन्न आहेत आणि ओपनएआय म्हणते की ते ड्रोन-विशिष्ट गैरवापर संरक्षण तयार करत आहे. हे उपाय मूल्यमापन संशोधनाच्या पुढील फेरीच्या संपर्कात टिकून राहतात की नाही हा प्रश्न वॅल्स - आणि वाढत्या प्रमाणात, धोरणकर्ते - विचारतील.
---
एआय सुरक्षा विकासाचे अनुसरण करासंशोधन, नैतिकता आणि धोरण — महत्त्वाच्या असलेल्या AI कथा, चोवीस तास अपडेट केल्या जातात.
अधिक AI बातम्या वाचा →