डिफेन्सस्कूपने पुनरावलोकन केलेल्या उप संरक्षण सचिव स्टीव्ह फेनबर्ग यांनी जारी केलेल्या मेमोरँडमनुसार पेंटागॉन एक पायलट प्रोग्राम सुरू करत आहे जो कृत्रिम बुद्धिमत्तेचा वापर करून संवेदनशील लष्करी माहितीचे वर्गीकरण आणि हाताळणी कशी करते हे व्यवस्थापित करेल. निर्देशामध्ये पुढील सहा महिन्यांत स्वयंचलित सुरक्षा वर्गीकरण क्षमतेची प्रारंभिक लहान-प्रमाणात तैनाती करण्याचे आदेश दिले आहेत - विभाग धोकादायकपणे कालबाह्य म्हणून वर्णन केलेल्या प्रक्रियेची दुरुस्ती करण्याच्या प्रयत्नात सुरुवातीची चाल.
फीनबर्ग मेमोच्या आत For more context on this story, see our ongoing AI news.
सोमवारी जारी केलेला मेमो, पेंटागॉनच्या विद्यमान वर्गीकरण आणि अवर्गीकरण प्रक्रियेला "डिसफंक्शन" चे स्त्रोत म्हणून फ्रेम करते जे विभाग म्हणतो की त्याचे ध्येय "धोक्यात" आहे. कालबाह्य प्रक्रियेमुळे "महत्त्वपूर्ण माहितीचे वेळेवर प्रकाशन" मंद होते आणि विभागावरील जनतेचा विश्वास कमी होतो, असा तर्क आहे.
डिफेन्सस्कूपच्या म्हणण्यानुसार, "या प्रक्रियेमुळे होणारे बिघडलेले कार्य चुकीच्या वर्गीकरणास कारणीभूत ठरते ज्यामुळे आमच्या राष्ट्रीय सुरक्षा प्रणालींवर भार पडतो, इंटरऑपरेबिलिटीमध्ये अडथळा निर्माण होतो आणि स्टोव्हपाइप्समध्ये महत्त्वपूर्ण डेटा अडकवून नावीन्यता कमी होते," असे मेमोमध्ये म्हटले आहे.
ACME: केंद्रातील हवाई दल यंत्रणा
चाचणीसाठी, संरक्षण विभाग हवाई दलाने अलीकडेच स्वयंचलित वर्गीकरण व्यवस्थापन पर्यावरण किंवा ACME नावाने विकसित केलेली AI-समर्थित प्रणाली वापरेल. मेमोमध्ये हवाई दलाच्या उच्च नागरी अधिकाऱ्याला पायलटसाठी कार्यकारी एजंट म्हणून नियुक्त केले आहे आणि हवाई दलाच्या प्रवक्त्याने डिफेन्सस्कूपला सांगितले की सेवा "मेमोमधील निर्देशांचे पालन करेल."
ACME ला ऑगस्टमध्ये सार्वजनिकरित्या ध्वजांकित करण्यात आले होते, जेव्हा अधिकाऱ्यांनी उद्योगांनी अनेक दशकांपासून वापरलेल्या "मॅन्युअल, मानव-केंद्रित" प्रक्रियेची जागा घेण्यासाठी वर्गीकरण-व्यवस्थापन इकोसिस्टम तयार करण्यास मदत करण्यासाठी माहितीसाठी विनंती केली होती. त्या सूचनेमध्ये तणावाखाली असलेल्या प्रणालीचे वर्णन केले आहे: शेकडो अधिका-यांना माहितीचे वर्गीकरण करण्याचा अधिकार आहे, अनेक पुरातन प्रोग्राम वापरतात, कालबाह्य दस्तऐवजीकरण तयार करतात, उच्च त्रुटी दर, वारंवार अति-वर्गीकरण आणि डेटाची अखंडता कमी होते. विभागाकडे अंदाजे 140 दशलक्ष पृष्ठांचा हार्डकॉपी अनुशेष देखील आहे.
पायलट ते एकल अधिकृत संदर्भ
पायलट यशस्वी झाल्यास, मेमो म्हणते की स्वयंचलित प्रणाली अखेरीस विभागाच्या सर्व मूळ वर्गीकरण निर्णयांसाठी "एकल, डिजिटल अधिकृत संदर्भ" म्हणून काम करेल. ती जबाबदारी ऐतिहासिकदृष्ट्या विशेष नियुक्त मानवी अधिकाऱ्यांची आहे जे संवेदनशील माहितीचे वर्गीकरण कसे केले जाते हे ठरवतात — म्हणजे यशस्वी रोलआउट आजपर्यंतच्या AI सिस्टीममध्ये मुख्य सरकारी कार्याचे सर्वात परिणामकारक हस्तांतरण चिन्हांकित करेल.
अधिकारी का म्हणतात बदलाची गरज आहे
ऑटोमेशनचे प्रकरण आधुनिक लष्करी माहितीच्या प्रचंड प्रमाणात आणि वेगावर अवलंबून आहे. माहितीसाठी ऑगस्टच्या विनंतीने मॅन्युअल प्रक्रियेला डिजिटल युगातील माहितीच्या व्हॉल्यूम आणि गतीशी "विसंगत" म्हटले आहे. अति-वर्गीकरण माहिती आवश्यक असलेल्या युनिट्स आणि सहयोगींपासून दूर ठेवते; अंडर-वर्गीकरणामुळे क्षमता आणि योजना विरोधकांच्या समोर येण्याची जोखीम. दोन्ही दिशेतील त्रुटींमुळे खर्च येतो आणि हार्डकॉपी पृष्ठांच्या सात-आकडी अनुशेषासह, विभागाने असा निष्कर्ष काढला आहे की वाढीव निराकरणे पुरेसे नाहीत.
जोश वॉलिन, सेंटर फॉर अ न्यू अमेरिकन सिक्युरिटीज डिफेन्स प्रोग्रॅमचे फेलो यांनी डिफेन्सस्कूपला सांगितले की कमी-वर्गीकृत माहिती प्रतिस्पर्ध्यासाठी क्षमता किंवा योजना उघड करू शकते, तर अति-वर्गीकृत सामग्री विलंबित पुनरावलोकन प्रक्रियेद्वारे रोखली जाऊ शकते किंवा थांबविली जाऊ शकते - म्हणजे ती आवश्यक असलेल्या संस्थांपर्यंत पोहोचू शकत नाही, "ज्या युतीच्या वातावरणात माहिती सामायिकरणासाठी समन्वय साधणे आवश्यक आहे." ते पुढे म्हणाले की, बऱ्याच प्रकरणांमध्ये, "बहुसंख्य माहिती इतकी संवेदनशील नसते की आपण चुकीच्या वर्गीकरणाबद्दल चिंतित असाल," त्यामुळेच जलद, अधिक सातत्यपूर्ण हाताळणी संपूर्ण विभागात लाभांश देऊ शकते.
विश्लेषक नफा - आणि वास्तविक जोखीम पाहतात
वॉलिन म्हणाले की ऑटोमेशन चुकीच्या वर्गीकरणाच्या समस्यांसह मदत करू शकते - ज्या माहितीचा अति-संरक्षित, कमी-संरक्षित किंवा मानवाकडून चुकीचे लेबल लावलेला आहे - आणि स्टोव्हपाइपिंग कमी करणे, विशेषत: आधुनिक संघर्षांनी दाखवून दिले आहे की जलद माहिती प्रवाह निर्णायक फायदा होऊ शकतो.
पण वॉलिननेही जोखीम पत्करली. AI-बॅक्ड सिस्टम अंतर्गत चुकीचे वर्गीकरण जलद प्रमाणात होऊ शकते. सहयोगी आणि भागीदारांसह जलद सामायिकरण प्राप्तकर्त्याच्या नेटवर्कच्या सायबरसुरक्षा प्रोटोकॉलबद्दल प्रश्न निर्माण करते. आणि प्रवेगक अवर्गीकरण एक "एकूण" प्रभाव निर्माण करते, ज्यामध्ये विरोधक वैयक्तिकरित्या निरुपद्रवी प्रकटीकरणांमधून संवेदनशील अंतर्दृष्टी एकत्र करू शकतो.
"एक चुकीचे वर्गीकरण चिंता आहे," वॉलिन म्हणाले. "काही माहिती संवेदनशील असेल ही फक्त एक अंतर्निहित चिंता आहे. ती चुकीची वर्गीकृत आणि सामायिक केली जाईल, अनावधानाने, आणि कोणीतरी ती पकडणार नाही?"
निरीक्षणाचे प्रश्न उरतात
वॉलिनने पायलटच्या संक्षिप्ततेबद्दल आणि जेव्हा AI मूळ वर्गीकरण प्राधिकरणासाठी निश्चित संदर्भ म्हणून काम करते तेव्हा मानवी निरीक्षण कसे कार्य करेल यावर प्रश्नचिन्ह उपस्थित केले. "[तुम्ही] प्रत्यक्षात मानवी निरीक्षण कसे करणार आहात? ते कायमचे टिकून राहावे लागेल," त्यांनी डिफेन्सस्कूपला सांगितले, की प्रणाली कालांतराने विकसित होईल आणि पूर्ण विश्वास कधीही साध्य होणार नाही.
कोणते अंतर्निहित AI मॉडेल पायलटला सामर्थ्य देतील किंवा या उद्देशासाठी तंत्रज्ञान वापरण्याबाबत विभागाला चिंता आहे की नाही या प्रश्नांची उत्तरे पेंटॅगॉनने त्वरित दिली नाहीत. AI निरीक्षणावर वॉशिंग्टनमध्ये व्यापक वादविवादाच्या दरम्यान हे निर्देश उतरले, जरी संरक्षण अधिकाऱ्यांनी असा युक्तिवाद केला की एआय हे एक अत्यंत शक्तिशाली साधन आहे आणि ते त्यांच्या स्वतःच्या सैन्यात तैनात करतात. विभाग त्या दोन आवेगांना कसे संतुलित करतो - आक्रमक अवलंब आणि अर्थपूर्ण मानवी नियंत्रण - हा सहा महिन्यांच्या पायलटचा परिभाषित प्रश्न असेल.
हवाई दलासाठी, असाइनमेंट देखील विश्वासाचे मत आहे. वर्गीकरण सुधारणेबद्दल विभाग-व्यापी संभाषण अद्याप सैद्धांतिक असताना सेवेने ACME तयार केले, आणि मेमो आता अशा क्षमतेची जबाबदारी सोपवते जी, जर ती कार्य करते, तर प्रत्येक लष्करी शाखा त्याचे रहस्य कसे हाताळते ते पुन्हा आकार देईल. उर्वरित फेडरल सरकारसाठी - जेथे वर्गीकरण अनुशेष आणि अति-वर्गीकरण तक्रारी क्रॉनिक आहेत - एक यशस्वी पेंटागॉन पायलट AI-सहाय्यित माहिती हाताळण्यासाठी प्रथम मोठ्या प्रमाणात टेम्पलेट प्रदान करेल आणि त्याकडे बारकाईने पाहिलेले एक.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
