अमेरिकेच्या संरक्षण विभागाच्या पुनरावलोकनाने असा निष्कर्ष काढला आहे की कृत्रिम बुद्धिमत्तेवरील अत्याधिक अवलंबनामुळे इराणमधील एका शाळेवर मार्चमध्ये झालेल्या क्षेपणास्त्र हल्ल्यात सुमारे 120 मुले मारली गेली होती, ब्लूमबर्गने सोमवारी नोंदवलेले आणि Yahoo News आणि इतर आउटलेट्सद्वारे सारांशित केलेल्या पुनरावलोकनाच्या निष्कर्षांनुसार.

पेंटागॉनने एआय सिस्टीमवर अवलंबून राहण्यासाठी प्राणघातक लढाईच्या निकालाचे श्रेय दिलेली ही पहिलीच वेळ आहे आणि यूएस सैन्याने मशीनच्या निर्णयावर किती लक्ष्यीकरण अधिकार सोपवायचे यावर तीव्र वादविवादाच्या मध्यभागी तो उतरला आहे. यासारख्या अधिक अहवालासाठी, आमचे एआय एथिक्स कव्हरेज पहा.

मार्चमध्ये काय घडले

हा स्ट्राइक मार्च 2026 च्या सुरुवातीस झाला, जेव्हा बेलिंगकॅटने प्रकाशित केलेल्या आणि NPR आणि BBC द्वारे सत्यापित केलेल्या व्हिडिओ विश्लेषणामध्ये इराणच्या लॅमर्ड शहरातील मुलींच्या शाळेजवळ यूएस टॉमहॉक क्रूझ क्षेपणास्त्र दिसले. काही दिवसांतच, न्यूयॉर्क टाइम्सने अहवाल दिला की प्राथमिक यूएस चौकशीत असे आढळून आले आहे की हा हल्ला यूएस क्षेपणास्त्राचा परिणाम होता आणि इराणच्या सूत्रांनी मृतांची संख्या डझनभर ठेवली, त्यापैकी बहुतेक मुले आहेत.

सोमवारी प्रकाशित झालेल्या ब्लूमबर्ग तपासणीमध्ये वर्णन केलेले नवीन पेंटागॉन पुनरावलोकन आणखी पुढे जाते: ते लक्ष्यीकरण पाइपलाइनच्या अपयशाचा मागोवा घेते आणि निष्कर्ष काढते की AI वर अत्याधिक अवलंबनाने स्ट्राइकला हातभार लावला. याहू न्यूजने 120 इराणी मुलांचा बळी घेणाऱ्या स्ट्राइकशी एआय लक्ष्यीकरण प्रणालीला जोडणारा पुनरावलोकनाचा सारांश दिला; अनेक आऊटलेट्सने प्रश्नामधील सिस्टमला Palantir-प्रदान केलेले सॉफ्टवेअर म्हणून ओळखले आहे, तरीही पेंटागॉनने विक्रेत्याच्या तपशीलांची सार्वजनिकपणे पुष्टी केलेली नाही.

किल चेनच्या आत

लॉस एंजेलिस टाईम्सने सोमवारी प्रकाशित केलेल्या समांतर तपासणीत, यूएस "किल चेन" म्हणून ओळखले गेले ज्याने शाळा नष्ट केली - डेटा संकलनाचा क्रम, मशीन-सहाय्य लक्ष्य नामांकन आणि मानवी साइन-ऑफ जे क्षेपणास्त्र प्रक्षेपणात संपले. अहवाल आधुनिक अचूक युद्धाचे एक अस्वस्थ वास्तव अधोरेखित करतो: टॉमहॉकला गोळीबार करणाऱ्या क्रूला लक्ष्य कधीच दिसत नाही. ते अपस्ट्रीम असेम्बल केलेले लक्ष्य डेटा पॅकेज कार्यान्वित करतात, जेथे अल्गोरिदमिक साधने अधिकाधिक आकार घेतात की काय नामांकन मिळते आणि सहाय्यक विश्लेषक किती विश्वास ठेवतात.

दुसऱ्या शब्दात, पुनरावलोकनाचा मध्यवर्ती शोध — अतिरिलायन्स — ट्रिगर खेचणाऱ्या रोबोटबद्दल नाही. ही प्रक्रिया आवश्यक असण्यासाठी तयार करण्यात आलेली शंका वगळण्यासाठी मशीनच्या आउटपुटवर पुरेसा विश्वास ठेवण्याबद्दल आहे.

उधळपट्टी केली गेली

अयशस्वी होण्याचा संदर्भ महिन्यांपूर्वी नोंदवला गेला होता. पोलिटिकोने मार्चमध्ये उघड केले की पेंटागॉनच्या प्रमुखाने सिव्हिलियन प्रोटेक्शन सेंटर ऑफ एक्सलन्ससह त्याच्या "प्राणघातक" उद्दिष्टांमध्ये योगदान न देणारी कार्यालये कमी केली आहेत आणि नागरी-हानी कमी करण्याच्या संघांवरील कर्मचारी अंदाजे 90% कमी झाले आहेत, जे एकूण 20 पेक्षा कमी लोकांपर्यंत कमी झाले आहेत. ProPublica ने वृत्त दिले की सेंट्रल कमांडच्या नागरी-अपघात टीम दहा लोकांवरून एकावर घसरली.

त्या पार्श्वभूमीवर, पुनरावलोकनाचे निष्कर्ष हे सॉफ्टवेअर बग सारखे कमी आणि सिस्टीमच्या अपयशासारखे अधिक वाचतात: एक AI साधन ज्याच्या त्रुटी लक्ष्यीकरण उपकरणामध्ये आव्हान न दिल्यास ज्यांच्या मानवी सुरक्षा जाळ्या हाडांना कापल्या गेल्या होत्या.

पेंटागॉनला आधीच माहित असलेला नमुना

इराणचा हल्ला हा अमेरिकन सैन्यात एआय-संबंधित जवळचा मिस्स नव्हता. गिझमोडो आणि फ्युचरिझमच्या स्वतंत्र अहवालात एका घटनेचे दस्तऐवजीकरण केले गेले ज्यामध्ये सैन्य जवळजवळ चढले — आणि संभाव्यतः गोळीबार — एआय सिस्टमने अण्वस्त्र सामग्रीचा भ्रमनिरास केल्यानंतर चिनी जहाजावर गोळीबार केला, ही चूक ज्यामुळे मोठ्या प्रमाणात शक्ती वाढू शकते. अशावेळी मानवी हस्तक्षेपामुळे अनर्थ टळला. इराणमध्ये असा कोणताही हस्तक्षेप झाला नाही.

AI संशोधक आणि लष्करी-नीतीशास्त्राच्या अभ्यासकांनी वर्षानुवर्षे चेतावणी दिली आहे की उच्च-स्टेक निर्णयांमध्ये इंजेक्ट केलेले मशीन आउटपुट ऑटोमेशन पूर्वाग्रह निर्माण करतात - दस्तऐवजीकृत मानवी प्रवृत्ती आत्मविश्वास प्रणालींवर जास्त विश्वास ठेवण्याची. पेंटागॉनचे स्वतःचे पुनरावलोकन आता अधिकृत पोचपावती म्हणून उभे आहे की या पूर्वाग्रहाने युद्धातील सर्वात प्राणघातक नागरी टोलमध्ये योगदान दिले.

पुढे काय येईल

या पुनरावलोकनामुळे वॉशिंग्टनमध्ये AI-सक्षम लक्ष्यीकरणातील वैधानिक मानवी-इन-द-लूप आवश्यकतांसाठी दबाव वाढण्याची शक्यता आहे, त्याच वेळी प्रशासन लष्करी AI दत्तक घेण्यास गती देण्यासाठी दबाव टाकत आहे. हे संरक्षण-तंत्रज्ञान विक्रेत्यांच्या विक्रीची खेळपट्टी देखील गुंतागुंतीत करते ज्यांची उत्पादने आता औपचारिक दोष पुनरावलोकनात गुंतलेली आहेत - आणि हे स्वायत्त शस्त्रास्त्र धोरणावरील सुनावणीत उद्धृत करण्यासाठी काँग्रेसला ठोस, दस्तऐवजीकरण केलेले केस स्टडी देते.

अनेक प्रश्न अनुत्तरीत राहतात. आत्तापर्यंत प्रकाशित केलेल्या पुनरावलोकनाच्या सारांशांमध्ये कोणती मॉडेल आवृत्ती वापरली जात होती, बिघाड हे भ्रम, इमारतीचे चुकीचे वर्गीकरण किंवा अपस्ट्रीममध्ये दूषित इनपुट डेटा आहे की नाही हे निर्दिष्ट करत नाही - सैन्याने AI साधनांचे नियमन कसे करावे यासाठी खूप महत्त्वाचे असलेले फरक. तसेच हे स्पष्ट नाही की लक्ष्य पॅकेज अंतिम होण्यापूर्वी सिस्टमच्या आउटपुटचे कोणत्याही विश्लेषकाद्वारे पुनरावलोकन केले गेले.

लोकांचे मत आधीच संशयास्पद आहे: या आठवड्यात प्रकाशित झालेल्या रॉयटर्स/इप्सॉसच्या सर्वेक्षणात असे आढळले आहे की 73% अमेरिकन लोक म्हणतात की AI कंपन्या आपत्तीजनक परिणाम टाळण्यासाठी पुरेसे काम करत नाहीत आणि शस्त्रास्त्र प्रणालींमध्ये AI बद्दलची चिंता ग्राहक AI बद्दलच्या चिंतेपेक्षा सातत्याने जास्त आहे. पुनरावलोकनाच्या शिफारशींचे काय होते — आणि कोणालाही जबाबदार धरले जाते की नाही — हे सूचित करेल की शोध सराव बदलतो किंवा दुसरा घटना अहवाल दाखल करून विसरला जातो.
---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →