संयुक्त राज्य अमेरिका की सेना इस वसंत में चीन के साथ सीधे टकराव के करीब पहुंच गई थी, लगभग किसी को भी इसका एहसास नहीं था - और शुक्रवार को प्रकाशित सीएनएन एक्सक्लूसिव के अनुसार, एआई मतिभ्रम इसका कारण था।
रिपोर्ट में बताया गया है कि कैसे एक चैटबॉट की मदद से तैयार किए गए एक खुफिया दस्तावेज ने घटनाओं की एक श्रृंखला को जन्म दिया, जिसमें सशस्त्र अमेरिकी कर्मी मध्य पूर्व में एक चीनी जहाज पर चढ़ने की तैयारी कर रहे थे, इस विश्वास पर कि जहाज परमाणु हथियार कार्यक्रम के घटकों का परिवहन कर रहा था। ऑपरेशन से परिचित सूत्रों के अनुसार, सैन्य विमान पहले से ही हवा में थे। For more context on this story, see our ongoing latest AI developments.
मिशन को नियोजित अवरोधन से ठीक पहले ही रद्द कर दिया गया था, जब अधिकारियों ने रिपोर्ट की गहराई से जांच की और पाया कि इसका केंद्रीय दावा - जिसने अमेरिकी सेना को संगठित किया था - गलत था।
प्रकरण से परिचित एक सूत्र ने सीएनएन को दी गई खुफिया रिपोर्ट को "पूरी तरह से गलत" बताया। सूत्र ने यह भी कहा, "लगभग एक युद्ध शुरू हो गया है।" चीनी जहाज के खिलाफ कोई भी अमेरिकी कार्रवाई दोनों देशों के बीच सशस्त्र संघर्ष में बदल सकती थी।
कैसे एक चैटबॉट का दावा एक सैन्य ऑपरेशन बन गया
इस प्रकरण की शुरुआत इस वसंत में, ईरान के साथ युद्ध के बीच, जब एक ख़ुफ़िया रिपोर्ट अमेरिकी सेना में प्रसारित होने लगी। दस्तावेज़ में दावा किया गया कि मध्य पूर्व में एक चीनी जहाज परमाणु हथियार कार्यक्रम घटकों को ले जा रहा था, और इसने तुरंत खतरे की घंटी बजा दी।
सीएनएन के अनुसार, यह रिपोर्ट यूएस स्पेशल ऑपरेशंस कमांड के एक विश्लेषक द्वारा तैयार की गई थी, जिसने जहाज के मैनिफेस्ट पर खुफिया रिपोर्टिंग के बारे में एक चैटबॉट से पूछताछ की थी - यह रिपोर्टिंग हवाई स्थित यूएस स्पेशल ऑपरेशंस कमांड पैसिफिक से उत्पन्न हुई थी। यह स्पष्ट नहीं है कि चैटबॉट व्यावसायिक रूप से उपलब्ध उत्पाद था या अमेरिकी सरकार का उपकरण। सैन्य और खुफिया विश्लेषकों द्वारा उपयोग किए जाने वाले एआई सिस्टम से परिचित एक पूर्व वरिष्ठ अमेरिकी अधिकारी ने सीएनएन को सरकार की आंतरिक पेशकशों का एक स्पष्ट मूल्यांकन पेश किया: "आंतरिक उपकरण ज्यादातर लिपस्टिक पहने वाणिज्यिक सामान की प्रतियां हैं।"
चैटबॉट ने ओपन-सोर्स इंटेलिजेंस को सरकार के पास मौजूद गुप्त सिग्नल इंटेलिजेंस के साथ जोड़ दिया और जहाज के कार्गो के बारे में अपने घातक निष्कर्ष पर पहुंच गया। इसके बाद विश्लेषक ने निष्कर्षों को एक मानक खुफिया रिपोर्ट में पैकेज करने के लिए दूसरी बार एआई का उपयोग किया - जिस तरह के सैन्य अधिकारी भरोसा करने के आदी हैं - और इसे प्रसारित किया।
इस प्रकरण से परिचित चार सूत्रों ने सीएनएन से बात की। उनमें से दो के अनुसार, अमेरिकी सेना के सशस्त्र सदस्य जहाज पर चढ़ने की तैयारी कर रहे थे जब रिपोर्टिंग विफल हो गई। सीएनएन यह जानने में असमर्थ था कि गलत पहचान वाला माल वास्तव में क्या था। यूएस स्पेशल ऑपरेशंस कमांड पैसिफिक और पेंटागन ने टिप्पणी के लिए सीएनएन के अनुरोध का जवाब नहीं दिया।
एक त्वरण रणनीति एक वास्तविकता की जाँच को पूरा करती है
यह उस समय लगभग चूक गया जब पेंटागन अपने काम के लगभग हर पहलू में एआई को शामिल करने पर जोर दे रहा है - बड़ी मात्रा में कच्ची खुफिया जानकारी का विश्लेषण करना, हमलों के लिए लक्ष्यों का चयन करना, और बजट, रसद और आपूर्ति श्रृंखला जैसे अधिक सांसारिक कार्यों को संभालना।
जनवरी में, रक्षा सचिव पीट हेगसेथ ने सैन्य एआई अपनाने में तेजी लाने के लिए विभाग की "कृत्रिम बुद्धिमत्ता त्वरण रणनीति" जारी की।
हेगसेथ ने रणनीति की घोषणा करते हुए एक भाषण में कहा, "हम प्रयोग शुरू करेंगे, नौकरशाही बाधाओं को खत्म करेंगे, अपने निवेश पर ध्यान केंद्रित करेंगे और सैन्य एआई में नेतृत्व सुनिश्चित करने के लिए आवश्यक निष्पादन दृष्टिकोण का प्रदर्शन करेंगे।"
संलग्न ज्ञापन आगे बढ़ता है, जिसमें विभाग को कई कार्यक्रमों के माध्यम से एआई उपलब्ध कराने का आदेश दिया गया है, जिसका उद्देश्य "सभी वर्गीकरण स्तरों पर अमेरिका के विश्व-अग्रणी एआई मॉडल को सीधे हमारे तीन मिलियन नागरिक और सैन्य कर्मियों के हाथों में सौंपकर पूरे विभाग में एआई प्रयोग और परिवर्तन का लोकतंत्रीकरण करना है।"
लेकिन प्रयास विकेंद्रीकृत है, कई अमेरिकी अधिकारियों ने सीएनएन को बताया, सरकार के विभिन्न हिस्से अलग-अलग आदेशों और सुरक्षा मानकों के तहत विभिन्न उपकरणों का उपयोग कर रहे हैं। इन उपकरणों द्वारा उत्पन्न जानकारी को सत्यापित करने के लिए मानकों का कोई एक सेट नहीं है, और विभिन्न प्रणालियों की विश्वसनीयता व्यापक रूप से भिन्न होती है।
लक्ष्यीकरण वह जगह है जहां जोखिम रहता है
विश्लेषकों ने लंबे समय से आशंका जताई है कि यदि राष्ट्र-राज्य खराब या दूषित डेटा पर कार्रवाई करते हैं तो एआई विनाशकारी गलत अनुमान में योगदान दे सकता है। चीनी जहाज प्रकरण वास्तव में वास्तविक समय में विफलता मोड बनने का एक प्रलेखित मामला है - और सुरक्षा उपाय अंतिम क्षण तक इसे पकड़ने में विफल रहे हैं।
सेना की वर्तमान नीतियों से परिचित एक अन्य सूत्र ने सीएनएन को बताया, "लक्ष्यीकरण में एआई निश्चित रूप से कुछ ऐसा है जो तेजी से बढ़ रहा है, और लूप में एक इंसान होने से नागरिक हताहतों या भाईचारे को कैसे रोका जा सकेगा, इसके लिए कोई वास्तविक मार्गदर्शन नहीं है।"
सीएनएन की रिपोर्टिंग के अनुसार, जब से एआई उपकरण सरकार के माध्यम से फैलने लगे हैं, तब से जिस तरह का मतिभ्रम झूठा दावा पैदा करता है, वह पूरे खुफिया समुदाय में एक अलग घटना नहीं है। कई स्रोतों ने एक सांस्कृतिक जोखिम की ओर भी इशारा किया: युवा विश्लेषक, जिन्हें इन उपकरणों के मूल निवासी के रूप में वर्णित किया गया है, उन पर बिना सोचे-समझे भरोसा करने की अधिक संभावना है, और तेजी से खुफिया जानकारी उत्पन्न करने का दबाव त्रुटि के लिए अधिक जगह छोड़ देता है।
एक सूत्र ने कहा, "एआई आपको किसी बुरे विचार तक तेजी से पहुंचने की अनुमति देता है।"
अधीक्षण से अधिक तात्कालिक जोखिम
सिलिकॉन वैली के इंजीनियरों और तकनीकी अधिकारियों की ओर से संभावित रूप से मानवीय बाधाओं से मुक्त हो रहे सिस्टम के बारे में गंभीर सार्वजनिक चेतावनियों की एक श्रृंखला के बाद, वाशिंगटन कई हफ्तों से दीर्घकालिक एआई जोखिम पर बहस में डूबा हुआ है। सीएनएन रिपोर्ट एक अलग और अधिक तात्कालिक खतरे को रेखांकित करती है: मनुष्य गलत या भ्रामक एआई आउटपुट के आधार पर विनाशकारी निर्णय ले रहा है - अभी, वास्तविक भूराजनीतिक तनाव के बीच में।
इस वसंत में कोई गोली नहीं चली, और बोर्डिंग कभी नहीं हुई। लेकिन यह प्रकरण अब तक के सबसे स्पष्ट उदाहरण के रूप में खड़ा है कि मशीन-जनित त्रुटियां, एक बार आधिकारिक रिपोर्टिंग में शामिल होने के बाद, दुनिया के सबसे शक्तिशाली सैन्य तंत्र के माध्यम से परमाणु शक्तियों के बीच सशस्त्र संघर्ष के अंत तक पहुंच सकती हैं - अगले को रोकने के लिए कोई स्थायी सत्यापन मानक नहीं है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
