कानून के तहत नागरिक अधिकारों के लिए वकीलों की समिति ने 18 नवंबर, 2026 को बाल्टीमोर काउंटी, मैरीलैंड में केनवुड हाई स्कूल के चार काले वर्तमान और पूर्व छात्रों की ओर से एक मुकदमा दायर किया, जब एआई बंदूक-पहचान प्रणाली ने उनके चिप्स के बैग में से एक को आग्नेयास्त्र समझ लिया और सशस्त्र पुलिस ने परिसर में किशोरों को हिरासत में लिया और उनकी तलाशी ली।
बाल्टीमोर काउंटी के सर्किट कोर्ट में दायर की गई शिकायत में प्रतिवादी ओमनीलर्ट, एलएलसी - बाल्टीमोर काउंटी पब्लिक स्कूलों में उपयोग किए जाने वाले ओमनीलर्ट गन डिटेक्ट सिस्टम के निर्माता - के साथ बाल्टीमोर काउंटी पब्लिक स्कूल और कर्मियों, बाल्टीमोर काउंटी पुलिस विभाग और व्यक्तिगत अधिकारियों के नाम शामिल हैं। इसमें छात्रों के संघीय और राज्य संवैधानिक अधिकारों के उल्लंघन के साथ-साथ लापरवाही और घोर लापरवाही का आरोप लगाया गया है। For more context on this story, see our ongoing AI trends.
अक्टूबर 2025 में क्या हुआ
वकीलों की समिति के अनुसार, यह घटना तब शुरू हुई जब काउंटी के स्कूलों में तैनात एक एआई निगरानी प्रणाली ओमनीलर्ट गन डिटेक्ट ने एक किशोर के चिप्स के बैग को बंदूक के रूप में चिह्नित करते हुए एक चेतावनी जारी की, जिसमें 90 प्रतिशत संभावना बताई गई थी। सिस्टम ने एक छात्र द्वारा ले जाए गए डोरिटोस के बैग को बंदूक समझ लिया था।
झूठी चेतावनी ने एक प्रतिक्रिया शुरू की जो सशस्त्र स्थानीय पुलिस द्वारा स्कूल के प्रवेश द्वार से कुछ ही कदम की दूरी पर परिसर में किशोरों पर हमला करने के साथ समाप्त हुई। संगठन ने कहा कि छात्रों को घुटनों के बल बैठाया गया, हथकड़ी लगाई गई और तलाशी ली गई। न्यूयॉर्क टाइम्स, द गार्जियन, एनबीसी न्यूज, सीबीएस न्यूज और बाल्टीमोर सन सभी ने मुकदमे और अंतर्निहित घटना पर रिपोर्ट दी, जिसने स्कूलों में एआई-आधारित हथियार का पता लगाने पर राष्ट्रीय ध्यान आकर्षित किया है।
प्रेस विज्ञप्ति के अनुसार, फ्रीडा विनफील्ड, जो अपने बेटे कीथ और अन्य छात्रों को हिरासत में लेने के दौरान उन्हें लेने जा रही थीं, ने कहा, "पुलिस ने मेरे बेटे से कहा कि यह एक वास्तविक समस्या हो सकती है। बाल्टीमोर काउंटी में किसी भी बच्चे को अपनी मां से घर जाने के लिए अपने स्कूल के बाहर इंतजार करते समय इस तरह के खतरे का सामना नहीं करना चाहिए।"
मानवीय विफलताओं की एक शृंखला
मुकदमे का एक केंद्रीय दावा यह है कि प्रौद्योगिकी की त्रुटि इसे प्राप्त करने वाले मनुष्यों द्वारा हर बाद के चरण में जटिल हो गई थी। वकीलों की समिति का कहना है कि ओमनीलर्ट के अपने स्टाफ से लेकर स्कूल के प्रिंसिपल से लेकर बाल्टीमोर काउंटी के पुलिस अधिकारियों तक सभी ने इसे नजरअंदाज कर दिया या नजरअंदाज कर दिया कि यह स्पष्ट सबूत है कि कोई बंदूक नहीं थी।
शिकायत में यह भी दावा किया गया है कि स्कूल के अधिकारियों को पता था कि घटना से पहले ओम्निलर्ट प्रणाली नियमित रूप से गलत अलर्ट उत्पन्न करती है - एक दावा, अगर मुकदमा चलाया जाता है, तो यह पता चल जाएगा कि काउंटी ने छात्र-सामना वाले संदर्भों में इसकी तैनाती के खिलाफ प्रौद्योगिकी की विश्वसनीयता को कैसे तौला।
लॉयर्स कमेटी फ़ॉर सिविल राइट्स अंडर लॉ के अध्यक्ष और कार्यकारी निदेशक डेमन हेविट ने कहा, "इन छात्रों को न केवल उस तकनीक के कारण विफल किया गया, जो गलत अलर्ट की संभावना रखती है, बल्कि उन वयस्कों के कारण भी विफल हुई, जो उन्हें स्कूल भेजते समय उन्हें सुरक्षित रखने के लिए बनाए गए थे।" "इस सुरक्षा के बजाय, उन्हें बंदूकें दी गईं और उन्हें आघात पहुँचाया गया। और यह और भी बुरा हो सकता था।"
##मुकदमा क्या चाहता है
नुकसान के अलावा, वकीलों की समिति इस मामले का उपयोग इस बात पर जोर देने के लिए कर रही है कि स्कूल और पुलिस विभाग एआई खतरे का पता लगाने वाले अलर्ट को कैसे संभालते हैं। संगठन ने कहा कि मुकदमे का उद्देश्य सार्वजनिक अभिनेताओं को प्रतिक्रिया देने से पहले एआई खतरे का पता लगाने वाले प्लेटफार्मों से रिपोर्टों को सत्यापित करने के लिए मजबूर करना है, ताकि यह मूल्यांकन किया जा सके कि क्या ऐसी एआई तकनीक स्कूलों में उपयोग के लिए उपयुक्त है, और यह सुनिश्चित करने वाली नीतियां विकसित करना है कि गलत अलर्ट सशस्त्र पुलिस प्रतिक्रियाओं को ट्रिगर न करें।
समूह त्रुटियों और परिणामों के बारे में अधिक प्रशिक्षण, निरीक्षण और पारदर्शिता के साथ-साथ प्रौद्योगिकी को कैसे तैनात किया जाता है, इस पर सामुदायिक इनपुट का भी आह्वान कर रहा है।
वकीलों की समिति में डिजिटल जस्टिस इनिशिएटिव के निदेशक लीह फ्रेज़ियर ने कहा, "अनियंत्रित एआई के गहरे परिणाम होते हैं, खासकर जब इसमें युवा लोग शामिल होते हैं। जैसे-जैसे इस तकनीक को अधिक व्यापक रूप से अपनाया जाता है, यह स्पष्ट नियमों, रेलिंगों और इसके साथ बातचीत करने वाले वयस्कों की अपेक्षाओं की कीमत पर नहीं हो सकता है।"
स्कूलों में एआई हथियारों का पता लगाने के लिए एक परीक्षण मामला
यह मामला तब सामने आया है जब अमेरिकी स्कूल जिले स्कूल में गोलीबारी को रोकने के नाम पर एआई-संचालित हथियार का पता लगाने, प्रवेश द्वारों और निगरानी फ़ीड पर कंप्यूटर विज़न सिस्टम को तेजी से अपना रहे हैं। वकीलों की समिति ने स्पष्ट रूप से व्यापक दांव तय किए, यह तर्क देते हुए कि घटना सार्वजनिक सुरक्षा सेटिंग्स में एआई तकनीक की विश्वसनीयता के बारे में चिंता पैदा करती है "जहां जीवन और मृत्यु की स्थितियों में सटीकता आवश्यक है" - और यह देखते हुए कि ऐसी प्रणालियों से नुकसान और अशुद्धियां काले समुदायों पर प्रतिकूल प्रभाव डालती हैं।
कानूनी पर्यवेक्षक शिकायत में उठाए गए कई सवालों पर नज़र रखेंगे। क्या किसी एआई विक्रेता को उसके पहचान मॉडल के प्रदर्शन के लिए उत्तरदायी ठहराया जा सकता है, क्या उन्हें तैनात करने वाले स्कूल जिलों पर सत्यापन का एक बड़ा कर्तव्य है, और क्या स्वतंत्र पुष्टि के बिना स्वचालित अलर्ट पर पुलिस की निर्भरता अनुचित जब्ती के खिलाफ संवैधानिक सुरक्षा का उल्लंघन करती है, ये सभी जीवंत मुद्दे हैं, बाल्टीमोर काउंटी सर्किट कोर्ट को अब इस पर विचार करने के लिए कहा जाएगा।
मामले के केंद्र में चार छात्रों के लिए - जो बच्चे थे जब अधिकारियों ने नाश्ते के दौरान उन पर हथियार तान दिए - मुकदमा भी व्यक्तिगत है। उनके वकीलों का कहना है कि लक्ष्य यह सुनिश्चित करना है कि किसी भी छात्र को फिर से झूठे अलार्म के कारण सशस्त्र पुलिस का सामना न करना पड़े, जिसे मानवीय समीक्षा सेकंडों में पकड़ सकती थी।
मामला बाल्टीमोर काउंटी के सर्किट कोर्ट में चलेगा। लेखन के समय प्रतिवादियों की ओर से कोई सार्वजनिक प्रतिक्रिया दर्ज नहीं की गई थी।
स्रोत: कानून के तहत नागरिक अधिकारों के लिए वकीलों की समिति प्रेस विज्ञप्ति, द न्यूयॉर्क टाइम्स, द गार्जियन, एनबीसी न्यूज, सीबीएस न्यूज, बाल्टीमोर सन।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →