लॉयर्स कमिटी फॉर सिव्हिल राइट्स अंडर लॉने 18 नोव्हेंबर 2026 रोजी बाल्टिमोर काउंटी, मेरीलँड येथील केनवुड हायस्कूलच्या चार कृष्णवर्णीय आणि माजी विद्यार्थ्यांच्या वतीने खटला दाखल केला, जेव्हा AI गन-डिटेक्शन सिस्टीमने त्यांच्या चिप्सपैकी एक बॅग बंदुक आणि सशस्त्र पोलिसांनी कॅम्पसमध्ये ताब्यात घेतली आणि शोध घेतला.
बाल्टिमोर काउंटीच्या सर्किट कोर्टात दाखल केलेल्या तक्रारीत, प्रतिवादी म्हणून नावे आहेत Omnilert, LLC — बाल्टिमोर काउंटी पब्लिक स्कूलमध्ये वापरल्या जाणाऱ्या Omnilert गन डिटेक्ट सिस्टमचा निर्माता — बाल्टिमोर काउंटी पब्लिक स्कूल आणि कर्मचारी, बाल्टिमोर काउंटी पोलिस विभाग आणि वैयक्तिक अधिकारी. यात विद्यार्थ्यांच्या फेडरल आणि राज्य घटनात्मक अधिकारांचे उल्लंघन तसेच निष्काळजीपणा आणि घोर निष्काळजीपणाचा आरोप करण्यात आला आहे. For more context on this story, see our ongoing artificial intelligence updates.
ऑक्टोबर 2025 मध्ये काय घडले
वकिलांच्या समितीच्या मते, घटनेची सुरुवात झाली जेव्हा ओम्निलर्ट गन डिटेक्ट - एक AI पाळत ठेवणारी प्रणाली काउन्टीच्या शाळांमध्ये तैनात केली गेली होती - 90 टक्के संभाव्यतेसह किशोरवयीन मुलाची चिप्सची पिशवी बंदुक म्हणून ध्वजांकित करणारा इशारा व्युत्पन्न केला. एका विद्यार्थ्याने बंदुकीसाठी घेतलेली डोरिटोसची पिशवी प्रणालीने चुकून केली होती.
खोट्या इशाऱ्याने प्रतिसाद दिला ज्याचा शेवट सशस्त्र स्थानिक पोलिसांनी शाळेच्या प्रवेशद्वारापासून काही पायऱ्यांवरच कॅम्पसमध्ये किशोरवयीन मुलांवर केला. विद्यार्थ्यांना त्यांच्या गुडघ्याला, हातकड्या घालण्याचे आदेश देण्यात आले आणि त्यांची झडती घेण्यात आली, असे संघटनेने म्हटले आहे. द न्यू यॉर्क टाईम्स, द गार्डियन, एनबीसी न्यूज, सीबीएस न्यूज आणि बाल्टिमोर सन या सर्वांनी खटला आणि अंतर्निहित घटनेबद्दल अहवाल दिला, ज्याने शाळांमध्ये एआय-आधारित शस्त्र शोधण्याकडे राष्ट्रीय लक्ष वेधले आहे.
"पोलिसांनी माझ्या मुलाला सांगितले की ही एक वास्तविक समस्या असू शकते. बाल्टिमोर काउंटीमधील कोणत्याही मुलाला त्याच्या आईकडून घरी जाण्यासाठी स्वतःच्या शाळेबाहेर वाट पाहत असताना अशा प्रकारच्या धोक्याला सामोरे जावे लागू नये," असे फ्रिडा विनफिल्ड म्हणाली, जी तिचा मुलगा कीथ आणि इतर विद्यार्थ्यांना ताब्यात घेण्याच्या मार्गावर होती, प्रेस रिलीजनुसार.
मानवी अपयशांची साखळी
खटल्याचा एक मध्यवर्ती दावा असा आहे की तंत्रज्ञानाची त्रुटी नंतरच्या प्रत्येक टप्प्यावर ती प्राप्त झालेल्या मानवांनी वाढवली होती. वकील समिती म्हणते की Omnilert च्या स्वतःच्या कर्मचाऱ्यांपासून ते शाळेच्या मुख्याध्यापकापर्यंत बाल्टिमोर काउंटीच्या पोलिस अधिकाऱ्यांपर्यंत सर्वांनी चुकले किंवा दुर्लक्ष केले ज्याला बंदूक नसल्याचा स्पष्ट पुरावा म्हणतात.
तक्रारीत असेही ठामपणे सांगितले आहे की शाळेच्या अधिकाऱ्यांना हे माहित होते की Omnilert सिस्टीम नियमितपणे घटनेपूर्वी खोट्या सूचना तयार करते — असा दावा की जर खटला भरला गेला तर, काउन्टीने विद्यार्थ्यासमोरील संदर्भांमध्ये त्याच्या तैनातीविरूद्ध तंत्रज्ञानाच्या विश्वासार्हतेचे वजन कसे केले हे लक्षात येईल.
"हे विद्यार्थी केवळ खोट्या सूचनांना प्रवण असलेल्या तंत्रज्ञानामुळेच अयशस्वी झाले होते, परंतु आम्ही त्यांना शाळेत पाठवतो तेव्हा त्यांना सुरक्षित ठेवण्याच्या हेतूने प्रौढांद्वारे देखील अपयशी ठरले होते," डेमन हेविट म्हणाले, लॉयर्स कमिटी फॉर सिव्हिल राइट्स अंडर लॉचे अध्यक्ष आणि कार्यकारी संचालक. "या संरक्षणाऐवजी, त्यांना बंदुकींनी भेटले आणि त्यांना दुखापत झाली. आणि ते आणखी वाईट असू शकते."
खटला काय शोधतो
नुकसानीच्या पलीकडे, वकील समिती या प्रकरणाचा उपयोग शाळा आणि पोलिस विभाग एआय धमकी-शोध अलर्ट कसे हाताळतात त्यामध्ये संरचनात्मक बदल करण्यासाठी प्रयत्न करीत आहे. संस्थेने सांगितले की, या खटल्याचा उद्देश सार्वजनिक अभिनेत्यांना प्रतिसाद देण्यापूर्वी AI धोका-शोधन प्लॅटफॉर्मवरील अहवालांची पडताळणी करणे, शाळांमध्ये वापरण्यासाठी असे AI तंत्रज्ञान अजिबात योग्य आहे की नाही याचे मूल्यमापन करणे आणि खोट्या सूचनांमुळे सशस्त्र पोलिसांच्या प्रतिसादाला चालना मिळणार नाही याची खात्री करण्यासाठी धोरणे विकसित करणे आवश्यक आहे.
हा गट त्रुटी आणि परिणामांबद्दल अधिक प्रशिक्षण, पर्यवेक्षण आणि पारदर्शकता, तसेच तंत्रज्ञान कसे उपयोजित केले जाते यावर समुदाय इनपुटसाठी देखील कॉल करीत आहे.
"अनियंत्रित AI चे गंभीर परिणाम आहेत, विशेषत: तरुण लोकांचा समावेश असताना. हे तंत्रज्ञान अधिक व्यापकपणे स्वीकारत असल्याने, स्पष्ट नियम, रेलिंग आणि त्याच्याशी संवाद साधणाऱ्या प्रौढांच्या अपेक्षांच्या खर्चावर हे घडू शकत नाही," असे वकील समितीच्या डिजिटल जस्टिस इनिशिएटिव्हच्या संचालक लीह फ्रेझियर म्हणाल्या.
शाळांमध्ये AI शस्त्रे शोधण्यासाठी चाचणी प्रकरण
अमेरिकन शाळेतील जिल्हे शाळेतील गोळीबार रोखण्याच्या नावाखाली एआय-चालित शस्त्रे शोधणे, प्रवेशद्वारांवर आणि पाळत ठेवण्याच्या फीडवर संगणक व्हिजन सिस्टीमची स्थिती वाढवत असल्याने हे प्रकरण पुढे आले आहे. वकिलांच्या समितीने स्पष्टपणे विस्तृत भूमिका मांडल्या, या घटनेमुळे सार्वजनिक सुरक्षा सेटिंग्जमध्ये AI तंत्रज्ञानाच्या विश्वासार्हतेबद्दल चिंता निर्माण झाली आहे "जिथे जीवन-मृत्यूच्या परिस्थितीत अचूकता आवश्यक आहे" - आणि अशा प्रणालींमुळे होणारे हानी आणि अयोग्यता कृष्णवर्णीय समुदायांवर असमानतेने परिणाम करतात हे लक्षात घेऊन.
तक्रारीमुळे उद्भवणाऱ्या अनेक प्रश्नांवर कायदेशीर निरीक्षकांचे लक्ष असेल. एआय विक्रेत्याला त्याच्या शोध मॉडेल्सच्या कामगिरीसाठी जबाबदार धरले जाऊ शकते का, त्यांना तैनात करणाऱ्या शाळा जिल्हे पडताळणीचे उच्च कर्तव्य बजावतात का, आणि स्वतंत्र पुष्टीकरणाशिवाय स्वयंचलित इशाऱ्यावर पोलिस अवलंबून राहणे हे अवास्तव जप्तीविरूद्ध घटनात्मक संरक्षणांचे उल्लंघन करते की नाही हे सर्व थेट मुद्दे बाल्टिमोर काउंटी सर्किटला आता आम्हाला विचारले जातील.
या प्रकरणाच्या केंद्रस्थानी असलेल्या चार विद्यार्थ्यांसाठी - जे लहान मुले होते जेव्हा अधिकाऱ्यांनी फराळाच्या वेळी त्यांच्यावर शस्त्रे काढली - खटला देखील वैयक्तिक आहे. त्यांच्या वकिलांचे म्हणणे आहे की मानवी पुनरावलोकनाने काही सेकंदात पकडलेल्या खोट्या अलार्मवर कोणत्याही विद्यार्थ्याला पुन्हा सशस्त्र पोलिसांचा सामना करावा लागणार नाही याची खात्री करणे हे ध्येय आहे.
बाल्टिमोर काउंटीसाठी सर्किट कोर्टात केस पुढे जाईल. लेखनाच्या वेळी प्रतिवादींकडून कोणतीही सार्वजनिक प्रतिक्रिया नोंदवली गेली नव्हती.
स्रोत: लॉयर्स कमिटी फॉर सिव्हिल राइट्स अंडर लॉ प्रेस रिलीज, द न्यूयॉर्क टाइम्स, द गार्डियन, एनबीसी न्यूज, सीबीएस न्यूज, बाल्टिमोर सन.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →