وکلاء کی کمیٹی برائے شہری حقوق کے تحت قانون نے 18 نومبر 2026 کو میری لینڈ کے بالٹی مور کاؤنٹی میں کین ووڈ ہائی اسکول کے چار سیاہ فام اور سابق طلباء کی جانب سے ایک مقدمہ دائر کیا جب AI بندوق کا پتہ لگانے والے نظام نے ان کے چپس کے ایک بیگ کو آتشیں اسلحہ اور مسلح پولیس نے حراست میں لے لیا اور کیمپس میں تلاشی لی۔

بالٹیمور کاؤنٹی کے لیے سرکٹ کورٹ میں دائر کی گئی شکایت، مدعا علیہان کے نام Omnilert, LLC — بالٹیمور کاؤنٹی پبلک اسکولوں میں استعمال ہونے والے Omnilert Gun Detect سسٹم کے بنانے والے — بالٹیمور کاؤنٹی پبلک اسکولوں اور اہلکاروں کے ساتھ، بالٹیمور کاؤنٹی پولیس ڈیپارٹمنٹ، اور انفرادی افسران۔ اس میں طلبہ کے وفاقی اور ریاستی آئینی حقوق کی خلاف ورزی کے ساتھ ساتھ لاپرواہی اور سنگین غفلت کا الزام لگایا گیا ہے۔ For more context on this story, see our ongoing AI industry coverage.

اکتوبر 2025 میں کیا ہوا؟

وکلاء کی کمیٹی کے مطابق، یہ واقعہ اس وقت شروع ہوا جب Omnilert Gun Detect - ایک AI سرویلنس سسٹم جو کاؤنٹی کے اسکولوں میں تعینات ہے - نے 90 فیصد امکان کے ساتھ ایک نوجوان کے چپس کے بیگ کو آتشیں ہتھیار کے طور پر جھنڈا لگاتے ہوئے ایک الرٹ تیار کیا۔ سسٹم نے ڈوریٹوس کے ایک بیگ کو غلطی سے ایک طالب علم کے پاس بندوق سمجھ لیا تھا۔

جھوٹے انتباہ نے ایک ردعمل کا آغاز کیا جس کا اختتام مسلح مقامی پولیس کے کیمپس میں نوعمروں کے ہجوم کے ساتھ ہوا، اسکول کے داخلی دروازے سے محض چند قدم کے فاصلے پر۔ تنظیم نے کہا کہ طلباء کو گھٹنوں کے بل، ہتھکڑیاں لگانے اور تلاشی لینے کا حکم دیا گیا۔ دی نیویارک ٹائمز، دی گارڈین، این بی سی نیوز، سی بی ایس نیوز اور بالٹیمور سن سبھی نے مقدمے اور بنیادی واقعے کے بارے میں رپورٹ کیا، جس نے اسکولوں میں AI پر مبنی ہتھیاروں کی کھوج کی طرف قومی توجہ مبذول کرائی ہے۔

پریس ریلیز کے مطابق، "پولیس نے میرے بیٹے کو بتایا کہ یہ ایک حقیقی مسئلہ ہو سکتا ہے۔ بالٹی مور کاؤنٹی میں کسی بھی بچے کو اس قسم کے خطرے کا سامنا نہیں کرنا چاہئے جب وہ اپنے اسکول کے باہر اپنی ماں سے گھر جانے کے لیے انتظار کر رہے تھے،" فریڈا ون فیلڈ نے کہا، جو اپنے بیٹے کیتھ اور دیگر طلباء کو حراست میں لینے کے لیے جا رہی تھی، پریس ریلیز کے مطابق۔

انسانی ناکامیوں کا سلسلہ

مقدمے کا ایک مرکزی دعویٰ یہ ہے کہ ٹیکنالوجی کی غلطی ہر آنے والے قدم پر ان انسانوں کی طرف سے بڑھ گئی تھی جنہوں نے اسے حاصل کیا تھا۔ وکلاء کی کمیٹی کا کہنا ہے کہ Omnilert کے اپنے عملے سے لے کر اسکول کے پرنسپل تک بالٹیمور کاؤنٹی کے پولیس افسران تک سبھی نے یاد کیا یا نظر انداز کیا جسے یہ واضح ثبوت کہتے ہیں کہ بندوق نہیں تھی۔

شکایت میں یہ بھی دعویٰ کیا گیا ہے کہ اسکول کے اہلکار جانتے تھے کہ Omnilert سسٹم اس واقعے سے پہلے باقاعدگی سے غلط الرٹس تیار کرتا ہے - ایک دعویٰ کہ، اگر مقدمہ چلایا جاتا ہے، تو اس بات کے دل میں جائے گا کہ کس طرح کاؤنٹی نے طالب علم کو درپیش سیاق و سباق میں اس کی تعیناتی کے خلاف ٹیکنالوجی کی وشوسنییتا کا وزن کیا۔

وکلاء کی کمیٹی برائے شہری حقوق کے تحت قانون کے صدر اور ایگزیکٹو ڈائریکٹر ڈیمن ہیوٹ نے کہا، "یہ طلباء نہ صرف ایک ایسی ٹیکنالوجی کے ذریعے ناکام ہوئے جو جھوٹے انتباہات کا شکار ہے، بلکہ ان بالغوں کی طرف سے بھی ناکام ہوئے جس کا مقصد انہیں اسکول بھیجتے وقت انہیں محفوظ رکھنا تھا۔" "اس تحفظ کے بجائے، وہ بندوقوں سے ملے اور صدمے کا شکار ہوئے۔ اور یہ اور بھی برا ہو سکتا تھا۔"

مقدمہ کیا چاہتا ہے۔

نقصانات کے علاوہ، وکلاء کی کمیٹی اس کیس کو ڈھانچہ جاتی تبدیلیوں پر زور دینے کے لیے استعمال کر رہی ہے کہ اسکولوں اور پولیس کے محکمے کس طرح AI خطرے کا پتہ لگانے کے انتباہات کو ہینڈل کرتے ہیں۔ تنظیم نے کہا کہ اس مقدمے کا مقصد اصلاحات پر مجبور کرنا ہے جس میں عوامی اداکاروں کو جواب دینے سے پہلے AI خطرے کا پتہ لگانے والے پلیٹ فارم سے رپورٹس کی تصدیق کرنے کی ضرورت ہوتی ہے، اس بات کا جائزہ لینا کہ آیا اس طرح کی AI ٹیکنالوجی اسکولوں میں استعمال کے لیے بالکل بھی مناسب ہے، اور ایسی پالیسیاں تیار کرنا ہے جو اس بات کو یقینی بنائے کہ غلط انتباہات مسلح پولیس کے ردعمل کو متحرک نہ کریں۔

یہ گروپ غلطیوں اور نتائج کے بارے میں مزید تربیت، نگرانی اور شفافیت کے ساتھ ساتھ ٹیکنالوجی کو کیسے استعمال کیا جاتا ہے اس کے بارے میں کمیونٹی ان پٹ کا بھی مطالبہ کر رہا ہے۔

وکلاء کی کمیٹی میں ڈیجیٹل جسٹس انیشی ایٹو کی ڈائریکٹر لیہ فریزیئر نے کہا، "غیر منظم AI کے گہرے نتائج ہوتے ہیں، خاص طور پر جب یہ ٹیکنالوجی زیادہ وسیع پیمانے پر اپنائی جاتی ہے، یہ واضح ضابطوں، حفاظتی اصولوں، اور بالغوں کی توقعات کی قیمت پر نہیں ہو سکتی جو اس کے ساتھ تعامل کرتے ہیں۔"

اسکولوں میں AI ہتھیاروں کی کھوج کے لیے ایک ٹیسٹ کیس

یہ معاملہ اس وقت سامنے آیا ہے جب امریکی اسکولوں کے اضلاع اسکول کی فائرنگ کو روکنے کے نام پر تیزی سے AI سے چلنے والے ہتھیاروں کا پتہ لگانے، کمپیوٹر وژن کے نظام کو داخلی راستوں اور نگرانی کے فیڈز کو اپنا رہے ہیں۔ وکلاء کی کمیٹی نے واضح طور پر وسیع تر داؤ پر لگاتے ہوئے کہا کہ یہ واقعہ عوامی حفاظت کی ترتیبات میں AI ٹیکنالوجی کی وشوسنییتا کے بارے میں خدشات کو جنم دیتا ہے "جہاں زندگی اور موت کے حالات میں درستگی ضروری ہے" - اور یہ نوٹ کرتے ہوئے کہ اس طرح کے نظاموں سے ہونے والے نقصانات اور غلطیاں غیر متناسب طور پر سیاہ برادریوں کو متاثر کرتی ہیں۔

قانونی مبصرین کئی سوالات پر نظر رکھیں گے جو شکایت اٹھاتے ہیں۔ کیا کسی AI وینڈر کو اس کے پتہ لگانے والے ماڈلز کی کارکردگی کے لیے ذمہ دار ٹھہرایا جا سکتا ہے، کیا ان کو تعینات کرنے والے اسکولوں کے اضلاع کی تصدیق کی زیادہ ذمہ داری عائد ہوتی ہے، اور کیا پولیس کا خود کار الرٹ پر انحصار آزادانہ تصدیق کے بغیر غیر معقول قبضے کے خلاف آئینی تحفظات کی خلاف ورزی کرتا ہے، یہ تمام زندہ مسائل ہیں جو بالٹیمور کاؤنٹی سرکٹ کی عدالت سے اب ہم سے پوچھے جائیں گے۔

کیس کے مرکز میں چار طلباء کے لئے - جو بچے تھے جب افسران نے ناشتے پر ان پر ہتھیار کھینچے - قانونی چارہ جوئی بھی ذاتی ہے۔ ان کے وکلاء کا کہنا ہے کہ مقصد اس بات کو یقینی بنانا ہے کہ کسی بھی طالب علم کو دوبارہ مسلح پولیس کا سامنا نہ ہو اس غلط الارم پر جسے انسانی جائزہ سیکنڈوں میں پکڑ سکتا ہے۔

کیس بالٹی مور کاؤنٹی کے لیے سرکٹ کورٹ میں آگے بڑھے گا۔ تحریر کے وقت مدعا علیہان کی طرف سے کسی عوامی ردعمل کی اطلاع نہیں دی گئی تھی۔

ذرائع: وکلاء کی کمیٹی برائے شہری حقوق کے تحت قانون کی پریس ریلیز، دی نیویارک ٹائمز، دی گارڈین، این بی سی نیوز، سی بی ایس نیوز، بالٹیمور سن۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →