کمیته وکلا برای حقوق مدنی تحت قانون در 18 نوامبر 2026 به نمایندگی از چهار دانش آموز سیاهپوست فعلی و سابق دبیرستان کنوود در شهرستان بالتیمور مریلند، پس از اینکه یک سیستم تشخیص اسلحه هوش مصنوعی یکی از کیسه های تراشه آنها را با سلاح گرم اشتباه گرفت و پلیس مسلح نوجوان را در محوطه دانشگاه بازداشت و بازرسی کرد، شکایتی را تنظیم کرد.

شکایتی که در دادگاه ناحیه بالتیمور ثبت شده است، از Omnilert، LLC - سازنده سیستم تشخیص تفنگ Omnilert که در مدارس دولتی شهرستان بالتیمور استفاده می شود - به همراه مدارس دولتی و پرسنل شهرستان بالتیمور، اداره پلیس شهرستان بالتیمور و افسران فردی به عنوان متهمان نام می برد. این ادعا نقض حقوق اساسی فدرال و ایالتی دانش آموزان و همچنین سهل انگاری و سهل انگاری فاحش است. For more context on this story, see our ongoing AI trends.

آنچه در اکتبر 2025 اتفاق افتاد

به گفته کمیته وکلا، این حادثه زمانی آغاز شد که Omnilert Gun Detect - یک سیستم نظارتی هوش مصنوعی مستقر در مدارس شهرستان - یک هشدار ایجاد کرد که کیسه چیپس یک نوجوان را به عنوان یک سلاح گرم با احتمال 90 درصد اعلام کرد. سیستم یک کیسه دوریتوس را که یکی از دانش‌آموزان حمل می‌کرد با اسلحه اشتباه گرفته بود.

هشدار نادرست واکنشی را به دنبال داشت که با تجمع پلیس محلی مسلح در میان نوجوانان در محوطه دانشگاه، در چند قدمی ورودی مدرسه، به پایان رسید. این سازمان گفت که دانش آموزان به زانو زدن، دستبند زدن و بازرسی دستور داده شدند. نیویورک تایمز، گاردین، ان‌بی‌سی نیوز، سی‌بی‌اس نیوز و بالتیمور سان همگی در مورد این شکایت و حادثه اساسی گزارش کردند که توجه ملی را به کشف سلاح مبتنی بر هوش مصنوعی در مدارس جلب کرده است.

فریدا وینفیلد، که در راه بود تا پسرش کیت و سایر دانش‌آموزان را در هنگام بازداشت، ببرد، گفت: "پلیس به پسرم گفت که این می‌تواند یک مشکل واقعی باشد. هیچ کودکی در شهرستان بالتیمور نباید در حالی که بیرون از مدرسه خود منتظر است تا مادرش به خانه برود، با چنین خطری روبرو شود."

زنجیره ای از شکست های انسانی

یک ادعای اصلی شکایت این است که خطای فناوری در هر مرحله بعدی توسط انسان هایی که آن را دریافت کرده اند، تشدید شده است. کمیته وکلا می‌گوید همه از کارکنان Omnilert گرفته تا مدیر مدرسه گرفته تا افسران پلیس شهرستان بالتیمور آنچه را که شواهد واضحی مبنی بر نبود اسلحه می‌نامد نادیده گرفته یا نادیده گرفته‌اند.

این شکایت همچنین تاکید می‌کند که مقامات مدرسه می‌دانستند که سیستم Omnilert به طور منظم قبل از حادثه هشدارهای نادرست تولید می‌کند - ادعایی که در صورت طرح دعوی، به قلب نحوه سنجش اعتبار این فناوری در برابر استقرار آن در زمینه‌های مواجهه با دانش‌آموز می‌پردازد.

دیمون هویت، رئیس و مدیر اجرایی کمیته وکلا برای حقوق مدنی تحت قانون، گفت: «این دانش‌آموزان نه تنها به دلیل فناوری‌ای که مستعد هشدارهای نادرست است، بلکه به‌خاطر بزرگ‌سالانی که قصد داشتند آنها را هنگام فرستادن به مدرسه ایمن نگه دارند، شکست خوردند. به جای این حفاظت، آنها با اسلحه برخورد کردند و آسیب دیدند. و ممکن بود حتی بدتر هم باشد."

آنچه که دعوا به دنبال آن است

فراتر از خسارات، کمیته وکلا از این پرونده برای اعمال تغییرات ساختاری در نحوه مدیریت مدارس و ادارات پلیس با هشدارهای تشخیص تهدید هوش مصنوعی استفاده می کند. این سازمان اعلام کرد که هدف از این دادخواست اصلاحاتی است که از بازیگران عمومی می‌خواهد قبل از پاسخگویی، گزارش‌های مربوط به پلت‌فرم‌های تشخیص تهدید هوش مصنوعی را تأیید کنند، ارزیابی کنند که آیا چنین فناوری هوش مصنوعی برای استفاده در مدارس اصلا مناسب است یا خیر، و سیاست‌هایی را ایجاد کند که تضمین کند هشدارهای نادرست واکنش‌های مسلحانه پلیس را تحریک نمی‌کند.

این گروه همچنین خواستار آموزش، نظارت و شفافیت بیشتر در مورد خطاها و نتایج، به علاوه نظرات جامعه در مورد نحوه به کارگیری فناوری است.

لی فریزر، مدیر ابتکار عدالت دیجیتال در کمیته وکلا، گفت: "هوش مصنوعی غیرقانونی عواقب عمیقی دارد، به ویژه زمانی که جوانان را درگیر می کند. از آنجایی که این فناوری مورد پذیرش گسترده تر قرار می گیرد، نمی تواند به قیمت قوانین روشن، حفاظ ها و انتظارات برای بزرگسالانی که با آن تعامل دارند، اتفاق بیفتد."

یک مورد آزمایشی برای تشخیص سلاح های هوش مصنوعی در مدارس

این مورد زمانی به میان می‌آید که نواحی مدارس آمریکا به‌طور فزاینده‌ای از شناسایی سلاح‌های مبتنی بر هوش مصنوعی استفاده می‌کنند، سیستم‌های بینایی رایانه‌ای را در ورودی‌ها و روی خوراک‌های نظارتی به نام جلوگیری از تیراندازی در مدارس قرار می‌دهند. کمیته وکلا صراحتاً خطرات گسترده‌تری را مطرح کرد و استدلال کرد که این حادثه نگرانی‌هایی را در مورد قابلیت اطمینان فناوری هوش مصنوعی در تنظیمات ایمنی عمومی ایجاد می‌کند "جایی که دقت در موقعیت‌های مرگ و زندگی ضروری است" - و اشاره کرد که آسیب‌ها و نادرستی‌های ناشی از چنین سیستم‌هایی به‌طور نامتناسبی بر جوامع سیاه پوست تأثیر می‌گذارد.

ناظران حقوقی چندین سوال مطرح شده در این شکایت را بررسی خواهند کرد. اینکه آیا یک فروشنده هوش مصنوعی می‌تواند مسئول عملکرد مدل‌های شناسایی‌اش باشد، آیا مناطق مدرسه‌ای که آنها را مستقر می‌کنند وظیفه تأیید صحت بیشتری دارند یا خیر، و اینکه آیا اتکای پلیس به هشدار خودکار بدون تأیید مستقل، حمایت‌های قانون اساسی در برابر مصادره غیرمنطقی را نقض می‌کند، همگی مسائلی هستند که اکنون از دادگاه منطقه بالتیمور خواسته می‌شود تا بررسی کند.

برای چهار دانش آموزی که در مرکز پرونده قرار داشتند - که در زمانی که افسران برای یک میان وعده اسلحه کشیدند، کودک بودند - دعوی قضایی نیز شخصی است. وکلای آنها می گویند هدف این است که مطمئن شوند هیچ دانش آموزی دوباره با پلیس مسلح به دلیل هشدار نادرستی که یک بررسی انسانی می توانست در چند ثانیه آن را دریافت کند، مواجه نشود.

پرونده در دادگاه منطقه بالتیمور ادامه خواهد یافت. در زمان نگارش این گزارش هیچ واکنش عمومی از سوی متهمان گزارش نشده بود.

منابع: بیانیه مطبوعاتی کمیته وکلای حقوق مدنی تحت قانون، نیویورک تایمز، گاردین، NBC News، CBS News، بالتیمور سان.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →