Комитет юристов за гражданские права по закону подал иск 18 ноября 2026 года от имени четырех чернокожих нынешних и бывших учащихся средней школы Кенвуд в округе Балтимор, штат Мэриленд, после того, как система обнаружения оружия с искусственным интеллектом приняла один из их пакетов с чипсами за огнестрельное оружие, а вооруженная полиция задержала и обыскала подростков на территории кампуса.
В жалобе, поданной в окружной суд округа Балтимор, в качестве ответчиков названа компания Omnilert, LLC — производитель системы обнаружения оружия Omnilert, используемой в государственных школах округа Балтимор, а также государственные школы и персонал округа Балтимор, полицейское управление округа Балтимор и отдельные офицеры. Оно утверждает о нарушениях федеральных и государственных конституционных прав студентов, а также о халатности и грубой небрежности. Подробнее об этой истории — в нашем тенденции ИИ.
Что произошло в октябре 2025 года
По данным Комитета юристов, инцидент начался, когда Omnilert Gun Detect — система наблюдения с искусственным интеллектом, развернутая в школах округа, — с заявленной вероятностью 90 процентов сгенерировала предупреждение, пометив пакет чипсов подростка как огнестрельное оружие. Система приняла сумку Doritos, которую нес один из студентов, за пистолет.
Ложная тревога вызвала ответную реакцию, которая закончилась тем, что вооруженная местная полиция напала на подростков в кампусе, всего в нескольких шагах от входа в школу. Студентам приказали встать на колени, надеть наручники и обыскать, сообщили в организации. The New York Times, The Guardian, NBC News, CBS News и Baltimore Sun сообщили о судебном иске и лежащем в его основе инциденте, который привлек внимание всей страны к обнаружению оружия с помощью искусственного интеллекта в школах.
"Полиция сказала моему сыну, что это могло быть настоящей проблемой. Ни один ребенок в округе Балтимор не должен подвергаться такой опасности, ожидая возле своей школы, пока его мать отвезет домой", - сказала Фрида Уинфилд, которая ехала забрать своего сына Кита и других учеников, когда они были задержаны, согласно пресс-релизу.
Цепочка человеческих неудач
Центральное утверждение иска заключается в том, что ошибка технологии на каждом последующем этапе усугублялась людьми, получившими ее. Комитет юристов заявляет, что все, от сотрудников Omnilert до директора школы и полицейских округа Балтимор, пропустили или проигнорировали то, что он называет явными доказательствами отсутствия оружия.
В жалобе также утверждается, что руководство школы знало, что система Omnilert регулярно выдавала ложные оповещения до инцидента — утверждение, которое в случае судебного разбирательства затронет суть того, как округ сопоставляет надежность технологии с ее применением в контексте, с которым сталкиваются учащиеся.
«Эти ученики потерпели неудачу не только из-за технологии, которая склонна к ложным оповещениям, но и из-за самих взрослых, призванных обеспечивать их безопасность, когда мы отправляем их в школу», — сказал Дэймон Хьюитт, президент и исполнительный директор Комитета юристов за гражданские права в соответствии с законом. «Вместо этой защиты их встретили с оружием и травмировали. А могло быть и хуже».
Чего требует иск
Помимо возмещения ущерба, Комитет юристов использует это дело, чтобы добиться структурных изменений в том, как школы и полицейские управления обрабатывают оповещения об обнаружении угроз ИИ. В организации заявили, что иск направлен на то, чтобы провести реформы, требующие от государственных субъектов проверять отчеты с платформ обнаружения угроз ИИ, прежде чем реагировать, оценить, подходит ли такая технология ИИ вообще для использования в школах, а также разработать политику, гарантирующую, что ложные оповещения не вызовут ответных действий вооруженной полиции.
Группа также призывает к большему обучению, надзору и прозрачности в отношении ошибок и результатов, а также к участию сообщества в том, как развертывается технология.
«Нерегулируемый ИИ имеет серьезные последствия, особенно когда речь идет о молодых людях. Поскольку эта технология получает все более широкое распространение, это не может произойти за счет четких правил, ограничений и ожиданий для взрослых, которые с ней взаимодействуют», — сказала Лия Фрейзер, директор Инициативы цифрового правосудия в Комитете юристов.
Тестовый пример обнаружения ИИ-оружия в школах
Этот случай возник в связи с тем, что американские школьные округа все чаще применяют обнаружение оружия с помощью искусственного интеллекта, размещая системы компьютерного зрения у входов и на каналах наблюдения во имя предотвращения стрельбы в школах. Комитет юристов четко сформулировал более широкие ставки, заявив, что инцидент вызывает обеспокоенность по поводу надежности технологии искусственного интеллекта в условиях общественной безопасности, «где точность важна в ситуациях жизни и смерти» — и отметив, что вред и неточности от таких систем непропорционально влияют на чернокожие сообщества.
Юридические наблюдатели будут следить за некоторыми вопросами, поднятыми в жалобе. Окружной суд округа Балтимор теперь должен будет взвесить вопрос о том, может ли поставщик искусственного интеллекта быть привлечен к ответственности за эффективность своих моделей обнаружения, обязаны ли школьные округа, которые их используют, усиленной обязанности проверки, и нарушает ли использование полицией автоматического оповещения без независимого подтверждения конституционную защиту от необоснованного ареста.
Для четырех студентов, находящихся в центре дела, которые были детьми, когда полицейские направили на них оружие во время перекуса, судебный процесс также носит личный характер. Их адвокаты говорят, что цель состоит в том, чтобы ни один студент снова не столкнулся с вооруженной полицией из-за ложной тревоги, которую человеческая проверка могла бы обнаружить за считанные секунды.
Дело будет рассматриваться в окружном суде округа Балтимор. На момент написания статьи никакой публичной реакции со стороны ответчиков не поступало.
Источники: Пресс-релиз Комитета юристов за гражданские права согласно закону, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →