18 листопада 2026 року Комітет юристів із захисту громадянських прав подав позов від імені чотирьох чорношкірих нинішніх і колишніх учнів середньої школи Кенвуд в окрузі Балтімор, штат Меріленд, після того, як система виявлення зброї зі штучним інтелектом прийняла один із їхніх мішків з чіпами за вогнепальну зброю, а озброєна поліція затримала й обшукала підлітків на кампусі.
У скарзі, поданій до окружного суду округу Балтімор, відповідачами названо Omnilert, LLC — виробника системи Omnilert Gun Detect, яка використовується в державних школах округу Балтімор, а також державні школи округу Балтімор та персонал, департамент поліції округу Балтімор та окремих офіцерів. У ньому стверджується порушення федеральних конституційних прав студентів і прав штату, а також недбалість і груба недбалість. For more context on this story, see our ongoing more AI stories.
Що сталося в жовтні 2025 року
За даними Комітету юристів, інцидент почався, коли Omnilert Gun Detect — система стеження зі штучним інтелектом, розгорнута в школах округу — згенерувала сповіщення, яке позначало пакет чіпсів підлітка як вогнепальну зброю із заявленою 90-відсотковою ймовірністю. Система помилково сприйняла сумку Doritos, яку ніс один зі студентів, за пістолет.
Помилкова тривога викликала реакцію, яка закінчилася тим, що озброєна місцева поліція кишила підлітків у кампусі, лише за кілька кроків від входу в школу. За словами організації, студентам наказали стати на коліна, одягнути наручники та обшукати. New York Times, The Guardian, NBC News, CBS News і Baltimore Sun повідомили про судовий позов і інцидент, який привернув увагу країни до виявлення зброї в школах за допомогою ШІ.
«Поліція повідомила моєму синові, що це може бути справжньою проблемою. Жодна дитина в окрузі Балтимор не повинна стикатися з такою небезпекою, чекаючи біля своєї школи, поки її мати підвезе додому», — сказала Фрейда Вінфілд, яка йшла за своїм сином Кітом та іншими учнями, коли їх затримали, згідно з прес-релізом.
Ланцюг людських невдач
Основна претензія в позові полягає в тому, що помилка технології посилювалася на кожному наступному кроці людьми, які її отримали. Комітет юристів каже, що всі, від персоналу Omnilert до директора школи та офіцерів поліції округу Балтимор, пропустили або проігнорували те, що він називає явними доказами того, що зброї не було.
У скарзі також стверджується, що шкільні чиновники знали, що система Omnilert регулярно створювала хибні сповіщення до інциденту — твердження, яке, якби було порушено судовий процес, торкнулося б суті того, як округ зважив надійність технології та її розгортання в контекстах, які стосуються учнів.
«Цих учнів підвела не тільки технологія, схильна до помилкових сповіщень, але й ті самі дорослі, які мали забезпечити їхню безпеку, коли ми відправляємо їх до школи», — сказав Деймон Х’юітт, президент і виконавчий директор Комітету юристів із захисту громадянських прав згідно з законом. «Замість цього захисту їх зустріли зі зброєю та отримали травми. А могло бути ще гірше».
Що шукає позов
Крім відшкодування збитків, Комітет юристів використовує справу, щоб просувати структурні зміни в тому, як школи та поліцейські відділи обробляють сповіщення про виявлення загроз ШІ. Організація заявила, що позов має на меті примусити реформи, які вимагають від громадських діячів перевіряти звіти від платформ виявлення загроз штучного інтелекту, перш ніж реагувати, щоб оцінити, чи така технологія штучного інтелекту взагалі підходить для використання в школах, і розробити політику, яка гарантує, що помилкові тривоги не викликатимуть збройної реакції поліції.
Група також закликає до більшого навчання, нагляду та прозорості щодо помилок і результатів, а також внеску спільноти щодо того, як розгортається технологія.
«Нерегульований штучний інтелект має серйозні наслідки, особливо коли залучає молодь. Оскільки ця технологія набуває все більшого поширення, це не може статися за рахунок чітких правил, огорож і очікувань для дорослих, які з нею взаємодіють», — сказала Лія Фрейзер, директор Ініціативи цифрового правосуддя в Комітеті юристів.
Тестовий приклад виявлення зброї ШІ в школах
Ця справа почалася в той момент, коли американські шкільні округи все частіше використовують засоби виявлення зброї на основі штучного інтелекту, розміщуючи системи комп’ютерного бачення на входах і на каналах спостереження в ім’я запобігання шкільній стрілянині. Комітет юристів чітко сформулював ширші ставки, стверджуючи, що інцидент викликає занепокоєння щодо надійності технології штучного інтелекту в умовах громадської безпеки, «де точність важлива в ситуаціях, пов’язаних із життям і смертю», і зазначивши, що шкода та неточності від таких систем непропорційно впливають на чорношкірі спільноти.
Правові спостерігачі будуть стежити за кількома питаннями, які піднімає скарга. Чи може постачальник штучного інтелекту нести відповідальність за ефективність своїх моделей виявлення, чи зобов’язані шкільні округи, які впроваджують їх, посилено перевіряти, і чи довіра поліції до автоматизованих оповіщень без незалежного підтвердження порушує конституційний захист від необґрунтованого вилучення – все це актуальні питання, які тепер має розглянути окружний суд округу Балтимор.
Для чотирьох студентів у центрі справи — які були дітьми, коли офіцери витягнули в них зброю за перекусом — судовий процес також є особистим. Їхні адвокати кажуть, що мета полягає в тому, щоб переконатися, що жоден студент знову не зіткнеться з озброєною поліцією через помилкову тривогу, яку перевірка людьми могла виявити за лічені секунди.
Справа буде розглянута в окружному суді округу Балтімор. Жодної публічної реакції з боку відповідачів на момент написання статті не надходило.
Джерела: прес-реліз Комітету юристів із захисту громадянських прав згідно із законом, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →