El Comité de Abogados por los Derechos Civiles bajo la Ley presentó una demanda el 18 de noviembre de 2026, en nombre de cuatro estudiantes negros actuales y anteriores de la escuela secundaria Kenwood en el condado de Baltimore, Maryland, después de que un sistema de detección de armas de inteligencia artificial confundiera una de sus bolsas de chips con un arma de fuego y la policía armada detuviera y registrara a los adolescentes en el campus.
La demanda, presentada en el Tribunal de Circuito del Condado de Baltimore, nombra como demandados a Omnilert, LLC, el fabricante del sistema Omnilert Gun Detect utilizado en las Escuelas Públicas del Condado de Baltimore, junto con las Escuelas Públicas del Condado de Baltimore y su personal, el Departamento de Policía del Condado de Baltimore y agentes individuales. Alega violaciones de los derechos constitucionales federales y estatales de los estudiantes, así como negligencia y negligencia grave. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
Qué pasó en octubre de 2025
Según el Comité de Abogados, el incidente comenzó cuando Omnilert Gun Detect, un sistema de vigilancia de inteligencia artificial desplegado en las escuelas del condado, generó una alerta que señalaba la bolsa de papas fritas de un adolescente como un arma de fuego con una probabilidad declarada del 90 por ciento. El sistema había confundido una bolsa de Doritos que llevaba uno de los estudiantes con un arma.
La falsa alerta desató una respuesta que terminó con policías locales armados rodeando a los adolescentes en el campus, a pocos pasos de la entrada de la escuela. Los estudiantes fueron ordenados a arrodillarse, esposados y registrados, dijo la organización. The New York Times, The Guardian, NBC News, CBS News y el Baltimore Sun informaron sobre la demanda y el incidente subyacente, que ha llamado la atención nacional sobre la detección de armas basadas en IA en las escuelas.
"La policía le dijo a mi hijo que esto podría haber sido un problema real. Ningún niño en el condado de Baltimore debería enfrentar este tipo de peligro mientras espera afuera de su propia escuela a que su madre lo lleve a casa", dijo Freida Winfield, quien se dirigía a recoger a su hijo Keith y a los otros estudiantes cuando fueron detenidos, según el comunicado de prensa.
Una cadena de fracasos humanos
Una afirmación central de la demanda es que el error de la tecnología se vio agravado en cada paso posterior por los humanos que la recibieron. El Comité de Abogados dice que todos, desde el propio personal de Omnilert hasta el director de la escuela y los agentes de policía del condado de Baltimore, pasaron por alto o ignoraron lo que llama evidencia clara de que no había ningún arma.
La denuncia también afirma que los funcionarios escolares sabían que el sistema Omnilert producía regularmente alertas falsas antes del incidente, una afirmación que, si se litigara, llegaría al corazón de cómo el condado sopesó la confiabilidad de la tecnología frente a su implementación en contextos de cara a los estudiantes.
"A estos estudiantes les falló no sólo una tecnología que es propensa a falsas alertas, sino también los propios adultos destinados a mantenerlos seguros cuando los enviamos a la escuela", dijo Damon Hewitt, presidente y director ejecutivo del Comité de Abogados por los Derechos Civiles Bajo la Ley. "En lugar de esta protección, fueron recibidos con armas y traumatizados. Y podría haber sido incluso peor".
Lo que busca la demanda
Más allá de los daños, el Comité de Abogados está utilizando el caso para impulsar cambios estructurales en la forma en que las escuelas y los departamentos de policía manejan las alertas de detección de amenazas de IA. La organización dijo que la demanda tiene como objetivo forzar reformas que exijan a los actores públicos verificar los informes de las plataformas de detección de amenazas de IA antes de responder, evaluar si dicha tecnología de IA es apropiada para su uso en las escuelas y desarrollar políticas que garanticen que las alertas falsas no desencadenen respuestas policiales armadas.
El grupo también pide más capacitación, supervisión y transparencia en torno a los errores y resultados, además de aportes de la comunidad sobre cómo se implementa la tecnología.
"La IA no regulada tiene consecuencias profundas, especialmente cuando involucra a jóvenes. A medida que esta tecnología gana en adopción generalizada, no puede ocurrir a expensas de regulaciones, barreras de seguridad y expectativas claras para los adultos que interactúan con ella", dijo Leah Frazier, directora de la Iniciativa de Justicia Digital del Comité de Abogados.
Un caso de prueba para la detección de armas de IA en las escuelas
El caso llega cuando los distritos escolares estadounidenses adoptan cada vez más la detección de armas impulsada por inteligencia artificial, colocando sistemas de visión por computadora en las entradas y en las señales de vigilancia con el fin de prevenir tiroteos en las escuelas. El Comité de Abogados enmarcó explícitamente lo que está en juego, argumentando que el incidente genera preocupaciones sobre la confiabilidad de la tecnología de inteligencia artificial en entornos de seguridad pública "donde la precisión es esencial en situaciones de vida o muerte", y señalando que los daños y las imprecisiones de tales sistemas impactan de manera desproporcionada a las comunidades negras.
Los observadores legales estarán atentos a varias preguntas que plantea la denuncia. Si un proveedor de IA puede ser considerado responsable por el desempeño de sus modelos de detección, si los distritos escolares que los implementan deben un mayor deber de verificación y si la dependencia policial de una alerta automatizada sin una corroboración independiente viola las protecciones constitucionales contra incautaciones irrazonables son cuestiones actuales que ahora se le pedirá que sopese el tribunal de circuito del condado de Baltimore.
Para los cuatro estudiantes en el centro del caso, que eran niños cuando los agentes les apuntaron con armas mientras tomaban un refrigerio, el litigio también es personal. Sus abogados dicen que el objetivo es garantizar que ningún estudiante vuelva a enfrentarse a la policía armada por una falsa alarma que una revisión humana podría haber detectado en segundos.
El caso procederá en el Tribunal de Circuito del condado de Baltimore. Al momento de escribir este artículo no se había informado de ninguna respuesta pública de los acusados.
Fuentes: Comunicado de prensa del Comité de Abogados por los Derechos Civiles según la Ley, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →