O Comitê de Advogados para os Direitos Civis sob a Lei entrou com uma ação judicial em 18 de novembro de 2026, em nome de quatro atuais e ex-alunos negros da Kenwood High School no condado de Baltimore, Maryland, depois que um sistema de detecção de armas de IA confundiu um de seus sacos de batatas fritas com uma arma de fogo e policiais armados detiveram e revistaram os adolescentes no campus.
A denúncia, apresentada no Tribunal de Circuito do Condado de Baltimore, nomeia como réus Omnilert, LLC – o fabricante do sistema Omnilert Gun Detect usado nas Escolas Públicas do Condado de Baltimore – junto com as Escolas Públicas e funcionários do Condado de Baltimore, o Departamento de Polícia do Condado de Baltimore e oficiais individuais. Alega violações dos direitos constitucionais federais e estaduais dos estudantes, bem como negligência e negligência grave. Para mais contexto sobre esta história, confira nossa notícias de IA.
O que aconteceu em outubro de 2025
De acordo com o Comitê de Advogados, o incidente começou quando Omnilert Gun Detect – um sistema de vigilância de IA implantado nas escolas do condado – gerou um alerta sinalizando o saco de batatas fritas de um adolescente como uma arma de fogo com uma probabilidade declarada de 90 por cento. O sistema confundiu um saco de Doritos carregado por um dos alunos com uma arma.
O alerta falso desencadeou uma resposta que terminou com a polícia local armada cercando os adolescentes no campus, a poucos passos da entrada da escola. Os estudantes foram obrigados a ficar de joelhos, algemados e revistados, disse a organização. The New York Times, The Guardian, NBC News, CBS News e Baltimore Sun relataram o processo e o incidente subjacente, que chamou a atenção nacional para a detecção de armas baseada em IA nas escolas.
"A polícia disse ao meu filho que isso poderia ter sido um problema real. Nenhuma criança no condado de Baltimore deveria enfrentar esse tipo de perigo enquanto esperava fora de sua própria escola por uma carona de sua mãe para casa", disse Freida Winfield, que estava a caminho para buscar seu filho Keith e os outros estudantes quando eles foram detidos, de acordo com o comunicado de imprensa.
Uma Cadeia de Falhas Humanas
Uma alegação central do processo é que o erro da tecnologia foi agravado a cada passo subsequente pelos humanos que a receberam. O Comitê de Advogados diz que todos, desde a própria equipe da Omnilert até o diretor da escola e os policiais do condado de Baltimore, perderam ou ignoraram o que chama de evidência clara de que não havia arma.
A queixa também afirma que os funcionários da escola sabiam que o sistema Omnilert produzia regularmente alertas falsos antes do incidente – uma alegação que, se litigada, iria ao cerne da forma como o condado avaliou a fiabilidade da tecnologia contra a sua implantação em contextos voltados para os alunos.
“Esses estudantes foram reprovados não apenas por uma tecnologia propensa a alertas falsos, mas também pelos próprios adultos destinados a mantê-los seguros quando os mandamos para a escola”, disse Damon Hewitt, presidente e diretor executivo do Comitê de Advogados para os Direitos Civis sob a Lei. “Em vez dessa proteção, eles foram recebidos com armas e ficaram traumatizados. E poderia ter sido ainda pior”.
O que o processo busca
Além dos danos, o Comité de Advogados está a utilizar o caso para pressionar por mudanças estruturais na forma como as escolas e os departamentos de polícia lidam com alertas de deteção de ameaças por IA. A organização disse que o processo visa forçar reformas que exigem que os intervenientes públicos verifiquem os relatórios das plataformas de detecção de ameaças de IA antes de responder, para avaliar se tal tecnologia de IA é apropriada para utilização nas escolas e para desenvolver políticas que garantam que alertas falsos não desencadeiam respostas policiais armadas.
O grupo também apela a mais formação, supervisão e transparência em torno de erros e resultados, além de contribuições da comunidade sobre como a tecnologia é implementada.
"A IA não regulamentada tem consequências profundas, especialmente quando envolve jovens. À medida que esta tecnologia ganha uma adoção mais generalizada, isso não pode acontecer à custa de regulamentações, proteções e expectativas claras para os adultos que interagem com ela", disse Leah Frazier, diretora da Iniciativa de Justiça Digital no Comitê de Advogados.
Um caso de teste para detecção de armas de IA nas escolas
O caso surge no momento em que os distritos escolares americanos adotam cada vez mais a detecção de armas alimentada por IA, posicionando sistemas de visão computacional nas entradas e nos feeds de vigilância em nome da prevenção de tiroteios em escolas. O Comitê de Advogados enquadrou explicitamente os riscos mais amplos, argumentando que o incidente levanta preocupações sobre a confiabilidade da tecnologia de IA em ambientes de segurança pública “onde a precisão é essencial em situações de vida ou morte” – e observando que os danos e imprecisões de tais sistemas impactam desproporcionalmente as comunidades negras.
Observadores jurídicos estarão atentos a diversas questões levantadas pela denúncia. Se um fornecedor de IA pode ser responsabilizado pelo desempenho dos seus modelos de detecção, se os distritos escolares que os implantam têm um dever acrescido de verificação, e se a confiança da polícia num alerta automatizado sem corroboração independente viola as protecções constitucionais contra apreensões injustificadas são todas questões vivas que o tribunal do condado de Baltimore terá agora de avaliar.
Para os quatro estudantes no centro do caso – que eram crianças quando os policiais apontaram armas para eles durante um lanche – o litígio também é pessoal. Seus advogados dizem que o objetivo é garantir que nenhum estudante enfrente novamente a polícia armada por causa de um alarme falso que uma revisão humana poderia ter detectado em segundos.
O caso prosseguirá no Tribunal Circuito do Condado de Baltimore. Nenhuma resposta pública dos réus havia sido relatada no momento da redação deste artigo.
Fontes: Comunicado de imprensa do Comitê de Advogados para os Direitos Civis sob a Lei, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →