Ủy ban Luật sư về Quyền Dân sự Theo Luật đã đệ đơn kiện vào ngày 18 tháng 11 năm 2026, thay mặt cho bốn học sinh da đen hiện tại và cựu học sinh của Trường Trung học Kenwood ở Quận Baltimore, Maryland, sau khi hệ thống phát hiện súng AI nhầm một trong những túi khoai tây chiên của họ với một khẩu súng và cảnh sát vũ trang đã bắt giữ và khám xét các thanh thiếu niên trong khuôn viên trường.

Đơn khiếu nại, được đệ trình lên Tòa án Quận Baltimore, nêu tên là các bị cáo Omnilert, LLC - nhà sản xuất hệ thống Omnilert Gun Detect được sử dụng trên khắp các Trường Công lập Quận Baltimore - cùng với các Trường Công lập Quận Baltimore và nhân viên, Sở Cảnh sát Quận Baltimore và các sĩ quan riêng lẻ. Nó cáo buộc các hành vi vi phạm các quyền hiến định của liên bang và tiểu bang cũng như sự sơ suất và sơ suất nghiêm trọng của sinh viên. For more context on this story, see our ongoing breaking AI news.

Chuyện gì đã xảy ra vào tháng 10 năm 2025

Theo Ủy ban Luật sư, vụ việc bắt đầu khi Omnilert Gun Detect - một hệ thống giám sát AI được triển khai trên khắp các trường học của quận - tạo ra cảnh báo gắn cờ túi khoai tây chiên của một thiếu niên là súng với xác suất 90%. Hệ thống đã nhầm túi Doritos do một học sinh mang theo là súng.

Cảnh báo sai đã gây ra phản ứng kết thúc bằng việc cảnh sát vũ trang địa phương tràn vào các thanh thiếu niên trong khuôn viên trường, chỉ cách lối vào trường vài bước chân. Tổ chức này cho biết các sinh viên được yêu cầu quỳ gối, còng tay và khám xét. New York Times, The Guardian, NBC News, CBS News và Baltimore Sun đều đưa tin về vụ kiện và vụ việc cơ bản, điều này đã thu hút sự chú ý của cả nước về việc phát hiện vũ khí dựa trên AI trong trường học.

Freida Winfield, người đang trên đường đi đón con trai Keith và các học sinh khác khi họ bị giam giữ, cho biết: “Cảnh sát nói với con trai tôi rằng đây có thể là một vấn đề thực sự. Không có đứa trẻ nào ở Quận Baltimore phải đối mặt với loại nguy hiểm này khi đợi bên ngoài trường học của mình để được mẹ chở về nhà”.

Chuỗi thất bại của con người

Tuyên bố trọng tâm của vụ kiện là lỗi của công nghệ càng trở nên trầm trọng hơn ở mỗi bước tiếp theo bởi những người nhận được nó. Ủy ban Luật sư cho biết tất cả mọi người từ nhân viên của Omnilert, hiệu trưởng đến cảnh sát Quận Baltimore đều bỏ qua hoặc phớt lờ những gì họ gọi là bằng chứng rõ ràng rằng không có súng.

Đơn khiếu nại cũng khẳng định rằng các quan chức nhà trường biết hệ thống Omnilert thường xuyên đưa ra cảnh báo sai trước khi xảy ra vụ việc - một tuyên bố rằng, nếu bị kiện, sẽ đi sâu vào cách quận cân nhắc độ tin cậy của công nghệ so với việc triển khai nó trong bối cảnh học sinh phải đối mặt.

Damon Hewitt, chủ tịch và giám đốc điều hành của Ủy ban Luật sư về Quyền Dân sự Theo Luật, cho biết: “Những học sinh này đã thất bại không chỉ bởi công nghệ dễ đưa ra cảnh báo sai mà còn bởi chính người lớn nhằm giữ chúng an toàn khi chúng tôi đưa chúng đến trường”. "Thay vì được bảo vệ, họ lại gặp phải súng và bị thương. Và mọi chuyện có thể còn tồi tệ hơn."

Vụ kiện mong muốn điều gì

Ngoài những thiệt hại, Ủy ban Luật sư đang sử dụng vụ việc để thúc đẩy những thay đổi về cơ cấu trong cách các trường học và sở cảnh sát xử lý các cảnh báo phát hiện mối đe dọa bằng AI. Tổ chức này cho biết vụ kiện nhằm mục đích buộc các cải cách yêu cầu các tổ chức công phải xác minh báo cáo từ các nền tảng phát hiện mối đe dọa AI trước khi phản hồi, để đánh giá xem công nghệ AI đó có phù hợp để sử dụng trong trường học hay không và phát triển các chính sách đảm bảo cảnh báo sai không gây ra phản ứng của cảnh sát vũ trang.

Nhóm cũng đang kêu gọi đào tạo, giám sát và minh bạch nhiều hơn về các lỗi và kết quả, cũng như ý kiến ​​đóng góp của cộng đồng về cách triển khai công nghệ.

Leah Frazier, giám đốc Sáng kiến ​​Công lý Kỹ thuật số tại Ủy ban Luật sư, cho biết: “AI không được kiểm soát gây ra những hậu quả sâu sắc, đặc biệt là khi có sự tham gia của giới trẻ. Khi công nghệ này được áp dụng rộng rãi hơn, nó không thể xảy ra với cái giá phải trả là các quy định, rào chắn và kỳ vọng rõ ràng đối với người lớn tương tác với nó”.

Trường hợp thử nghiệm phát hiện vũ khí AI trong trường học

Vụ việc xảy ra khi các khu học chánh ở Mỹ ngày càng áp dụng tính năng phát hiện vũ khí được hỗ trợ bởi AI, định vị hệ thống thị giác máy tính ở lối vào và trên nguồn cấp dữ liệu giám sát với danh nghĩa ngăn chặn các vụ xả súng ở trường học. Ủy ban Luật sư đã trình bày rõ ràng các vấn đề rộng hơn, lập luận rằng vụ việc làm dấy lên mối lo ngại về độ tin cậy của công nghệ AI trong môi trường an toàn công cộng “nơi mà độ chính xác là điều cần thiết trong các tình huống sinh tử” – và lưu ý rằng tác hại và sự thiếu chính xác từ các hệ thống như vậy tác động không tương xứng đến cộng đồng Da đen.

Các nhà quan sát pháp lý sẽ theo dõi một số câu hỏi mà khiếu nại nêu ra. Liệu nhà cung cấp AI có phải chịu trách nhiệm pháp lý về hiệu suất của các mô hình phát hiện của mình hay không, liệu các khu học chánh triển khai chúng có phải chịu trách nhiệm xác minh cao hơn hay không và liệu cảnh sát có phụ thuộc vào cảnh báo tự động mà không có sự chứng thực độc lập có vi phạm các biện pháp bảo vệ hiến pháp chống lại việc tịch thu bất hợp lý hay không đều là các vấn đề trực tiếp mà tòa án lưu động Quận Baltimore giờ đây sẽ được yêu cầu cân nhắc.

Đối với bốn học sinh trung tâm của vụ án - còn là những đứa trẻ khi cảnh sát rút vũ khí vào họ sau bữa ăn nhẹ - vụ kiện tụng cũng mang tính chất cá nhân. Các luật sư của họ nói rằng mục tiêu là để đảm bảo không có sinh viên nào phải đối mặt với cảnh sát vũ trang một lần nữa vì báo động sai mà quá trình đánh giá của con người có thể phát hiện ra trong vài giây.

Vụ việc sẽ được tiến hành tại Tòa án Lưu động Quận Baltimore. Không có phản hồi công khai nào từ các bị cáo được báo cáo tại thời điểm viết bài.

Nguồn: Thông cáo báo chí của Ủy ban Luật sư về Quyền Dân sự Theo Luật, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →