คณะกรรมการทนายความเพื่อสิทธิพลเมืองภายใต้กฎหมายได้ยื่นฟ้องเมื่อวันที่ 18 พฤศจิกายน พ.ศ. 2569 ในนามของนักเรียนผิวดำทั้งในปัจจุบันและอดีตของโรงเรียนมัธยมเคนวูดในเขตบัลติมอร์ รัฐแมริแลนด์ เมื่อวันที่ 18 พฤศจิกายน พ.ศ. 2569 หลังจากที่ระบบตรวจจับปืนด้วย AI เข้าใจผิดว่าหนึ่งในถุงชิปของพวกเขาเป็นอาวุธปืนและตำรวจติดอาวุธได้ควบคุมตัวและตรวจค้นวัยรุ่นในมหาวิทยาลัย
คำร้องเรียนที่ยื่นในศาลวงจรสำหรับเทศมณฑลบัลติมอร์ ระบุชื่อจำเลย Omnilert, LLC ซึ่งเป็นผู้ผลิตระบบตรวจจับปืน Omnilert ที่ใช้ทั่วทั้งโรงเรียนของรัฐในบัลติมอร์เคาน์ตี้ พร้อมด้วยโรงเรียนและบุคลากรของรัฐบัลติมอร์เคาน์ตี้ กรมตำรวจเทศมณฑลบัลติมอร์ และเจ้าหน้าที่แต่ละราย โดยกล่าวหาว่ามีการละเมิดสิทธิตามรัฐธรรมนูญของรัฐบาลกลางและของรัฐ ตลอดจนความประมาทเลินเล่อและความประมาทเลินเล่ออย่างร้ายแรงของนักศึกษา For more context on this story, see our ongoing artificial intelligence updates.
เกิดอะไรขึ้นในเดือนตุลาคม 2025
ตามที่คณะกรรมการทนายความระบุ เหตุการณ์ดังกล่าวเริ่มต้นขึ้นเมื่อ Omnilert Gun Detect ซึ่งเป็นระบบเฝ้าระวัง AI ที่ใช้งานทั่วโรงเรียนในเคาน์ตี สร้างการแจ้งเตือนโดยแจ้งว่าถุงชิปของวัยรุ่นเป็นอาวุธปืน โดยมีความน่าจะเป็นที่ระบุไว้ 90 เปอร์เซ็นต์ ระบบเข้าใจผิดว่ากระเป๋าโดริโทสที่นักเรียนคนหนึ่งถืออยู่นั้นเป็นปืน
การแจ้งเตือนอันเป็นเท็จทำให้เกิดการตอบสนองซึ่งจบลงด้วยการที่ตำรวจติดอาวุธในท้องที่จับกลุ่มวัยรุ่นในมหาวิทยาลัย เพียงไม่กี่ก้าวจากทางเข้าโรงเรียน นักเรียนถูกสั่งให้คุกเข่า ใส่กุญแจมือ และตรวจค้น องค์กรกล่าว The New York Times, The Guardian, NBC News, CBS News และ Baltimore Sun ล้วนรายงานเกี่ยวกับการฟ้องร้องและเหตุการณ์เบื้องหลัง ซึ่งดึงดูดความสนใจของชาติต่อการตรวจจับอาวุธที่ใช้ AI ในโรงเรียน
“ตำรวจบอกลูกชายของฉันว่านี่อาจเป็นปัญหาจริงๆ เด็กในเขตบัลติมอร์ไม่ควรเผชิญกับอันตรายประเภทนี้ขณะรออยู่นอกโรงเรียนเพื่อนั่งรถกลับบ้านจากแม่” ไฟรดา วินฟิลด์ ซึ่งกำลังเดินทางไปรับคีธ ลูกชายของเธอและนักเรียนคนอื่นๆ ตอนที่พวกเขาถูกควบคุมตัว กล่าว ตามข่าวประชาสัมพันธ์
ห่วงโซ่แห่งความล้มเหลวของมนุษย์
ข้อเรียกร้องที่สำคัญของการฟ้องร้องคือข้อผิดพลาดของเทคโนโลยีนั้นถูกนำมารวมกันในทุกขั้นตอนต่อ ๆ มาโดยมนุษย์ที่ได้รับมัน คณะกรรมการทนายความกล่าวว่าทุกคนตั้งแต่เจ้าหน้าที่ของออมนิเลิร์ตไปจนถึงอาจารย์ใหญ่ของโรงเรียนไปจนถึงเจ้าหน้าที่ตำรวจในเขตบัลติมอร์พลาดหรือเพิกเฉยต่อสิ่งที่เรียกว่าหลักฐานชัดเจนว่าไม่มีปืน
คำร้องเรียนยังยืนยันว่าเจ้าหน้าที่ของโรงเรียนรู้ว่าระบบ Omnilert มักสร้างการแจ้งเตือนที่ผิดพลาดก่อนเกิดเหตุ การกล่าวอ้างที่ว่าหากถูกดำเนินคดี จะถือเป็นหัวใจสำคัญของวิธีที่เคาน์ตีชั่งน้ำหนักความน่าเชื่อถือของเทคโนโลยีเทียบกับการใช้งานในบริบทที่นักเรียนเผชิญหน้ากัน
“นักเรียนเหล่านี้ล้มเหลวไม่เพียงแต่จากเทคโนโลยีที่มีแนวโน้มที่จะได้รับการแจ้งเตือนที่ผิดพลาดเท่านั้น แต่ยังรวมถึงผู้ใหญ่ที่มีจุดประสงค์เพื่อปกป้องพวกเขาให้ปลอดภัยเมื่อเราส่งพวกเขาไปโรงเรียน” เดมอน ฮิววิตต์ ประธานและผู้อำนวยการบริหารของคณะกรรมการทนายความเพื่อสิทธิพลเมืองภายใต้กฎหมาย กล่าว “แทนที่จะได้รับความคุ้มครอง พวกเขากลับพบกับปืนและบาดเจ็บ และมันอาจแย่ยิ่งกว่านั้นอีก”
สิ่งที่คดีแสวงหา
นอกเหนือจากความเสียหายแล้ว คณะกรรมการทนายความยังใช้คดีนี้เพื่อผลักดันให้เกิดการเปลี่ยนแปลงเชิงโครงสร้างวิธีที่โรงเรียนและหน่วยงานตำรวจจัดการกับการแจ้งเตือนการตรวจจับภัยคุกคามด้วย AI องค์กรกล่าวว่าคดีนี้มีจุดมุ่งหมายเพื่อบังคับให้มีการปฏิรูปโดยกำหนดให้ผู้มีบทบาทสาธารณะตรวจสอบรายงานจากแพลตฟอร์มการตรวจจับภัยคุกคาม AI ก่อนที่จะตอบสนอง เพื่อประเมินว่าเทคโนโลยี AI ดังกล่าวเหมาะสมสำหรับการใช้ในโรงเรียนหรือไม่ และเพื่อพัฒนานโยบายที่ทำให้มั่นใจได้ว่าการแจ้งเตือนที่ผิดพลาดจะไม่กระตุ้นให้ตำรวจติดอาวุธตอบโต้
กลุ่มนี้ยังเรียกร้องให้มีการฝึกอบรมเพิ่มเติม การกำกับดูแล และความโปร่งใสเกี่ยวกับข้อผิดพลาดและผลลัพธ์ รวมถึงข้อมูลจากชุมชนเกี่ยวกับวิธีการปรับใช้เทคโนโลยี
“AI ที่ไม่ได้รับการควบคุมมีผลกระทบอย่างลึกซึ้ง โดยเฉพาะอย่างยิ่งเมื่อเกี่ยวข้องกับคนหนุ่มสาว เนื่องจากเทคโนโลยีนี้ได้รับการยอมรับอย่างกว้างขวางมากขึ้น จึงไม่สามารถเกิดขึ้นได้โดยต้องสูญเสียกฎระเบียบที่ชัดเจน รั้วกั้น และความคาดหวังสำหรับผู้ใหญ่ที่มีปฏิสัมพันธ์กับมัน” Leah Frazier ผู้อำนวยการ Digital Justice Initiative ของคณะกรรมการทนายความ กล่าว
กรณีทดสอบการตรวจจับอาวุธ AI ในโรงเรียน
คดีนี้มาถึงในขณะที่เขตการศึกษาในอเมริกานำการตรวจจับอาวุธที่ขับเคลื่อนด้วย AI มาใช้มากขึ้น โดยวางตำแหน่งระบบคอมพิวเตอร์วิทัศน์ไว้ที่ทางเข้าและบนฟีดการเฝ้าระวังเพื่อป้องกันเหตุกราดยิงในโรงเรียน คณะกรรมการทนายความวางกรอบเดิมพันในวงกว้างอย่างชัดเจน โดยโต้แย้งว่าเหตุการณ์ดังกล่าวทำให้เกิดความกังวลเกี่ยวกับความน่าเชื่อถือของเทคโนโลยี AI ในการตั้งค่าความปลอดภัยสาธารณะ "ซึ่งความแม่นยำถือเป็นสิ่งสำคัญในสถานการณ์ความเป็นความตาย" และตั้งข้อสังเกตว่าอันตรายและความไม่ถูกต้องจากระบบดังกล่าวส่งผลกระทบอย่างไม่สมสัดส่วนต่อชุมชนคนผิวดำ
ผู้สังเกตการณ์ด้านกฎหมายจะจับตาดูคำถามหลายข้อที่มีการร้องเรียน ผู้จำหน่าย AI จะต้องรับผิดชอบต่อประสิทธิภาพของโมเดลการตรวจจับหรือไม่ เขตการศึกษาที่ปรับใช้โมเดลดังกล่าวมีหน้าที่ตรวจสอบที่สูงขึ้นหรือไม่ และการที่ตำรวจพึ่งพาการแจ้งเตือนอัตโนมัติโดยไม่มีการยืนยันที่เป็นอิสระจะเป็นการละเมิดการคุ้มครองตามรัฐธรรมนูญต่อการยึดอย่างไม่สมเหตุสมผลหรือไม่ ล้วนเป็นประเด็นสำคัญในปัจจุบัน โดยศาลวงจรบัลติมอร์เคาน์ตี้จะถูกขอให้ชั่งน้ำหนัก
สำหรับนักเรียนสี่คนที่เป็นศูนย์กลางของคดี ซึ่งเป็นเด็กตอนที่เจ้าหน้าที่ชักอาวุธใส่พวกเขาขณะกินขนม การดำเนินคดีถือเป็นเรื่องส่วนตัวเช่นกัน ทนายความของพวกเขากล่าวว่าเป้าหมายคือเพื่อให้แน่ใจว่าจะไม่มีนักเรียนคนใดเผชิญหน้ากับตำรวจติดอาวุธอีกเกี่ยวกับการแจ้งเตือนที่ผิดพลาดซึ่งการตรวจสอบโดยมนุษย์อาจตรวจพบได้ภายในไม่กี่วินาที
คดีนี้จะดำเนินการในศาลวงจรสำหรับเทศมณฑลบัลติมอร์ ไม่มีการรายงานการตอบสนองของสาธารณะจากจำเลยในขณะที่เขียน
ที่มา: ข่าวประชาสัมพันธ์ของคณะกรรมการทนายความเพื่อสิทธิพลเมืองภายใต้กฎหมาย, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →