Hukuk Kapsamında Sivil Haklar Avukatlar Komitesi, yapay zeka silah tespit sisteminin cips torbalarından birini ateşli silah zannetmesi ve silahlı polisin kampüste gençleri gözaltına alıp arama yapmasının ardından, Baltimore County, Maryland'deki Kenwood Lisesi'nin mevcut ve eski dört Siyah öğrencisi adına 18 Kasım 2026'da bir dava açtı.
Baltimore İlçesi Çevre Mahkemesine yapılan şikayette, Baltimore İlçesi Devlet Okullarında kullanılan Omnilert Silah Tespit sisteminin üreticisi olan Omnilert, LLC'nin yanı sıra Baltimore İlçesi Devlet Okulları ve personeli, Baltimore İlçesi Polis Departmanı ve bireysel memurlar sanık olarak adlandırılıyor. Öğrencilerin federal ve eyalet anayasal haklarının ihlal edildiğinin yanı sıra ihmal ve ağır ihmal iddiasında bulunuyor. For more context on this story, see our ongoing breaking AI news.
Ekim 2025'te Ne Oldu?
Avukatlar Komitesi'ne göre olay, ilçedeki okullara yerleştirilen bir yapay zeka gözetim sistemi olan Omnilert Gun Detect'in, yüzde 90 olasılıkla bir gencin cips paketini ateşli silah olarak işaretleyen bir uyarı oluşturmasıyla başladı. Sistem, öğrencilerden birinin taşıdığı Doritos çantasını silah sanmıştı.
Yanlış alarm, silahlı yerel polisin okulun girişinden sadece birkaç adım ötedeki kampüste gençleri toplamasıyla sonuçlanan bir tepkiyi tetikledi. Örgüt, öğrencilerin diz çökmesi emredildiğini, kelepçelendiğini ve arandığını söyledi. New York Times, The Guardian, NBC News, CBS News ve Baltimore Sun'ın tümü, okullarda yapay zeka tabanlı silah tespitine ulusal düzeyde dikkat çeken dava ve altta yatan olay hakkında haber yaptı.
Basın açıklamasına göre, oğlu Keith ve diğer öğrencileri gözaltına alırken almaya giden Freida Winfield, "Polis oğluma bunun gerçek bir sorun olabileceğini söyledi. Baltimore İlçesindeki hiçbir çocuk, annesinin evine gitmek için kendi okulunun önünde beklerken bu tür bir tehlikeyle karşı karşıya kalmamalı" dedi.
İnsani Başarısızlıklar Zinciri
Davanın temel iddialarından biri, teknolojinin hatasının, onu alan insanlar tarafından sonraki her adımda daha da artırıldığıdır. Avukatlar Komitesi, Omnilert'in kendi çalışanlarından okul müdürüne ve Baltimore İlçesi polis memurlarına kadar herkesin, silah olmadığına dair açık kanıt olarak adlandırdığı şeyi gözden kaçırdığını veya görmezden geldiğini söyledi.
Şikayet aynı zamanda okul yetkililerinin Omnilert sisteminin olaydan önce düzenli olarak yanlış uyarılar ürettiğini bildiğini de ileri sürüyor; bu iddia, dava açılması halinde, ilçenin teknolojinin güvenilirliğini öğrencilerle karşı karşıya kalan bağlamlarda uygulanmasına karşı nasıl değerlendirdiğinin özüne inecek.
Hukuka Göre Sivil Haklar Avukatlar Komitesi'nin başkanı ve genel müdürü Damon Hewitt, "Bu öğrenciler yalnızca yanlış uyarılara eğilimli bir teknoloji nedeniyle değil, aynı zamanda onları okula gönderirken onları güvende tutmayı amaçlayan yetişkinler tarafından da başarısızlığa uğradı" dedi. "Bu koruma yerine silahlarla karşılandılar ve travma yaşadılar. Hatta daha da kötüsü olabilirdi."
Davanın Aradığı Şey
Avukatlar Komitesi, zararların ötesinde, davayı okulların ve polis departmanlarının yapay zeka tehdit tespit uyarılarını ele alma biçiminde yapısal değişiklikler yapılması için kullanıyor. Örgüt, davanın, kamu aktörlerinin yanıt vermeden önce AI tehdit tespit platformlarından gelen raporları doğrulamasını gerektiren reformları zorlamayı, bu tür AI teknolojisinin okullarda kullanıma uygun olup olmadığını değerlendirmeyi ve yanlış uyarıların silahlı polis müdahalesini tetiklememesini sağlayan politikalar geliştirmeyi amaçladığını söyledi.
Grup aynı zamanda hatalar ve sonuçlar konusunda daha fazla eğitim, gözetim ve şeffaflığın yanı sıra teknolojinin nasıl kullanıldığına dair topluluk girdisi talep ediyor.
Avukatlar Komitesi Dijital Adalet Girişimi direktörü Leah Frazier, "Düzenlenmemiş yapay zeka, özellikle gençleri dahil ettiğinde derin sonuçlara yol açıyor. Bu teknoloji daha yaygın bir şekilde benimsendikçe, onunla etkileşime giren yetişkinlerin açık düzenlemeleri, korkulukları ve beklentileri pahasına gerçekleşemez" dedi.
Okullarda Yapay Zeka Silahlarının Tespiti için Bir Test Senaryosu
Dava, Amerikan okul bölgelerinin yapay zeka destekli silah tespitini giderek daha fazla benimsemesi, okullarda silahlı saldırıları önlemek adına bilgisayarlı görüş sistemlerini girişlere ve gözetleme yayınlarına yerleştirmesiyle ortaya çıktı. Avukatlar Komitesi, olayın "ölüm kalım durumlarında doğruluğun önemli olduğu" kamu güvenliği ortamlarında yapay zeka teknolojisinin güvenilirliğine ilişkin endişeleri artırdığını ileri sürerek daha geniş riskleri açık bir şekilde çerçeveledi ve bu tür sistemlerden kaynaklanan zararların ve yanlışlıkların Siyah toplulukları orantısız bir şekilde etkilediğine dikkat çekti.
Yasal gözlemciler şikayetin gündeme getirdiği çeşitli soruları izleyecek. Bir yapay zeka satıcısının tespit modellerinin performansından sorumlu tutulup tutulamayacağı, bunları kullanan okul bölgelerinin daha yüksek bir doğrulama yükümlülüğüne sahip olup olmadığı ve polisin bağımsız doğrulama olmadan otomatik alarma güvenmesinin, mantıksız ele geçirmeye karşı anayasal korumaları ihlal edip etmediği, bunların hepsi Baltimore İlçesi çevre mahkemesinden şimdi tartılması istenecek güncel konulardır.
Davanın merkezinde yer alan ve memurların bir şeyler atıştırırken üzerlerine silah çektiği sırada çocuk olan dört öğrenci için de dava kişisel. Avukatları, amacın, insan incelemesinin saniyeler içinde yakalayabileceği yanlış alarm nedeniyle hiçbir öğrencinin silahlı polisle bir daha karşılaşmamasını sağlamak olduğunu söyledi.
Dava Baltimore İlçesi Çevre Mahkemesinde görülecek. Bu yazının yazıldığı sırada sanıklardan herhangi bir kamuoyu yanıtı bildirilmemişti.
Kaynaklar: Hukuk Altında Sivil Haklar Avukatlar Komitesi basın açıklaması, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →