Amerika Birleşik Devletleri'ndeki bir yargıç, Dördüncü Değişiklik'in polisin bir kişiyi yalnızca doğrulanmamış bir AI sonucuna dayanarak tutuklamasına izin vermediğini belirterek, yapay zekanın kolluk kuvvetlerinde kullanımına ilişkin şimdiye kadarki en önemli kararlardan birini verdi. Alain Vizcay Osorio tarafından açılan bir hukuk davası kapsamında verilen ve DocumentCloud aracılığıyla yayınlanan karar, bir dedektifin Osorio'yu yalnızca yüz tanıma eşleşmesine dayalı karşılıksız çek verdiği iddiasıyla tutukladıktan sonra nitelikli dokunulmazlık talep etme girişimini reddediyor; bu eşleşme mahkemenin açıkça yanlış bulduğu bir eşleşme. Kararın açılış paragrafı ilkeyi açıkça ifade ediyor: "Amerika Birleşik Devletleri Anayasası'ndaki Dördüncü Değişiklik, bir dedektifin olası nedeni değerlendirme görevini AI'ya devretmesine izin vermiyor." AI Buzz Wire, AI politikası ve düzenlemelerinin devam eden kapsamı için, birçok kişinin takip etmeyi beklediği itirazı takip ediyor.

Karşılıksız Çek, CCTV Ekran Görüntüsü ve Facebook Eşleşmesi

Dava, düşük riskli iddia edilen suç ve az çaba gerektiren polis işiyle başladı. Osorio yerel bir bankada karşılıksız çek vermekle suçlanıyordu ve şüpheliye ait tek görüntü bankanın CCTV görüntülerinden geldi. Florence, Kentucky Polis Departmanı'ndan Dedektif Ryan Kilmer, şüphelinin yüzünün ekran görüntüsünü aldı ve bunu departmanın yüz tanıma programında çalıştırdı. Sistem, "Yony Smith Npoles Charon" olarak listelenen birine ait bir Facebook profiline eşleşme döndürdü ve mahkemenin kuru bir şekilde "bilinmeyen bir neden" olarak adlandırdığı şekilde Kilmer, profilin Osorio'ya ait olduğu sonucuna vardı.

Fotoğraflar farklı bir hikaye anlatıyordu. Karara göre, CCTV görüntüleri ve Facebook profil resmi "Osorio'nun rezervasyon fotoğrafına benzemiyor." Mahkeme, rezervasyon fotoğrafına dayanarak Osorio'nun şüpheliyle tek ortak noktasının her ikisinin de sakallı Siyah erkekler olması olduğunu gözlemledi; fotoğraflar farklı bir kafa şekli, farklı bir saç kesimi, farklı yüz özellikleri ve farklı bir ten rengi gösteriyordu.

Kilmer'in beyanında mahkemeye, Osorio'yu şüpheliyle "eşleştirmek" için "soruşturma araçları" kullandığı söylendi. Gerçekte yargıç, tek bir araç kullandığını ve hatalı çıktıyı kabul ettiğini tespit etti; buna rağmen Florence Polis Teşkilatı'nın politikası, yüz tanımanın tek başına olası nedeni belirlemek için yeterli olmadığını açıkça belirtiyor. Kararda, dedektifin hem kendi departmanının yazılı kurallarını hem de Anayasa'nın olası nedenin delillere ilişkin gerçek insan değerlendirmesini yansıtması yönündeki temel şartı göz ardı ettiği açıkça görülüyor.

Mahkemenin Aslında Ne Karar Verdiği

Kararın ana dili, bu dedektifin ihmalkar olduğu bulgusunun ötesine geçiyor. Kategorik bir kural ifade etmektedir: "Dördüncü Değişiklik, söz konusu bireyin bir suç işlediğine dair yapay zeka tarafından doğrulanmamış bir sonuca dayanarak bir bireyin tutuklanmasına izin vermez. Ve Davalının pozisyonundaki hiçbir makul dedektif aksi sonuca varamaz."

Bu ikinci cümle işin ağır yükünü taşıyor. Mahkeme, hiçbir makul memurun doğrulanmamış bir AI eşleşmesinin yeterli olduğuna inanamayacağını belirterek, açıkça belirlenmiş hakları ihlal etmedikçe genellikle yetkilileri hukuki sorumluluktan koruyan nitelikli dokunulmazlık savunmasının temelini yıktı. Mahkeme, Kilmer'in doktrinin arkasına saklanamayacağına karar verdi; hem Dördüncü Değişiklik'in kendisi onun yaptığını yasakladığı için, hem de kendi departmanının politikası ona yazılı olarak yüz tanımanın tek başına olası nedeni ortaya koyamayacağını söylediği için.

Pratik sonuç, dedektifin davayla kişisel olarak yüzleşmesidir; bu, hem anlaşmaya varma baskısını artıran hem de memurun artık karara itiraz etme konusunda doğrudan mali çıkarı olduğundan temyiz incelemesini daha olası hale getiren bir duruştur.

Karşılıksız Bir Çekin Çok Ötesine Ulaşan Çıkarımlar

Hukuk yorumcuları, kararın mantığının hızla büyüyen polis yapay zekası pazarına yayıldığını belirtiyor. Aynı mantık (bir algoritmanın çıktısının, bir insan onu bağımsız olarak doğrulayana kadar olası nedenin kanıtı olmayacağı yönünde) aşağıdakiler için de aynı kuvvetle geçerlidir:

  • Yüz tanıma aramaları, gözetleme görüntülerini kazınmış web görüntüleriyle eşleştiren sistemler dahil; bu davada söz konusu model.
  • Devriyeleri ve halkla etkileşimleri algoritmik tahminlere göre yönlendiren tahmini polislik yazılımı.
  • Yapay zeka tarafından oluşturulan polis raporları, artık Axon gibi satıcılar tarafından, memurların bunları yazmamayı tercih ettiği gerekçesiyle vücut kameralarına ekleniyor; bu durum, makine tarafından hazırlanmış bir durdurma veya güç kullanımına ilişkin anlatının resmi kayıt oluşturup oluşturamayacağı sorusunu gündeme getiriyor.

Mahkeme, bir algoritmanın olası neden belirlemesini yapamayacağını söylerse, algoritmanın bu belirlemeyi yaptığını sessizce varsayan her alt sistem, sorunu devralır. Yapay zeka çıktılarını soruşturma kısayolları olarak ele alan departmanların, tutuklanmadan önce gerçek insan kanıtını belgelemesi gerekebilir veya hem delillerin hariç tutulması hem de olaya karışan memurların kişisel sorumluluğu riskiyle karşı karşıya kalabilir.

Sırada Ne Var?

Acil soru temyizdir. Nitelikli dokunulmazlık reddedildiği için dedektifin davayı yukarıya taşımak için güçlü bir motivasyonu var ve anayasal soru - yapay zeka araçlarının olası neden değerlendirmelerine katılıp katılamayacağı ve nasıl katılabileceği - tam da temyiz mahkemelerinin emsal haline gelmek için bu kadar geniş bir kurala razı olması gereken türden bir sorun. Sivil özgürlük gruplarının kararı desteklemek için müdahale etmesi muhtemeldir; polis sendikaları ve yapay zeka tedarikçileri, kararın özensiz bir soruşturmayı teknoloji politikası sorunuyla birleştirdiğini ileri sürerek muhtemelen geri adım atacak.

Her iki durumda da karar, polis departmanlarının temyiz döngüsünü beklemeden bugün okuyabileceği bir işaret koyuyor: Yapay zeka çıktısı bir sonuç değil, bir ipucudur. Bu vakada dedektif, yüz eşleştirme algoritmasının düşünme işini yapmasına izin verdi, kendi departmanının tam olarak buna karşı olan kendi kuralını göz ardı etti ve şimdi sonuçlarla kişisel olarak yüzleşiyor. Kararın kendisinin de işaret ettiği gibi, Anayasayı hazırlayanlar sinir ağlarını öngörmediler; ancak, devletin bir kişiyi ele geçirmesinden önce bir insanın olası sebebi değerlendirmesi şartının, herhangi bir değişikliğe gerek kalmaksızın çeviri yapıldığı ortaya çıktı.

Yapay zeka araçları satın alan departmanlar için de mesaj aynı derecede doğrudandır: Satıcının doğrulukla ilgili iddiaları politika değildir. Dedektifin göz ardı ettiği Florence Polis Departmanı gibi insan onayı gerektiren yazılı kurallar artık sadece en iyi uygulama değil, aynı zamanda bir davadan sağ kurtulan bir departman ile bunun bedelini bizzat ödeyen bir memur arasındaki farktır.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →