Bloomberg'in Pazartesi günü bildirdiği ve Yahoo News ve diğer yayın organları tarafından özetlenen incelemenin bulgularına göre, ABD Savunma Bakanlığı'nın incelemesi, Mart ayında İran'daki bir okula düzenlenen ve yaklaşık 120 çocuğun öldüğü bildirilen füze saldırısında yapay zekaya aşırı güvenmenin payı olduğu sonucuna vardı.
Bu bulgu, Pentagon'un resmi olarak ölümcül bir savaş sonucunu kısmen bir yapay zeka sistemine güvenmeye bağladığı ilk sefer ve ABD ordusunun makine muhakemesine ne kadar hedefleme yetkisi vermesi gerektiği konusunda yoğunlaşan bir tartışmanın ortasında yer alıyor. Bunun gibi daha fazla haber için AI etik kapsamımıza bakın.
Mart'ta Ne Oldu?
Saldırı, Mart 2026'nın başlarında Bellingcat tarafından yayınlanan ve NPR ile BBC tarafından doğrulanan video analizinde, İran'ın Lamerd kentindeki bir kız okulunun yanına bir ABD Tomahawk seyir füzesinin saldırdığını gösterdiğinde meydana geldi. Birkaç gün içinde New York Times, ABD'deki ön soruşturmanın saldırının ABD füzesinin sonucu olduğunu ortaya çıkardığını bildirdi ve İranlı kaynaklar, çoğu çocuk olmak üzere düzinelerce ölü sayısını bildirdi.
Pazartesi günü yayınlanan bir Bloomberg soruşturmasında açıklanan yeni Pentagon incelemesi daha da ileri gidiyor: bildirildiğine göre hedefleme hattındaki başarısızlığın izini sürüyor ve yapay zekaya aşırı güvenmenin saldırıya katkıda bulunduğu sonucuna varıyor. Yahoo News, incelemeyi yapay zeka hedefleme sisteminin 120 İranlı çocuğun ölümüne yol açan saldırıyla bağlantılı olduğu şeklinde özetledi; Pek çok kuruluş söz konusu sistemin Palantir tarafından sağlanan bir yazılım olduğunu tespit etse de Pentagon, satıcının ayrıntılarını kamuya açık bir şekilde doğrulamadı.
Öldürme Zincirinin İçinde
Los Angeles Times, Pazartesi günü yayınlanan paralel bir araştırmada, ABD'nin okulu yok eden "öldürme zinciri" olarak adlandırdığı şeyin izini sürdü: füze fırlatılmasıyla sonuçlanan veri toplama, makine destekli hedef belirleme ve insan imzası dizisi. Rapor, modern hassas savaşın rahatsız edici bir gerçeğinin altını çiziyor: Tomahawk'ı ateşleyen mürettebat hedefi hiçbir zaman göremeyebilir. Algoritmik araçların neyin aday gösterileceğini ve destekleyici analistlerin kendilerine ne kadar güveneceğini giderek daha fazla şekillendirdiği, yukarı yönde birleştirilmiş bir hedef veri paketi yürütürler.
Başka bir deyişle, incelemenin temel bulgusu - aşırı güven - tetiği çeken bir robotla ilgili değil. Bu, insanların bir makinenin çıktısına, sürecin gerektirdiği şüpheciliği atlayacak kadar güvenmesiyle ilgilidir.
Kaldırılan Gözetim
Başarısızlığın bağlamı aylar önce bildirildi. Politico Mart ayında, Pentagon şefinin Sivil Koruma Mükemmeliyet Merkezi de dahil olmak üzere "ölümcüllük" hedeflerine katkıda bulunmayan ofislerinde kesinti yaptığını ve sivil zararı azaltma ekiplerindeki personel sayısının yaklaşık %90 oranında düşerek toplamda 20 kişinin altına düştüğünü açıkladı. ProPublica, Merkez Komutanlığın sivil zayiat ekibinin on kişiden bir kişiye düştüğünü bildirdi.
Bu çerçevede, incelemenin bulguları bir yazılım hatasından çok bir sistem arızasına benziyor: insan güvenlik ağları iliklerine kadar kesilmiş bir hedefleme aparatının içinde hataları tartışmasız kalan bir yapay zeka aracı.
Pentagon'un Zaten Bildiği Bir Model
İran saldırısı, ABD ordusunda yapay zekâya bağlı münferit bir ramak kala değildi. Gizmodo ve Futurism'in ayrı raporları, bir yapay zeka sisteminin gemideki nükleer silah malzemesini halüsinasyona uğratmasının ardından ordunun bir Çin gemisine neredeyse bindiği ve potansiyel olarak ateş ettiği bir olayı belgeledi; bu, büyük güçlerin tırmanmasını tetikleyebilecek bir hataydı. Bu durumda insan müdahalesi felaketi önledi. İran'da böyle bir müdahale olmadı.
Yapay zeka araştırmacıları ve askeri etik uzmanları, yüksek riskli kararlara eklenen makine çıktılarının otomasyon yanlılığı (insanların kendine güvenen sistemlere aşırı güvenme konusundaki belgelenmiş eğilimi) yarattığı konusunda yıllardır uyarıda bulunuyorlar. Pentagon'un kendi incelemesi artık bu önyargının savaşın en ölümcül sivil kayıplarından birine katkıda bulunduğunun resmi kabulü olarak duruyor.
Sırada Ne Var?
Yönetim askeri yapay zekanın benimsenmesini hızlandırmaya çalışırken, incelemenin Washington'da yapay zeka destekli hedeflemede yasal döngüde insan gereklilikleri konusundaki baskıyı yoğunlaştırması bekleniyor. Bu aynı zamanda, ürünleri artık resmi bir hata incelemesine tabi tutulan savunma teknolojisi satıcılarının satış sunumunu da karmaşık hale getiriyor ve Kongre'ye, otonom silahlar politikasına ilişkin oturumlarda alıntı yapılabilecek somut, belgelenmiş bir vaka çalışması sağlıyor.
Birçok soru cevapsız kalıyor. İncelemenin şu ana kadar yayınlanan özetleri, hangi model versiyonunun kullanımda olduğunu, başarısızlığın bir halüsinasyon mu, binanın yanlış sınıflandırılması mı yoksa giriş verilerinin yukarı yönde bozuk mu olduğunu belirtmiyor; bunlar, ordunun yapay zeka araçlarını nasıl düzenlemesi gerektiği açısından son derece önemli olan ayrımlar. Hedef paket nihai hale getirilmeden önce sistem çıktılarının herhangi bir analist tarafından incelenip incelenmediği de belli değil.
Kamuoyu zaten şüpheci: Bu hafta yayınlanan bir Reuters/Ipsos anketi, Amerikalıların %73'ünün, yapay zeka firmalarının felaket sonuçlarını önlemek için yeterli çabayı göstermediğini ve silah sistemlerindeki yapay zekaya ilişkin endişelerin, tüketici yapay zekasına ilişkin endişelerden sürekli olarak daha yüksek anketler yaptığını ortaya koydu. İncelemenin tavsiyelerine ne olacağı ve herhangi birinin sorumlu tutulup tutulmayacağı, bulgunun uygulamayı değiştirip değiştirmediğine veya dosyalanıp unutulan başka bir olay raporuna mı dönüşeceğine işaret edecek.
---
En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
