ABD ordusu, Çin'le doğrudan çatışmaya bu baharda neredeyse herkesin fark ettiğinden daha fazla yaklaştı - ve Cuma günü yayınlanan özel bir CNN haberine göre, bunun nedeni bir yapay zeka halüsinasyonuydu.
Rapor, bir chatbot yardımıyla oluşturulan bir istihbarat belgesinin, silahlı ABD personelinin, geminin nükleer silah programının bileşenlerini taşıdığı inancıyla Orta Doğu'da bir Çin gemisine binmeye hazırlanmasına neden olan bir olaylar zincirini nasıl başlattığını ayrıntılarıyla anlatıyor. Operasyona aşina kaynaklara göre askeri uçaklar zaten havadaydı. For more context on this story, see our ongoing latest AI developments.
Misyon ancak planlanan müdahaleden hemen önce, yetkililer raporu daha derinlemesine inceleyip, ABD ordusunu harekete geçiren temel iddianın yanlış olduğunu keşfettiklerinde iptal edildi.
Bölüme aşina olan bir kaynak, CNN'e gönderilen istihbarat raporunu "tamamen yanlış" olarak nitelendirdi. Aynı zamanda kaynak, "neredeyse bir savaş başlatıyordu" dedi. ABD'nin bir Çin gemisine yönelik herhangi bir operasyonu, iki ülke arasında silahlı bir çatışmaya dönüşebilirdi.
Chatbot'un İddiası Nasıl Askeri Operasyona Dönüştü?
Olay bu baharda, İran'la savaşın ortasında, ABD ordusunda bir istihbarat raporunun dolaşmaya başlamasıyla başladı. Belge, Orta Doğu'daki bir Çin gemisinin nükleer silah programı bileşenlerini taşıdığını iddia etti ve bu durum anında alarm zillerini çaldırdı.
CNN'e göre rapor, ABD özel harekât komutanlığından bir analist tarafından, geminin manifestosundaki istihbarat raporları hakkında bir chatbot'u sorgulayan bir analist tarafından hazırlandı; bu rapor Hawaii merkezli ABD Özel Harekat Komutanlığı Pasifik'ten geliyordu. Chatbot'un ticari olarak satılan bir ürün mü yoksa ABD hükümetinin bir aracı mı olduğu belirsizliğini koruyor. Askeri ve istihbarat analistleri tarafından kullanılan yapay zeka sistemlerine aşina olan eski bir üst düzey ABD yetkilisi, CNN'e hükümetin dahili teklifleri hakkında açık bir değerlendirme sundu: "Dahili araçlar çoğunlukla ruj süren ticari şeylerin kopyalarından ibaret."
Chatbot, açık kaynak istihbaratını hükümet tarafından tutulan gizli sinyal istihbaratıyla birleştirdi ve geminin kargosu hakkında önemli bir sonuca ulaştı. Analist daha sonra bulguları standart bir istihbarat raporuna (askeri yetkililerin güvenmeye alışık olduğu türden) paketlemek için yapay zekayı ikinci kez kullandı ve bunu yaydı.
Bölüme aşina olan dört kaynak CNN'e konuştu. Bunlardan ikisine göre, raporlar başarısız olduğunda ABD ordusunun silahlı üyeleri gemiye çıkmaya hazırlanıyorlardı. CNN, yanlış tanımlanan kargonun gerçekte ne olduğunu öğrenemedi. ABD Özel Harekat Komutanlığı Pasifik ve Pentagon, CNN'in yorum talebine yanıt vermedi.
Hızlandırma Stratejisi Gerçeklik Kontrolüyle Buluşuyor
Pentagon'un büyük miktarda ham istihbaratı analiz ederek, saldırılar için hedefleri seçerek ve bütçeleme, lojistik ve tedarik zincirleri gibi daha sıradan görevleri yerine getirerek yapay zekayı işinin neredeyse her aşamasına dahil etmeye çalıştığı bir anda neredeyse ıskalanıyor.
Ocak ayında Savunma Bakanı Pete Hegseth, askeri yapay zekanın benimsenmesini hızlandırmak amacıyla bakanlığın "Yapay Zeka Hızlandırma Stratejisi"ni açıkladı.
Hegseth, stratejiyi açıklayan bir konuşmasında, "Deneyselliği serbest bırakacağız, bürokratik engelleri ortadan kaldıracağız, yatırımlarımıza odaklanacağız ve askeri yapay zekada liderlik yapmamızı sağlamak için gereken uygulama yaklaşımını göstereceğiz" dedi.
Ekteki bildiri daha da ileri giderek bakanlığa, "Amerika'nın dünya lideri yapay zeka modellerini tüm sınıflandırma seviyelerinde doğrudan üç milyon sivil ve askeri personelimizin eline sunarak Bakanlık genelinde yapay zeka deneylerini ve dönüşümünü demokratikleştirmek" amacıyla yapay zekayı çeşitli programlar aracılığıyla kullanılabilir hale getirmesini emrediyor.
Ancak çok sayıda ABD'li yetkili CNN'e, hükümetin farklı bölümlerinin farklı emirler ve güvenlik standartları altında farklı araçlar kullandığını söyledi. Bu araçlar tarafından üretilen bilgilerin doğrulanması için tek bir standart seti yoktur ve çeşitli sistemlerin güvenilirliği büyük ölçüde farklılık gösterir.
Hedefleme Riskin Yaşadığı Yerdir
Analistler uzun süredir, ulus devletlerin zayıf veya bozuk verilere göre hareket etmesi durumunda yapay zekanın felaketle sonuçlanacak bir yanlış hesaplamaya katkıda bulunabileceğinden korkuyordu. Çin gemisi olayı, tam olarak bu arıza modunun gerçek zamanlı olarak oluştuğunun ve güvenlik önlemlerinin onu son ana kadar yakalayamadığının belgelenmiş bir örneğidir.
Ordunun mevcut politikalarına aşina olan başka bir kaynak CNN'e şöyle konuştu: "Hedeflemede yapay zeka kesinlikle giderek artan bir şey ve döngüde bir insanın bulunmasının sivil kayıpları veya kardeş katlini nasıl önleyeceğine dair gerçek bir rehber yok."
CNN'in haberine göre, sahte iddiaya yol açan halüsinasyon türü, yapay zeka araçlarının hükümet aracılığıyla yaygınlaşmaya başlamasından bu yana istihbarat camiasında münferit bir olay olmadı. Çeşitli kaynaklar aynı zamanda kültürel bir riske de dikkat çekti: Bu araçların yerlisi olarak tanımlanan genç analistlerin onlara eleştirmeden güvenme olasılıkları daha yüksek ve daha hızlı istihbarat üretme baskısı hataya daha fazla yer bırakıyor.
Bir kaynak, "Yapay zeka, kötü bir fikre daha hızlı ulaşmanızı sağlıyor" dedi.
Süper Zekadan Daha Acil Bir Risk
Washington, haftalardır, Silikon Vadisi mühendisleri ve teknoloji yöneticilerinin, potansiyel olarak insan kısıtlamalarından kurtulabilecek sistemler hakkında yaptığı bir dizi ciddi kamu uyarısının ardından, uzun vadeli yapay zeka riski konusundaki tartışmalarla meşgul oldu. CNN raporu farklı ve daha acil bir tehlikenin altını çiziyor: İnsanlar, şu anda gerçek jeopolitik gerilimlerin ortasında, yanlış veya yanıltıcı yapay zeka çıktılarına dayanarak feci kararlar alıyor.
Bu bahar hiç ateş edilmedi ve uçağa binme de hiç gerçekleşmedi. Ancak bu olay, makine kaynaklı hataların bir kez resmi raporlara aktarıldığında dünyanın en güçlü askeri aygıtından nükleer güçler arasındaki silahlı çatışmanın sınırına kadar gidebileceğinin en açık örneği olarak duruyor; bir sonrakini durduracak geçerli bir doğrulama standardı bulunmuyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
