Perşembe günü CNN'de yayınlanan özel bir habere göre ABD ordusu, AI chatbot'un yardımıyla oluşturulan ve tamamen yanlış olduğu ortaya çıkan bir istihbarat raporuna dayanarak bir Çin gemisini durdurmaya tehlikeli derecede yaklaştı.

Konuya aşina dört kaynak tarafından CNN'e anlatılan olay, bu baharın başlarında - İran'la savaşın ortasında - ABD ordusunda Orta Doğu'da bir Çin gemisinin nükleer silah programının bileşenlerini taşıdığını iddia eden bir raporun yayılmasıyla başladı. Rapor anında alarm zillerini çaldırdı ve ordu, gemiye müdahale etme planlarıyla harekete geçti. Bunun gibi haberlere düzenli olarak yer vermek için, AI haberlerini geliştikçe takip edin.

Uçaklar Havada, Biniş Partisi Hazır

CNN'in iki kaynağına göre ABD ordusunun silahlı üyeleri gemiye çıkmaya hazırlanıyordu. Bir kaynak, askeri uçakların zaten havada olduğunu söyledi.

Yetkililer, özel harekât komuta analisti tarafından hazırlanan raporu daha derinlemesine incelediler ve raporun yapay zeka yardımıyla oluşturulduğunu ve analistin kullandığı chatbot'un geminin taşıdığı malzemeyi yanlış bir şekilde tanımladığını keşfettiler. CNN, yanlış tanımlanan kargonun gerçekte ne olduğunu öğrenemediğini bildirdi.

Bir kaynak raporu "tamamen yanlış" olarak nitelendirdi. Aynı zamanda kaynak, bunun "neredeyse bir savaş başlattığını" da söyledi; çünkü ABD'nin bir Çin gemisine yönelik herhangi bir operasyonu, iki ülke arasında silahlı bir çatışmaya dönüşme riski taşıyabilirdi.

Yanlış Rapor Nasıl Oluşturuldu

Analist, Hawaii merkezli ABD Özel Operasyonlar Komutanlığı Pasifik'ten gelen gemi manifestosuna ilişkin istihbarat raporları hakkında bir chatbot'u sorgulamıştı. CNN, chatbotun ticari olarak satılan bir ürün mü yoksa ABD hükümetinin bir aracı mı olduğunun net olmadığını bildirdi.

Bot, açık kaynak istihbaratını devlet kurumlarındaki gizli sinyal istihbaratıyla birleştirdi ve gemideki materyalle ilgili önemli sonucuna ulaştı. Analist daha sonra bulguları askeri yetkililerin güvendiği türden standart bir istihbarat raporunda paketlemek için yapay zekayı ikinci kez kullandı ve bunu tüm sisteme yaydı.

ABD Özel Harekat Komutanlığı Pasifik ve Pentagon, CNN'in yorum talebine yanıt vermedi.

Yapay Zekanın Benimseneceği Askeri Bir Yarış

ABD ordusu ve istihbarat topluluğu genelindeki yetkililerin, devasa miktarda ham istihbaratın analiz edilmesinden saldırılar için hedeflerin seçilmesine, bütçeleme, lojistik ve tedarik zincirleri gibi sıradan uygulamalara kadar yapay zekayı işlerinin neredeyse her aşamasına dahil etmeye çalıştığı bir anda, neredeyse ıskalanıyor.

Ocak ayında Savunma Bakanı Pete Hegseth, ordunun yapay zekayı benimsemesini hızlandırmayı amaçlayan bakanlığın "Yapay Zeka Hızlandırma Stratejisi"ni yayınladı. Hegseth, stratejiyi açıklayan bir konuşmasında, "Deneyselliği serbest bırakacağız, bürokratik engelleri ortadan kaldıracağız, yatırımlarımıza odaklanacağız ve askeri yapay zekada liderlik yapmamızı sağlamak için gereken uygulama yaklaşımını göstereceğiz" dedi.

Strateji açıkça erişimin demokratikleştirilmesi çağrısında bulunuyor ve bakanlığa "Amerika'nın dünya lideri yapay zeka modellerini tüm sınıflandırma seviyelerinde doğrudan üç milyon sivil ve askeri personelimizin ellerine" vermesini emrediyor.

Tek Bir Kural Dizisi Yok

Ancak çok sayıda ABD'li yetkili CNN'e, hükümetin farklı bölümlerinin farklı emirler ve güvenlik standartları altında farklı araçlar kullandığını söyledi. ABD'nin bu araçlar tarafından üretilen bilgileri nasıl doğrulayacağına ilişkin bir dizi standart yoktur ve çeşitli sistemlerin güvenilirliği büyük ölçüde farklılık gösterir.

Askeri ve istihbarat analistleri tarafından kullanılan yapay zeka sistemlerine aşina olan eski bir üst düzey ABD'li yetkili, CNN'e "Dahili araçlar çoğunlukla ruj süren ticari malzemelerin kopyalarından ibaret" dedi.

Yapay Zeka Hedefleme Küçük Rehberliklerle 'Hızlanıyor'

Kaynaklar, ordunun ölümcül hata riski taşıyan bir alan olan hedefleme konusunda yardımcı olmak için hızla yapay zekaya yöneldiğini söyledi. Ordunun mevcut politikalarına aşina olan başka bir kaynak CNN'e şöyle dedi: "Hedeflemede yapay zeka kesinlikle giderek artan bir şey ve döngüde bir insanın bulunmasının sivil kayıpları veya kardeş katliamını nasıl önleyeceğine dair gerçek bir rehber yok."

Analistler uzun süredir, ulus devletlerin zayıf veya bozuk verilere dayanması durumunda yapay zekanın feci bir yanlış hesaplamaya katkıda bulunabileceği konusunda uyarıyordu; bu, tam da ABD'nin yanlış bilgiye dayanarak bir Çin gemisine ateş açmasına yol açabilecek türden bir yanlış hesaplamaydı.

CNN'e göre sahte gemi raporunun ardındaki halüsinasyon, bu araçlar hükümet aracılığıyla yaygınlaşmaya başladığından beri istihbarat camiasında münferit bir olay olmadı.

'Yapay Zeka, Kötü Bir Fikre Daha Hızlı Ulaşmanızı Sağlıyor'

Washington'daki politika yapıcılar, Silikon Vadisi'nin yapay zekanın insan kısıtlamalarından kurtulma olasılığına ilişkin bir dizi ciddi uyarısının ardından haftalardır yoğun bir şekilde yapay zekayı tartışıyor. Ancak Çin'deki gemi olayı farklı ve daha acil bir riskin altını çiziyor: İnsanlar, yapay zeka sistemleri tarafından üretilen yanlış veya yanıltıcı bilgilere dayanarak feci kararlar alıyor.

Çeşitli kaynaklar CNN'e, özellikle genç analistlerin (bu araçların yerlilerinin) onlara eleştirmeden güvenme olasılıklarının daha yüksek olduğunu ve yapay zekanın, istihbaratı daha hızlı üretip yayma konusunda analistler üzerindeki baskıyı yoğunlaştırarak hatalara kapı açtığını söyledi.

Kaynaklardan biri, "Yapay zeka, kötü bir fikre daha hızlı ulaşmanızı sağlıyor" dedi.

Bu bölümün, ABD ordusunun yapay zekayı en hassas iş akışlarına ne kadar hızlı katması gerektiği ve yapay zeka destekli raporlamanın askerleri, uçakları ve silahlı personeli potansiyel bir savaş operasyonuna yönlendirmeden önce hangi doğrulama adımlarının zorunlu olması gerektiği konusunda zaten hararetli bir tartışmayı alevlendirmesi bekleniyor. Şimdilik ayrıntılar, mevcut önlemlerin yarım yamalak olduğunu ve bu durumda rutin bir istihbarat raporu ile uluslararası bir olay arasındaki farkın, tekrar kontrol eden yetkililerin sorumluluğunda olduğunu gösteriyor.

Yapay Zekanın Önünde Kalın

Yapay zeka politikası, ulusal güvenlik ve her ikisini de şekillendiren modeller hakkında daha fazla rapor için daha fazla yapay zeka haberini okuyun.