Google, kullanıcıların Google Earth'teki gerçek uydu görüntülerinin üzerine uydurma sahneler çizmesine olanak tanıyan bir yapay zeka aracını geri çekerek, bu özelliğin yanlış bilgileri artırabileceği yönündeki uyarılar nedeniyle lansmandan 48 saatten daha kısa bir süre sonra rotayı tersine çevirdi.
Google'ın "Nano Banana 2" görüntü oluşturucusu tarafından desteklenen özellik, 30 Temmuz 2026 Perşembe günü tanıtıldı ve herkesin bir metin istemi yazmasına ve gerçek uydu, hava ve 3D görüntüler üzerine katmanlı yanlış senaryolar oluşturmasına olanak tanıdı. Sektörü şekillendiren yapay zeka araçlarına ilişkin en son gelişmeler için AI Buzz Wire'daki son yapay zeka haberlerini takip edin.
Cuma günü Google, politikalarını ihlal ediyor gibi görünen oluşturulan görüntülerin ekran görüntülerini gerekçe göstererek "daha güçlü korkuluklar uygulamaya çalışırken" bu özelliği duraklattığını doğruladı. Bu ani geri dönüş, araştırmacıların aracın ne kadar kolay ikna edici, konumu doğru sahte sahtekarlıklar üretebildiğini gösterdiği BBC Doğrulaması araştırmasının hemen ardından geldi.
Araç Nasıl Çalıştı?
Nano Banana 2, hükümetlerin, gazetecilerin ve halkın gezegenin doğru bir görünümünü elde etmek için güvendiği, yaygın olarak kullanılan haritalama platformu olan Google Earth'e doğrudan entegre edildi. Yapay zeka özelliği isteğe bağlı olarak görüntüler oluşturdu ve bunları gerçek koordinatlardan oluşan bir temel katman üzerine yerleştirdi. Daha da önemlisi, ortaya çıkan görseller, sentetik olduklarına dair belirgin bir belirti olmadan indirilip sosyal medya ve diğer platformlarda paylaşılabiliyordu.
Bu kombinasyon (icat edilmiş görsellerin gerçek coğrafi verilerle birleştirilmesi) araştırmacıları en çok alarma geçirdi.
Alarm Veren Gösteriler
Test sırasında BBC Verify, çökmüş bir Eyfel Kulesi'nin, Büyük Giza Piramidi'ni yutan bir çukurun ve Ukrayna'nın başkenti Kiev'de konumlanan Rus tanklarının görüntülerini oluşturmayı başardı.
Yapay zeka ve yanlış bilgi araştırmacısı Henk van Ess, araç askıya alınmadan önce daha da ileri giderek İran'da var olmayan bir nükleer enerji santralinin, ABD-Meksika sınırındaki bir mülteci kampının ve Gazze'de yanında bir bomba kraterinin bulunduğu sahte bir hastanenin uydurma sahnelerini üretti.
Van Ess, Google'ın "icat edilmiş" görüntülerin "gerçek koordinatlara kaynaklanmasına ve gerçek görüntüler üzerine çizilmesine" nasıl izin verdiğini açıklayarak, "Sahteciliğin kendi başına ikna edici görünmesi gerekmiyor. Üzerinde doğduğu haritanın güvenilirliğini miras alıyor" dedi.
Dayanamayan Filigranlar
Google, araçları aracılığıyla yapay zeka tarafından oluşturulan içeriğin görünmez filigranlar taşıdığını ve kullanıcıların sahte olduğundan şüphelenilen içerikleri Gemini chatbot veya Google Lens aracılığıyla doğrulayabildiğini vurguladı.
Ancak BBC Verify'ın testleri, bu kontrolleri atlatmanın ve Gemini'yi sahte Google Earth görüntülerinin gerçek olduğunu onaylaması için kandırmanın mümkün olduğunu ortaya çıkardı. Harici AI tespit araçları da bazı sentetik görüntüleri işaretlemede başarısız oldu. Bulgular, Google'ın yapay zeka kaynaklı yanlış bilgilere karşı savunma olarak konumlandırdığı önlemlerin güvenilirliğini zayıflatıyor.
Yapay zeka tespit araştırmacısı Henry Ajder, BBC Verify'a, çatışma bölgelerindeki uydurma görüntülerin, güvenilir bilgilerin az olduğu ve risklerin en yüksek olduğu hızlı gelişen olaylar sırasında özellikle "istikrarı bozucu" olabileceğini söyledi.
Aşırı Düzeltme Modeli
Bölüm, şirketlerin geri adım atmak zorunda kaldığı, giderek artan yüksek profilli yapay zeka lansmanları listesine eklendi. Google, 2024 yılında Gemini modelinde hatalı görüntü oluşturma nedeniyle incelemeyle karşı karşıya kaldı ve teknoloji firmaları üretken özellikler sunmak için yarışırken hızlı dağıtım-sonra-geri çekme döngüsü yinelenen bir tema haline geldi.
Bu durumda asıl tehlike platformun kendisinden kaynaklanıyordu. Google'ın beyanında da belirttiği gibi, "İnsanların güvenilir bir dünya görüşü için benzersiz bir şekilde Google Earth'e güvendiğini biliyoruz"; bu da bu güvenin erozyona uğramasının özellikle maliyetli olmasını sağlar.
Geri alma aynı zamanda hassas bir düzenleme anında da gerçekleşiyor. Yapay zeka tarafından oluşturulan içeriğin net bir şekilde etiketlenmesini zorunlu kılan Avrupa Birliği Yapay Zeka Yasası şeffaflık gereklilikleri, Google Earth olayından sadece birkaç gün sonra, 2 Ağustos 2026'da yürürlüğe girdi. Google, Temmuz ayının başlarında yapay zeka tarafından oluşturulan içerik etiketlemeye ilişkin AB'nin uygulama kurallarını zaten imzalamıştı.
Sırada Ne Olacak?
Google, özelliğin ne zaman geri dönebileceğini veya geri dönüp dönmeyeceğini söylemedi. Şirket, korkulukları geliştirmeye devam edeceğini belirtti ancak araştırmacılar, yapay zeka tarafından oluşturulan içeriği güvenilir coğrafi veriler üzerine katmanlayan temel tasarımın, çok daha güçlü kaynak kontrolleri olmadan indirilebilir, paylaşılabilir bir biçimde gönderilmesinin çok tehlikeli olabileceğini savundu.
Hâlâ hızlı yapay zeka dağıtımını gerçek dünyadaki zarara karşı nasıl dengeleyeceğiyle boğuşan bir sektör için, Google Earth'ün yapay zeka görüntü aracının 48 saatlik ömrü, yapay zekanın yapabilecekleri ile yapması gerekenler arasındaki uçurum hakkında uyarıcı bir hikaye olarak duruyor.
Yapay Zekanın Önünde Olun
Yapay zeka hızla ilerliyor ve onu şekillendiren politikalar daha da hızlı ilerliyor. Yapay zekanın geleceğini belirleyen lansmanlar, geri dönüşler ve düzenlemelerle ilgili günlük, gerçekleri kontrol edilmiş haberler için AI Buzz Wire'ı yer imlerine ekleyin.
Daha fazla AI haberini okuyun →
