Makine tarafından oluşturulan metinleri işaretlemesiyle tanınan yapay zeka algılama şirketi Pangram, yapay zeka tarafından oluşturulan ve yapay zeka tarafından düzenlenen görüntülerin ve videoların tespitinde yeni bir son teknoloji ürünü olduğunu söylediği Pangram Image 1.0 ve Pangram Image Flash 1.0 modellerini resmi olarak piyasaya sürdü. 4 Kasım'da Pangram'ın kendi blogunda yayınlanan ve Engadget, Unite.AI ve Yahoo Tech tarafından alınan duyuru, şirketin birkaç ay önce yayınladığı bir araştırma ön izlemesini API desteğiyle genel kullanıma sunulan bir ürüne dönüştürüyor.
Lansman, hem gündelik kaydırma yapanlar hem de platformların güvendiği denetleme sistemleri açısından sentetik medyayı orijinal içerikten ayırmanın gerçekten zorlaştığı bir zamanda gerçekleşti. Pangram'ın iddiası, günümüzün sınır jeneratörlerinin çıktılarına göre özel olarak eğitilmiş özel tespit modellerinin, kayıp sinyalin bir kısmını geri getirebileceği yönünde.
%99,96 Doğrulukla Sınır Görüntüsü Algılama
Amiral gemisi Pangram Image 1.0 modeli, şirketin kendi oluşturduğu bir kıyaslamayla değerlendirildi: Her biri, orijinal fotoğrafla yakından eşleşen istemler kullanılarak 12 sınır yapay zeka görüntü oluşturucusu tarafından üretilen sentetik versiyonlarla yansıtılan 100 gerçek fotoğraf, yani toplam 1.200 sentetik görüntü. Pangram, bu değerlendirme setinde %99,96 doğruluk oranı rapor ediyor; bu rakam, eğer bağımsız inceleme altında geçerli olursa, modeli, şirketin karşılaştırdığı ticari ve akademik dedektörlerin çok ilerisine taşıyacaktır.
Basit bir gerçek veya sahte kararının ötesinde model, yapay zeka içeriğinin bir görüntüde tam olarak nerede göründüğünü yerelleştiren ısı haritaları üretir. Bu, tamamen sentetik görüntüler ile dokunulmamış fotoğraflar arasındaki giderek yaygınlaşan orta yol açısından önem taşıyor: Yapay zeka tarafından oluşturulan arka planlara sahip pazarlama görselleri, üretken araçlarla rötuşlanan fotoğraflar veya gerçek nesneleri oluşturulan öğelerle karıştıran kompozitler.
Pangram ayrıca yeni modelin, sosyal medya sıkıştırması, kasıtlı bulanıklaştırma ve gürültü ve düşük yükleme çözünürlükleri gibi saf dedektörleri güvenilir bir şekilde alt eden dönüşüm türlerine karşı dayanıklı olduğunu iddia ediyor. Şirket, önceki araştırma önizlemesinin en az 512x512 piksellik görüntüler gerektirdiğini, Image 1.0'ın ise eski eşiğin altında gösterilen azaltılmış güvenirlik reddi ile 256x256'ya kadar olan girdileri kabul ettiğini söylüyor.
Video Algılama ve DF26'da 29 Noktalık Atılım
Yardımcı model Pangram Image Flash 1.0 ise videoyu hedefliyor ve şirketin iddiaları da tam bu noktada dikkat çekiyor. Pangram, konuşan insanların gerçek videolarını yapay zeka tarafından oluşturulan videolardan ayırt etmede insanların rastgele olmaktan çok daha iyi olduğunu ve mevcut otomatik dedektörlerin çok daha iyi olmadığını ortaya koyan yakın tarihli bir akademik çalışma olan DF26'dan alıntı yapıyor. Aynı DF26 kıyaslamasında Pangram %98,7'lik bir puan rapor ediyor ve bunu bir sonraki en iyi dedektöre göre 29 puanlık bir sıçrama olarak tanımlıyor.
Pangram, akademi yerine ticari piyasayı kıyaslamak için 129 gerçek sosyal medya videosundan zorlu bir karşılaştırma seti oluşturdu; her biri 14 farklı sınır video oluşturucu kullanarak sentetik aynalar oluşturdu - oluşturucu başına 100 video, her kaynak videonun ilk gerçek karesiyle tohumlandı ve eylemin oluşturulan açıklamalarıyla yönlendirildi. Ortaya çıkan 1.529 videoda şirket, Flash 1.0'ı çok sayıda önemli yapay zeka video algılama hizmetiyle karşılaştırdı. Ayna metodolojisi içerik önyargısını ortadan kaldırmak için tasarlanmıştır: Her gerçek video ve onun sentetik ikizi aynı sahneyi ve konuyu paylaşır, dolayısıyla bir dedektör hangi konuların veya estetiğin yapay zeka içeriğiyle ilişkili olduğunu öğrenerek testte oyun oynayamaz.
Flash modeli aynı zamanda kare kare analiz gerçekleştiriyor ve bu da orijinal görüntülerin içindeki yapay zeka tarafından düzenlenen bölümleri işaretlemesine olanak tanıyor. Bu yetenek, tamamen sentetik klipler yerine kısmen manipüle edilmiş videoların büyüyen sorununu hedef alıyor.
Metin Algılamadan Tam Sentetik Medya Yığınına
Pangram, sınıflandırıcılarının eğitim ve yayıncılıkta yaygın olarak kullanıldığı AI metin algılama konusunda itibar kazandı ve Yahoo Tech'in lansmanla ilgili haberinde, şirket bu kategoride altın standart olarak tanımlandı. Görüntü ve videoya genişleme doğal bir genişlemedir ve Pangram'ı farklı formatlardaki sentetik medyayı denetlemeye çalışan platformlar, haber odaları ve kuruluşlar için tek durak noktası olarak konumlandırır.
Yeni modeller, hem görüntü hem de video algılama için API desteği ve kullanıcılar akışlarını kaydırırken algılamayı resimlere ve videolara uygulayan bir Chrome uzantısıyla birlikte geliyor; bu, algılamayı bir arka ofis denetleme aracından tüketici sınıfı korumaya daha yakın bir şeye taşıyor. Pangram ayrıca modelleri X-AIGD, Mirage-Test, AIGenImages2026, RAISE ile eşleştirilmiş Synthbuster ve Community Forensics gibi akademik veri kümeleriyle karşılaştırdığını da söylüyor.
Tespit Silahlanma Yarışı Devam Ediyor
Bir uyarıyı vurgulamakta fayda var: Pangram'ın duyurusundaki her sayı, Pangram'ın kendi ayna tabanlı kriterlerine göre yürütülen kendi değerlendirmelerinden geliyor. Bağımsız doğrulama, tespit araçlarının sonuçta güven kazanmasını sağlar ve yapay zeka tespitinin geçmişi, doğruluğu daha önce hiç görmedikleri jeneratörlere karşı çöken araçlarla doludur. Pangram da gönderisinde bunu kabul etti ve topluluğa araştırma ön izlemesini denediği ve zayıf noktalarını bulduğu için teşekkür etti.
Yine de bu lansman, üretken videonun hızlı gelişimine yanıt olarak algılama teknolojisinin ne kadar ilerlediğinin anlamlı bir göstergesi. Bildirilen DF26 sonucu üçüncü taraf testlerinden sağ çıkarsa, insanların algılayabildiği ile makinelerin doğrulayabildiği arasındaki fark daha da büyüyecek; Pangram'ın bahis oynadığı pazar da tam olarak bu.
Platformlar ve yayıncılar için pratik çıkarım, kare düzeyinde video analizi de dahil olmak üzere düşük çözünürlüklerde yüksek doğruluklu algılamanın ticari bir API olarak kullanıma sunulmasıdır. Sentetik medya sorununun bir sonraki aşaması, tespitin mümkün olup olmadığıyla ilgili olmaktan çok, bunu kimin konuşlandırdığı ve internet tesisatının hangi katmanında olduğuyla ilgili olabilir.
Yapay Zekanın Önünde Olun
Sentetik medya, tespit araçları ve bunları benimseyen platformlar hareketli hedeflerdir; bunların hepsinde güncel kalın.
Daha fazla AI haberini okuyun →
