Reuters'in bildirdiğine göre, OpenAI ve Meta Platformlarından temsilciler Perşembe günü federal bir yargı panelinde yapay zeka tarafından oluşturulan deepfake'lerin o kadar gelişmiş hale geldiğini ve mahkemede ses ve video kanıtlarının doğruluğunun doğrulanmasının daha da zorlaşacağını söyledi.
Teknoloji uzmanları endişelerini, mahkemelerin hangi delilleri kabul edebileceğini belirleyen federal kurallarda değişiklik tavsiye etmekten sorumlu olan ABD Yargı Konferansı Kanıt Kuralları Danışma Komitesi'nin Boston'daki toplantısında sundular. Komite, 2023'ten beri mahkeme salonlarında yapay zeka tarafından üretilen sahte delillerin risklerinin nasıl ele alınacağı üzerinde çalışıyor. For more context on this story, see our ongoing breaking AI news.
Yapay Zeka Laboratuvarları Tespitin Bilimsel Geleceği Olmadığını Söylüyor
OpenAI politika danışmanı Shira Anderson, komiteye yapay zeka görüntülerinin kalitesinin artmaya devam ettiğini söyledi ve bunları tespit edecek bilimsel bir yöntemin gelecekte var olacağına inanmadığını söyledi; bu, bu içeriği üreten üretken sistemleri inşa eden bir şirketten çarpıcı bir itiraf.
Meta'nın ürün yönetimi direktörü Devin Norder panelde, son yapay zeka modelleri tarafından oluşturulan medyanın insanlar tarafından orijinal içerikten ayırt edilemeyeceğini ve bu tür medyayı oluşturmanın artık minimum maliyet ve zaman gerektirdiğini söyledi.
Her iki şirket de görsel içerik için kaynak ve doğrulama araçları geliştirdi ve Kaliforniya ile Avrupa Birliği'ndeki yeni yasalar, yapay zeka tarafından oluşturulan medyaya filigran eklenmesini gerektiriyor. Ancak Anderson, komiteyi her şirketin kendi sistemini kullandığı konusunda uyardı; bu, ekosistem genelinde tüm filigranları güvenilir bir şekilde tespit etmek veya görsel içeriğin orijinalliğini doğrulamak için evrensel bir yöntemin bulunmadığı anlamına geliyor.
Mahkemeler Dalgayı Henüz Hissetmedi
Komite başkanı, Manhattan'dan ABD Bölge Hakimi Jesse Furman, alarma karşı bir denge unsuru önerdi: Akademik yorumlar mahkemelerin derin sahtekarlıklarla ilgileneceğini öngörse de, bu sorun gerçek davalarda henüz sıklıkla ortaya çıkmadı.
Mart ayında Federal Yargı Merkezi tarafından yürütülen bir anket bu boşluğun altını çizdi. Yanıt veren 931 yargıçtan yalnızca 15'i, bir tarafın delilin deepfake olduğu gerekçesiyle itiraz ettiği bir davayla karşılaştı.
Tahmin ile uygulama arasındaki uçurum komitenin temel ikilemini oluşturuyor. Federal Kanıt Kuralları 901 ve 902 uyarınca, kanıtların doğrulanması için mevcut standart - komitenin kendi raporunun da belirttiği gibi - ılımlı bir standarttır: bir tarafın yalnızca öğenin savunucunun iddia ettiği şey olduğuna dair bir bulguyu desteklemek için yeterli kanıt sunması gerekir. Deepfakes bu standarda stres testi uygular çünkü kayıtların kimliğini doğrulamaya yönelik geleneksel yollar (tanık ifadesi, sistem dokümantasyonu), sahteciliğin büyük ölçekte zor, pahalı ve tespit edilebilir olduğunu varsayar.
Komitenin kendi raporları sorunu olağandışı bir açık sözlülükle çerçeveledi. Aralık 2025 raporu, duruşmada sunulan bir video veya sesin deepfake olması durumunda ne olacağını inceledi ve bunun, mevcut orijinallik standardının hafif olması nedeniyle, Kural 901 ve 902 kapsamındaki orijinallik gereksinimlerine doğrudan bir meydan okuma teşkil ettiği sonucuna vardı. Bu standardın nasıl sıkılaştırılacağı ve uygulanıp uygulanmayacağı, komitenin üç yıldır üzerinde durduğu sorudur ve laboratuvar temsilcilerinin uyardığı gibi, tespit biliminin nesil bilimine asla yetişememesi durumunda bu soru daha da acil hale gelir.
Uygulayıcılar Şimdi Ne Yapabilir?
Kurallar değişene kadar pratik yük davacılara ve duruşma hakimlerine düşüyor. Kaynak araçları (oluşturma sırasında gömülü kriptografik içerik kimlik bilgileri) kamera uygulamaları ve yaratıcı yazılımlar aracılığıyla yayılıyor, ancak yalnızca bunları taşıyan medyaya yardımcı oluyorlar. Kaydı yakalayan kişinin yeminli olarak çapraz sorguya alınması, orijinal dosyalar ve meta veriler için keşif talepleri ve sosyal platformlarda dolaşan kaynaksız kliplerin daha yakından incelenmesi mevcut savunmalardır. Danışma komitesinin bu haftaki mesajı, bu geçici önlemlerin kural düzeyinde resmi bir temele ihtiyaç duyacağı yönündeydi çünkü resmi olmayan olanlar, OpenAI ve Meta'nın artık var olmadığını söylediği bir tespit edilebilirliği varsayıyor.
Laboratuvarların Tanıklığı Neden Önemlidir
Yargıyı bu konuda uyaranların ise ürünleri risk oluşturan firmalar olması dikkat çekiyor. OpenAI ve Meta'nın, kuralların nasıl uygulanacağı konusunda doğrudan ticari ve itibar çıkarları var: katı kimlik doğrulama gereksinimleri, AI medyasının meşru kullanımları konusunda sürtüşmeye neden olabilirken, gevşek olanlar, araçlarını mahkeme salonunda sahtekarlık için vektörler haline getirebilir. Komiteye verdikleri mesaj, filigranlama, içerik kimlik bilgileri, gözetim zinciri belgeleri gibi kaynak standartlarının uygulanabilir yol olduğu, çünkü tespitin tek başına ölçeklenemeyeceği yönündeydi.
Komitenin üç yıllık incelemesinin, yapay zeka dönemi için federal kanıt kurallarının değiştirilmesi gerekip gerekmediği konusunda bilgi vermesi bekleniyor. Herhangi bir değişiklik, Kongre'ye gitmeden önce kamuoyunun yorumu da dahil olmak üzere Yargı Konferansı'nın kural koyma sürecinden geçecek.
Daha Geniş Düzenleyici Resim
Duruşma, deepfake ile ilgili politika faaliyetlerinin arttığı bir dönemde gerçekleşti. Kaliforniya ve AB filigranlama kurallarını yürürlüğe koydu. Danimarka, AI deepfake'lerinin izinsiz paylaşılmasını yasaklayan ileri bir yasa çıkardı. ABD mahkemeleri zaten yapay zeka tarafından üretilen uydurmaların davalarda ortaya çıktığını gördü ve yargıçlar avukatlara chatbotlar tarafından oluşturulan sahte alıntılar sunmaları nedeniyle yaptırım uyguladı.
Şimdilik federal yargı, hızlı kural değişiklikleri yerine dikkatli çalışmayı tercih ediyor. Ancak teknolojiyi geliştiren şirketlerin ifadeleri, sektörün kendisinin tespit araçlarının buna ayak uydurmasını beklemediğini gösteriyor; bu da yükü kaynak standartlarına, canlı ifade gereklilikleri gibi prosedürel güvencelere ve nihayetinde hakimlerin ve jürilerin neye inanacakları konusundaki kararlarına kaydırıyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
