Şirket bu hafta, Anthropic'in Claude modelleri tarafından oluşturulan metne görünmez filigranlar uygulamaya başlayacağını doğrulayarak, yeni Avrupa şeffaflık kurallarına yanıt olarak makine tarafından okunabilir kaynak sinyalleri ekleyen en son yapay zeka sağlayıcısı olacağını doğruladı.
Güncellenmiş bir destek sayfasında ayrıntıları verilen değişiklik, Claude tarafından üretilen içeriğin başka bir yere kopyalanıp yapıştırıldığında hayatta kalabilecek şekilde tasarlanmış gizli bir imza taşıyacağı anlamına geliyor. Bu, 2 Ağustos'ta yürürlüğe giren ve yapay zeka şirketlerinin oluşturulan veya düzenlenen içeriği diğer sistemlerin algılayabileceği şekilde işaretlemesini gerektiren Avrupa Birliği Yapay Zeka Yasası Şeffaflık Yasasına doğrudan bir yanıttır.
Filigran nasıl çalışır?
Anthropic, 2 Ağustos'tan sonra piyasaya sürülen tüm modellerin, hem bilgisayar tarafından oluşturulan metinlere hem de dosyalara filigran ekleme teknolojisini otomatik olarak içereceğini söyledi. Dosyalar için şirket, bir medya parçasının nasıl oluşturulduğunu kaydetmek için bazı kamera üreticileri ve görüntü düzenleme araçları tarafından halihazırda kullanılan bir içerik kimlik bilgileri çerçevesi olan C2PA açık standardını benimsiyor.
Metin filigranı sonradan akla gelen bir düşünce olarak uygulanmak yerine model düzeyinde gömülür. Anthropic'in destek belgelerine göre, "filigran metnin bir parçası olduğundan, başka bir yere kopyalanıp yapıştırıldığında metinle birlikte hareket edecek ve bazı düzenlemelere rağmen varlığını sürdürebilir. Filigranlama model düzeyinde uygulanacaktır; bu, metnin hangi Claude ürünü veya yüzeyinden geldiğine bakılmaksızın mevcut olacağı anlamına gelir."
Şirket, filigran desteğini eski modellere de genişletmeyi planladığını ekledi. Bu özellik, Claude platformu API'si, Claude sohbet uygulaması, Claude Code, Claude Cowork ve Claude Tag dahil olmak üzere Anthropic'in ürün yelpazesinde geçerli olacak.
Bir kullanıcının işareti kaldırmak için ne kadar düzenleme yapması gerektiği tam olarak belli değil ve Anthropic, tekniği kamuya açık bir şekilde detaylandırmadı. Metin filigranlaması teknik olarak zordur çünkü ifadelerde yapılan küçük değişiklikler, bu alandaki araştırmacılar için uzun süredir devam eden bir zorluk olan hassas istatistiksel kalıpları kırabilir.
Kullanıcılar için kapsam dışında kalma seçeneği yok
Özellikle Claude kullanıcıları filigranı devre dışı bırakamayacak. Ayar, istek başına değiştirilmek yerine modelin kendisi tarafından uygulanır; bu, Claude yüzeyi aracılığıyla metin üreten herkesin, istese de istemese de bu metni işaretleyeceği anlamına gelir.
Bu duruşun bazı profesyonel kullanıcılar tarafından geri çevrilmesi muhtemeldir. İçerik taslağı oluşturmak için Claude'u kullanan yazarlar, geliştiriciler ve işletmeler, temiz, işaretsiz çıktılara alıştı ve bazıları, internette metinlerinin ardından gelen görünmez bir imzadan rahatsız olabilir. Antropik, mevzuata uygunluğun bu tercihten daha ağır bastığı sonucuna varmış gibi görünüyor.
Daha geniş bir sektör mücadelesinin parçası
Antropik tek başına hareket etmiyor. AB'nin şeffaflık gereklilikleri, düzenleyiciler kapıyı çalmadan önce yapay zeka ve içerik platformları arasında kaynak sinyalleri eklemek için bir yarış başlattı.
Daha geçen hafta, AI müzik platformu Suno, AI tarafından üretilen ses konusunda yaşanan yasal zorluklar dalgasının ardından hizmetinde oluşturulan parçaları işaretlemeye başlayacağını söyledi. Geçen ay, haber bülteni platformu Substack, AI tarafından oluşturulan içeriği işaretlemek için algılama firması Pangram ile ortaklık kurdu ve Substack CEO'su Chris Best, platformları düşük kaliteli malzemeyle doldurmak için AI kullanan kişiler için "Claudefishing" terimini kamuoyuna duyurdu.
Baskı, Anthropic'in doğrudan rakiplerinin çok ötesine uzanıyor. TechCrunch'ın raporuna göre Black Forest Labs, Google, Meta, Microsoft, OpenAI ve Synthesia AB'nin şeffaflık kurallarına bağlı kalmayı taahhüt etti ve filigranlamanın hızla farklılaştırıcı bir unsur olmaktan ziyade temel bir endüstri beklentisi haline geldiğinin sinyalini verdi.
Kaynak neden aniden acil hale geldi?
Filigranlara yönelik baskı, birbirine yaklaşan iki kaygıyı yansıtıyor. Bunlardan ilki düzenleyicidir: AB Yapay Zeka Yasası şu anda yürürlükte ve buna uymayan şirketler ciddi cezalarla karşı karşıya kalma ihtimaliyle karşı karşıya. Kaynak altyapısını erkenden devreye almak, yaptırım baskısı altında yenilemekten daha ucuzdur.
İkincisi itibardır. Yapay zeka tarafından oluşturulan metin, resim, ses ve video sosyal platformları doldururken, yayıncılar ve platformlar, insan emeğini dışlayan ve güveni aşındıran düşük kaliteli sentetik içerik olan "Yapay Zeka çöküşü" konusunda artan tepkilerle karşı karşıya kalıyor. Görünmez filigranlar, ılımlılığın tek başına çözemeyeceği bir soruya teknik bir yanıt sunuyor: Bu bir makine tarafından mı yazıldı?
Markasını yapay zeka güvenliği üzerine kuran Anthropic için filigranı benimsemek aynı zamanda bir güvenilirlik hamlesi. Kendini sorumlu bir alternatif olarak pazarlayan bir şirketin, ayak sürüdüğü görülmek yerine şeffaflığa öncülük etme konusunda güçlü teşvikleri vardır.
Daha zor sorular çözülmeden kalıyor. Filigranlar yalnızca algılama araçlarının onları gerçekten araması ve işaretlerin, içerik açık web'de taşınırken meydana gelen düzenleme, yeniden biçimlendirme ve aklama işlemlerine dayanacak kadar sağlam olduğunu kanıtlaması durumunda yardımcı olur. Anthropic'in iddiası, sinyali model seviyesine yerleştirmenin en dayanıklı yaklaşım olduğu yönünde. Pratikte işe yarayıp yaramadığı önümüzdeki aylarda hızlı bir şekilde ve halka açık olarak test edilecek.
Yapay zeka politikasının ve sektörü yeniden şekillendiren araçların devam eden kapsamı için, AI Buzz Wire'ın yapay zeka hakkındaki son dakika haberlerini yer imlerine ekleyin.
