OpenAI, 5 Ekim'de Avrupa Birliği'ndeki kullanıcılar için ChatGPT ve Codex tarafından oluşturulan metne görünmez filigranlar eklemeye başlayacağını duyurdu; bu, AB AI Yasası'nın metin kaynağı kurallarına somut bir yanıt. "AB metin kaynak kurallarına yaklaşımımız" başlıklı bir blog yazısında şirket, filigranın bloktaki uygun çıktılar için "önümüzdeki haftalarda" kullanıma sunulacağını söyledi; bu plan aynı gün TechCrunch, The Verge, BleepingComputer, Engadget ve diğer yayın kuruluşları tarafından bildirildi.
Değişikliğin arkasındaki teknolojiye textGrain adı veriliyor. TextGrain, görünür bir işaret yerleştirmek yerine, modelin kelime seçimlerini ustalıkla yönlendirerek çalışır; böylece ortaya çıkan metin, daha sonra tespit edilebilecek istatistiksel bir model taşır. Okuyucular yapay zeka tarafından oluşturulan metni tüketirken veya kopyalarken hiçbir şey fark etmeyecekler; algılama, OpenAI'nin genel kullanıma açık olmayan dedektörüne erişim gerektirir. Düzenleyicilerin ve laboratuvarların yapay zeka kuralları konusunda nasıl çatıştığına daha geniş bir bakış için devam eden yapay zeka politikası kapsamımızı takip edin.
textGrain Filigranı Nasıl Çalışır?
OpenAI'nin yaklaşımı, oluşturma sırasında belirteç seçim sürecini değiştirir. BleepingComputer'ın raporuna göre şirket, textGrain'in "daha sonra tespit edilebilecek istatistiksel bir model oluşturmak için modelin kelime seçimlerini biraz değiştirdiğini" söylüyor. Filigran, metin okunurken veya kopyalanırken görünmez ve OpenAI bunun çıktı kalitesini bozmadığını iddia ediyor.
Algılama tarafı kasıtlı olarak sınırlandırılmıştır. Filigran lansmanının yanı sıra OpenAI, filigran dedektörü için uygulamaları da açıyor ancak erişim başlangıçta onaylı araştırmacılar ve uzman kuruluşlarla sınırlı olacak. Bu tasarım, tespit yeteneğini onu silah haline getirmeyi ümit edenlerin elinden uzak tutuyor, ancak aynı zamanda yayıncıların, öğretmenlerin ve işverenlerin bir metin parçasının filigranlı olup olmadığını bağımsız olarak doğrulayamayacağı anlamına da geliyor.
API Erişimi Dünya Çapında Seçilebilir
AB'nin talimatı bloktaki ChatGPT ve Codex çıktısı için geçerlidir, ancak OpenAI aynı anda geliştiricilere her yerde seçenek sunuyor. 5 Ekim'den itibaren dünya çapındaki API geliştiricileri, desteklenen modeller için metin filigranı özelliğini etkinleştirebilecek. Bu özellik, API'de varsayılan olarak devre dışı kalmaya devam ediyor; The New Stack, Anthropic'in yaklaşımıyla bir tezat olarak vurgulanan bir karardı ve bu karar, aynı kurallara kendi tepkisi olarak bu yılın başlarında AB trafiği için menşe işaretlemesini etkinleştirdi.
Bu katılım duruşu, geliştiricilerin öngörülemeyen yan etkiler konusunda endişelerini giderecektir. İstatistiksel filigran, jetonların nasıl örneklendiğini değiştirir ve üretimde yapılan herhangi bir değişiklik, en azından teorik olarak uç durumlarda davranış değişikliği riski taşır. OpenAI, filigranı varsayılan yerine bayrak haline getirerek uyumluluk kararını kendi modellerini temel alan şirketlere aktarır.
AB Yapay Zeka Yasası Neden Bunu Zorladı?
AB Yapay Zeka Yasası'nın şeffaflık hükümleri, yapay zeka tarafından oluşturulan metnin makine tarafından üretilmiş olarak tanımlanabilmesini gerektirmektedir; bu, hem OpenAI'yi hem de Anthropic'i istatistiksel filigranlama planlarına iten bir zorunluluktur. OpenAI'nin blog yazısı, textGrain'i bu kaynak gereksinimlerinin uygulanması olarak çerçeveliyor ve PYMNTS, OpenAI'nin doğrudan "AB Yapay Zeka Yasası zorunluluklarını" karşıladığını bildirdi.
Zamanlama dikkat çekici. Filigran duyurusu, OpenAI'nin kamusal tutumu açısından alışılmadık derecede çalkantılı bir dönemde gerçekleşti: Aynı haber döngüsü, güvenlik lideri David Robinson'un ayrılışını, büyük AI laboratuvarlarında tüketici risklerine yönelik bir FTC soruşturmasını ve şirketi inceleme altında tutan bir hissedar dava atmosferini getirdi. Filigranlama, OpenAI'nin ürün değişiklikleri yerine altyapıyla tam olarak karşılayabileceği birkaç düzenleyici talepten biridir ve bu da neden ilk önce gönderildiğini açıklayabilir.
Önemli Nokta: Filigranlar Düzenleniyor
OpenAI'nin kendisi temel sınırlamayı kabul ediyor. Şirket, metin düzenlendiğinde filigranının kaybolabileceğini kabul ediyor ve dilbilimsel steganografi üzerine onlarca yıldır yapılan araştırmalar bu endişeyi destekliyor: başka kelimelerle ifade etme, çeviri ve hatta mütevazı yeniden yazma, istatistiksel filigranları yok edebilir. Yapay zeka metnini bir "insancıllaştırma" aracı aracılığıyla aklamaya kararlı olan herkes muhtemelen başarılı olacaktır.
Bu zayıflık, düzenleyicilerin filigran istemesini engellemedi ve laboratuvarların da filigran göndermesini engellemedi. Gerçekçi hedef, kurcalamaya dayanıklı kaynak değil, para filigranlarını yöneten mantığın aynısı olan, tesadüfi aldatmanın maliyetini büyük ölçekte artırmaktır. Gönüllü sektör önlemlerine şüpheyle yaklaşan bazı yapay zeka güvenlik grupları da dahil olmak üzere eleştirmenler, yalnızca onaylı kuruluşların erişebildiği dedektörlerin öğretmenler, editörler veya kendi yapay zeka içerik politikalarını uygulamaya çalışan platformlar için çok az şey yaptığını savunuyor.
Kullanıcılar ve Geliştiriciler İçin Ne İfade Ediyor?
AB içindeki ChatGPT ve Codex kullanıcıları için hiçbir şey gözle görülür şekilde değişmeyecek. Metin aynı görünecek ve aynı hissi verecek ve çıktılarda hiçbir etiket görünmeyecektir. Filigran, prensipte OpenAI'nin onaylı ortakları tarafından tespit edilebilecek şekilde orada olacaktır.
Geliştiriciler için API bayrağı hemen gelir ve dikkatli bir şekilde değerlendirilmeye değerdir: Bunu açmak, API ayarı genel olduğundan, AB üyesi olmayan kullanıcılar için bile her tamamlamada simge örneklemede yapılan ince değişiklikleri kabul etmek anlamına gelir. Gecikme süresi veya kalite bütçeleri katı olan ekipler, geçiş yapmadan önce filigran oluşturmayı mevcut kurulumlarıyla karşılaştırmak isteyebilir.
OpenAI, uygun modeller ve dedektör başvuru süreci hakkında daha fazla ayrıntının önümüzdeki haftalarda geleceğini söylüyor. Diğer laboratuvarlar da aynı AB yükümlülükleriyle karşı karşıya olduğundan, textGrain'in endüstrinin bu yıl uygulamaya koyduğu son filigranlama planı olması pek mümkün görünmüyor.
Yapay Zekanın Önünde Kalın
Düzenleme, AI ürünlerinin örtü altında çalışma şeklini yeniden şekillendiriyor. Gün boyunca güncellenen politika analizi ve model haberleriyle AI Buzz Wire'dan en son AI gelişmelerini alın.
Daha fazla AI haberini buradan okuyun.
