OpenAI Perşembe günü, "karşıtlaşmalı damıtma"yı (bir sınır modelinin çıktılarının rakip bir sistemi eğitmek için yetkisiz kullanımı) nasıl tespit edip bozduğuna dair şimdiye kadarki en ayrıntılı açıklamasını yayınladı ve birçok rapora göre, modellerine doğrudan erişim sunmadan önce üçüncü taraf ağ geçitlerinin ve satıcıların onayını almasını istemeye başladı.
"Düşmanca damıtmayla mücadele" başlıklı OpenAI blog yazısında açıklanan ve Semafor ile eWeek'in haberinde açıklanan hamleler, şirketin modellerinin yeteneklerini kimin yeniden dağıtabileceğini kontrol etme şeklinin önemli ölçüde sıkılaştığına işaret ediyor; geliştiriciler, startup'lar ve aracılar aracılığıyla OpenAI sistemlerine erişen kuruluşlar için gerçek sonuçları olan bir değişim.
OpenAI Neden Damıtmayı Bir Güvenlik Sorunu Olarak Görüyor?
Damıtma, bir modelin diğerinin çıktılarından öğrendiği standart bir makine öğrenme tekniğidir. OpenAI, bunun kendi başına ne yasadışı ne de sıra dışı olduğunu belirtiyor. Şirketin endişesi, rekabete dayalı damıtma olarak adlandırdığı şeydir: bir aktörün, benzer yeteneklere sahip başka bir modeli eğitmek için yetkisiz bir şekilde bir sınır modelinin çıktılarını kullanması ve ardından onu karşılaştırılabilir güvenlik önlemleri olmadan konuşlandırması.
OpenAI, blog yazısında riskin siber güvenlik ve biyoloji gibi çift kullanımlı alanlarda en belirgin olduğunu savunuyor. Savunmacıların yazılımdaki güvenlik açıklarını bulmasına yardımcı olan bir model, becerileri daha zayıf korkuluklara sahip bir sisteme aktarıldığında, bir saldırganın bunları kullanmasına yardımcı olabilir. Şirket, "Bir düşman, bir modelin siber yeteneklerini damıtabilir ve ortaya çıkan modeli, orijinal modelin yardım etmeyi reddedeceği siber saldırıların gerçekleştirilmesine yardımcı olmak için kullanabilir" diye yazdı.
Düşünce Zincirini Korumak
OpenAI'nin savunmasının merkezinde korumalı muhakeme dediği şey var: bir modelin bir cevaba doğru çalışırken dahili olarak ürettiği ara adımlar - düşünce zinciri -. Şirketin açıklamasına göre bu izler, nihai cevabın dışarıda bıraktığı bilgileri içerebiliyor ve bu da onları başka bir laboratuvar modeli için eğitim verileri olarak özellikle değerli kılıyor.
OpenAI, GPT-6.2 Astra ve GPT-6.2 Sol'da akıl yürütme izi çıkarmaya karşı savunmasını güçlendirdiğini söylüyor. Otomatik kırmızı ekiplemeyi kullanan dahili uyarlanabilir değerlendirmede şirket, korumalı mantığın kurtarılmasına yönelik ortalama saldırı başarı oranının, orijinal korumalarıyla GPT-6 Astra'ya karşı %54,0'dan, güncellenmiş korumalarla GPT-6.2 Astra'ya karşı %0,2'ye düştüğünü bildirdi.
Dahili Siber Araştırmasında Neler Bulundu?
Şirket ayrıca damıtma sırasında siber yeteneklerin nasıl aktarıldığına ilişkin dahili bir çalışmanın sonuçlarını da paylaştı. Öğrenci modelleri, kodlama ve savunma amaçlı siber güvenlik görevleri üzerinde çalışan öğretmen modelleri tarafından oluşturulan yörüngelere göre hassas şekilde ayarlandı. Gönderinin yanında görüntülenen OpenAI kriterlerine göre, kesin akıl yürütme izleri üzerinde eğitilen öğrenciler, hem denetimli ince ayar sonrasında hem de - test edilen en büyük çıkarım bütçelerinde - bir sonraki takviye öğrenim turundan sonra, genellikle yalnızca akıl yürütme özetleri konusunda eğitim alan öğrencilerden daha iyi performans gösterdi.
Bunun anlamı, yetenek aktarımının, arındırılmış çıktıların yayınlanmasıyla kontrol altına alınabileceğini ümit eden herkes için düşündürücüdür: kullanım politikaları kapsamında izin verilen etkileşimler bile, toplu olarak, öğretmenin başlangıçta gerçekleştirdiği görevlerin ötesinde genelleşen öğrenci modeli becerilerini öğretebilir.
Ağ Geçitleri ve Bayilerin Artık Onaylanması Gerekiyor
Teknik önlemler bir politika değişikliğiyle birlikte geliyor. eWeek'in haberine göre, Perşembe gününden itibaren OpenAI, önceden onay almak için üçüncü tarafların modellerine doğrudan erişmesini sağlayan AI model yönlendiricilerine ve ağ geçitlerine ihtiyaç duyacak. Bu gereklilik, şirketin ekim ayında yaptığı ve müşteriler modellerine doğrudan veya barındırma ortakları ve satıcılar aracılığıyla eriştiğinde güvenlik korumalarının nasıl uygulanması gerektiğini açıklayan bir duyuruya dayanıyor.
eWeek'in bu çerçeveyle ilgili özetine göre, katılımcı hizmetlerin karşılaştırılabilir standartları koruması bekleniyor, böylece kullanıcılar kısıtlamalardan kaçınmak için sağlayıcıları kolayca değiştiremeyecek. Önlemler üç aşamayı kapsıyor: Risk değerlendirmeleri ve dağıtımdan önce korumayı atlama girişimlerine karşı testler; ortakların şüpheli etkinliği araştırmasının beklendiği kullanım sırasında izleme; ve ihlaller meydana geldikten sonra yaptırım adımları. Semafor, bu değişikliği OpenAI'nin kendi API'si etrafında hızla büyüyen bayi ekosistemi üzerindeki hakimiyetini sıkılaştırması olarak nitelendirdi.
Geliştiriciler İçin Ne İfade Ediyor?
Geliştiriciler için bunun pratik etkisi, satıcı durum tespitine eklenecek yeni bir uyumluluk sorusudur: OpenAI modelleri sunan bir aracının gerçekten bunu yapmaya yetkili olup olmadığı. eWeek, trafiği toplayıcılar aracılığıyla yönlendiren işletmelerin, sağlayıcılarının onay durumunu ve kimlik bilgileri ile verileri nasıl işlediğini doğrulamaları gerektiğini önerdi.
Daha geniş sektör için bu duyuru, model sağlayıcıların yalnızca modellerin değil, türetilmiş yeteneklerin kontrolünü de giderek daha fazla önemli olan çevre olarak gördüklerinin bir işaretidir. Damıtma anlaşmazlıkları son yıllarda saha genelinde alevlendi ve OpenAI artık tepkisini bir lisans anlaşmazlığı olarak değil bir güvenlik gereksinimi olarak çerçeveliyor ve damıtma savunmalarını biyoloji ve siber güvenlik risklerine uyguladığı kontrollerle uyumlu hale getiriyor.
Önümüzdeki Yol
OpenAI, farklı öğrenci modelleri ve damıtma tarifleri arasında ne kadar yetenek aktarıldığını araştırmaya devam edeceğini söylüyor ve diğer laboratuvarları tespit ve uygulama çalışmalarını geliştirmeye davet ediyor. Rakiplerin karşılaştırılabilir ağ geçidi onay rejimlerini benimseyip benimsemediği ve kullanıcıların ilave anlaşmazlıkları kabul edip etmediği, yeni nesil yapay zeka sistemlerinin nasıl inşa edileceğini ve bunları kimin inşa etmesine izin verileceğini belirlemeye yardımcı olacaktır.
Trendin Önünde Olun
Yapay zeka modelleri, güvenlik ve politikalarla ilgili en son gelişmeleri anında öğrenmek ister misiniz? Son dakika AI haberlerini takip edin AI Buzz Wire'da.
Daha fazla AI haberini okuyun →