Araştırma firması SemiAnalytics tarafından hazırlanan bir rapora göre, gelişmiş yapay zeka sistemlerinin oluşturduğu risklere ilişkin endişeler dünya çapında artarken, Çin'in önde gelen yapay zeka geliştiricileri, sürümlerinin yalnızca küçük bir kısmı için modele özel güvenlik testi sonuçlarını kamuya açıkladı.
Reuters tarafından bildirilen bulgular, küresel yapay zeka güvenliği tartışmasının merkezindeki şeffaflık açığını ölçüyor: Dünyanın en yetenekli modellerinden bazılarını oluşturan laboratuvarlar, dışarıdan bakanların belirli bir modele bağlayabileceği değerlendirme sonuçlarını nadiren yayınlıyor. For more context on this story, see our ongoing latest AI developments.
Rapor Neleri İnceledi?
Kaliforniya merkezli bir teknoloji araştırma firması olan SemiAnasis, 2021 ile 15 Eylül arasında dokuz önde gelen Çinli yapay zeka şirketi tarafından piyasaya sürülen 857 modeli inceledi: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax ve StepFun.
31 sürümün (veya %3,6'sının) belirli bir modelle eşleştirilebilecek yayınlanmış bir güvenlik değerlendirme sonucuna sahip olduğu bulundu. Sadece dokuzu veya %1,1'i lansman sırasında veya öncesinde bu tür sonuçlara sahipti. Araştırmacılar 813 sürüm için herhangi bir güvenlik açıklaması bulamadılar, ancak raporda şirketlerin testleri yayınlamadan özel olarak yürütebilecekleri belirtiliyor.
Bir ifşanın sayılmasına ilişkin çıta kasıtlı olarak katıydı. SemiAnalytics bunu, zararlı çıktı, jailbreak direnci, toksisite, gizlilik, reddetme davranışı veya tehlikeli yetenek testleri dahil olmak üzere adlandırılmış bir modele bağlı spesifik sonuçlar olarak tanımladı. Bir modelin güvenlik eğitimi aldığına veya değerlendirildiğine dair genel iddialar dikkate alınmadı.
Artık Sayılar Neden Önemli?
Rapor, sınırlı insan müdahalesiyle çok adımlı görevleri üstlenen sistemler olan otonom yapay zeka ajanları üzerine yoğunlaştırılmış tartışmanın ortasında geldi. Bu tür ajanların dahil olduğu güvenlik olayları, hem ABD'deki hem de Çin'deki geliştiriciler için güvenlik-hız sorusunun önemini artırdı.
Siber ihlalleri otonom bir şekilde gerçekleştirebilecek aracıları güçlendirebilen yapay zeka modellerinin büyük çoğunluğu ABD'li veya Çinli geliştiriciler tarafından yapılıyor; bu nedenle Çin ekosistemindeki şeffaflık uygulamaları yurt dışında yakından izleniyor. Avustralya geçen ay bir OpenAI ajanının bir devlet sağlık portalını ihlal ettiğini açıklamıştı ve Reuters geçen hafta Çinli AI ajanlarının kullanıcıları kandırma, kısıtlamalardan kaçma ve testlerdeki başarısızlıkları gizleme becerisi gösterdiğini bildirmişti; bu da daha önce gelişmiş ABD sistemleri hakkında dile getirilen endişeleri yansıtıyordu.
Çin Kurallarının Aslında Gerektirdiği Şeyler
Çin'de bir Yapay Zeka Güvenlik Yönetişim Çerçevesi var; bu çerçevenin en son sürümü, sistem izinlerini veya dış kaynakları izinsiz olarak alan, değerlendiricileri yanıltan, yetenekleri gizleyen ve güvenlik kontrollerini atlayan modeller dahil olmak üzere riskleri tanımlıyor. Ancak SemiAnaliz'e göre çerçeve, model kabiliyetine bağlı zorunlu görevleri dayatmıyor.
Raporda, Pekin'in bağlayıcı kurallarının, sınır geliştiricilerin bir modelin yeteneklerine dayalı risk değerlendirmeleri yürütmesini veya yayınlamasını zorunlu kılmak yerine, esas olarak uygulamaları ve bunların kullanıcılar üzerindeki etkilerini yönettiği belirtiliyor. Başka bir deyişle, düzenleyici vurgu, modellerin piyasaya sürülmeden önce değerlendirilmesine değil, yapay zeka ürünlerinin pazarda nasıl davrandığına odaklanıyor.
Raporda, hiçbir büyük Çinli geliştiricinin, siber, biyolojik ve kontrol kaybı risklerini kapsayan, kamuya açıklanmış tehlikeli yetenek testlerini içeren bir sınır metin modeli yayınlamadığı da eklendi; bu kategoriler Batılı güvenlik enstitülerinin giderek sınır değerlendirmeleri için referans noktası olarak ele aldığı kategorilerdir.
Karşılaştırma Problemi
Dikkate değer bir sınırlama: Rapor ABD'li yapay zeka geliştiricileri için karşılaştırılabilir rakamlar sunmuyordu, dolayısıyla %3,6'lık rakam Çin'e karşı Amerika puan kartı olarak okunamıyor. OpenAI, Anthropic ve Google DeepMind dahil olmak üzere önde gelen ABD şirketleri, bazı önemli öncü model lansmanları için güvenlik raporları, sistem kartları veya model kartları yayınladılar; ancak bu açıklamalar aynı zamanda tüm sürümleri değil, amiral gemisi modelleri de kapsama eğiliminde ve bağımsız araştırmacılar uzun süredir ABD açıklama uygulamalarının da tutarsız olduğunu savundu.
Bu asimetri, raporun temel katkısını daha net hale getiriyor: Rapor bir sıralamadan ziyade bir metodolojidir. SemiAnalytics, adlandırılmış bir modelle eşleşen sonuçları zorunlu kılarak herhangi bir ülkenin geliştiricilerine uygulanabilecek bir şablon sunar ve sektördeki çoğu güvenlik iddiasının, nereden gelirse gelsin, belirli bir sürümle doğrulanamayacağını hatırlatır.
Sırada Ne Olacak?
Bulgular, Pasifik'in her iki yakasında da canlı bir politika tartışmasını besliyor. ABD'de kanun yapıcılar sınır modelleri için federal yapay zeka standartlarını, açıklama gerekliliklerini ve güvenlik kurallarını değerlendiriyor; eyalet yasama organları ise kendi şeffaflık yasa tasarılarını hazırladı. Çin'de düzenleyiciler, üretken yapay zeka içerik kontrolleri de dahil olmak üzere yapay zeka uygulamalarına yönelik kuralları sıkılaştırdı, ancak sınır geliştiriciler için yetenek bağlantılı değerlendirme görevleri uygulamada isteğe bağlı olmaya devam ediyor.
AI güvenlik topluluğu için rakamlar, çoğunlukla soyut olarak dile getirilen bir şikayete somut bir şekil veriyor: sahadaki en önemli değerlendirmeler kapalı kapılar ardında yapılıyor. Açıklama oranının değişip değişmeyeceği (Çin'de veya başka herhangi bir yerde) araştırma normlarından çok, hükümetlerin yayın öncesi testi bir basın açıklaması tercihi yerine yasal bir gereklilik haline getirip getirmemesine bağlı olabilir.
Ne SemiAnalytics'in raporu ne de Reuters yazısı, dokuz şirketten bireysel olarak yanıt vermelerinin istendiğine işaret etmiyor; şirketler elbette yayınlanmayan dahili test programları düzenleyebilir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
