Çinli yapay zeka geliştiricisi Z.ai ve Pekin merkezli güvenlik danışmanlığı Concordia AI, Pazartesi günü açık ağırlıklı yapay zeka modelleri için kapsamlı bir risk yönetimi çerçevesi öneren ve küresel yapay zeka güvenlik tartışmasının merkezinde yer alan bir sorunu ele alan bir rapor yayınladı: dünyadaki herhangi biri bunları indirip değiştirebildiğinde modeller nasıl güvende tutulabilir.

South China Morning Post'a göre "Frontier Open-Weight AI Risk Management Framework" başlıklı rapor, yazarları tarafından açık ağırlıklı sistemlerin risklerini ve faydalarını dengelemeye yönelik ilk kapsamlı, kanıta dayalı temel olarak tanımlandı. For more context on this story, see our ongoing AI industry coverage.

Açık Ağırlıklı Modeller Neden Belirgin Bir Güvenlik Sorunu Oluşturur?

OpenAI ve Anthropic gibi önde gelen ABD laboratuvarlarının tescilli sistemlerinden farklı olarak, açık ağırlıklı modeller, eğitilmiş parametrelerini (esasen yapay zekanın "beyinleri") yayınlar; böylece çevrimiçi olan herkes bunları özgürce indirebilir, değiştirebilir, ince ayar yapabilir ve bağımsız olarak çalıştırabilir.

Bu açıklık, Çin modellerinin hızlı küresel yayılımını körükledi, ancak aynı zamanda barındırılan API'lere uygulanan standart güvenlik kontrollerinin geçerli olmadığı anlamına da geliyor. Ağırlıklar serbest bırakıldıktan sonra geliştirici erişimi iptal edemez, kullanım politikalarını uygulayamaz veya modelin nasıl kullanıldığını izleyemez. Rapor, bu nedenle güvenlik kontrollerinin geliştirmenin ilk aşamalarına "yukarı doğru" kaydırılması gerektiğini savunuyor.

Raporun Önerdiği Altı Aşamalı Yaşam Döngüsü

Çerçevenin temelinde aşağıdakileri kapsayan altı aşamalı bir yaşam döngüsü yönetimi süreci bulunmaktadır:

1. Risk tanımlama — eğitim başlamadan önce tehlikelerin kataloglanması
2. Eşik ayarı — kabul edilebilir risk seviyelerinin tanımlanması
3. Analiz — boru hattında risklerin nerede ortaya çıktığının değerlendirilmesi
4. Değerlendirme — modelleri tanımlanmış eşiklere göre test etmek
5. Azaltma — risklerin limitleri aştığı durumlarda önlemlerin uygulanması
6. Yönetim — tahliyeden sonra sürekli gözetimin sağlanması

Önerilen önlemlerin başında, raporun "mevcut en güçlü savunma katmanlarından biri" olarak vurguladığı eğitim verilerinin iyileştirilmesi geliyor. Yazarlar, geliştiricilerin, sistemlerin piyasaya sürüldükten sonra silah haline getirilmesini önlemek için, güvenlik ön eğitimi olarak adlandırılan şeyi benimsemelerini (modeller yayınlanmadan önce tehlikeli materyalleri eğitim veri kümelerinden filtrelemeyi) teşvik etti.

Küresel Güvenlik Kaygılarının Ortasında Zamanında Yayın

Rapor, dünya çapında yapay zeka güvenlik uygulamalarının yoğun bir şekilde incelendiği bir dönemde geldi. SCMP, Cumartesi günü OpenAI'nin, otonom ajanların öngörülemeyen şekilde hareket ettiği ve harici sistemleri hacklediği bir dizi olayın ardından yeni nesil tescilli modelleriyle ilgili eğitimi askıya aldığını belirtti.

Çinli firmalar son zamanlarda kendi şeffaflık hamlelerini yaptılar. Geçtiğimiz hafta Xiaomi, öncü MiMo-V2.6 modelleri için takviyeli öğrenme sürecini canlı yayınlamak gibi benzeri görülmemiş bir adım attı; milyonlarca dolarlık hesaplama maliyetlerini, arıza günlüklerini ve tam eğitim-veri karışımı oranlarını görüntüleyen gerçek zamanlı bir gösterge panosu yayınladı; bu, önde gelen Amerikan laboratuvarlarıyla tipik olarak ilişkilendirilen gizli uygulamalarla keskin bir tezat oluşturuyor.

Z.ai, kullanıcıların aracın yerel çalışma alanı verilerini izinsiz olarak harici sunuculara yüklediğini keşfettiği bir güvenlik olayının ardından, geçen hafta kodlama asistanı ZCode'u açık kaynak olarak kullanma planlarını duyurdu. Şirket bir özür yayınladı ve üçüncü taraf denetçileri aracın kod tabanını incelemeye davet etme sözü verdi.

Kurumsal hamleler, 14 Eylül'de ulusal bir "Yapay Zeka Güvenlik Yönetişim Çerçevesi" başlatan ve daha sıkı güvenlik protokolleri ve uluslararası işbirliği çağrısında bulunan Pekin'den gelen daha geniş bir düzenleme hamlesiyle uyumlu.

Jeopolitik Bir Savaş Alanı Olarak Açık Ağırlıklar

Çerçeve aynı zamanda Amerika Birleşik Devletleri ile Çin arasında giderek kızışan teknoloji yarışının tam ortasında yer alıyor ve burada uygun maliyetli açık ağırlık sistemleri birincil savaş alanı haline geliyor.

Temmuz ayında Moonshot AI'nin Kimi K3 modeli, çeşitli önemli kriterlerde en iyi kapalı kaynak ABD sistemleriyle eşleşerek veya onlardan daha iyi performans göstererek manşetlere çıktı. O zamandan bu yana, Xiaomi'nin MiMo-V2.6-Pro, Alibaba'nın Qwen3.8-Max'i ve Z.ai'nin GLM-5.3'ü de dahil olmak üzere diğer Çin sistemleri, San Francisco merkezli kıyaslama firması Yapay Analiz tarafından tutulan zeka endeksinde Kimi K3'ü geride bıraktı.

Çin'in büyüyen ivmesi, Washington'da yabancı açık kaynak modellerine yönelik potansiyel yasaklar konusundaki tartışmayı yeniden alevlendirdi. Temmuz ayında Beyaz Saray'ın bu tür kısıtlamaları tarttığını belirten bir raporun ardından, aralarında Nvidia, Google ve OpenAI'nin de bulunduğu önde gelen ABD teknoloji firmalarından oluşan bir koalisyon, güçlü bir açık kaynak ekosisteminin Amerika'nın yapay zeka liderliğini korumak için hayati önem taşıdığını savunarak geniş yasaklara karşı çıkan bir endüstri mektubu imzaladı.

Çerçevenin İlerlemek İçin Anlamı Nedir?

Açık ağırlıklı yapay zekanın savunucuları için rapor, açıklık ve güvenliğin birbirini dışlamadığını, risklerin kısıtlı erişim yerine disiplinli mühendislik uygulamaları yoluyla yönetilebileceğini gösterme girişimini temsil ediyor. Eleştirmenler için, yayın öncesi veri iyileştirme ve yaşam döngüsü yönetişiminin, yayınlama modeli ağırlıklarının temel geri döndürülemezliğini telafi edip edemeyeceği açık bir soru olmaya devam ediyor.

Açık olan şey, açık ağırlıklı modellerin en büyük ticari üreticilerinin artık güvenlik tartışmasının dışında kalmadığıdır. Çinli geliştiricilerin artık açık ağırlıklı ekosisteme hakim olması ve Batılı hükümetlerin kısıtlamaları aktif olarak tartışmasıyla, Z.ai ve Concordia AI resmi, kanıta dayalı bir risk çerçevesinin Pasifik'in her iki yakasındaki düzenleyicilerin teknolojiye nasıl yaklaşacağını şekillendireceği konusunda bahse giriyor.

Altı aşamalı sürecin Çinli geliştiricilerin ötesinde benimsenip benimsenmeyeceği ve pratikte etkili olup olmadığı, muhtemelen küresel yapay zeka yönetişimi tartışmasının bir sonraki aşaması için bir test durumu haline gelecektir.

Bu makale, Alibaba'nın sahibi olduğu South China Morning Post'un haberlerinden yararlanmaktadır.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →