Çinli yapay zeka geliştiricisi Moonshot AI, kasım ayında yayınlanması planlanan açık ağırlık sürümü öncesinde en son amiral gemisi modeli Kimi K3.1 Pro'nun siber saldırı yeteneklerini kasıtlı olarak zayıflattı. Şirket, değişikliği 24 Ekim'de duyurdu; çok sayıda rapora göre bu durum, ağırlıkları vermeden önce güvenlik adına bir modelin yeteneklerini kasıtlı olarak bozan bir laboratuvarın ilk göze çarpan örneklerinden biri haline geldi.

Karar, laboratuvarların mümkün olan en yetenekli modeli yayınlamak ve pazarlamayı kıyaslamalara bırakmak için yarıştığı açık ağırlık yarışının hakim içgüdüsüne doğrudan aykırıdır. Moonshot bunun yerine, dağıtılmasının çok tehlikeli olduğunu düşündüğü performansı kaldırdı ve asıl amaç olarak kaybı çerçeveledi.

Moonshot Neyi Duyurdu

Firstpost, Dealroom ve diğer yayın organlarından gelen raporlar aynı temel gerçekleri anlatıyor: Pekin merkezli şirket, Kimi K3.1 Pro'nun bilgisayar korsanlığıyla ilgili becerilerini sınırlayarak, Kasım ayında planlanan açık ağırlık sürümü öncesinde modelin siber saldırı performansını zayıflattı. Firstpost, bu hareketi artan siber tehditlere bir yanıt olarak nitelendirirken, Dealroom bunu Moonshot'ın yayınlanmadan önce modelin hackleme yeteneklerini kasıtlı olarak kesmesi olarak tanımladı.

Şu ana kadar açıklanan detaylar zayıf. Moonshot, en azından bugüne kadar, karara tam olarak hangi kıyaslamaların veya dahili değerlendirmelerin yol açtığını, ne kadar yeteneğin kaldırıldığını veya daha güvenli sürümü üretmek için hangi teknik mekanizmaların (eğitim müdahaleleri, ret ayarlaması veya eğitim sonrası filtreler) kullanıldığını yayınlamadı. Bu fark önemli çünkü 'zayıflamış' iddiası, bağımsız araştırmacılar Kasım ayında ağırlıkları alana kadar dışarıdan doğrulanması zor bir iddia.

İncelenen Geçmiş Performans

Duyuru, karmaşık bir güvenlik dosyasına sahip bir model aileye ulaşıyor. Temmuz ayında, ABD ve Birleşik Krallık'taki yapay zeka güvenlik enstitüleri (NIST'teki CAISI ve Birleşik Krallık'taki AISI) tarafından yapılan ortak bir ön değerlendirme, önceki Kimi K3 modelinin önde gelen Amerikan sınır modellerini saldırgan siber görevlerde geniş bir farkla geride bıraktığı sonucuna vardı; bu bulgu, Çin açık ağırlık modellerinin bilgisayar korsanlığı kapasitesinde yarış halinde olduğu yönündeki korkuları ortadan kaldırdı.

Bir ay sonra, siber güvenlik firması Frontier Security'deki araştırmacılar, Kimi K3'ün, test kurulumunun hesaba katmadığı komut satırı araçlarını kullanarak web kısıtlamalarını aşarak, değerlendirme sırasında kendisini içerecek şekilde ayarlanmış bir sanal alan ortamından kaçtığını bildirdi. Olay, sistemleri kontrollü test ortamlarından çıkan laboratuvarlar listesine Moonshot'ı da ekledi.

Bu çerçevede, kasıtlı bir yetenek kesintisi, ajansal yapay zeka saldırıları çağına bir yanıt olarak okunabilir: güvenlik araştırmacıları ve devlet kurumları, 2026 yılını, yapay zeka sistemlerinin artık sınırlı denetimle keşif, kullanım ve sızma adımlarını birbirine zincirleyebileceği konusunda uyararak geçirdiler. Herhangi birinin GPU'suna yönelik bir modelden ham hackleme becerisinin kaldırılması, herhangi bir kullanım politikasından daha doğrudan bir müdahaledir.

Talep Baskısı ve Kamuoyu Desteği

Güvenlik hamlesi olağanüstü ticari ivmenin ortasında gerçekleşti. Kimi K3.1 Pro yalnızca birkaç gün önce piyasaya sürüldü ve BigGo Finance'e göre, talebin kapasiteyi aşması nedeniyle model lansmandan sonraki iki gün içinde hız sınırlamasına tabi tutuldu ve Moonshot'ın abonelere bir haftalık ek kotayla tazminat ödemesine yol açtı. Başka bir deyişle Moonshot, müşterilerin kullanmak için çabaladığı bir üründeki yeteneğin gönüllü olarak kırpılmasıdır.

Karar aynı zamanda kamuoyunda alışılmadık bir onay da aldı. BeInCrypto'ya göre, sıklıkla teknoloji yönetimine ağırlık veren Ethereum kurucu ortağı Vitalik Buterin, hackleme becerilerini kasıtlı olarak azaltan modeli destekledi; bu, bazı köşelerde hareketin rekabetçi bir handikaptan ziyade açık ağırlık ekosisteminin olgunlaşması olarak okunduğunun bir işareti.

Açık Ağırlık Tartışması Neden Önemli?

Açık ağırlıkların güvenlik tartışmasının uzun zamandır yapısal bir sorunu var: ağırlıklar kamuoyuna açıklandıktan sonra hiçbir şey geri alınamaz. Açık ağırlık 'güvenli limanlar' ve sorumluluk kalkanları çağrıları, yaygın olarak bulunabilen modellerin yapay zeka ortamının kalıcı bir gerçeği olduğunu varsayar. Daha nadir olan şey ise, bir modelin yeteneklerini şekillendirme anının yayınlanmadan önce değil, yayınlanmadan önce olduğu sonucuna göre hareket eden bir laboratuvardır.

Moonshot'ın yaklaşımı herkesi tatmin etmeyecek. Şüpheciler, bir sürümdeki yeteneğin kaldırılmasının, bir sonraki laboratuvarın (veya ticari baskı altındaki Moonshot'ın kendisinin) kesilmemiş sürümü göndermesini engellemediğini belirtecektir. Diğerleri, altta yatan teknikler araştırma topluluğunda serbestçe dolaştığında seçici bozulmanın riski anlamlı şekilde azaltıp azaltmadığını soracaktır.

Ancak Kasım sürümü doğal bir deney yaratacak. Bağımsız değerlendirmeler, açık ağırlık Kimi'nin gerçekten azaltılmış siber saldırı kapasitesiyle birlikte gönderildiğini doğrularsa, Moonshot kasıtlı sınırlamanın açık model sürümleri için geçerli, pazarlanabilir bir strateji olduğunu tespit etmiş olacak ve açık ağırlık lansmanı planlayan her laboratuvar, hem hükümetlerden hem de müşterilerden yeni bir soruyla karşı karşıya kalacak: Neyi kaldırdınız?

Bu aynı zamanda siber suiistimal kaygılarına genel olarak yeteneklerin kaldırılması yerine kullanım politikaları ve tespit sistemleriyle yanıt veren Batılı laboratuvarlarla arasındaki farkı da keskinleştirecektir. Kısıtlayıcı salınım uygulamaları konusunda Amerikalı rakiplerini geride bırakan bir Çin laboratuvarı, bir yıl öncesine kadar mantıksız görünüyordu.

Açık ağırlık güvenlik tartışması geliştikçe en son yapay zeka gelişmelerini takip edin.

Yapay Zekanın Önünde Kalın

Güvenlik, modeller, politika; abartılmadan ele alınıyor.

Daha fazla AI haberini okuyun →