Ulusal Güvenlik Ajansı, Siber Güvenlik ve Altyapı Güvenlik Ajansı ve FBI, Salı günü yayınlanan bir danışma belgesinde ortaklaşa Çin merkezli altı yapay zeka şirketini ABD sınır modellerine karşı endüstriyel ölçekte damıtma kampanyaları yürütmekle suçladı. Ajanslar, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun ve Z.AI'nin, en azından 2024'ün sonlarından bu yana ABD sınır yapay zeka modellerinden (Claude, GPT, Gemini ve Grok çeşitleri de dahil olmak üzere) milyonlarca borsa ve talep üzerinden milyarlarca token çıkardığını söylüyor; bu faaliyetin muhtemelen Çin hükümetinin farkındalığıyla gerçekleştiğini söylüyor.
AA26-251A olarak adlandırılan danışma belgesi, daha küçük bir modelin daha büyük bir modelin çıktılarını yeniden üretmek üzere eğitildiği yapay zeka araştırmalarında damıtmanın meşru ve yaygın olarak kullanılan bir teknik olduğuna dikkat çekiyor. Üç kurumun tanımladığı şey tür olarak farklıdır: endüstriyel ölçekte gerçekleştirilen agresif, kötü niyetli ve hedefe yönelik damıtma, belgede hedeflenen şirketlerin yapay zeka geliştirme stratejisinin yalnızca bir tamamlayıcısı değil, çekirdeği olarak adlandırılan şeyi oluşturur. En son yapay zeka politikası haberleri için AI Buzz Wire'ın Washington düzenleme gündemine ilişkin devam eden haberlerini takip edin. en son yapay zeka politikası haberleri
Kimin Adı Verildi ve İddiaya göre Ne Aldılar
Danışmanlık, belirli kampanyaları belirli şirketlere atfeder. DeepSeek'in en az 2024'ten bu yana, R1 ve V3 modellerini eğitmek için kullanılan muhakeme yeteneklerini, özel optimizasyonları ve alana özgü işlevleri hedefleyen organize damıtma kampanyaları yürüttüğü söyleniyor. Alibaba, dünyanın en çok indirilen açık ağırlıklı model ailelerinden biri haline gelen Qwen model ailesini geliştirmek için endüstriyel ölçekte damıtmadan yararlanmakla suçlanıyor.
Moonshot AI, MiniMax, StepFun ve Z.AI de aynı şekilde ABD modellerine yönelik kötü niyetli bilgi damıtmasıyla suçlanıyor, ancak danışma belgesinde bu dördü için şirkete özgü daha az ayrıntı yayınlanıyor. Altı firmanın tamamı artık kıyaslama ve fiyat açısından Amerikan sınır sistemleriyle doğrudan rekabet eden modeller üretti.
Kampanyaların Nasıl İşlediği İddia Ediliyor
Belgeye göre şirketler, ABD şirketlerinin kullanım koşullarını ihlal ederken, yetkisiz erişim elde etmek için damıtma taleplerini birden fazla yola yönlendirdi. Bunlar, modellerin yerel uygulama programlama arayüzlerini, uzak bulut sağlayıcılarını ve tespit edilmekten kaçınmak için kullanıcı meta verilerini otomatik olarak gizleyen üçüncü taraf toplayıcıları içeriyordu.
Ajanslar ayrıca, ABD'li sağlayıcıların coğrafi kısıtlamalarını aşmak, hizmet şartlarını ihlal etmek, güvenlik önlemlerinden kaçınmak ve izlenebilirliği zayıflatmak için kullanılan ve "transfer istasyonları" olarak bilinen gri bir vekil pazarını da tanımlıyor. Danışmanlık, bu ölçekteki kampanyalar sırasında maliyetleri düşük tutmak için şirketlerin, daha sonra geliştirici ekipleri arasında paylaştırılan premium abonelikleri toplu olarak satın aldığını söylüyor.
Daha gelişmiş taktikler arasında düşünce zinciri muhakeme çıkarımı, engelleme girişimleri sırasında erişim yolları arasında otomatik yük devretme ve bir sağlayıcının savunma önlemlerini ne zaman kullandığını tespit etmek için tasarlanmış karmaşık kalite değerlendirme çerçeveleri yer alıyordu. Ajansların yazdığına göre bunun getirisi, endüstriyel ölçekte damıtma yürüten şirketlerin, bir öncü modeli eğitirken önemli ölçüde daha kısa yapay zeka geliştirme zaman çizelgeleri ve daha düşük mali harcamalar görmesidir.
ABD Yapay Zeka Şirketleri için Üç Tavsiye
Tavsiye, Amerikalı yapay zeka sağlayıcıları için üç acil eylemle sona eriyor. Öncelikle kapsamlı tespit ve azaltma uygulayın: anormal ve kötü amaçlı istemleri, hesapları, ağları ve davranışları izleyin ve abonelik-kullanım oranlarını, yeni hesaplardan anında maksimum kullanımı ve kurumsal ölçekte üretim modellerini izleyin.
İkinci olarak, hedeflenen yanıt değişikliklerini dağıtın. Ajanslar, kampanyaların getirilerini azaltmak için şüpheli kötü niyetli damıtma girişimlerine verilen yanıtların incelikli bir şekilde değiştirilmesini öneriyor; bu, damıtma tesisini uyarmadan çalınan çıktıların değerini düşüren bir karşı önlem biçimidir.
Üçüncüsü, model sağlayıcılar, bulut platformları ve API toplayıcıları arasındaki faaliyetleri ilişkilendirmek için kuruluşlar arası istihbarat paylaşımı oluşturun; böylece tek nokta tespitini önlemek için birden fazla sağlayıcıya kasıtlı olarak dağıtılan kampanyalar tek bir işlem olarak tanınabilir.
ABD-Çin Yapay Zeka Anlaşmazlığında Yeni Bir Aşama
Yayın, Washington'un Çin'deki yapay zeka gelişimiyle ilgili söyleminin daha da arttığı bir dönemde geldi. Reuters, ABD'nin Çinli yapay zeka firmalarını Amerikan yapay zeka teknolojisini kötü niyetli kopyalamakla suçladığını ve bu tavsiyenin Salı günü CyberScoop, Nextgov ve istihbarat topluluğunu takip eden diğer kuruluşlar tarafından ele alındığını bildirdi. Belge, faaliyeti ABD'nin teknolojik liderliğini tehdit eden özel işlevsellik ve yeteneklerin sistematik olarak çıkarılması olarak tanımlayarak, riskleri açıkça stratejik terimlerle çerçeveliyor.
Adı geçen altı şirket için danışmanlık, Batılı müşterilere hizmet vermenin itibar ve ticari maliyetini artırıyor. Özellikle Alibaba ve DeepSeek, Çin dışındaki geliştirici ekosistemlerini geliştirdiler ve her ikisi de artık ek bir uyumluluk sorusu taşıyacak olan kurumsal satın alma görüşmelerinde yer aldı. Altı şirketin hiçbiri danışma belgesinin tavsiyelerine doğrudan tabi değil - belge ABD yapay zeka şirketlerine hitap ediyor - ancak bunun etkisi, Amerikan laboratuvarlarının iki yıl boyunca özel olarak iddia ettiği şeyi resmileştirmek oldu: modellerinin sistematik olarak geniş ölçekte kopyalandığı.
Tavsiye kararı aynı zamanda yapay zeka endüstrisinde meşru öğrenmenin nerede bitip hırsızlığın nerede başladığına dair çözülmemiş bir tartışmanın ortasında yer alıyor. Açık ağırlık modellerinden, yayınlanmış araştırmalardan ve kamuya açık çıktılardan damıtma standart uygulamadır; danışma belgesinin yazarları, aldatma, erişim kontrollerinden kaçınma ve kullanım koşullarının ihlali yoluyla kısıtlı özel işlevselliklerin elde edilmesi konusunda çizgiyi çiziyor. Bu çizginin teknik karşı önlemler, sözleşme kanunu veya ihracat politikası aracılığıyla nasıl uygulanacağı artık sektörün ve düzenleyicilerin yanıtlaması gereken sorudur.
Yapay Zekanın Önünde Olun
Model güvenliğine ilişkin politika savaşı yoğunlaşırken en son yapay zeka gelişmelerini ve yapay zeka haberlerini takip edin.
Daha fazla AI haberini okuyun →
