Anthropic, yapay zeka modellerinin yeteneklerini bir yıl öncesine göre kabaca iki kat daha hızlı geliştiriyor ve kar amacı gütmeyen değerlendirme grubu METR tarafından Perşembe günü yayınlanan bağımsız bir analize göre, bu hızın büyük bir kısmı kendi haleflerini oluşturmaya yardımcı olan yapay zeka sistemlerinden geliyor gibi görünüyor.
Associated Press tarafından bildirilen bulgular, METR'nin Anthropic'in dahili verilerine "benzeri görülmemiş erişim" olarak tanımladığı şeye dayandığı için alışılmadık bir ağırlık taşıyor. Tam adı Model Değerlendirme ve Tehdit Araştırması olan Berkeley, Kaliforniya merkezli gruptan araştırmacılar, Ağustos ortasından Ekim sonuna kadar yaklaşık 11 hafta boyunca şirkete davet edildiler ve burada dahili araştırma verilerini analiz ettiler ve personelle röportaj yaptılar.
Sınır laboratuvarlarındaki güvenlik tartışmalarını takip eden okuyucular için son dakika yapay zeka haberlerimiz haberimize bakın.
Temel Bulgu: İlerleme Giderek Artıyor
METR'nin temel tahmini, Anthropic'in iyi tanımlanmış görevlerde modellerinin performansını bir yıl öncesine göre yaklaşık iki kat daha hızlı artırdığı yönünde. Rapor bunu net bir şekilde ortaya koyuyor: "Anthropic, geçen yıl kıyaslamalarda Ekim 2023 ile Ekim 2025 arasında olduğu kadar ilerleme kaydetmiş gibi görünüyor."
Daha da önemlisi, METR'nin ivmeyi artırdığına inandığı şey. Araştırmacılar, neden olarak, geleneksel olarak model performansıyla en sıkı şekilde bağlantılı olan değişken olan bilgi işlem gücündeki büyümeyi "güvenle" dışlayabildiklerini söyledi. Vardıkları sonuç: Gelişme büyük ölçüde yapay zeka araştırması yapmak için yapay zekanın kendisinin kullanılmasına bağlı.
Anthropic, Claude sohbet robotunun şirketin daha yeni, daha gelişmiş sürümlerini geliştirmesine giderek daha fazla yardımcı olduğunu kabul etti. METR'in raporu, bu süreci geride tutan herhangi bir "darboğaz" (bilgi işlem veya veri kısıtlamaları) bulamadı ve yapay zekanın model eğitiminin en önemli kısımlarına henüz "son derece önemli ve tamamen özerk katkılar" sağlamamasına rağmen Antropik araştırmacıların, bunun yakında değişebileceğini ima eden önemli "yaşam belirtileri" tanımladığını belirtti.
Bulgular Yavaşlama Tartışmasının Ortasında Ortaya Çıktı
CEO'su kısıtlama için lobi faaliyeti yürüten bir şirket için zamanlama garip. METR'nin değerlendirme döneminde, Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin yetişebilmesi için yapay zeka endüstrisini "Yapay Zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmaya" çağıran 12 Eylül tarihli bir makale yayınladı.
METR ayrıca hem Ağustos ayında yayınlanan Anthropic kamu risk raporunu hem de özel versiyonunu inceledi ve kamuya açık belgenin "meydana gelen hızlanma düzeyini genel olarak olduğundan az gösterdiği" sonucuna vardı.
Antropik'in Yanıtı: Kısmi Anlaşma, Ağır Düzeltmeler
Anthropic kurucu ortağı ve şirketin baş mimarı Sam McCandlish, Perşembe günü X hakkında uzun bir yazıyla rapora yanıt verdi ve METR'in sonuçlarının çoğunun kendi görüşüyle örtüştüğünü yazdı.
"Yapay zeka araştırmamızı hızlandırıyor, ancak tam olarak ne kadar olduğunu söylemek zor" diye yazdı ve Anthropic'in önümüzdeki haftalarda şirket içindeki yapay zeka ilerleme hızına ilişkin kendi analizini yayınlamayı planladığını ekledi.
McCandlish ayrıca şirketin raporun büyük bir kısmını düzeltme kararını da savundu; bu durum, METR'nin hızlanma tahminlerini tam olarak iletebilmesini sınırladı. "Hızlanmayı tam olarak neyin tetiklediğini paylaşmanın doğru bir şey olmadığını" çünkü bilgilerin hem ticari açıdan hassas olduğunu hem de "diğerlerinin daha hızlı gitmesi için bir yol haritası dağıtma riskini taşıdığını" söyledi. Bunun da METR'in endişelendiği riskleri daha da kötüleştireceğini savundu. "Bu bir değiş-tokuş" diye yazdı.
Önemli Uyarılar
Rapor, METR'in kendi açıklamasına göre uyarılarla doluydu. Grup, manşet bulgusunun meseleleri abartıyor olabileceğini söyledi: Ölçülen ivme, sınır araştırmalarını tanımlayan daha karmaşık, açık uçlu çalışmalardan ziyade yalnızca otomatik olarak notlandırılabilen, iyi tanımlanmış görevlere uygulanabilir. Alternatif olarak Anthropic, daha önceki temel çizgisini olduğundan az göstermiş ve son sıçramayı olduğundan daha büyük göstermiş olabilir.
METR'nin konumu da şeffaflık nedeniyle dikkate değer: Kâr amacı gütmeyen kuruluş bağışlarla finanse ediliyor, değerlendirmeleri için tazminat kabul etmiyor ve yıllardır Anthropic, OpenAI ve diğer laboratuvarlar için yetenek değerlendirmeleri yürütüyor; ancak ortak şirketler model erişimi ve araştırmasını yürütmek için gereken jetonları sağlıyor.
Şimdi Neden Önemli?
Analiz, Anthropic'in tarihin en büyük halka arzı olabilecek halka arzından haftalar önce yapılıyor ve giderek daha yetenekli yapay zeka modellerinin insan kontrolünden kaçıp kurtulamayacağına dair tartışmalar dönüyor. Güvenlik savunucuları, özellikle Trump yönetiminin şirketleri kendilerini denetlemeye teşvik ettiği bir dönemde, sınırın ne kadar hızlı ilerlediğinin tek güvenilir ölçüsünün laboratuvarın kendi raporlaması değil, bağımsız doğrulaması olduğunu uzun süredir savunuyor.
METR son bir kaygıyı da işaret etti: Yapay zeka destekli yapay zeka araştırması yoğunlaşmaya başlarsa, hızlanmanın kendisi hızlanabilir ve gelişmiş modellerden kaynaklanan riskler, dışarıdaki gözlemcilerin kolayca takip edemeyeceği bir hızda büyür. Grubun raporu, en azından önde gelen bir laboratuvar için, alanın endişe duyduğu geri bildirim döngüsünün artık varsayımsal olmadığını, kıyaslama verilerinde ortaya çıktığını öne sürüyor.
Sektörün geri kalanının bunu ne kadar hızlı takip edeceği ise düzenleyicilerin, yatırımcıların ve şirketin kendi yöneticilerinin artık izleyeceği sorudur.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
