Anthropic CEO'su Dario Amodei'nin hükümetleri yapay zeka yarışını yavaşlatmaya çağıran "Sınırlara Hız Vermeliyiz" makalesini yayınlamasından saatler sonra, sert bir yanıt Hacker News'te tırmanmaya başladı ve sonunda günün en çok beğenilen hikayelerinden biri haline geldi. Yazar ve geliştirici Jacob Gold tarafından açık bir mektupta ortaya konan argüman, ikna edici derecede basit: Eğer Amodei yapay zekayı yavaşlatma konusunda samimiyse, bunu gerçekten gerçekleştirecek bir yasa talep edebilir ve başka hiçbir laboratuvar yöneticisi bunu öneremez. Bir şirketin halka sunduğu her yapay zeka modelinin açık ağırlık olarak yayınlanmasını zorunlu kılın.
Mektup, doğrudan Amodei'ye hitaben, "Samimi olduğuna inanıyorum" diye başlıyor, "bu yüzden sizden farklı bir yasa talep etmenizi istiyorum; sizin tarafınızdan gerçek bir fedakarlık gerektirse bile işleri gerçekten yavaşlatacak bir yasa." Mektup tam da Amodei'nin argümanını reddetmek yerine en güçlü versiyonunu ele aldığı için sinir bozucuydu ve bugün yapay zeka konusunda en önemli politika tartışmasının tam ortasına yerleştiği için, bu tartışmayı AI politika haberimizde her gün takip ediyoruz.
Amodei'nin önerdiği şey ve Gold neden bunun işe yaramayacağını söylüyor
Amodei'nin makalesi, Anthropic'i yerleşik üçüncü taraf değerlendiricilere adadı ve hükümetlerden diğer tüm sınır şirketlerinin bu taahhüde uymasını talep etmelerini istedi. Sam Altman saatler içinde kabul etti - Politico'ya göre, OpenAI'nin de değerlendiricinin taahhüdünü karşılamasıyla "Sınırları hızlandırmamız gerektiği konusunda Dario'ya katılıyorum" dedi. Görünüşte bu benzeri görülmemiş bir uyum: Dünyanın en değerli iki yapay zeka laboratuvarının başkanları açıkça yavaşlatılmayı talep ediyor.
Gold'un mektubu, gözlemcileri şüpheye düşüren şeyin tam olarak bu fikir birliği olduğunu öne sürüyor. "İstediğiniz her düzenleme yakalamayla sonuçlanıyor" diye uyarıyor. Yerleşik değerlendiriciler, bilgi işlem eşikleri, rekabet muafiyetleriyle sektör koordinasyonu — "Bunların hepsi mevcut öncü laboratuvarların yardımıyla yazılıyor, çünkü başka hiç kimse teknik ayrıntıları yazacak kadar iyi anlayamıyor." Bu tür kurallar yasalaştığında, her olaya bir kural eklenir ve hiçbiri kaldırılmaz ve devler, daha küçük rakipleri dışarıda tutacak uyum ekiplerinin parasını karşılayabilir. Mektup Amodei'ye "Sizi yavaşlatmak yerine konumunuzu ve karınızı korur" diyor.
Açık ağırlıklı karşı öneri
Alternatif Altın eskizleri kasıtlı olarak kördür. Bir şirketin halka sunduğu herhangi bir AI modelinin ağırlıkları yayınlanmış olarak gönderilmesi gerekir. Dahili modellere ve araştırma modellerine dokunulmayacak ve hükümetler yayınlanmamış sistemlere erişime devam edecek; ancak Anthropic, bir sonraki sınır modelinin ağırlıklarını piyasaya sürüldüğü gün yayınlamak zorunda kalacak ve OpenAI de aynısını yapmak zorunda kalacak. Mektup, "Bunda oyun oynayacak ya da kaçacak hiçbir şey yok" diye bitiriyor, "senin için bile."
Mekanizma bürokratik olmaktan ziyade finansaldır. Gold'un açıkladığı gibi, sınır modeli geliştirmenin finansmanı, ağırlıkların özel kaldığını varsayan değerlemelere bağlıdır. Bir talimat bu varsayımı tersine çevirir: Eğer her halka açık sürüm açıksa, rekabet avantajı ona erişim satan kişi yerine en iyi modeli eğiten kişiye akar, özel değerlemelerde yer alan prim düşer ve bir sonraki eğitim çalışması için mevcut olan para azalır - "her laboratuvarda, bir düzenleyicinin herhangi bir karar vermesine gerek kalmadan." Aslında pazarın kapalı model beklentisinin yarışın motoru olduğu, beklentiyi ortadan kaldırmanın da motoru ortadan kaldırdığı iddiası aslında.
Neden Amodei, özellikle
Mektubun Amodei'nin neden bu teklifi yapabilecek tek kişi olduğuna dair iddiası onun siciline dayanıyor ve oldukça saygılı. Gold, 2020'nin sonunda OpenAI'den ayrılıp "güvenli kariyer hamlesinin devam edeceği bir zamanda" Anthropic'i kurmasını, yıllarca kendi endüstrisinin düzenlenmesini savunmasını ve kendi pazarını daraltan ihracat kontrollerini zorlamasını takdir ediyor. Anthropic'in kendisini, liderliğinin böyle bir yasanın getireceği mali darbeyi absorbe etmesine olanak tanıyacak yasal bir misyonla ("insanlığın uzun vadeli yararı için gelişmiş yapay zekanın sorumlu bir şekilde geliştirilmesi ve sürdürülmesi") bir Kamu Yararı Şirketi olarak yapılandırdığını belirtiyor. Gold, Amodei'nin kendi makalesinde, Anthropic'in düzenlemeyi savunduğunu söylüyor "bu bizi abartılı bir şekilde, 'kıyamete' ya da düzenleyici yakalamayla suçlansa bile."
Şüpheciler bariz karşı argümanları fark edecek ve mektup onlara tam olarak cevap vermiyor: Açık ağırlıklar kötüye kullanımı kolaylaştırdığı gibi ilerlemeyi de zorlaştırıyor, açık ağırlıklar yetkisi her laboratuvar yatırımcısının şiddetli muhalefetiyle karşı karşıya kalacak ve Amodei'nin Çin açık modelleri hakkındaki daha önceki pozisyonlarını eleştirenler teklifte eski kavgaların yankılarını duyacaklar. Ancak mektubun asıl sorunu benimsenen politikaya bağlı değil. Bu, açıkça ifade ettiği bir gerilime bağlıdır: Hükümetlerden diğer herkesi yavaşlatmasını isteyen bir laboratuvar, kendi değerlemesi önde olmaya bağlıyken henüz kendisine herhangi bir maliyeti olan herhangi bir şey talep etmemiştir.
Artık kaçınılmaz olan bir tartışma
Amodei'nin yanıt verip vermemesi neredeyse konu dışı. Tek bir gün içinde, sınır laboratuvarları yetenek konusunda rekabet etmekten hız ayarlaması ihtiyacı üzerinde anlaşmaya vardı ve halkın tepkisi, yapay zekanın tehlikeli olup olmadığını sormaktan, insanların bu konuda yaptığı uyarılara inanılıp inanılamayacağını sormaya dönüştü. Gold'un mektubu - rahatsız edici bir sorunun etrafına sarılmış birkaç yüz kelimelik politika ayrıntıları - bu şüpheciliğin en keskin ifadesi haline geldi ve viralliği, hız tartışmasının sadece Washington'da değil, kamuoyunda, açık ağırlık topluluğunun yıllardır bu argümanın çeşitlerini yaptığı Hacker News gibi platformlarda da yürütüleceğini gösteriyor.
Yapay Zekanın Önünde Olun
Düzenlemeler, açık ağırlıklar ve yapay zekanın hızına yönelik mücadele, abartılmadan ele alındı.
Daha fazla AI haberini okuyun →
