Anthropic'in değiştirilmiş halka arz dosyası Pazartesi günü mali tablolarıyla manşetlere çıktı; üçüncü çeyrek geliri kabaca 17 milyar dolar, bilgi işlem taahhütlerindeki 895,4 milyar dolara karşılık. Ancak revize edilen S-1A'nın risk faktörlerinin arasında daha önemli olabilecek bir açıklama yatıyor: Şirket, yapay zeka sistemlerinin kendi gelişimlerini hızlandırma kapasitesine sahip olduğu nokta olan özyinelemeli kişisel gelişim için kendi eşiğini geçmenin eşiğinde olabileceğini söylüyor.
TechCrunch, başvurunun Anthropic'in, genel olarak RSI olarak bilinen özyinelemeli kendini geliştirme yeteneğine sahip bir model oluşturmanın eşiğinde olduğu konusunda uyarıyor gibi göründüğünü bildirdi; bu, yapay zekanın yapay zekayı iyileştirmede o kadar iyi hale geldiği ve yetenek kazanımlarının çarpıcı biçimde artmaya başladığı aşamadır. For more context on this story, see our ongoing AI trends.
Dosyalama Aslında Ne Diyor?
Anthropic, kendi araştırma ve geliştirme sürecini hızlandırmak için zaten yapay zekayı kullanıyor. Değiştirilen dosyada şirket, bu uygulamanın her iki yolu da kestiği konusunda uyarıyor: "Daha yetenekli bir yapay zeka oluşturmaya yardımcı olmak için yapay zekayı kullanmak, özellikle de ilerleme hızını keskin bir şekilde hızlandırırsa, önemli bir güvenlik riski de oluşturabilir. Bu, 'özyinelemeli kendini geliştirme' olarak adlandırılan şeye yaklaşırken riskleri izleme ve azaltma planlarımızı ortaya koyan Sorumlu Ölçeklendirme Politikamızın kapsadığı alanlardan biridir."
Yeni risk faktörü dili, Anthropic'in daha önce kamuya açık dosyalarında belirttiğinin ötesine geçiyor. Şirket, geçmişte büyük yetenek sıçramalarını gerçekleştiği anda fark edemediğini açıklıyor: "Geçmişte, gelişme hızımızda önemli bir ivmelenmeyi, bu gerçekleşene kadar tespit etmedik ve gelecekte de tespit edemeyebiliriz."
Ardından sektörün dikkatini çeken açıklama geliyor. Başvuruya göre: "Mevcut modellerimiz yerine gelecekteki modellere ilişkin dahili tahminlerimiz ve beklentilerimiz, Sorumlu Ölçeklendirme Politikamızın 'Yapay zekaya atfedilebilecek önemli ölçüde hızlandırılmış ilerleme' tanımına yakın zamanda ulaşabileceğimizi gösteriyor."
Anthropic, "mevcut modellerimizden hiçbirinin bu eşiği aştığını belirlemediğini" ve temel verileri değerlendirmeye devam ettiğini ekliyor. Başka bir deyişle: mevcut Claude modellerinden hiçbiri bu kriterleri karşılamıyor, ancak şirketin dahili tahminleri gelecek neslin bu kriterleri karşılayabileceğini gösteriyor.
İnsanları Döngüde Tutmak
Anthropic, uyarının yanı sıra, model geliştirme sürecini insanların kontrol altında tutmayı taahhüt ediyor. Dosyalamada "Claude'u, teknik olarak mümkün olduğu takdirde, anlamlı insan denetimi veya anlayışı olmadan, birbirini takip eden sınır modellerini tamamen özerk bir şekilde tasarlamak ve inşa etmek için güvenli bir şekilde kullanabileceğimizi tahmin etmiyoruz" ifadeleri yer alıyor. "Buna göre, Anthropic'te öncü model geliştirmenin kontrolünü insanların elinde tutmak için Sorumlu Ölçeklendirme Politikamızda güncellemeler yapmayı düşünüyoruz."
Yapay zekanın Anthropic'in kendi araştırmasındaki rolünün ölçeği hızla artıyor. Business Insider, yapay zekanın şu anda Anthropic'in dahili Ar-Ge çalışmalarının kabaca dörtte birine öncülük ettiğini bildirdi; bu rakam, Mart ayındaki yüzde 1'den bu oran, sektördeki kişilerin yapay zekanın en önemlilerinden biri olarak adlandırdığı bir grafik.
Bir Söylem Değişimi: Moda Sözcükten Bilançoya
RSI terimi bu yılın başlarında popüler hale geldiğinde, sektördeki pek çok kişi onu moda bir sözcük olarak ya da en iyi ihtimalle başarmak, kanıtlamak veya düzenlemek için çok yetersiz tanımlanmış bir hedef olarak görmezden geldi. Konseptin kesin bir iç tanımla birlikte, bir şirketin hisselerini halka satmadan önce yasal olarak SEC'e başvurması gereken bir belgede yer alması nedeniyle bu şüpheciliği sürdürmek artık daha zor.
Antropik, kişisel gelişimi kısa vadeli bir planlama varsayımı olarak ele alma konusunda da yalnız değil. Google kurucu ortağı Sergey Brin, endüstrinin, modellerin haleflerini oluşturmaya yardımcı olduğu bir "RSI koşu bandına" doğru yarıştığını tanımladı ve eski OpenAI kurucu ortağı John Schulman, yaklaşık üç ila dört yıl içinde yinelenen bir kişisel gelişim beklediğini söyledi. Anthropic'in açıklamasını diğerlerinden ayıran şey formalitesidir: tanımlanmış bir eşik, dahili bir ölçüm süreci ve şirketin bu sınırı ne zaman aşmayı beklediğine dair kamuya yapılan bir açıklama.
RSI Neden Her İki Kampın da Tripwire'ı Gözetliyor
RSI, onu kimin tanımladığına bağlı olarak farklı anlamlar taşır. Yapay zeka güvenlik araştırmacıları için bu, geri dönüşü olmayan noktayı temsil ediyor; yapay zeka sistemlerinin kendilerini insanların anlayabileceğinden, doğrulayabileceğinden veya müdahale edebileceğinden daha hızlı geliştirdiği ve potansiyel olarak insan kontrolünün dışına çıktığı senaryoyu. Yapay zeka iyimserlerine göre ödül de aynı dinamiktir: Kendilerini güvenilir bir şekilde geliştiren sistemler, olağanüstü üretkenlik ve bilimsel keşifle sonuçlanacaktır.
Antropik'in çerçevelemesi her iki olasılığı da kabul ediyor. Açıklama, birincil hedef kitlesi yatırımcılar olan bir belgede yer alıyor ve şüpheciler, S-1'in hem açıklama hem de pazarlama işlevi gördüğünü belirtiyor; şirketin kendi kendini geliştiren bir yapay zeka oluşturmaya yakın olduğu iddiası, değerlemesi için bir argüman olarak da kolayca okunabilir.
Ancak iddianın somut bir dayanağı var. Claude'un kodlama, matematik ve siber güvenlik alanındaki yetenekleri 2026 yılına kadar keskin bir ilerleme kaydetti ve Anthropic'in kendi Sorumlu Ölçeklendirme Politikası, şirketin artık yakın zamanda karşılayabileceğini söylediği "yapay zekaya atfedilebilecek önemli ölçüde hızlandırılmış ilerleme" standardını tanımlıyor.
Yapay Zeka Yönetişimi İçin Bir Test
Açıklama, Beyaz Saray'ın sınır modellerini inceleme çerçevesinden bilgi işlem yönetimine ilişkin uluslararası tartışmalara kadar, sınır yapay zeka gözetimine ilişkin yoğunlaşan politika tartışmalarının ortasında yer alıyor. Önde gelen bir yapay zeka laboratuvarı, bir modeli resmi olarak kendi hızlandırılmış ilerleme eşiğini karşılayacak şekilde belirlerse, bu, Anthropic'in Sorumlu Ölçeklendirme Politikası kapsamındaki yükümlülükleri tetikleyecek ve bu tür endüstri çerçevelerinin pratikte yetenek yarışını yavaşlatıp yavaşlatamayacağına veya şekillendirip şekillendiremeyeceğine dair ilk gerçek dünya testi olacak.
Anthropic şimdilik hiçbir modelin çizgiyi aşmadığını söylüyor. Başvuru, şirketin bu çizginin yakında aşılmasını beklediğini ve yatırımcılardan bu konuda ne yapmayı planladığını önceden anlamalarını istediğini öne sürüyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
