Şu anda Thinking Machines'te baş bilim insanı olarak görev yapan OpenAI kurucu ortağı John Schulman, kabaca üç ila dört yıl içinde özyinelemeli bir kendini geliştirme - yapay zeka sistemlerinin kendi gelişimini hızlandırmasını - beklediğini söyledi; bu, kendisini bu alandaki daha agresif tahminciler arasına yerleştiren bir zaman çizelgesi. Schulman, Cuma günü yayınlanan Dwarkesh Podcast'inin yuvarlak masa bölümünde bu tahmini verdi; burada üç öncü laboratuvar araştırmacısı, endüstrinin gerçekte tavanına ne kadar yakın olduğunu açıkça tartıştı.
Konuşma, Nvidia CEO'su Jensen Huang'ın "AGI geldi" açıklaması yaptığı ve 25 Fields Madalyası sahibinden oluşan bir grubun, yapay zeka kıyaslama takibinin matematiğe zarar verdiği konusunda uyardığı gürültülü bir haftanın ortasında, sınıra yakın araştırmacıların ilerleme hakkında nasıl düşündüklerine dair nadir, tedbirsiz bir bakış sunuyordu. En son yapay zeka gelişmelerini takip eden okuyucular için bu bölüm yararlı bir denge unsurudur: Bu kişiler sistemleri kuran insanlardır ve birbirleriyle keskin bir şekilde fikir ayrılığına düşerler.
Masada kim vardı
Sunucu Dwarkesh Patel, paneli kendisinin "biraz açık laboratuvarlar ve şirketler" dediği, yani kayıt üzerinde konuşabilecekleri bir yerde çalıştıkları için düzenlediğini söyledi. Schulman'a, açık kaynaklı modeller geliştiren bir girişim olan Zyphra'nın baş teknoloji sorumlusu Beren Millidge ve Baseten'de model eğitimi başkanı Charlie O'Neill katıldı.
Schulman'ın kimlik bilgileri, zaman çizelgesindeki konuşmasına özel bir ağırlık veriyor. OpenAI'nin kurucu ortağı oldu ve şu anda baş bilim insanı olarak görev yaptığı Thinking Machines'e gitmeden önce ChatGPT'nin arkasındaki teknikleri üreten insan geri bildirim araştırmalarından elde edilen pekiştirmeli öğrenmeye liderlik etti.
Çelik insanlı tekilliğe karşı dava
Patel sivri bir soruyla başladı: Eğer 2036 milyarlarca süper akıllı sistem dünyayı dönüştürmeden gelirse, bunun teknik nedeni ne olacak? Millidge şüphecilik için en güçlü örneği sunarak, neredeyse Moravec'in paradoks tarzı modeli olarak adlandırdığı modeli tanımladı; bu modelde, araştırmacıların önlerine koydukları kriterler ne olursa olsun, modeller başarılı oluyor, ancak gerçek dünyadaki etki hayal kırıklığı yaratıyor.
Millidge, daha fazla genelleme yapmadan, yapay zekanın "insanların kıyaslama yaptığı her şeyde son derece iyi" hale geldiği bir dünyayı tanımlayarak, "Hala bir şekilde her şeyi engelleyen kalıcı bir sim-gerçek uçurum var" dedi. Takviyeli öğrenmenin halihazırda pratikte genelleştiğine dair kanıtlara işaret ederek, bu sonucun olası olmadığını düşündüğünü ekledi.
Schulman, ilerlemenin otomatik olmadığı konusunda büyük ölçüde hemfikirdi. İnsanların günümüz modellerine göre gerçek avantajlara sahip olduğunu ve piyasaya sürülen her yeni modelin bazı alanlarda yetiştiğini, diğerlerinde ise darboğazda kaldığını söyledi; bu, son birkaç ürün döngüsünü tanımlayan modeldir.
Hızlı ateşleme zaman çizelgeleri: iki yıl, üç ila dört, beş ila on
Patel sayılara bastığında panel bölündü. Yapay zekanın yetkin bir beyaz yakalı çalışan için ne zaman on kat üretkenlik artışı sağlayacağı sorulduğunda Schulman, önce tek bir rakam vermeyi reddetti, ardından "İki yıl derdim" dedi. Millidge, bazı iş kategorilerinde kazancın halihazırda 10 katını aştığını savunarak "aslında bunu bir nevi görebildiğini" söyledi. O'Neill "5 ila 10" yıl arasında yanıt veren en muhafazakar kişiydi.
Patel daha sonra senaryoyu "temelde sadece YSZ" olarak nitelendirerek daha da ileri gitti. Schulman'ın yanıtı: "3-4 yıl diyebilirim" ve yapay zeka araştırmasının kendisini otomatikleştirmenin "yapay zeka için en zor şeylerden biri olmadığını, çünkü mevcut tekniklerin halihazırda yaklaşabileceği çok fazla çalışma gerektirdiğini" ekliyor. Bu değişim, tahminin diğer araştırmacılardan ne kadar az geri çevrildiği açısından dikkate değerdi.
Otomatikleştirilmiş araştırmacılar gerçekte nasıl eğitilecek?
Bölümün önemli bir kısmı, Schulman'ın fiyatlandırdığı senaryonun mekaniğiyle ilgiliydi. Yapay zeka araştırmalarını otomatikleştirebilen yapay zeka sistemlerinin nasıl eğitileceği sorulduğunda Schulman, "araştırmacıların zevkini özümsemek için insan geri bildirimlerinden öğrenmenin ve çok adımlı araştırma yapmayı içeren çok sayıda uygulama ortamı yaratmanın bir kombinasyonunu" açıkladı.
Bu cevap endüstrinin parasının nereye gittiğiyle bağlantılıdır. Google'ın, eğitim temsilcileri için simüle edilmiş çalışma ortamları oluşturan bir girişim olan Mechanize için kısa süre önce tamamlanan anlaşması, yalnızca daha büyük modellerin değil, daha iyi eğitim alanlarının bir sonraki yetenek kazanımı turunu yönlendireceği iddiasını tam olarak yansıtıyor. Schulman aynı zamanda temel bir zorluğun da altını çizdi: Doğal verilere dayanan ödül işlevlerinin belirlenmesi zordur ve kullanıcının bir kod düzenlemesini kabul edip etmediği gibi yüzeysel sinyaller eğitimi yanıltabilir.
Damıtmaya karşı merkezileştirme
Schulman'ın en somut tahminlerinden biri endüstri yapısıyla ilgiliydi. Takviyeli öğrenme yoluyla öğrenilen yeteneklerin nispeten daha kolay bir şekilde daha küçük modellere aktarılabileceğini ve sınıra yakın yetkinliğin sınır eğitimlerini karşılayabilen birkaç şirketin ötesine yayılabileceğini savunarak, "Merkezileştirici güce karşı savaşan ana şeyin damıtma olduğunu düşünüyorum" dedi.
İnsanlara ne kalacağı sorusuna Schulman kesin yanıt verdi. "İnsanlar için son işin veya en uzun sürecek rolün hedefi tanımlamak ve gerçekte ne istediğimize karar vermek olduğunu söyleyebilirim" dedi. Patel "hizalamanın son iş olduğunu" özetlediğinde Schulman da aynı fikirde: "Hizalama bir nevi cevaptır", ancak bunun doğru hedefi bulma ve sonra onu gerçekten başarma şeklinde ayrıştığına dikkat çekti.
Bölümün zaman çizelgesi tartışmasında yeri neresi
Bölümün alt başlığı - "Tavana yakın değiliz" - genel gidişatını yansıtıyor: Yolun ne kadar engebeli olacağı konusunda tartışsalar bile önlerinde önemli bir pist gören araştırmacılar. Tartışma, Çin laboratuvarlarının ilerlemesini neyin yönlendirdiği, uzun ufuklu takviyeli öğrenmenin genel zekayı ortaya çıkarıp çıkaramayacağı ve RL'nin neden bu kadar iyi çalışmaya başladığı konularını kapsıyordu.
Zaman çizelgeleri konusundaki kamuoyu tartışması bu ay her tarafta yoğunlaştı. Bloomberg'e göre, Huang'ın "AGI geldi" açıklaması, bunu bilimsel bir iddiadan ziyade bir iş vakası olarak okuyan analistlerin şüphelerine yol açtı; Bloomberg'e göre OpenAI CEO'su Sam Altman, personele şirketin güvenlik kaygıları arttıkça son teknoloji geliştirmeyi yavaşlatmaya açık olduğunu söyledi. Schulman'ın özyinelemeli kişisel gelişime yönelik üç ila dört yıllık penceresi, pazarlama ile moratoryum arasında bir yerde bulunuyor; şu anda bu alanı yönlendiren teknikleri geliştirme konusunda geçmişi olan birinden gelen geçerli bir tahmin.
Haklı olup olmadığı, panelin yalnızca daire içine aldığı sorulara bağlı olacaktır: takviyeli öğrenmenin eğitim ortamlarının ötesine geçerek genelleşmeye devam edip etmediği ve kıyaslama performansı ile gerçek ekonomik değer arasındaki farkın kapanmaya devam edip etmediği.
Yapay Zekanın Önünde Olun
Sınır araştırmacıları yapay zekanın sınırlarını kamuoyu önünde tartışıyor; hikayeyi geliştikçe takip edin.
AI Buzz Wire'da daha fazla AI haberini okuyun
