MIT araştırmacıları 13 AI ajanını hiçbir şey yapmadan simüle edilmiş bir ıssız adada mahsur bıraktığında ajanlar beklenmedik bir şey yaptı: oynamaya başladılar. Ajanlar kendi zorluklarını icat ettiler, bulunan nesnelerle doğaçlama oyunlar oynadılar, kayıp bir yüzük için küçük bir anıt düzenlediler ve daha sonra test edildiğinde adaya hiç ayak basmamış aynı ajanlardan daha iyi performans gösterdiler.
TechCrunch ve MIT Technology Review tarafından bu hafta açıklanan deney, araştırmacıların arXiv'de yayınladığı ön baskıda ayrıntılı olarak anlatılıyor; bu da henüz hakem incelemesinden geçmediği anlamına geliyor. For more context on this story, see our ongoing AI news.
Mahsur kalmış ajanlar
Eko adı verilen 13 ajanın her biri Claude Opus 4.7'yi kullanıyordu. Araştırmacılar onları herhangi bir görev verilmeden 30 saat boyunca sanal adada yalnız bıraktılar. Ancak daha sonra ekip, ajanlara belirli zorluklar yaşattı; bunların arasında adanın en yüksek kaya kulesine mümkün olduğunca çok nesne yerleştirmek de vardı.
Sonuç: 30 saat oynayan Eko ajanları, genellikle ada deneyimi olmayan aynı ajanları yendiler. Başka bir deyişle yapılandırılmamış keşif, eğitim işlevi görüyordu.
Araştırmacılar raporlarında, "Normalde yapay ajanları, neyi uygulamaları, neyi optimize etmeleri ve neyin ilerleme olarak sayılması gerektiğine önceden karar vererek geliştiriyoruz" diye yazdı. "Oyun başka bir rejim öneriyor: Temsilciye yeterince zengin ve güvenli bir dünya verin, ilginç olanı seçmesine izin verin ve takip eden tarihten yararlı bilgilerin birikmesine izin verin."
Kayıp yüzüğün efsanesi
Temsilcilerin TechCrunch tarafından alıntılanan ada kayıtları, kıyaslama telemetrisinden çok bir seyahat günlüğüne benziyor.
Ajanlardan biri ilk saatini basit bir kararla açtı - "Çevremi gözlemlememe izin ver" - ve hırsla adanın en yüksek kulesini fethetmek için yola çıktı. Bir saat sonra başarısız olduktan sonra bir yedek planla geri döndü: Komşu bir zirveye bir kaya çekti, üzerine iki blok yığdı ve atladı.
Daha sonra deneye duygusal heyecan kazandıran olay geldi. Ajan, altın yüzüğü ne kadar uzağa fırlatabileceğini test ederken onu doğrudan okyanusa fırlattı. "Ah, Yüzüğü Kaybettim" diye yazdı, "ulaşılabilir ve anlamlı bir şeye yönelmeye" karar vermeden önce - "kayıp Yüzüğün anıtı" olarak taşlardan bir kalp inşa etmeye.
Simülasyon sıfırlanıp yüzük yeniden ortaya çıktığında, ajan onu ilk önce basketbol potası, sonra hedef ve en sonunda da aksesuar olarak çalıştırdı. Oyun, ajanın yüzüğü kendi vücudunun etrafına yerleştirmesini engellediğinde, bir geçici çözüm buldu: bir uçurumun kenarından adım atarak halkayla aynı noktada yeniden doğdu ve düzgün bir şekilde ortasından düştü.
Tasarımcıların oluşturmadığı keşifler
Gösterilerin pratik bir getirisi vardı. 13 ajandan altısı, bir bloğu atlamanın ortasında bırakarak daha uzağa atabileceklerini anladı; bu, araştırmacıların asla mümkün kılmayı amaçlamadığı bir teknikti. Araştırma, araştırmacıların deyimiyle, "tasarımcıların sahip olmadığı dünya bilgisini" ortaya çıkardı.
Bu, en geniş çıkarımlara sahip bulgudur. Günümüzde geliştiriciler, bir yapay zeka sisteminin neleri uygulayacağına ve neyin başarı sayılacağına önceden karar veriyor. Ajanların, kendi yaratıcılarının varlığından haberdar olmadığı mekanizmaları keşfetmesi, açık uçlu keşiflerin, hiçbir ödül işlevi beklenmeyen yetenekleri ortaya çıkarabileceğini gösteriyor.
Ruh dosyasında bir dürtükleme ve bir şüphecinin uyarısı
Kurulum tamamen uygulamalı değildi. Eko'ya hiçbir zaman oyun icat etmesi söylenmedi, ancak ana istemi - bir "ruh" dosyası - ajanı "doğal olarak meraklı" olarak tanımladı; bu, davranışı makul bir şekilde insani bir şeye doğru iten bir çerçeveydi.
UC Berkeley'de bilişsel bilim insanı olan Eunice Yiu, MIT Technology Review'a etkilendiğini ancak davranışın ardındaki biliş hakkında daha fazla kanıt istediğini söyledi. "Modellerin gerçekten oynadığı bir durum olabilir, ancak kağıtlara dayanarak bunu bilmiyoruz" dedi.
Onun uyarısı, bu araştırma hattındaki merkezi gerilime yöneliktir: oyuna benzeyen davranışlar - meraklı, kendi kendini yöneten, yaratıcı - herhangi bir içsel oyun deneyimi olmadan kalıp tamamlamadan ortaya çıkabilir. Önbaskıdaki davranışlar dikkat çekici; ne anlama geldikleri hala açık bir sorudur.
Adanın ötesi neden önemli?
Araştırmacılar, hedefsiz keşifleri, yapay zeka ajanlarının beceri kazanmasının farklı bir yolu olarak görüyorlar; özellikle de, göreve özel kapsamlı eğitimin pahalı ve eksik olduğu bir gün kontrol robotlarına aktarılabilecek becerileri öne sürüyorlar.
Önemli olan masraftır. Robotlar, sohbet robotlarından farklı olarak, her görevin (bir kapıyı açmak, bir kutuyu istiflemek, bir havluyu katlamak) bir temsilci öğrenmeden önce belirtilmesi, gösterilmesi veya ödüllendirilmesi gereken fiziksel dünyada hareket eder. Aracıların güvenli bir simülasyon içinde kendi müfredatlarını oluşturdukları bir rejim, eğer yaklaşım geçerliyse, spesifikasyon çalışmasının maliyetini önemli ölçüde azaltabilir.
Rapor, "Belki de bazı yetenekler en iyi şekilde görevlerle öğretilir" sonucuna varıyor. "Başkalarının çocukluğa daha yakın bir şeye ihtiyacı olabilir."
Şimdilik deney küçük bir çalışma; 13 ajan, bir ada, hakem değerlendirmesi yok. Ancak bu, araştırmacıların temsilcilerin eğitimi hakkındaki düşüncelerinde bir değişime işaret ediyor: bir makineyi programlamaktan çok, bir makineyi yükseltmek gibi; tüm verimsizlik, sürprizler ve ara sıra ortaya çıkan kayıp çağrılarla birlikte.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
