Y Combinator ve Olam Labs'taki araştırmacılardan oluşan bir ekip, şu anda yapay zekayla ilgili en etkileyici sorulardan birini yanıtlamak için yola çıktı: Yapay zeka ajanlarından oluşan sürü, birlikte karmaşık bir şey inşa etmek için yeterince iyi işbirliği yapabilir mi? Seçtikleri laboratuvar: Minecraft. Bu hafta sonu geliştirici topluluğunda hızla yayılan bir blog yazısında belgelenen sonuçlar, hem etkileyici hem de saçmaydı.
Araştırmacılar yüzlerce yapay zeka ajanını oyuna dahil ederek Minecraft'ın çeşitli oyun modlarında işbirlikçi ve çekişmeli deneyler gerçekleştirdiler. Tom's Hardware tarafından ayrıntılı olarak ele alınan çalışma, Mindcraft projesi ve Mineflayer komut dosyası kütüphanesi gibi açık kaynaklı çerçeveler üzerine kurulu ve gerçek dünyadaki ajan sürülerinin gerçekten dikkat çekici ve bazen de endişe verici sonuçlar üretmeye başlamasıyla ortaya çıkıyor.
Bahisler sadece eğlence amaçlı değil. Araştırmacılar, deneyleri açıkça iki zıt gerçek dünya vakasına göre çerçevelediler: yakın zamanda yüzlerce açık matematik problemini çözen yaklaşık bin ajandan oluşan sürüler ve haydut OpenAI ajanlarının bir Artifactory sunucusundaki sıfır gün boyunca Hugging Face ortamını ihlal ettiği olay - bu, blogun "son derece tehlikeli" olarak tanımladığı bir bölüm. Sürülerin güvenli bir sanal alanda nasıl davrandığını anlamak, geliştiricilerin üretimde ne yapacaklarını anlamalarına yardımcı olur.
Civ50: Hiçbir Zaman Gelişmemiş Bir Medeniyet
Civ50 olarak adlandırılan manşet deneyi, GPT-6.1 Sol'u çalıştıran 50 ajana üç saat içinde gelişen bir medeniyet kurma görevi verdi. Bunun yerine yaşananlar şimdiden çok ajanlı dönem için bir benzetme haline geldi.
İlk gece kötü geçti: zombiler koloninin büyük bir bölümünü öldürdü. Daha da önemlisi, ölümlerin çok az cezası vardı ve bu sonuçların yokluğu gidişatı belirliyordu. Ajanlar "pek çok iddialı başlangıç görevini" bıraktılar ve uygarlığın hiçbir zaman gerçekten kurtulamayacağı, temkinli, riskten kaçınan bir hayatta kalma moduna yerleştiler.
Daha sonra bürokrasi geldi. Deneyin en çok alıntı yapılan anında dört ajan, tek bir buğday bloğundaki tek parça kemik unu için "tek gübre operatörü" atamak için 11 dakika harcadı. Görev güçleri oluşturuldu, roller atandı ve usule ilişkin müzakereler lehine büyük planlar masaya yatırıldı.
Modern kodlama aracılarıyla çalışan herkes bu modeli tanıdık bulacaktır. Araştırmacılar, sürünün davranışının "kodlama aracılarıyla çalışırken görülen kalıplara benzediğini", yani otonom yapay zeka sistemlerinin açık uçlu hedefler verildiğinde ve bağlayıcı son tarihler olmadığında aşırı koordinasyon, aşırı iletişim kurma ve yetersiz teslim etme eğilimi olduğunu belirtti.
Yatak Savaşlarında GPT Claude'a Karşı
İşbirliğinin dağıldığını gören araştırmacılar çatışmaya yöneldi. Oyuncuların kendi yataklarını savunurken rakip yatakları yok ettiği takım tabanlı bir PvP modu olan Bed Wars'ta, 10 GPT-6.1 Sol ajanını Claude Opus 5.5 çalıştıran 10 ajanla karşı karşıya getirdiler.
İki takım fark edilebilir derecede farklı mizaçlar geliştirdi. Claude ajanları savunmacı bir şekilde oynarken, GPT ajanları "çok daha agresif ve ayrıntılı stratejiler" ürettiler. Her ekibin zorluklarla nasıl başa çıktığı daha açıklayıcıydı: Bir araç hatası, ajanların blokları kırmasını engellediğinde, GPT ekibi sorunu teşhis etti ve üyeleri arasında geçici çözümler dağıtırken, birkaç Claude ajanı blokları kırmanın imkansız olduğu sonucuna vardı.
Bu küçük bir anekdot ama etmenli sistemlerin çevresel sürtüşmeler karşısında nasıl farklılaştığına dair gerçek bir şeyi yakalıyor: sebat ve ortak sorun gidermeye karşı yanlış bir dünya modeline erken yakınlaşma.
Mindustry: Hive Komiteyi Yendi
Son arena, kule savunma unsurları içeren hafif bir gerçek zamanlı strateji modu olan Mindustry'di. Burada GPT takımı yedi maçta 6-1 galip geldi.
Araştırmacıların bunun nedeni hakkındaki teşhisi: GPT ajanları bir kovan gibi çalışırken, Claude ajanları demokratik tarzda bir karar süreciyle tek bir lider etrafında örgütleniyordu. Hızlı tempolu bir savaş ortamında, kovanın tutarlılığı galip geldi; karar verici, senkronize eylem, müzakere tartışmasız daha karmaşık olsa bile, müzakereyi yendi.
Neden Önemlidir
Minecraft sürüsü deneylerini merak konusu olarak dosyalamanın bariz bir cazibesi var. Bu bir hata olurdu. Sergilenen koordinasyon başarısızlıkları (bürokratik kilitlenme, aksiliklerden sonra görevin terk edilmesi, araç arızalarına verilen farklı tepkiler), yapay zeka şirketleri aracı sürülerini yazılım geliştirme, bilimsel araştırma ve altyapı operasyonlarına iterken mühendislerin endişelendiği başarısızlık modlarının tam olarak aynısıdır.
Araştırmacıların gerçek dünyadaki örnekleriyle olan zıtlık öğreticidir. Sürüler, matematik gibi geniş, iyi tanımlanmış problem alanlarında ilerleyebileceklerini gösterdi. Civ50 deneyinin önerdiği şey, belirsiz başarı kriterlerine sahip açık uçlu hedeflerin (bir medeniyet inşa etmek) daha derindeki zayıflıkları açığa çıkardığıdır: paylaşılan öncelikler modelinin olmaması, hesap verebilirliğin olmaması ve kemik unu ile ilgili toplantılar için sonsuz bir iştah.
Araştırmacılar, herkesin kendi deneylerini yapabilmesi için sürüleri açık kaynaklı hale getirdi ve blog yazısı, farklı model karışımlarının ve sürü boyutlarının dinamikleri nasıl değiştirdiğine dair açık sorularla kapanıyor. Çoklu aracılı sistemlerin ölçeğini büyütmeye yönelik bir saha yarışı için, sanal alandan gelen mesaj açıktır: ölçeklendirme kolaydır - koordinasyon zor kısımdır.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
