Nalika peneliti MIT terdampar 13 agen AI ing pulo gurun simulasi tanpa apa-apa, agen nindakake soko sing ora dikarepke: padha miwiti kanggo muter. Agen nemokke tantangan dhewe, game improvised karo obyek ketemu, gelaran memorial cilik kanggo dering ilang - lan, nalika dites sesampunipun, outperformed agen podho rupo sing wis tau mlaku ing pulo.
Eksperimen kasebut, sing diterangake dening TechCrunch lan MIT Technology Review minggu iki, dirinci ing preprint sing dikirim peneliti ing arXiv, tegese durung liwat review peer. For more context on this story, see our ongoing latest AI developments.
Agen Marooned
Saben 13 agen, disebut Eko, mlayu ing Claude Opus 4.7. Para peneliti ninggalake dheweke ing pulo virtual sajrone 30 jam tanpa tugas sing ditugasake. Mung sawise tim kasebut menehi tantangan khusus marang agen - ing antarane, njupuk obyek sing paling akeh menyang puncak gunung paling dhuwur ing pulo kasebut.
Asil: agen Eko sing wis ngginakaken 30 jam muter umume ngalahake agen identik sing ora pengalaman pulo. Eksplorasi sing ora terstruktur, kanthi tembung liya, minangka latihan.
"Biasane kita ngembangake agen buatan kanthi mutusake luwih dhisik apa sing kudu ditindakake, apa sing kudu dioptimalake, lan apa sing dianggep minangka kemajuan," ujare peneliti ing laporan kasebut. "Play tabet rezim liyane: menehi agen donya cekap sugih lan aman, supaya iku milih apa menarik, lan ngidini kawruh migunani kanggo nglumpukake saka sajarah sing nderek."
Legenda ring ilang
Log pulo agen, sing dikutip dening TechCrunch, maca kurang kaya telemetri pathokan lan luwih kaya buku harian perjalanan.
Siji agen mbukak jam kapisan kanthi resolusi sing prasaja - "Ayo kula mirsani lingkunganku" - lan ambisius metu kanggo nelukake puncak paling dhuwur ing pulo kasebut. Sejam mengko, sawise gagal, dheweke bali karo rencana cadangan: ngeterake watu menyang puncak tanggane, numpuk rong blok ing ndhuwur, lan mlumpat.
Banjur kedadeyan sing nyebabake eksperimen kasebut dadi emosi. Nalika nyoba sepira adohe bisa mbuwang cincin emas, agen kasebut ngluncurake langsung menyang segara. "Aduh. Ilang Ring," tulise, sadurunge mutusake "pivot menyang soko sing bisa ditindakake lan migunani" - mbangun ati saka watu minangka "pengeling-eling kanggo cincin sing ilang."
Nalika simulasi reset lan ring muncul maneh, agen sijine iku bisa: pisanan minangka hoop basket, banjur minangka target, lan pungkasanipun minangka aksesoris. Nalika game diblokir agen saka panggolekan ring sak awak dhewe, ketemu workaround - jumangkah saka pinggiran Cliff kanggo respawn ing titik padha ring, nempel rapi liwat tengah.
Penemuan sing ora digawe dening perancang
Stunts wis mbayari praktis. Enem saka 13 agen ngerteni manawa bisa mbuwang blok luwih adoh kanthi ngeculake lompat-lompat - teknik sing durung nate ditindakake para peneliti. Eksplorasi kasebut ngasilake, ing tembung para peneliti, "kawruh donya sing ora ana perancang."
Iki minangka panemuan kanthi implikasi sing paling akeh. Saiki, pangembang mutusake luwih dhisik babagan praktik sistem AI lan apa sing dianggep sukses. Agen sing nemokake mekanika sing ora dingerteni, sing ora dingerteni, nuduhake eksplorasi sing mbukak bisa mbukak kemampuan sing ora ana fungsi ganjaran sing diantisipasi.
A nudge ing file nyawa - lan ati-ati skeptis kang
Persiyapan ora sakabehe tangan-mati. Eko ora tau didhawuhi nggawe game, nanging pituduh mastere - file "jiwa" - nggambarake agen kasebut minangka "curious alamiah", framing sing bisa nuding prilaku menyang manungsa.
Eunice Yiu, ilmuwan kognitif ing UC Berkeley, marang MIT Technology Review dheweke kesengsem nanging pengin bukti liyane saka kognisi konco prilaku. "Bisa uga model kasebut pancen main, nanging kita ora ngerti adhedhasar kertas kasebut," ujare.
Caveat dheweke nemu ing tension tengah ing baris riset iki: prilaku sing katon kaya play - penasaran, poto-diarahake, inventive - bisa muncul saka completion pola tanpa pengalaman utama playfulness. Prilaku preprint sing striking; apa tegese isih dadi pitakonan mbukak.
Apa iku prakara ngluwihi pulo
Peneliti ndeleng eksplorasi tanpa tujuan minangka cara sing beda kanggo agen AI kanggo entuk katrampilan - utamane, dheweke menehi saran, katrampilan sing bisa ditransfer menyang robot kontrol, ing ngendi latihan khusus tugas lengkap larang lan ora lengkap.
Biaya iku titik. Robot, ora kaya chatbots, tumindak ing donya fisik, ing ngendi saben tugas - mbukak lawang, numpuk kothak, mbungkus andhuk - kudu ditemtokake, dituduhake utawa diganjar sadurunge agen sinau. A regime kang agen mbangun kurikulum dhewe ing simulasi aman bisa, yen pendekatan terus munggah, Cut biaya specifications bisa banget.
"Mungkin sawetara kabisan paling apik diajarke kanthi tugas," laporan kasebut rampung. "Liyane bisa uga butuh sing luwih cedhak karo bocah cilik."
Saiki, eksperimen kasebut minangka studi cilik - 13 agen, siji pulo, ora ana peer review. Nanging sadurunge nyeret ing shift carane peneliti mikir bab agen latihan: kurang program mesin lan liyane kaya mundhakaken siji, karo kabeh inefficiency, surprises lan sok-sok ilang rings sing gawe katut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
