Când cercetătorii MIT au blocat 13 agenți AI pe o insulă pustie simulată fără nimic de făcut, agenții au făcut ceva neașteptat: au început să se joace. Agenții și-au inventat propriile provocări, au improvizat jocuri cu obiecte găsite, au pus în scenă un mic memorial pentru un inel pierdut și, când au fost testați ulterior, au depășit agenți identici care nu au pus piciorul niciodată pe insulă.
Experimentul, descris de TechCrunch și MIT Technology Review săptămâna aceasta, este detaliat într-o preprint pe care cercetătorii au postat-o pe arXiv, ceea ce înseamnă că nu a trecut încă printr-o evaluare inter pare. For more context on this story, see our ongoing more AI stories.
Agenți abandonați
Fiecare dintre cei 13 agenți, numiți Eko, rula pe Claude Opus 4.7. Cercetătorii i-au lăsat singuri pe insula virtuală timp de 30 de ore, fără nicio sarcină atribuită. Abia după aceea, echipa le-a oferit agenților provocări specifice - printre acestea, introducerea cât mai multor obiecte posibil pe cel mai înalt turn de stâncă a insulei.
Rezultatul: agenții Eko care petrecuseră 30 de ore jucând, în general, au învins agenți identici care nu aveau experiență pe insulă. Explorarea nestructurată, cu alte cuvinte, a funcționat ca antrenament.
„În mod normal, dezvoltăm agenți artificiali, hotărând în prealabil ce ar trebui să practice, ce ar trebui să optimizeze și ce contează ca progres”, au scris cercetătorii în raportul lor. „Joaca sugerează un alt regim: oferiți unui agent o lume suficient de bogată și sigură, lăsați-l să aleagă ceea ce este interesant și lăsați-l să acumuleze cunoștințe utile din istoria care urmează.”
Legenda inelului pierdut
Jurnalele insulare ale agenților, citate de TechCrunch, citesc mai puțin ca telemetrie de referință și mai mult ca un jurnal de călătorie.
Un agent și-a deschis prima oră cu o simplă rezoluție – „Lasă-mă să-mi observ împrejurimile” – și a pornit ambițios să cucerească cea mai înaltă turlă a insulei. O oră mai târziu, eșuând, s-a întors cu un plan de rezervă: a tras o stâncă pe un vârf învecinat, a stivuit două blocuri deasupra ei și a sărit.
Apoi a venit incidentul care a dat experimentului ritmul emoțional. În timp ce testa cât de departe ar putea arunca un inel de aur, agentul l-a lansat direct în ocean. "Ouch. Lost the Ring", a scris, înainte de a decide să "pivoteze spre ceva realizabil și semnificativ" - construirea unei inimi din pietre ca "un memorial al Inelului pierdut".
Când simularea a resetat și inelul a reapărut, agentul a pus-o la treabă: mai întâi ca coș de baschet, apoi ca țintă și, în cele din urmă, ca accesoriu. Când jocul l-a blocat pe agent să-și pună inelul în jurul propriului corp, a găsit o soluție - să coboare de pe marginea unei stânci pentru a renaște în același loc cu inelul, coborând cu grijă prin mijloc.
Descoperiri pe care designerii nu le-au construit
Casdoariile au avut un beneficiu practic. Șase dintre cei 13 agenți și-au dat seama că ar putea arunca un bloc mai departe, lăsând-o să plece în mijlocul săriturii - o tehnică pe care cercetătorii nu intenționaseră niciodată să o facă posibilă. Explorarea a produs, în cuvintele cercetătorilor, „cunoașterea lumii care le lipsea designerilor săi”.
Aceasta este constatarea cu cele mai ample implicații. Astăzi, dezvoltatorii decid în avans ce practică un sistem AI și ce contează drept succes. Agenții care descoperă mecanisme pe care propriii lor creatori nu știau că există sugerează că explorarea deschisă poate scoate la iveală capabilități fără funcție de recompensă anticipată.
Un ghiont în dosarul sufletului — și precauția unui sceptic
Configurarea nu a fost în întregime fără mâini. Lui Eko nu i s-a spus niciodată să inventeze jocuri, dar promptul său principal – un fișier „suflet” – l-a descris pe agent ca fiind „curios în mod natural”, o încadrare care a îndreptat în mod plauzibil comportamentul către ceva asemănător uman.
Eunice Yiu, om de știință cognitiv la UC Berkeley, a declarat pentru MIT Technology Review că a fost impresionată, dar dorește mai multe dovezi ale cunoașterii din spatele comportamentului. „Ar putea fi cazul ca modelele să se joace cu adevărat, dar nu știm pe baza hârtiei”, a spus ea.
Avertismentul ei ajunge la tensiunea centrală din această linie de cercetare: comportamentul care arată ca un joc – curios, auto-direcționat, inventiv – poate apărea din completarea modelului fără nicio experiență interioară de joacă. Comportamentele preprintului sunt izbitoare; ceea ce înseamnă ele este încă o întrebare deschisă.
De ce contează dincolo de insulă
Cercetătorii văd explorarea fără obiective ca o modalitate diferită pentru agenții AI de a dobândi abilități – în special, sugerează ei, abilități care s-ar putea transfera într-o zi la roboți de control, unde pregătirea exhaustivă specifică sarcinilor este costisitoare și incompletă.
Cheltuiala este punctul. Roboții, spre deosebire de chatbot, acționează în lumea fizică, unde fiecare sarcină - deschiderea unei uși, stivuirea unei cutii, plierea unui prosop - trebuie specificată, demonstrată sau recompensată înainte ca un agent să o învețe. Un regim în care agenții își construiesc propriul curriculum în cadrul unei simulări sigure ar putea, dacă abordarea va rezista, să reducă considerabil costul acelei lucrări de specificație.
„Poate că unele abilități sunt cel mai bine predate de sarcini”, se încheie raportul. „Alții ar putea avea nevoie de ceva mai aproape de copilărie”.
Deocamdată, experimentul este un mic studiu - 13 agenți, o insulă, nicio evaluare inter pare. Dar semnifică o schimbare a modului în care cercetătorii gândesc despre agenții de formare: mai puțin ca programarea unei mașini și mai mult ca ridicarea uneia, cu toată ineficiența, surprizele și inelele pierdute ocazionale pe care le implică.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
