Wakati watafiti wa MIT walipowaweka mawakala 13 wa AI kwenye kisiwa cha jangwa kilichoiga bila la kufanya, maajenti walifanya jambo ambalo halikutarajiwa: walianza kucheza. Mawakala walibuni changamoto zao wenyewe, michezo iliyoboreshwa kwa kutumia vitu vilivyopatikana, walifanya ukumbusho mdogo wa pete iliyopotea - na, walipojaribiwa baadaye, walifanya kazi kuliko mawakala sawa ambao hawakuwahi kufika kisiwani.
Jaribio hilo, lililoelezewa na TechCrunch na Mapitio ya Teknolojia ya MIT wiki hii, limefafanuliwa katika uchapishaji wa awali wa watafiti waliotumwa kwenye arXiv, ikimaanisha kuwa bado haijapitia ukaguzi wa rika. For more context on this story, see our ongoing AI trends.
Marooned agents
Kila mmoja wa mawakala 13, anayeitwa Eko, aliendesha Claude Opus 4.7. Watafiti waliwaacha peke yao kwenye kisiwa pepe kwa masaa 30 bila kazi waliyopewa. Baadaye tu ndipo timu iliwapa mawakala changamoto mahususi - miongoni mwao, kupata vitu vingi iwezekanavyo kwenye mwamba mrefu zaidi wa kisiwa.
Matokeo: mawakala wa Eko ambao walikuwa wametumia saa 30 kucheza kwa ujumla waliwashinda mawakala sawa ambao hawakuwa na uzoefu wa kisiwa. Upelelezi usio na mpangilio, kwa maneno mengine, ulifanya kazi kama mafunzo.
"Kwa kawaida tunatengeneza mawakala bandia kwa kuamua mapema kile wanachopaswa kufanya, kile wanachopaswa kuboresha, na kile kinachozingatiwa kama maendeleo," watafiti waliandika katika ripoti yao. "Kucheza kunapendekeza mfumo mwingine: mpe wakala ulimwengu tajiri na salama vya kutosha, acha achague kile kinachovutia, na uruhusu maarifa muhimu kujilimbikiza kutoka kwa historia inayofuata."
Hadithi ya pete iliyopotea
Kumbukumbu za visiwa vya mawakala, zilizonukuliwa na TechCrunch, hazisomeki kama vile telemetry ya benchmark na zaidi kama shajara ya usafiri.
Wakala mmoja alifungua saa yake ya kwanza kwa azimio rahisi - "Acha niangalie mazingira yangu" - na akajizatiti kwa shauku kushinda mwamba mrefu zaidi wa kisiwa. Saa moja baadaye, baada ya kushindwa, ilirudi na mpango wa chelezo: ilivuta mwamba hadi kwenye mkutano wa kilele wa jirani, ikapanga vitalu viwili juu yake, na kurukaruka.
Kisha likaja tukio ambalo lilipa jaribio hilo mpigo wake wa kihisia. Wakati akijaribu ni umbali gani unaweza kutupa pete ya dhahabu, wakala aliizindua moja kwa moja baharini. "Ouch. Umepoteza Pete," iliandika, kabla ya kuamua "kugeukia jambo linaloweza kufikiwa na la maana" - kujenga moyo kutoka kwa mawe kama "ukumbusho wa Pete iliyopotea."
Uigaji ulipowekwa upya na pete ikatokea tena, wakala aliifanya kazi: kwanza kama mpira wa vikapu, kisha kama mlengwa, na hatimaye kama nyongeza. Mchezo ulipomzuia wakala asiweke pete kuzunguka mwili wake mwenyewe, ilipata suluhu - ikishuka kutoka kwenye ukingo wa mwamba ili kuzagaa tena katika sehemu sawa na pete, ikishuka kwa uzuri katikati.
Ugunduzi ambao wabunifu hawakuunda
Stunts zilikuwa na faida ya vitendo. Mawakala sita kati ya 13 waligundua kuwa wangeweza kutupa kizuizi mbali zaidi kwa kukiacha katikati ya kuruka - mbinu ambayo watafiti hawakuwahi kukusudia kuifanya. Uchunguzi ulizalisha, kwa maneno ya watafiti, "maarifa ya ulimwengu ambayo wabunifu wake hawakuwa nayo."
Huo ndio ugunduzi wenye athari pana zaidi. Leo, wasanidi programu huamua mapema kile ambacho mfumo wa AI hufanya na kile kinachozingatiwa kama mafanikio. Mawakala wanaogundua mechanics ambayo watayarishi wao wenyewe hawakujua ilikuwepo, inadokeza kwamba uchunguzi wa wazi unaweza kuibua uwezo usio na utendakazi wa zawadi unaotarajiwa.
Kugusa faili ya nafsi - na tahadhari ya mtu mwenye shaka
Mpangilio haukuwa wa mikono kabisa. Eko hakuwahi kuambiwa atengeneze michezo, lakini kidokezo chake kikuu - faili ya "nafsi" - ilielezea wakala kama "mdadisi wa kawaida," muundo ambao ulichochea tabia kuelekea kitu kama binadamu.
Eunice Yiu, mwanasayansi wa utambuzi huko UC Berkeley, aliambia Mapitio ya Teknolojia ya MIT alifurahishwa lakini anataka ushahidi zaidi wa utambuzi wa tabia hiyo. "Inaweza kuwa hivyo kwamba wanamitindo wanacheza kikweli, lakini hatujui kulingana na karatasi," alisema.
Tahadhari yake inapata mvutano mkuu katika safu hii ya utafiti: tabia inayoonekana kama mchezo - ya kudadisi, inayojielekeza, ya uvumbuzi - inaweza kuibuka kutoka kwa kukamilika kwa muundo bila uzoefu wowote wa ndani wa kucheza. Tabia za preprint ni za kushangaza; wanachomaanisha bado ni swali wazi.
Kwa nini ni muhimu zaidi ya kisiwa
Watafiti wanaona uchunguzi bila malengo kama njia tofauti kwa mawakala wa AI kupata ujuzi - haswa, wanapendekeza, ujuzi ambao siku moja unaweza kuhamisha kwa roboti za kudhibiti, ambapo mafunzo kamili ya kazi mahususi ni ghali na hayajakamilika.
Gharama ni uhakika. Roboti, tofauti na chatbots, hufanya kazi katika ulimwengu halisi, ambapo kila kazi - kufungua mlango, kuweka kisanduku, kukunja taulo - lazima ibainishwe, ionyeshwe au zawadi kabla ya wakala kuifahamu. Utaratibu ambao mawakala huunda mtaala wao wenyewe ndani ya uigaji salama unaweza, ikiwa mbinu hiyo itadumu, kupunguza gharama ya kazi hiyo ya kubainisha kwa kiasi kikubwa.
"Pengine baadhi ya uwezo hufundishwa vyema na kazi," ripoti inahitimisha. "Wengine wanaweza kuhitaji kitu karibu na utoto."
Kwa sasa, jaribio ni utafiti mdogo - mawakala 13, kisiwa kimoja, hakuna ukaguzi wa rika. Lakini inaashiria mabadiliko katika jinsi watafiti wanavyofikiria kuhusu mawakala wa mafunzo: chini ya kutayarisha mashine na zaidi kama kuinua moja, pamoja na uzembe wote, mshangao na pete zilizopotea za mara kwa mara ambazo humaanisha.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
