John Schulman Anaweka Uboreshaji wa Kujirudia Miaka 3-4 Mbali katika Mjadala wa Frank juu ya Dari ya AI.

John Schulman, mwanzilishi mwenza wa OpenAI ambaye sasa anatumika kama mwanasayansi mkuu katika Mashine ya Kufikiri, alisema anatarajia uboreshaji wa kujirudia - Mifumo ya AI kuharakisha maendeleo yao wenyewe - katika takriban miaka mitatu hadi minne, kalenda ya matukio ambayo inamweka kati ya watabiri mkali zaidi kwenye uwanja. Schulman alitoa makadirio hayo wakati wa kipindi cha duara cha Dwarkesh Podcast kilichochapishwa Ijumaa, ambapo watafiti watatu wa maabara walijadili kwa uwazi jinsi tasnia hiyo ilivyo karibu na dari yake.

Mazungumzo hayo yalitoa mtazamo wa nadra bila kulindwa jinsi watafiti walio karibu na mpaka wanafikiria juu ya maendeleo, wakifika katikati ya wiki yenye kelele ambayo iliona Mkurugenzi Mtendaji wa Nvidia Jensen Huang akitangaza kwamba "AGI imefika" na kikundi cha Washindi wa Medali 25 walionya kwamba kufuata benchmark ya AI kunaharibu hisabati. Kwa wasomaji wanaofuatilia maendeleo ya hivi punde ya AI, kipindi hiki ni muhimu dhidi ya uzani: hawa ni watu wanaounda mifumo, na hawakubaliani vikali.

Nani alikuwa mezani

Mtangazaji Dwarkesh Patel alisema alikusanya jopo kwa sababu wageni wanafanya kazi katika kile alichokiita "maabara na makampuni ya wazi," akimaanisha kuwa wanaweza kuzungumza kwenye rekodi. Waliojiunga na Schulman walikuwa Beren Millidge, afisa mkuu wa teknolojia huko Zyphra, mwanzilishi anayekuza mifano ya chanzo huria, na Charlie O'Neill, mkuu wa mafunzo ya kielelezo huko Baseten.

Sifa za Schulman zinaipa mazungumzo yake ya kalenda ya matukio uzito fulani. Alianzisha OpenAI na akaongoza mafunzo ya uimarishaji kutoka kwa utafiti wa maoni ya wanadamu ambayo yalizalisha mbinu nyuma ya ChatGPT, kabla ya kwenda kwa Mashine ya Kufikiria, ambapo sasa anatumika kama mwanasayansi mkuu.

Kesi dhidi ya umoja, imeundwa kwa chuma

Patel alifungua kwa swali lililo wazi: ikiwa 2036 itafika bila mabilioni ya mifumo ya akili kuu kubadilisha ulimwengu, itakuwa sababu gani ya kiufundi? Millidge alitoa kisa chenye nguvu zaidi cha kutilia shaka, akielezea kile alichokiita muundo wa karibu wa mtindo wa kitendawili wa Moravec ambapo mifano inalingana na viwango vyovyote ambavyo watafiti waliweka mbele yao, lakini athari za ulimwengu halisi hukatisha tamaa.

"Bado kuna pengo linaloendelea la sim-to-real ambalo kwa njia fulani linazuia kila kitu," Millidge alisema, akielezea ulimwengu ambapo AI inakuwa "nzuri sana kwa kila kitu ambacho watu huweka katika kipimo" bila kujumuisha zaidi. Aliongeza kuwa anaona kuwa matokeo haya hayawezekani, akionyesha ushahidi kwamba ujifunzaji wa kuimarisha tayari unafanyika katika mazoezi.

Schulman alikubali kwa kiasi kikubwa kwamba maendeleo sio ya moja kwa moja. Wanadamu wanashikilia faida halisi juu ya modeli za leo, alisema, na kila toleo jipya la modeli hupatikana katika baadhi ya maeneo huku likisalia kuwa na vikwazo katika mengine - muundo ambao umefafanua mizunguko kadhaa ya mwisho ya bidhaa.

Muda wa moto wa haraka: miaka miwili, mitatu hadi minne, mitano hadi kumi

Patel alipobonyeza nambari, paneli iligawanyika. Alipoulizwa ni lini AI inaweza kutoa uinuaji wa tija mara kumi kwa mfanyakazi hodari wa kola nyeupe, Schulman alikataa kwanza kutoa takwimu moja, kisha akasema "Ningesema miaka miwili." Millidge alisema anaweza "kuona hilo, kwa kweli," akisema faida tayari inazidi mara 10 kwa aina fulani za kazi. O'Neill ndiye aliyekuwa kihafidhina zaidi, akijibu "miaka 5 hadi 10".

Patel kisha alisukuma zaidi, akibainisha hali hiyo kama "ASI tu." Jibu la Schulman: "Ningesema miaka 3-4," akiongeza kuwa utafiti wa AI yenyewe "sio moja ya mambo magumu zaidi kwa AI, kwa sababu inahusisha mengi" ya kazi ambayo mbinu za sasa zinaweza kukaribia. Mabadilishano hayo yalijulikana kwa jinsi makadirio yalivyorudishwa nyuma kidogo kutoka kwa watafiti wengine.

Jinsi watafiti wa kiotomatiki wangefunzwa haswa

Sehemu kubwa ya kipindi ilishughulika na mechanics ya hali ambayo Schulman alikuwa akiweka bei. Alipoulizwa jinsi mifumo ya AI yenye uwezo wa kufanya utafiti wa AI kiotomatiki itakavyofunzwa, Schulman alielezea "mchanganyiko fulani wa kujifunza kutoka kwa maoni ya binadamu ili kufyonza ladha ya watafiti, na kuunda tu mazingira mengi ya mazoezi ambayo yanahusisha kufanya utafiti wa hatua nyingi."

Jibu hilo linaunganisha na wapi pesa za tasnia zinakwenda. Mkataba uliokamilika hivi majuzi wa Google wa Mechanize, uanzishaji ambao unaunda mazingira ya kufanyia kazi yaliyoiga kwa mawakala wa mafunzo, unaonyesha dau hili haswa kwamba misingi bora ya mafunzo - sio tu miundo mikubwa zaidi - itaendesha awamu inayofuata ya mafanikio ya uwezo. Schulman pia aliripoti ugumu wa msingi: utendakazi wa zawadi ulioundwa kwenye data asili ni vigumu kubainisha, na ishara za juu juu kama vile iwapo mtumiaji amekubali uhariri wa msimbo zinaweza kupotosha mafunzo.

Kunereka dhidi ya uwekaji kati

Mojawapo ya utabiri halisi wa Schulman ulihusu muundo wa tasnia. "Nadhani kunereka ndio jambo kuu ambalo linapigana dhidi ya nguvu kuu," alisema, akisema kwamba uwezo unaojifunza kupitia ujifunzaji wa uimarishaji unaweza kuhamishiwa kwa mifano ndogo kwa urahisi, kueneza uwezo wa karibu zaidi ya kampuni chache ambazo zinaweza kumudu mafunzo ya mipakani.

Juu ya swali la nini kinabaki kwa wanadamu, Schulman alikuwa wa kitengo. "Ningesema kwamba kazi ya mwisho kwa wanadamu, au jukumu la wanadamu litakalodumu kwa muda mrefu zaidi, ni kufafanua lengo na kuamua kile tunachotaka," alisema. Patel alipotoa muhtasari wa "upatanishi ndio kazi ya mwisho," Schulman alikubali: "Ulinganifu ni aina ya jibu," huku akibainisha kuwa hutengana katika kubainisha lengo sahihi na kisha kulifanikisha.

Mahali ambapo kipindi kinalingana na mdahalo wa kalenda ya matukio

Kichwa kidogo cha kipindi - "Hatuko karibu na dari" - kinanasa tenor yake ya jumla: watafiti wanaoona njia kubwa ya kurukia ndege mbele, hata wanapopinga jinsi njia hiyo itakavyokuwa ngumu. Majadiliano yalihusu kile kinachochochea maendeleo ya maabara ya Kichina, ikiwa ujifunzaji wa uimarishaji wa upeo wa macho kwa muda mrefu unaweza kuibua akili ya jumla, na kwa nini RL imeanza kufanya kazi vile vile.

Mjadala wa hadhara juu ya muda umeongezeka pande zote mwezi huu. Tangazo la "AGI limefika" la Huang lilizua shaka kutoka kwa wachambuzi ambao waliisoma kama kesi ya biashara badala ya madai ya kisayansi, wakati Mkurugenzi Mtendaji wa OpenAI Sam Altman aliwaambia wafanyakazi kwamba kampuni iko tayari kupunguza kasi ya maendeleo huku wasiwasi wa usalama ukiongezeka, kulingana na Bloomberg. Dirisha la Schulman la miaka mitatu hadi minne la uboreshaji wa kujirudia linakaa mahali fulani kati ya uuzaji na kusitishwa - makadirio ya kazi kutoka kwa mtu aliye na rekodi ya kujenga mbinu zinazoendesha sasa.

Iwapo yuko sahihi itategemea maswali ambayo jopo linazungushiwa pekee: ikiwa mafunzo ya uimarishaji yanaendelea kuleta jumla kupita mazingira yake ya mafunzo, na ikiwa pengo kati ya utendaji uliolinganishwa na thamani halisi ya kiuchumi itaendelea kuzibika.

Kaa Mbele ya AI

Watafiti wa Frontier wanajadili mipaka ya AI hadharani - fuata hadithi inapoendelea.

Soma habari zaidi za AI kwenye AI Buzz Wire