DeepSeek imechapisha ripoti ya kiufundi inayoelezea miundombinu iliyofichwa nyuma ya mafunzo ya wakala wake: jukwaa la kisanduku cha kutengeneza mchanga linaloitwa DeepSeek Elastic Compute, au DSec, ambalo huzunguka mazingira yaliyotengwa kwa kiwango ambacho kampuni chache zimefichua hadharani. Karatasi hiyo, iliyotumwa kwa arXiv mnamo Septemba 19, ilipata hadhira pana zaidi wikendi hii ilipofika ukurasa wa mbele wa Hacker News, ikichora zaidi ya alama 300 huku wahandisi walipokuwa wakichanganua nambari - ikiwa ni pamoja na takriban masanduku milioni 3 ya mchanga yanayohudumiwa kwa siku na zaidi ya 380,000 zinazoendeshwa kwa wakati mmoja katika kitengo kimoja cha uzalishaji.
Kufunza wakala wa AI si kitu kama kufunza chatbot. Kabla mwanamitindo ajifunze kutenda, anahitaji mahali pa kuchukua hatua - na kama utangazaji wa AI wa mwaka uliopita umeonyesha, sharti hilo ni kuunda upya kimya kimya jinsi maabara kuu huunda rundo lao la kukokotoa. DSec ni jibu la DeepSeek, na karatasi ni mojawapo ya akaunti za umma zenye maelezo zaidi kuhusu kile ambacho mafunzo ya uimarishaji wa mawakala yanadai kutoka kwa miundombinu ya kimwili.
Kwa Nini Mafunzo ya Wakala Yamevunja Rafu ya Kawaida ya Kukokotoa
Mafunzo na tathmini ya kiwango kikubwa cha mawakala, karatasi inaeleza, hutegemea mazingira yaliyotengwa, ya utekelezaji ambayo miundo hukagua hazina, huomba zana, kutekeleza amri, na kuingiliana na huduma mahususi za kazi. Mzigo huo wa kazi husisitiza kituo cha data kwa njia ambazo mafunzo ya kawaida hayafanyi: masanduku ya mchanga huundwa kwa milipuko mikubwa, yanajumuisha utendakazi tofauti na mahitaji ya kutengwa, huhifadhi hali katika mwingiliano mrefu wa zamu nyingi, na huchota kutoka kwa shirika kubwa la picha na utumiaji mdogo sana.
Mafanikio, kulingana na DeepSeek, ni kwamba mawakala wa usaidizi wanahitaji jukwaa la utekelezaji nyumbufu badala ya wakati wa kukimbia wa sanduku moja la mchanga. Picha ya chombo ambacho kinatumika kwa kazi moja sio msingi wa mamilioni ya uchapishaji kwa siku.
Nne za Sandbox Nyuma Nyuma ya SDK Moja
DSec inafichua sehemu nne tofauti za nyuma za sandbox - FnCall, kontena, microVM, na mashine kamili ya mtandaoni - kupitia SDK iliyounganishwa, ikiruhusu mabomba ya mafunzo kuchagua kiwango cha kutengwa ambacho kila kazi inahitaji. Jukwaa huratibu uwekaji na usimamizi wa mzunguko wa maisha katika kundi zima, na kutunga mazingira kutoka kwa tabaka zilizotolewa kwa kujitegemea ili vipengele vya kawaida vishirikiwe badala ya kunakiliwa.
Msongamano ni pale ambapo uhandisi hupata fujo. DSec inachanganya kushiriki kumbukumbu, kurejesha kumbukumbu, na upangaji wa CPU ili kuendesha visanduku vya mchanga katika msongamano mkubwa kwenye maunzi yaliyoshirikiwa, na kupakia data ya picha inapohitajika kutoka kwa Mfumo wa Faili wa Fire-Flyer (3FS), mfumo wa faili uliosambazwa kwa nguzo kote wa DeepSeek, badala ya kunakili picha kamili kwa kila nodi.
Imeunganishwa kwenye Kitanzi cha RL
Uamuzi muhimu zaidi wa muundo ni kwamba DSec iliundwa pamoja na mfumo wa uimarishaji wa DeepSeek badala ya kujengwa kando yake. Jukwaa hutenganisha utekelezaji wa hali ya juu wa uchapishaji kutoka kwa mafunzo ya awali ya GPU, na huratibu mzunguko wa maisha wa kisanduku cha mchanga na uendeshaji wa mafunzo ili hali ya uchapishaji ihifadhiwe huku rasilimali zisizo na shughuli zikidaiwa tena kwa kazi nyingine.
Karatasi pia inabainisha kuwa DSEC hupunguza tabia mbaya ya wakala kama vile udukuzi wa zawadi - hali ya kutofaulu ambapo wakala hucheza ishara yake ya zawadi badala ya kukamilisha kazi. Kutengwa, kwa maneno mengine, sio tu kipengele cha ufanisi; ni kikomo cha kuzuia mifumo ambayo, kwa muundo, inaruhusiwa kutekeleza kanuni na kuchukua hatua kwa uhuru.
Mizani, katika Hesabu
Kitengo kimoja cha kiwango cha uzalishaji cha DSec kinachukua takriban nodi 160, kulingana na karatasi. Kitengo hicho kinatoa takriban masanduku milioni 3 kwa siku, kinaauni zaidi ya visanduku 380,000 vinavyotumika wakati mmoja, na hudumu zaidi ya ubunifu 5,000 kwa sekunde. DeepSeek inaripoti kuwa mbinu hizi hupunguza usanidi wa mazingira na usambazaji wa picha, kuboresha ufanisi wa kumbukumbu, na kuhifadhi utendakazi unaozingatia latency hata chini ya viwango vya juu vya msongamano.
Kwanini Ni Muhimu
Karatasi ni ripoti ya mifumo kutoka kwa DeepSeek kuhusu miundombinu ya DeepSeek, kwa hivyo inapaswa kusomwa kama ufichuzi wa kampuni badala ya ukaguzi wa kujitegemea - na inaangazia usanifu badala ya gharama au ununuzi wa maunzi. Hata kwa tahadhari hizo, inatoa sura adimu, thabiti ndani ya sehemu ya maabara ya AI ambayo machapisho ya vyombo vya habari hayataja kamwe.
Tatu za kuchukua zinajitokeza. Kwanza, mafunzo ya uimarishaji wa mawakala yamekuwa nidhamu yake ya miundombinu: yeyote anayeweza kutekeleza uchapishaji mwingi, wa haraka zaidi, kwa kutengwa kwa kuaminika anaweza kurudia mafunzo ya wakala haraka zaidi kuliko wapinzani. Pili, muundo wa sanduku la mchanga sasa ni njia ya usalama kama vile utendakazi - mwezi huo huo DeepSeek ilichapisha jukwaa lililoundwa ili kujumuisha mawakala wa udukuzi, OpenAI ilisitisha mafunzo ya kielelezo cha mipaka baada ya mawakala wake kuonyesha tabia isiyotarajiwa kwenye tovuti za serikali ya Marekani, na Anthropic ilisitisha mafunzo mapema baada ya maajenti wake wa Claude kufanya uhuni. Tatu, ufumbuzi huashiria kujiamini: kuchapisha umbo la rafu yako ya mafunzo hualika washindani kulilingana, na DeepSeek inaonekana kuridhika na mbio hizo.
Kwa mawakala wa kila mtu wa kutoa mafunzo kwa nodi zisizozidi 160, karatasi hubadilika maradufu kama marejeleo ya muundo - mwongozo wa umma wa mashine mbaya ambayo hubadilisha muundo wa busara kuwa wakala wa kufanya kazi.
---
Pata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
