DeepSeek imetoa DSpark, mfumo wa usimbaji wa kubahatisha wa chanzo huria ambao kampuni inasema huharakisha uelekezaji wa modeli ya lugha kubwa (LLM) kwa hadi 85% chini ya trafiki ya moja kwa moja, bila hasara yoyote katika ubora wa matokeo. Imefafanuliwa katika karatasi mpya kutoka kwa DeepSeek-AI na Chuo Kikuu cha Peking, mfumo tayari unafanya kazi ndani ya miundombinu ya huduma ya DeepSeek-V4 ambayo inashughulikia maombi halisi ya watumiaji.
Kazi inashughulikia mojawapo ya matatizo ya ukaidi zaidi katika uzalishaji wa AI: uelekezaji ni wa polepole kwa sababu mifano hutoa maandishi tokeni moja kwa wakati mmoja, kila moja ikihitaji kupita kamili kupitia mtandao. Uamuzi wa kubahatisha ni suluhu maarufu ambapo muundo mdogo, wa haraka wa "rasimu" unapendekeza kizuizi cha tokeni ambacho kielelezo cha ukubwa kamili kisha huthibitisha kwa kupitisha moja, na kukubali kiambishi awali sahihi zaidi. Kwa sababu uthibitishaji ni sambamba na ni sawa kihisabati, huharakisha mambo huku ukihifadhi usambazaji wa muundo asili. DSpark, iliyotolewa pamoja na hazina ya mafunzo ya DeepSpec kwenye GitHub, haraka ikawa moja ya hadithi za uhandisi za AI zilizojadiliwa zaidi kwenye Habari za Hacker. For more context on this story, see our ongoing AI trends.
Kwa nini Usimbuaji Uliopo wa Kukisia Unagusa Ukuta
Utafiti wa kubahatisha wa kusimbua wa hivi majuzi umeelekea kwenye "watayarishaji sambamba" ambao hutoa safu nzima ya tokeni za watahiniwa kwa njia moja ya mbele, na kufanya muda wa kusubiri wa rasimu kuwa karibu kutolingana na ukubwa wa block. Karatasi ya DSpark inabainisha vikwazo viwili ambavyo vimezuia mbinu hizi kutekeleza ahadi zao kwa kiwango.
Ya kwanza ni shida ya ubora. Kwa sababu waandaaji sambamba wanatabiri kila nafasi kwa kujitegemea, hawawezi kuiga jinsi ishara ndani ya kizuizi hutegemeana. Watafiti wanaonyesha hii inasababisha "migongano ya njia nyingi" na uozo wa kukubalika haraka katika nafasi za baadaye kwenye kizuizi cha rasimu, jambo wanaloita uozo wa kiambishi. Muda mrefu wa kuzuia sambamba, uwezekano mkubwa zaidi wa mkia wake ni makosa.
Ya pili ni shida ya kiwango cha mfumo. Ingawa kutengeneza rasimu ndefu ni nafuu, kuthibitisha kwa upofu kila tokeni inayopendekezwa kunapoteza uwezo wa kundi kwenye tokeni ambazo zinaweza kukataliwa. Chini ya upatanifu wa juu wa mfumo wa utumishi halisi, urefu bora wa uthibitishaji hutofautiana kwa shoka mbili: maombi yaliyopangwa kama vile msimbo hudumisha viwango vya juu vya kukubalika kuliko gumzo la wazi, na uthibitishaji wa tokeni za ziada ni karibu bila malipo chini ya mzigo mwepesi lakini ni ghali wakati mfumo umejaa.
Muundo wa Rasimu ya Nusu Autoregressive
Ili kurekebisha uozo wa kiambishi, DSpark inachukua kile ambacho waandishi huita usanifu wa nusu-autoregressive. Inaunganisha uti wa mgongo mzito unaokokotoa, ambao unaweza kupendekeza ishara nyingi kwa wakati mmoja, na moduli nyepesi ya mfuatano ambayo inaleta muundo wa utegemezi wa ndani ya kizuizi. Muundo unakusudiwa kuchanganya uwezo wa juu wa miundo sambamba katika nafasi za awali na upatanishi wa kiambishi cha takrima za jadi za urekebishaji, ambazo huzalisha ishara moja baada ya nyingine na kuheshimu utegemezi kiasili.
Kwenye viwango vinavyodhibitiwa vya nje ya mtandao vinavyotumia hoja za hisabati, kutengeneza msimbo na gumzo la kila siku, timu inaripoti kuwa DSpark inaboresha kwa kiasi kikubwa urefu unaokubalika kwa kila mzunguko wa uthibitishaji kwa kutumia misingi thabiti. Hasa, jarida linasema DSpark inaboresha urefu unaokubalika juu ya rasimu ya Eagle3 inayojirudia kwa 30.9%, 26.7%, na 30.0% katika mipangilio mitatu, na juu ya rasimu ya DFlash inayofanana kwa 16.3%, 18.4% na 18.3%.
Imeratibiwa-Kujiamini, Uthibitishaji wa Kufahamu Mzigo
Nusu ya riwaya zaidi ya DSpark ni mbinu yake ya uthibitishaji. Badala ya kuthibitisha idadi isiyobadilika ya tokeni za rasimu kwa kila ombi, DSpark huunda uteuzi wa urefu wa uthibitishaji kama tatizo la kimataifa la kuongeza matokeo. Huoanisha makadirio yaliyorekebishwa ya muda ambao kiambishi awali cha rasimu kinaweza kudumu, kile ambacho karatasi inakiita uwezekano wa kuishi, na kipanga ratiba kinachofahamu maunzi ambacho husoma upakiaji wa injini katika wakati halisi.
Matokeo yake ni uthibitishaji ulioratibiwa kwa kujiamini: mfumo hurekebisha kwa urekebishaji ni tokeni ngapi ambazo huthibitisha kwa kila ombi kulingana na maudhui ya ombi na hali ya sasa ya injini inayohudumia. Chini ya mizigo mepesi inaweza kumudu kuthibitisha kwa ukarimu, ilhali chini ya upatanishi mkubwa huelekeza bajeti ya uthibitishaji ya modeli inayolengwa kuelekea tokeni zenye faida ya juu zaidi inayotarajiwa, kuepuka kuporomoka kwa matokeo yanayotokana na matumizi ya bechi kwenye tokeni zenye uwezekano mdogo.
Matokeo Chini ya Trafiki ya Watumiaji Moja kwa Moja
Nambari zinazofaa zaidi zinatokana na uzalishaji. Timu ilisambaza DSpark ndani ya mfumo wa huduma wa DeepSeek-V4 unaohudumia watumiaji wa moja kwa moja na kuulinganisha na msingi wa awali wa uzalishaji wa kampuni, mbinu ya ubashiri wa ishara nyingi inayojulikana kama MTP-1.
Kulingana na jarida hilo, DSpark huzidisha kasi ya uzalishaji kwa kila mtumiaji kwa 60% hadi 85% kwa DeepSeek-V4-Flash na kwa 57% hadi 78% kwa DeepSeek-V4-Pro kwa jumla ya matokeo yanayolingana. Chini ya makubaliano madhubuti ya kiwango cha huduma ambapo uwezo wa msingi hupungua sana, sawa na tokeni 120 kwa sekunde kwa Flash na tokeni 50 kwa sekunde kwa Pro, DSpark inapunguza uthibitishaji wa juu ili kudumisha utumaji thabiti. Kwa kushinda hali hiyo ya utendakazi, waandishi wanahoji kuwa inafungua viwango vikali vya mwingiliano ambavyo havikuweza kufikiwa hapo awali, na hivyo kuhamisha kwa ufanisi mpaka wa Pareto wa LLM unaotumika nje.
Tofauti hiyo ni muhimu kwa waendeshaji. Kasi ya kasi ya kila mtumiaji kwa jumla sawa ya upitishaji inamaanisha wasaidizi wanaoitikia zaidi na utiririshaji wa kazi wa mawakala bila kununua maunzi zaidi, huku kunusuru SLA kali za latency chini ya mzigo ndiko hutenganisha onyesho la utafiti kutoka kwa mfumo ambao unaweza kushikilia wakati wa kuongezeka kwa trafiki.
Chanzo-wazi kwa Jumuiya
DeepSeek inatoa vituo vya ukaguzi vya DSpark vilivyofunzwa kwa miundo ya onyesho la kukagua ya DeepSeek-V4-Flash na DeepSeek-V4-Pro. Hazina inayoambatana ya DeepSpec, iliyochapishwa chini ya leseni ya MIT inayoruhusu, inaelezewa kama safu kamili, mafunzo yanayoendeshwa na algorithm na msingi wa tathmini kwa utunzi wa kubahatisha. Inajumuisha huduma za utayarishaji wa data, utekelezaji wa rasimu ya miundo, hati za mafunzo, na viunga vya tathmini, na meli zilizo na rasimu tatu za algoriti za miundo: DSpark, DFlash, na Eagle3.
Toleo hili linashusha kizuizi kwa maabara na timu zingine za miundombinu kutoa mafunzo na kulinganisha miundo yao ya rasimu dhidi ya bomba sanifu. Seti ya tathmini ya DeepSpec inashughulikia vigezo vilivyoanzishwa ikiwa ni pamoja na GSM8K, MATH500, AIME 2025, HumanEval, MBPP, LiveCodeBench, MT-Bench, AlpacaEval, na Arena-Hard-v2.
Kwanini Ni Muhimu
Gharama ya uelekezaji na ucheleweshaji sasa ni kati ya vizuizi vya tasnia ya AI, inayounda kila kitu kutoka kwa jinsi kampuni zinavyopeleka mawakala wa AI hadi ikiwa watoa huduma wadogo wanaweza kushindana na hyperscalers kwenye kitengo cha uchumi. Mchango wa DSpark sio algoriti moja mpya kuliko onyesho ambalo kuunda kwa uangalifu muundo wa rasimu na kipanga ratiba cha uthibitishaji, na kutibu urefu wa uthibitishaji kama jukumu la hali ya mfumo wa moja kwa moja, kunaweza kusogeza sindano katika utumiaji halisi.
Kwa DeepSeek, ambayo imejijengea sifa yake juu ya mifumo bora, iliyotolewa kwa uwazi, DSpark ni sehemu nyingine ya data katika hoja ambayo maabara imekuwa ikitoa kwa zaidi ya mwaka mmoja: kwamba utendaji wa huduma ya kiwango cha mpaka unaweza kufikiwa kupitia uhandisi nadhifu badala ya kupitia hesabu ghafi pekee. Ukweli kwamba faida zilipimwa chini ya trafiki ya moja kwa moja, badala ya kipimo cha sanisi, hurahisisha matokeo kwa waendeshaji wengine kuchukua kwa uzito huku jumuiya ya programu huria inapochimbua karatasi na kuanza kutoa nambari tena.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
