NVIDIA Yatoa Nemotron 3 Iliyopachikwa, Mkusanyiko Wazi wa Upachikaji Na Mfano wa 8B Unaoongoza Kwenye Ubao wa Wanaoongoza wa RTEB

NVIDIA imetoa Nemotron 3 Embed, mkusanyo wazi wa miundo ya upachikaji iliyoundwa kwa nguvu uzalishaji wa kiwango cha urejeshaji-augmented kizazi (RAG), urejeshaji kikali, urejeshaji wa msimbo, na kumbukumbu ya wakala. Toleo hili, lililofafanuliwa na MarkTechPost mnamo tarehe 17 Julai 2026, linakuja kama safu inayoamua ni vifungu gani wakala wa AI atawahi kuona inakuwa uwanja wa mapambano, mtindo ambao dawati hili la habari zinazochipuka za AI limefuatwa huku makampuni ya biashara yakihama kutoka chatbots hadi mifumo inayotumia maarifa yaliyorejeshwa.

Miundo ya kupachika huamua ni vifungu gani wakala atawahi kuona, ambayo huwafanya kuwa sehemu tulivu lakini yenye uamuzi katika mrundikano wa AI. NVIDIA imeunda Nemotron 3 Pachika ili kuimarisha safu hiyo. Mkusanyiko unajumuisha vituo vitatu vya ukaguzi vilivyo wazi: Nemotron-3-Embed-8B-BF16, chaguo la usahihi-kwanza; Nemotron-3-Embed-1B-BF16, ambayo hubeba muundo sawa katika alama ndogo zaidi; na Nemotron-3-Embed-1B-NVFP4, kibadala cha 4-bit kilichoboreshwa kwa Blackwell. Zote tatu ni visimbaji vya transfoma vilivyofunzwa kwa ufunikaji wa usikivu wa pande mbili, na upachikaji wa mwisho unaozalishwa na wastani wa kuunganisha juu ya uwakilishi wa kiwango cha tokeni. Kila moja inaauni urefu wa juu wa mfuatano wa tokeni 32,768.

Kuweka Juu Ubao wa Wanaoongoza

Matokeo ya kichwa ni kwamba Nemotron-3-Embed-8B-BF16 inashika nafasi ya kwanza kwenye RTEB, Kiwango cha Upachikaji cha Urejeshaji, kuanzia tarehe 17 Julai 2026, katika majukumu yake 16 ya umma. Alama hupimwa kama wastani wa NDCG@10 katika urefu wa mfuatano wa 4,096. NVIDIA ilitathmini kila muundo katika lugha 34, na vituo vyote vitatu vya ukaguzi vinatolewa chini ya toleo la 1.1 la Makubaliano ya Leseni ya OpenMDW, na kuzifanya zipatikane bila malipo kwa wasanidi programu kupakua, kuendesha na kurekebisha.

Hasa, besi za mfano hutolewa kutoka Mistral. Sehemu ya ukaguzi ya 8B imejengwa kwenye Ministral-3-8B-Instruct-2512, ilhali lahaja zote za 1B zinatumia Ministral-3-3B-Instruct-2512, kulingana na ripoti ya MarkTechPost. Uamuzi wa NVIDIA wa kujenga juu ya msingi wa Mistral badala ya usanifu wa ndani kabisa unaonyesha jinsi uundaji wa muundo wa maji umekuwa, na misingi iliyo wazi iliyorekebishwa mara kwa mara na kufunzwa upya kwa kazi maalum.

Mfinyazo, Sio Mbio Ndogo za Mafunzo

Mapungufu mawili ya utendaji yanajitokeza. Muundo wa 1B unapata pointi 10.4 za RTEB juu ya msingi wa awali wa llama-nemotron-embed-vl-1b-v2. Kando, sehemu ya ukaguzi ya NVFP4 4-bit inagharimu pointi 0.38 RTEB pekee dhidi ya mzazi wake wa BF16, ikibakisha takriban 99.5% ya usahihi wake wa kurejesha. Mfinyazo huo wa karibu usio na hasara ni muhimu sana kwa timu zinazohitaji kutekeleza upachikaji kwa kiwango, ambapo gharama za kumbukumbu na uelekezaji mara nyingi hutawala.

Alama hizo za 1B zilipatikana kupitia bomba la mgandamizo badala ya kukimbia kwa mafunzo madogo. Mzazi, nemotron-3-embed-3b, ilipogolewa na kuchujwa katika raundi mbili za kurudia. Kwanza, mzazi wa 3B alipogolewa hadi 2B kwa kutumia NVIDIA ModelOpt's mcore_minitron Neural Architecture Search, ambayo hutafuta upana uliofichwa, saizi ya FFN, vichwa vya umakini, na kina, kisha kuchagua mgombeaji bora zaidi kutoka sehemu 10 za juu za Pareto. Sampuli 50,000 za urekebishaji katika kikoa zilifunga watahiniwa hao.

Kisha, muundo wa 2B ulitolewa kutoka kwa mwalimu wa upachikaji wa 8B aliyeboreshwa, akichanganya upotevu wa umbali wa cosine na maana ya upotevu wa makosa ya mraba juu ya mseto wa data wa lugha nyingi, wa ndani ya kikoa. Utaratibu uleule ulirudiwa ili kutoa ukaguzi wa 1.14B, kuonyesha kwamba vibadala vidogo vinarithi uwezo mkubwa wa muundo kupitia mbano uliopangwa badala ya mafunzo huru.

Imejengwa kwa Ufanisi wa Blackwell

Mfinyazo unaendelea katika umbizo la kuhudumia. Ukadiriaji ulilenga uzani na kuwezesha safu za mstari pekee, kwa kutumia aina ya data ya NVFP4, huku timu ya utafiti ikitegemea nvidia-modelopt v0.45.0. Quantization-Aware Inestillation ikifuatiwa, hasa ili kurejesha usahihi wa pembejeo ndefu. Urekebishaji ulitumia sampuli 512, zilizogawanywa kati ya hoja 256 na vifungu 256 kutoka kwa seti ya data ya cnn_dailymail, huku mafunzo ya QAD yakitumia sampuli 20,000.

Mafanikio ya vitendo ni ufanisi kwenye maunzi ya hivi punde zaidi ya NVIDIA. Timu ya utafiti inaripoti kuwa NVFP4 kwenye Blackwell hutoa hadi 2x ya juu zaidi ya upitishaji kuliko BF16 huku ikihifadhi zaidi ya 99% ya usahihi wa kurejesha BF16. Kadi ya kielelezo ya NVFP4 pia huandika saizi zinazobadilika za upachikaji, ikiruhusu wasanidi programu kukata vekta yenye mwelekeo 2,048 hadi vipimo 1,024 au 512 na kurekebisha tena baadaye, kufanya biashara ya usahihi kidogo kwa gharama ya chini ya kuhifadhi. Unyumbulifu huo ni muhimu kwa hifadhidata za vekta, ambapo kuhifadhi mabilioni ya vekta za hali ya juu ni ghali.

Kwa Nini Upachikaji Ni Muhimu Sasa

Miundo ya kupachika imekuwa kichocheo tulivu katika mrundikano wa kuzalisha wa AI. Kila wakala kulingana na urejeshaji, zana ya utafutaji ya biashara na msaidizi wa msimbo hutegemea wao kuleta muktadha unaofaa kabla ya muundo mkubwa wa lugha kutoa jibu. Muundo thabiti na wa bei nafuu wa kupachika unaweza kuboresha moja kwa moja ubora wa jibu na kupunguza gharama za uendeshaji, ndiyo maana wachuuzi kutoka OpenAI hadi Cohere hadi vikundi vya chanzo huria wamekimbilia kuachilia familia mpya.

Kwa kutoa mkusanyiko huria wa mkusanyiko wa nafasi ya juu chini ya leseni ruhusu na kuuoanisha na ukadiriaji uliopangwa na Blackwell, NVIDIA inaimarisha mkakati wake wa kupanda mfumo mpana wa ikolojia wa AI kwa zana zinazofanya kazi vyema kwenye silicon yake yenyewe. Kwa wasanidi programu wanaounda mabomba ya RAG au mifumo ya kumbukumbu ya wakala, Nemotron 3 Embed inatoa chaguo jipya, linalopatikana bila malipo ambalo husukuma hali ya sanaa kwenye kiwango kinachotazamwa na watu wengi, huku kibadala cha NVFP4 kinazipa timu njia zinazoaminika za kupunguza gharama ya maelekezo bila kuachana na ubora wa urejeshaji ambao programu zao hutegemea.

Kaa Mbele ya AI

Fungua miundo ya upachikaji kama vile Nemotron 3 Embed inaunda upya kwa utulivu jinsi mawakala wa AI hupata na kutumia maelezo. Kwa zaidi kuhusu miundo, matoleo na utafiti unaosogeza mbele uga, fuata maendeleo yetu ya hivi punde ya AI yanapotolewa.

Soma habari zaidi za AI ->