NVIDIA imetoa Nemotron 3.5 Super VL, kielelezo wazi, kinachoweza kugeuzwa kukufaa kinacholenga makampuni ya kujenga mawakala maalumu wa AI. Muundo huo unatumia usanifu wa mchanganyiko wa vigezo wa bilioni 120 ambao huwasha vigezo bilioni 12 pekee kwa kila tokeni, muundo wa NVIDIA inasema husawazisha uwezo wa mizani ya mipaka na ufanisi wa uelekezaji. Vipimo vinapatikana kwenye Hugging Face kwa usahihi wa BF16, na NVIDIA ilichapisha mwongozo wa kiufundi pamoja na toleo.
Super VL inaingia kwenye familia ya NVIDIA inayopanuka ya modeli huria kama mtaalamu wa modi nyingi. Kulingana na kampuni hiyo, miundo midogo ya Nemotron 3.5 ya Umeme hushughulikia kazi za maandishi ya sauti ya juu, huku Nemotron 3 Ultra ya mpaka inashughulikia upangaji na upangaji changamano - ikiruhusu timu kuelekeza kila hatua ya mtiririko wa kazi wa wakala hadi ukubwa unaofaa wa muundo. Ni hatua ya hivi punde katika msukumo wa ZDNET ulioelezewa kama hatua nyingine mbele kwa AI ya uzito wa wazi ya Marekani. Ikiwa unafuatilia mbio za uzani huria, utangazaji wetu wa matoleo ya hivi majuzi ya mifano huria ina picha pana zaidi.
Muundo Mmoja wa Maandishi, Picha, Hati na Video
Kiini cha msingi ni ujumuishaji. Super VL inachanganya hoja, kufuata maagizo na utumiaji wa zana na uelewa wa maandishi, picha, hati na video, kwa hivyo timu hazihitaji kupeleka miundo tofauti ya maandishi na lugha ya maono au muktadha wa kazi ya kuhamisha kati yao. NVIDIA inasema mafunzo yake ya kuona yanajumuisha chati, majedwali, utambuzi wa herufi za macho, hati na video za kurasa nyingi, na bomba la usanifu unaosimamiwa wa hatua mbili ambalo huunganisha ushahidi wa kuona na data ya hoja, gumzo, usalama na muktadha mrefu.
Mitiririko ya kazi inayolengwa ni zile ambazo biashara huendelea kukwaza: wakala wa huduma kwa mteja ambaye lazima asome hati za sera za kampuni, wakala wa utafiti anayeunganisha ushahidi kwenye vyanzo vyote, au wakala wa hati anayetafsiri chati na kuiunganisha kwenye jedwali mahali pengine katika faili sawa. Katika kila kisa mfano unahitaji kuona nyenzo na sababu juu yake katika dirisha la muktadha sawa.
Madai ya Kupitisha: Hadi mara 5 kwenye GPU Moja
Ufanisi ni pale NVIDIA inapochora mistari mikali zaidi. Kampuni hiyo inadai Nemotron 3.5 Super VL hutoa hadi mara 5 upitaji wa juu zaidi kwa kazi za mawakala ikilinganishwa na miundo mingine iliyo wazi katika kategoria ya ukubwa wake kwenye GPU moja, na ilielekeza kwenye alama zinazoonyesha zaidi ya tokeni 600 kwa sekunde kwenye kazi za mawakala wa Kielezo cha Uchambuzi Bandia kupitia sehemu ya mwisho ya makisio ya Baseten.
Mbinu kadhaa chini ya kofia huendesha nambari hizo. NVIDIA iliangazia LiLiCorr, mbinu ya wazi ya kubahatisha ya kusimbua, pamoja na usahihi mchanganyiko wa NVFP4, ubashiri wa ishara nyingi, na utumiaji tena wa muktadha katika zamu za mawakala - uboreshaji wa maana kwa mawakala wanaoshikilia mazungumzo ya muda mrefu kwa kutumia zana. Kwa makampuni yanayoendesha mawakala bila kikomo, matokeo kwa kila GPU mara nyingi huwa ni tofauti kati ya bidhaa inayoweza kutumika na muundo wa gharama usioweza kutumika.
Baada ya Mafunzo Ndio Jambo la Msingi
NVIDIA iko wazi kuwa muundo msingi ni mahali pa kuanzia badala ya bidhaa iliyokamilishwa. Wasanidi programu wanaweza kubinafsisha Super VL kwa kutumia maktaba ya NeMo kwa kutumia urekebishaji mzuri unaosimamiwa na LoRA ili kufundisha tabia mahususi ya kikoa, kisha kutumia mafunzo ya uimarishaji kupitia NeMo RL na NeMo Gym katika mazingira ambayo yanaakisi utendakazi wao wenyewe. Kampuni hiyo inasema mashirika katika usalama wa mtandao, fedha na huduma ya afya tayari yanatoa mafunzo kwa mtindo huo ili kushinda njia mbadala za utendakazi wa uzalishaji, madai ambayo ni vigumu kuthibitisha kwa kujitegemea lakini yanalingana na nafasi ya wakala wa biashara.
Ili kuauni kazi hiyo, NVIDIA inatoa seti za data zilizofunguliwa kwenye Hugging Face pamoja na uzito, ikiwa ni pamoja na matumizi ya zana za mawakala na data ya mazungumzo, hoja za fedha na seti za simu za zana, data ya kufuata maagizo na mazungumzo, data ya utafsiri na tafsiri ya muktadha mrefu, data ya haki na seti 40 za data za lugha ya maono. Prime Intellect tayari imechapisha kichocheo cha mafunzo ya baada ya mafunzo kwa mtindo wa kazi ya muda mrefu ya biashara, ishara ya mapema kwamba mfumo wa ikolojia unachukulia kutolewa kama msingi muhimu. NVIDIA pia ilichapisha kitabu cha kupikia cha matumizi kwenye GitHub inayofunika ubinafsishaji, na kampuni inasisitiza kwamba uzani wazi unaweza kutumwa katika mazingira ya ndani, kituo cha data au wingu ili kukidhi mahitaji ya miundombinu na ukaaji wa data - unyumbufu ambao ulidhibiti wanunuzi mara kwa mara kuuliza na kufungwa APIs hauwezi kutoa.
Nini Maana ya Mbio za Uzito Wazi
Toleo hili linapunguza pengo kati ya miundo iliyofunguliwa na iliyofungwa katika sehemu za biashara zinazotumia: mifumo ya aina nyingi za ukubwa wa kati kwa kazi ya wakala mzito wa hati. Kwa sababu uzani unaweza kuendeshwa katika mazingira ya ndani, kituo cha data au mazingira ya wingu, Super VL inazipa tasnia zinazodhibitiwa chaguo ambalo API za mipakani haziwezi - kuweka hati nyeti kwenye miundombinu yao huku bado ikipata uelewa wa chati, jedwali na video.
Kusoma kwa ushindani ni moja kwa moja. Meta, Alibaba, DeepSeek na Liquid AI zote zimesafirisha modeli za uzani wazi zinazolenga mawakala mwaka huu, na NVIDIA - ambayo huuza maunzi ambayo kila mtu anayatumia - sasa inashindana moja kwa moja katika safu ya muundo na leseni ruhusu na hadithi ya ufanisi. Ikiwa madai ya matokeo yatadumu katika viwango vinavyojitegemea, safu-msingi ya mawakala wa biashara katika mwaka wa 2027 inaweza kuwa wazi zaidi kuliko ilivyokuwa mwaka mmoja uliopita.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
