Unsloth ដែលជាក្រុមប្រភពបើកចំហដែលនៅពីក្រោយឧបករណ៍ប្រើប្រាស់យ៉ាងទូលំទូលាយមួយចំនួនសម្រាប់ការដំណើរការ និងកែសម្រួលគំរូភាសាធំ ៗ ក្នុងស្រុកបានចេញផ្សាយថាមវន្ត 3.0 ដែលជាជំនាន់ទីបីនៃវិធីសាស្ត្របរិមាណរបស់វាសម្រាប់ឯកសារគំរូ GGUF ។ ម៉ូដែលដំបូងដែលត្រូវដឹកជញ្ជូនក្រោមគ្រោងការណ៍ថ្មីគឺបរិមាណ Qwen3.8-27B ហើយ Unsloth អះអាងថាពួកគេផ្តល់នូវភាពត្រឹមត្រូវជាង 10 ភាគរយប្រសើរជាងមុន 10 ភាគរយនៅទំហំឯកសារដូចគ្នាបើប្រៀបធៀបទៅនឹងអ្នកផ្តល់បរិមាណផ្សេងទៀត។

ការចេញផ្សាយនេះបានឈានទៅដល់ទំព័រមុខរបស់ Hacker News យ៉ាងឆាប់រហ័ស ដែលជាកន្លែងដែលអ្នកចូលចិត្តម៉ូដែលក្នុងស្រុកបានបំបែកតារាងពិន្ទុគោល។ វាមកដល់ចំពេលមានការទាក់ទាញដ៏គួរឱ្យកត់សម្គាល់សម្រាប់គម្រោងនេះ៖ Unsloth និយាយថា បរិមាណ Qwen3.8 របស់វាត្រូវបានទាញយកច្រើនជាង 5.1 លានដងក្នុងរយៈពេល 5 ថ្ងៃបន្ទាប់ពីការចេញផ្សាយរបស់ម៉ូដែលនេះ។ For more context on this story, see our ongoing AI industry coverage.

ហេតុអ្វីបានជាគុណភាពបរិមាណមានសារៈសំខាន់

Quantization បង្រួមទំហំឯកសាររបស់ម៉ូដែលដោយរក្សាទុកទម្ងន់របស់វានៅកម្រិតភាពជាក់លាក់ទាប ដែលធ្វើឱ្យវាអាចដំណើរការម៉ូដែលធំនៅលើ GPUs និងកុំព្យូទ័រយួរដៃ។ ការដោះដូរតែងតែមានភាពសុក្រឹត៖ បរិមាណដៃធ្ងន់ធ្វើឱ្យខូចទិន្នផលតាមរបៀបដែលស្តង់ដារធម្មតាអាចខកខាន។ សម្រាប់សហគមន៍ដែលកំពុងរីកចម្រើនដែលកំពុងដំណើរការគំរូក្នុងស្រុក — ពីអ្នកអភិវឌ្ឍន៍សាកល្បងលំហូរការងាររបស់ភ្នាក់ងារដល់អ្នកប្រើប្រាស់ក្នុងតំបន់ដែលមានការចូលប្រើ cloud API ថ្លៃៗ — គុណភាពបរិមាណកំណត់យ៉ាងមានប្រសិទ្ធភាពនូវម៉ូដែលណាមួយដែលអាចប្រើប្រាស់បាន។

Dynamic 3.0 គឺជាចម្លើយរបស់ Unsloth ចំពោះការដោះដូរនោះ។ យោងតាមឯកសាររបស់ក្រុម ការចេញផ្សាយថ្មី "រក្សាគុណភាពគំរូកាន់តែច្រើន ខណៈពេលដែលរក្សាទំហំដូចគ្នា ជាមួយនឹងលទ្ធផលខ្លាំងជាងនៅទូទាំងម៉ែត្រដូចជា Divergence-300 @32 និង KL Divergence" ។

តើមានអ្វីផ្លាស់ប្តូរនៅក្នុងកំណែ 3.0

ការធ្វើឱ្យប្រសើរវិធីសាស្រ្តមានលក្ខណៈជាក្រឡាជាជាង gimmicky ។ Unsloth និយាយថាឥឡូវនេះវាប្រើប្រាស់សំណុំទិន្នន័យការក្រិតម៉ាទ្រីសសារៈសំខាន់ដែលមានគុណភាពខ្ពស់ដែលទាញយកពីប្រភពចម្រុះ ដែលត្រូវបានកែលម្អយ៉ាងច្បាស់លាស់សម្រាប់ការសរសេរកូដភ្នាក់ងារ ការជជែក និងដំណើរការពហុភាសា។ ការជ្រើសរើសស្រទាប់ — ការសម្រេចចិត្តថាតើផ្នែកណាមួយនៃគំរូត្រូវបានច្របាច់ខ្លាំងបំផុត — ត្រូវបានធ្វើឱ្យប្រសើរឡើង ហើយបច្ចេកទេសបរិមាណបន្ថែមត្រូវបានណែនាំដើម្បីរក្សាគុណភាព។

គួរកត់សម្គាល់ថា ក្រុមការងារបានសង្កត់ធ្ងន់ថា អ្វីៗគ្រប់យ៉ាងត្រូវបានធ្វើតាមរយៈបរិមាណក្រោយការបណ្តុះបណ្តាល៖ គ្មានការបណ្តុះបណ្តាលការយល់ដឹងអំពីបរិមាណ និងគ្មានការចម្រាញ់តាមបរិមាណ។ សំណុំទិន្នន័យនៃការក្រិតតាមខ្នាតខ្លួនឯងមិនត្រូវបានបណ្តុះបណ្តាលទេ ហើយឯកសារ imatrix ត្រូវបានចេញផ្សាយជាសាធារណៈ ដូច្នេះសហគមន៍អាចផលិតឡើងវិញនូវការងារ ឬបង្កើតបទភ្លេងដ៏ល្អនៅលើវា។

កម្រិតបរិមាណជាក់លាក់បង្ហាញពីផលប៉ះពាល់ជាក់ស្តែង។ បរិមាណ UD-Q2_K_XL នៅ 9.83 GB ត្រូវបានពិពណ៌នាថាមានភាពត្រឹមត្រូវជាង 8 ភាគរយនៅលើម៉ែត្រ 1 ភាគរយច្រើនជាងជម្រើសបន្ទាប់ដែលល្អបំផុតក្នុងទំហំនោះ។ នៅក្នុងការធ្វើតេស្តក្រៅផ្លូវការមួយ Unsloth highlights បរិមាណនោះបានបង្កើតកម្មវិធី HTML ដែលកំពុងដំណើរការជាមួយនឹងកំហុស JavaScript តូចមួយ - លទ្ធផលដែលជំនាន់មុននៃបរិមាណដែលមានទំហំស្រដៀងគ្នានឹងខូចទាំងស្រុង។

នៅចុងទាបបំផុត បរិមាណ UD-IQ1_S ច្របាច់ម៉ូដែលនេះទៅជា 6.2 GB — 89 ភាគរយតូចជាងដើម — ខណៈពេលដែលរក្សាបានប្រហែល 72 ភាគរយនៃភាពត្រឹមត្រូវកំពូល 1 ភាគរយ។ Unsloth ក៏បានដកម៉ូឌុល multi-token-prediction ចេញពីបរិមាណតូចៗក្រោម 8.37 GB ដើម្បីរក្សាទុកទំហំថាសប្រហែល 500 MB ជាមួយនឹងម៉ូឌុលដែលអាចប្រើបានដាច់ដោយឡែកសម្រាប់អ្នកប្រើប្រាស់ដែលចង់បាន។

ពិន្ទុ​ដែល​ពិបាក​ជាង​មិន​មែន​ត្រឹម​តែ​មិត្តភាព​ទេ។

ប្រហែលជាផ្នែកដែលផលវិបាកនៃសេចក្តីប្រកាសគឺវិធីសាស្រ្ត។ Unsloth ប្រកែកថាភាពត្រឹមត្រូវកំពូល 1 ភាគរយ - ជាសំខាន់ការធ្វើតេស្ត argmax ការព្យាករណ៍តែមួយ - មិនមែនជារង្វាស់ដែលមានប្រសិទ្ធភាពនៃគុណភាពការសន្និដ្ឋានពិតប្រាកដនោះទេ។ ដើម្បីទប់ទល់នឹងការហួសកម្រិតស្តង់ដារ ក្រុមការងារបានបង្កើត Divergence-300 @32៖ សំណុំទិន្នន័យដែលទុកចោលនៃឧទាហរណ៍ 300 ដែលត្រូវបានដកចេញពី Terminal-Bench 2.1, DeepSWE, Harbor, MathArena 2025-26 និងប្រអប់បញ្ចូលឯកសារវែងដែលមិនមែនជាឡាតាំង ដែលមិនមាននៅក្នុងទិន្នន័យនៃការក្រិតតាមខ្នាតនោះទេ។

ម៉ែត្រដំណើរការការឌិកូដដោយលោភលន់សម្រាប់ 32 សញ្ញាសម្ងាត់ និងវាស់ថាតើគន្លងទិន្នផលរបស់បរិមាណនីមួយៗត្រូវគ្នានឹងគំរូ BF16 ដើមរបស់ម៉ូដែល BF16 — គន្លងកាន់តែជិតមានន័យថាបរិមាណមានឥរិយាបទដូចគំរូពេញលេញលើជំនាន់ពហុសញ្ញា មិនមែនគ្រាន់តែលើការព្យាករណ៍តែមួយប៉ុណ្ណោះទេ។ KL divergence benchmarks ដំណើរការនៅទូទាំងអ្នកផ្តល់សេវាទាំងអស់បង្ហាញថា Unsloth's UD-3 quants ទទួលបានភាពត្រឹមត្រូវលើសពី 10 ភាគរយបន្ថែមលើ 1 ភាគរយនៅទំហំថាសស្មើគ្នា ជាមួយនឹងការកើនឡើងដ៏ធំបំផុតលើទំហំតូចជាង។

ក្រុមការងារក៏បានបោះពុម្ពផ្សាយការវិភាគសមល្មមផងដែរ ដោយប្រៀបធៀបបរិមាណថ្មីធៀបនឹងការចេញផ្សាយ Dynamic 2.0 ចាស់របស់ខ្លួននៅលើ WikiText និងកូដដែលមើលមិនឃើញ ហើយនិយាយថាវានឹងបន្តធ្វើម្តងទៀតលើទំហំបរិមាណធំជាង ដែលការទទួលបានគឺតិចតួចជាង។

កំណត់ត្រាតាមដាន និងការព្រមាន

Unsloth ទទួលបានភាពជឿជាក់នៅក្នុងសហគមន៍គំរូក្នុងស្រុកតាមរយៈការសហការដោយផ្ទាល់ជាមួយអ្នកលក់គំរូ — បញ្ជីក្រុមជួសជុលដែលបានរួមចំណែកដល់ Qwen3, Meta's Llama 4, Mistral's Devstral, ស៊េរី Gemma របស់ Google និងម៉ូដែល Phi របស់ Microsoft ការងារដែលបានដោះស្រាយកំហុសក្នុងភាពត្រឹមត្រូវជាប្រវត្តិសាស្ត្រក្នុងទម្ងន់ដែលបានចេញផ្សាយថ្មីៗ។

ការព្រមានធម្មតាត្រូវបានអនុវត្ត៖ ទាំងនេះគឺជាសូចនាករដែលដំណើរការដោយអ្នកលក់ ហើយអ្នកកំណត់បរិមាណគូប្រជែងវាស់វែងខុសគ្នា។ ប៉ុន្តែការចេញផ្សាយឯកសារក្រិតតាមខ្នាត សំណុំការវាយតម្លៃដែលទុកចោល និងទិន្នន័យភាពខុសគ្នាក្នុងបរិមាណធ្វើឱ្យការផ្ទៀងផ្ទាត់ឯករាជ្យមានភាពងាយស្រួលខុសពីធម្មតា ហើយតម្លាភាពនោះគឺជាអ្វីដែលបានរក្សាគម្រោងនៅកណ្តាលនៃប្រព័ន្ធអេកូឡូស៊ីក្នុងស្រុក LLM នៅពេលដែលវាធ្វើមាត្រដ្ឋានឆ្ពោះទៅរកការប្រើប្រាស់ចរន្ត។

សម្រាប់អ្នកអភិវឌ្ឍន៍ដែលដំណើរការ Qwen3.8 ឬគំរូទម្ងន់បើកចំហព្រំដែនណាមួយនៅលើផ្នែករឹងក្នុងស្រុក ការចេញផ្សាយថាមវន្ត 3.0 បង្កើនប្រសិទ្ធភាពសម្រាប់អ្វីដែលគំរូបរិមាណអាចធ្វើបាន — និងដាក់សម្ពាធលើអ្នកផ្តល់បរិមាណផ្សេងទៀតដើម្បីបោះពុម្ពផ្សាយភាពតឹងរ៉ឹងដូចគ្នា។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →