قام Unsloth، الفريق مفتوح المصدر الذي يقف خلف بعض الأدوات الأكثر استخدامًا لتشغيل نماذج اللغات الكبيرة وضبطها محليًا، بإصدار Dynamic 3.0، الجيل الثالث من طريقة القياس الكمي لملفات نماذج GGUF. النماذج الأولى التي سيتم شحنها بموجب المخطط الجديد هي كميات Qwen3.8-27B، وتدعي Unsloth أنها توفر دقة أفضل بنسبة 10 بالمائة من أعلى إلى 1 بالمائة بنفس حجم الملف مقارنة بجميع مزودي القياس الكمي الآخرين.
وصل الإصدار بسرعة إلى الصفحة الأولى من Hacker News، حيث قام المتحمسون للنماذج المحلية بتشريح المخططات القياسية. لقد وصل وسط جذب ملحوظ للمشروع: تقول شركة Unsloth إن تكميمات Qwen3.8 الخاصة بها تم تنزيلها أكثر من 5.1 مليون مرة في الأيام الخمسة التي تلت إصدار النموذج. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.
لماذا تعتبر جودة القياس الكمي مهمة
يعمل التكميم على تقليص حجم ملف النموذج عن طريق تخزين أوزانه بدقة أقل، مما يجعل من الممكن تشغيل نماذج كبيرة على وحدات معالجة الرسومات وأجهزة الكمبيوتر المحمولة الاستهلاكية. وكانت المقايضة دائما هي الدقة: فالتكميم الثقيل يؤدي إلى تدهور المخرجات بطرق يمكن أن تخطئها المعايير غير الرسمية. بالنسبة للمجتمع المتنامي الذي يقوم بتشغيل النماذج محليًا - بدءًا من المطورين الذين يختبرون سير عمل الوكلاء إلى المستخدمين في المناطق التي تتمتع بإمكانية الوصول إلى واجهة برمجة التطبيقات السحابية باهظة الثمن - تحدد الجودة الكمية بشكل فعال النماذج القابلة للاستخدام على الإطلاق.
Dynamic 3.0 هو إجابة Unsloth لهذه المقايضة. وفقًا لتوثيق الفريق، فإن الإصدار الجديد "يحافظ على المزيد من جودة النموذج مع الحفاظ على نفس الحجم، مع نتائج أقوى عبر مقاييس مثل Divergence-300 @32 وKL Divergence."
ما الذي تغير في الإصدار 3.0
تعتبر ترقيات المنهجية محببة وليست دخيلة. تقول Unsloth إنها تستخدم الآن مجموعة بيانات معايرة مصفوفة الأهمية عالية الجودة مستمدة من مصادر متنوعة، وتم تحسينها بشكل واضح للتشفير الوكيل والدردشة والأداء متعدد اللغات. تم تحسين اختيار الطبقة - تحديد أجزاء النموذج التي يتم الضغط عليها بشكل أكبر - وتم تقديم تقنيات تكميم إضافية للحفاظ على الجودة.
والجدير بالذكر أن الفريق يؤكد على أن كل شيء يتم من خلال التكميم بعد التدريب: لا يوجد تدريب مدرك للتكميم ولا التقطير مدرك للتكميم. لم يتم التدريب على مجموعة بيانات المعايرة نفسها، ويتم إصدار ملف الميماتريكس للعامة حتى يتمكن المجتمع من إعادة إنتاج العمل أو إنشاء تعديلات دقيقة عليه.
وتظهر المستويات الكمية المحددة التأثير العملي. يوصف مقدار UD-Q2_K_XL، الذي يبلغ حجمه 9.83 جيجابايت، بأنه أكثر دقة بنسبة 8 بالمائة تقريبًا في مقياس أعلى 1 بالمائة من الخيار الأفضل التالي بهذا الحجم. في أحد الاختبارات غير الرسمية، يسلط Unsloth الضوء على أن هذا المحلل الكمي أنتج برنامج HTML عاملًا به خطأ صغير واحد في JavaScript، وهو ما كان من الممكن أن تتعطله الأجيال السابقة من المحللين الكميين ذوي الحجم المماثل تمامًا.
عند الحد الأدنى الأقصى، يقوم جهاز UD-IQ1_S بضغط النموذج إلى 6.2 جيجابايت - أي أصغر بنسبة 89 بالمائة من النموذج الأصلي - مع الاحتفاظ بحوالي 72 بالمائة من الدقة الأعلى بنسبة 1 بالمائة. قام Unsloth أيضًا بإزالة وحدة التنبؤ متعددة الرموز من الكميات الأصغر التي تقل عن 8.37 جيجابايت للحفاظ على ما يقرب من 500 ميجابايت من مساحة القرص، مع توفر الوحدة بشكل منفصل للمستخدمين الذين يريدونها.
معيار أصعب، وليس مجرد معيار أكثر ودية
ولعل الجزء الأكثر أهمية من الإعلان هو الجزء المنهجي. يقول أونسلوث إن الدقة التي تبلغ أعلى 1% - وهي في الأساس اختبار أرجماكس للتنبؤ الفردي - ليست مقياسًا فعالًا لجودة الاستدلال الحقيقي. ولمواجهة التجاوز المعياري، قام الفريق ببناء Divergence-300 @32: مجموعة بيانات محتفظ بها مكونة من 300 مثال مأخوذة من Terminal-Bench 2.1، وDeepSWE، وHarbour، وMathArena 2025-26، ومطالبات المستندات الطويلة غير اللاتينية، والتي لا يظهر أي منها في بيانات المعايرة.
يقوم المقياس بفك التشفير الجشع لـ 32 رمزًا مميزًا ويقيس مدى تطابق مسار إخراج كل كمية مع نموذج BF16 الأصلي - المسارات الأقرب تعني أن الكمية تتصرف مثل النموذج الكامل عبر توليد الرموز المتعددة، وليس فقط على التنبؤات الفردية. تُظهر معايير تباعد KL التي يتم تشغيلها عبر جميع مقدمي الخدمة أن وحدات Unsloth's UD-3 تكتسب ما يصل إلى 10 بالمائة من الدقة الإضافية من أعلى إلى 1 بالمائة في مساحة القرص المتساوية، مع أكبر المكاسب على الأحجام الأصغر.
نشر الفريق أيضًا تحليلًا زائدًا يقارن الكميات الجديدة بإصدارات Dynamic 2.0 الأقدم على WikiText والتعليمات البرمجية غير المرئية، ويقول إنه سيستمر في التكرار على أحجام كمية أكبر حيث كانت المكاسب أكثر تواضعًا.
سجل التتبع والمحاذير
اكتسبت Unsloth مصداقية في مجتمع النماذج المحلية من خلال التعاون المباشر مع بائعي النماذج - يسرد الفريق الإصلاحات التي ساهم بها Qwen3، وMeta's Llama 4، وMistral's Devstral، وسلسلة Gemma من Google، ونماذج Phi من Microsoft، وهي الأعمال التي نجحت تاريخيًا في حل أخطاء الدقة في الأوزان التي تم إصدارها حديثًا.
وينطبق التحذير المعتاد: هذه هي المعايير التي يديرها البائعون، ويقيس الكميون المنافسون بشكل مختلف. لكن إصدار ملفات المعايرة، ومجموعات التقييم المعلقة، وبيانات التباعد الكمي يجعل التحقق المستقل أمرًا سهلاً على نحو غير عادي - وهذه الشفافية هي على وجه التحديد ما أبقى المشروع في مركز النظام البيئي المحلي لـ LLM أثناء توسعه نحو الاستخدام السائد.
بالنسبة للمطورين الذين يستخدمون Qwen3.8 أو أي نموذج حدودي مفتوح الوزن على الأجهزة المحلية، فإن إصدار Dynamic 3.0 يرفع الأرضية بشكل فعال لما يمكن أن يفعله النموذج الكمي - ويضغط على كل مزودي القياس الكمي الآخرين لنشر نفس الدقة.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →