உள்ளூரில் பெரிய மொழி மாடல்களை இயக்குவதற்கும் நன்றாகச் சரிசெய்வதற்கும் பரவலாகப் பயன்படுத்தப்படும் சில கருவிகளுக்குப் பின்னால் இருக்கும் திறந்த மூலக் குழுவான Unsloth, GGUF மாடல் கோப்புகளுக்கான அதன் அளவீட்டு முறையின் மூன்றாம் தலைமுறையான டைனமிக் 3.0 ஐ வெளியிட்டது. புதிய திட்டத்தின் கீழ் அனுப்பப்படும் முதல் மாதிரிகள் Qwen3.8-27B இன் அளவுகள் ஆகும், மேலும் மற்ற எல்லா அளவு வழங்குனருடன் ஒப்பிடும்போது அதே கோப்பு அளவில் 10 சதவீதத்திற்கும் அதிகமான சிறந்த டாப்-1 சதவீத துல்லியத்தை வழங்குவதாக Unsloth கூறுகிறது.

வெளியீடு விரைவில் ஹேக்கர் நியூஸின் முதல் பக்கத்தை அடைந்தது, அங்கு உள்ளூர்-மாடல் ஆர்வலர்கள் பெஞ்ச்மார்க் விளக்கப்படங்களை பிரித்தனர். திட்டத்திற்கான குறிப்பிடத்தக்க இழுவைக்கு மத்தியில் இது வருகிறது: மாடல் வெளியான ஐந்து நாட்களில் அதன் Qwen3.8 அளவுகள் 5.1 மில்லியனுக்கும் அதிகமான முறை பதிவிறக்கம் செய்யப்பட்டதாக Unsloth கூறுகிறது. For more context on this story, see our ongoing latest AI developments.

ஏன் அளவுப்படுத்தல் தரம் முக்கியமானது

அளவீடு ஒரு மாதிரியின் கோப்பு அளவை அதன் எடையை குறைந்த துல்லியத்தில் சேமித்து, நுகர்வோர் GPUகள் மற்றும் மடிக்கணினிகளில் பெரிய மாடல்களை இயக்குவதை சாத்தியமாக்குகிறது. பரிவர்த்தனை எப்போதுமே துல்லியமாகவே இருந்து வருகிறது: கனமான அளவிலான அளவீடு சாதாரண வரையறைகளை தவறவிடக்கூடிய வழிகளில் வெளியீடுகளைக் குறைக்கிறது. உள்நாட்டில் வளர்ந்து வரும் சமூக இயங்கும் மாடல்களுக்கு - டெவலப்பர்கள் முதல் விலையுயர்ந்த கிளவுட் ஏபிஐ அணுகல் உள்ள பகுதிகளில் உள்ள பயனர்களுக்கு முகவர் பணிப்பாய்வுகளைச் சோதிக்கின்றனர் - குவாண்ட் தரம் எந்த மாதிரிகள் பயன்படுத்தக்கூடியவை என்பதை திறம்பட தீர்மானிக்கிறது.

டைனமிக் 3.0 என்பது அன்ஸ்லோத்தின் அந்த வர்த்தக பரிமாற்றத்திற்கான பதில். குழுவின் ஆவணங்களின்படி, புதிய வெளியீடு "அதிக மாதிரித் தரத்தைப் பாதுகாக்கிறது, அதே அளவை வைத்து, டைவர்ஜென்ஸ்-300 @32 மற்றும் KL டைவர்ஜென்ஸ் போன்ற அளவீடுகளில் வலுவான முடிவுகளுடன்."

பதிப்பு 3.0 இல் என்ன மாற்றப்பட்டது

முறை மேம்பாடுகள் வித்தைக்கு பதிலாக சிறுமணிகளாக உள்ளன. பலதரப்பட்ட மூலங்களிலிருந்து பெறப்பட்ட மிக உயர்ந்த தரமான முக்கியத்துவம்-மேட்ரிக்ஸ் அளவுத்திருத்தத் தரவுத்தொகுப்பைப் பயன்படுத்துகிறது என்று Unsloth கூறுகிறது. அடுக்குத் தேர்வு - மாதிரியின் எந்தப் பகுதிகள் கடினமாக அழுத்தப்பட வேண்டும் என்பதைத் தீர்மானித்தல் - மேம்படுத்தப்பட்டுள்ளது, மேலும் தரத்தைப் பாதுகாக்க கூடுதல் அளவு நுட்பங்கள் அறிமுகப்படுத்தப்பட்டன.

குறிப்பிடத்தக்க வகையில், பயிற்சிக்கு பிந்தைய அளவீடு மூலம் அனைத்தும் செய்யப்படுகின்றன என்பதை குழு வலியுறுத்துகிறது: அளவீடு-அறிவுப் பயிற்சி இல்லை மற்றும் அளவு-அறிவு வடித்தல் இல்லை. அளவுத்திருத்த தரவுத்தொகுப்பு பயிற்சியளிக்கப்படவில்லை, மேலும் இமேட்ரிக்ஸ் கோப்பு பொதுவில் வெளியிடப்பட்டது, இதனால் சமூகம் படைப்பை மீண்டும் உருவாக்கலாம் அல்லது அதன் மேல் சிறந்த இசையை உருவாக்கலாம்.

குறிப்பிட்ட அளவு அடுக்குகள் நடைமுறை தாக்கத்தை காட்டுகின்றன. UD-Q2_K_XL அளவு, 9.83 ஜிபி, அந்த அளவில் அடுத்த சிறந்த விருப்பத்தை விட டாப்-1 சதவீத மெட்ரிக்கில் சுமார் 8 சதவீதம் துல்லியமாக விவரிக்கப்பட்டுள்ளது. ஒரு முறைசாரா சோதனையில் Unsloth சிறப்பம்சங்கள், அந்த குவாண்ட் ஒரு சிறிய ஜாவாஸ்கிரிப்ட் பிழையுடன் ஒரு வேலை செய்யும் HTML நிரலை உருவாக்கியது - முந்தைய தலைமுறை இதே அளவு குவாண்ட்ஸ் முழுவதுமாக உடைந்திருக்கும்.

மிகக் குறைந்த முடிவில், UD-IQ1_S அளவு 6.2 ஜிபியாக மாடலைப் பிழிகிறது - அசலை விட 89 சதவீதம் சிறியது - அதே நேரத்தில் டாப்-1 சதவீத துல்லியத்தில் 72 சதவீதத்தைத் தக்க வைத்துக் கொள்கிறது. Unsloth மேலும் 8.37 GB க்கு கீழ் உள்ள சிறிய அளவுகளில் இருந்து 500 MB வட்டு இடத்தை சேமிக்க, மல்டி-டோக்கன்-முன்கணிப்பு தொகுதியை நீக்கியது, மாட்யூல் அதை விரும்பும் பயனர்களுக்கு தனியாக கிடைக்கும்.

ஒரு கடினமான அளவுகோல், நட்பு மட்டும் அல்ல

ஒருவேளை அறிவிப்பின் மிகவும் விளைவான பகுதி முறையானதாக இருக்கலாம். டாப்-1 சதவீத துல்லியம் - அடிப்படையில் ஒரு ஒற்றை-கணிப்பு argmax சோதனை - உண்மையான அனுமானத் தரத்தின் பயனுள்ள அளவீடு அல்ல என்று Unsloth வாதிடுகிறார். பெஞ்ச்மார்க் ஓவர்ஃபிட்டிங்கை எதிர்கொள்ள, குழு டைவர்ஜென்ஸ்-300 @32 ஐ உருவாக்கியது: டெர்மினல்-பெஞ்ச் 2.1, டீப்எஸ்டபிள்யூ, ஹார்பர், மேத்அரீனா 2025-26 மற்றும் லத்தீன் அல்லாத நீண்ட ஆவணத் தூண்டுதல்களிலிருந்து எடுக்கப்பட்ட 300 எடுத்துக்காட்டுகளின் ஹோல்டு-அவுட் தரவுத்தொகுப்பு, இவை எதுவும் அளவுத்திருத்தத் தரவில் தோன்றவில்லை.

மெட்ரிக் 32 டோக்கன்களுக்கான பேராசையான டிகோடிங்கை இயக்குகிறது மற்றும் ஒவ்வொரு குவாண்டின் வெளியீட்டுப் பாதையும் அசல் BF16 மாடலுடன் எவ்வளவு நெருக்கமாகப் பொருந்துகிறது என்பதை அளவிடுகிறது - நெருக்கமான பாதைகள் என்பது ஒற்றை கணிப்புகளில் மட்டும் இல்லாமல், மல்டி-டோக்கன் தலைமுறையில் முழு மாதிரியாக செயல்படுகிறது. அனைத்து வழங்குநர்களிலும் இயங்கும் KL divergence வரையறைகள், Unsloth இன் UD-3 அளவுகள் சமமான வட்டு இடத்தில் 10 சதவீதம் கூடுதல் டாப்-1 சதவீத துல்லியத்தைப் பெறுகின்றன, சிறிய அளவுகளில் மிகப்பெரிய ஆதாயங்களைப் பெறுகின்றன.

காணப்படாத விக்கிடெக்ஸ்ட் மற்றும் குறியீட்டில் அதன் பழைய டைனமிக் 2.0 வெளியீடுகளுடன் ஒப்பிடும் ஒரு மிகையான பகுப்பாய்வையும் குழு வெளியிட்டது.

தட பதிவு மற்றும் எச்சரிக்கைகள்

மாடல் விற்பனையாளர்களுடனான நேரடி ஒத்துழைப்பின் மூலம் உள்ளூர்-மாடல் சமூகத்தில் Unsloth நம்பகத்தன்மையைப் பெற்றுள்ளது - Qwen3, Meta's Llama 4, Mistral's Devstral, Google's Gemma series மற்றும் Microsoft's Phi மாதிரிகள் ஆகியவற்றிற்கு பங்களித்த திருத்தங்களை குழு பட்டியலிடுகிறது.

வழக்கமான எச்சரிக்கை பொருந்தும்: இவை விற்பனையாளரால் நடத்தப்படும் அளவுகோல்கள் மற்றும் போட்டி அளவுகோல்கள் வித்தியாசமாக அளவிடப்படுகின்றன. ஆனால் அளவுத்திருத்தக் கோப்புகள், ஹோல்டு-அவுட் மதிப்பீட்டுத் தொகுப்புகள் மற்றும் ஒவ்வொரு-குவாண்ட் டைவர்ஜென்ஸ் தரவு ஆகியவற்றின் வெளியீடும் சுயாதீன சரிபார்ப்பை வழக்கத்திற்கு மாறாக எளிதாக்குகிறது - மேலும் அந்த வெளிப்படைத்தன்மையே துல்லியமாக திட்டத்தை உள்ளூர் LLM சுற்றுச்சூழல் அமைப்பின் மையத்தில் முக்கிய நீரோட்ட பயன்பாட்டை நோக்கிச் சென்றுள்ளது.

உள்ளூர் வன்பொருளில் Qwen3.8 அல்லது எந்த எல்லைப்புற ஓப்பன்-வெயிட் மாடலையும் இயக்கும் டெவலப்பர்களுக்கு, டைனமிக் 3.0 வெளியீடு ஒரு அளவிடப்பட்ட மாதிரி என்ன செய்ய முடியும் என்பதைத் திறம்பட உயர்த்துகிறது - மேலும் அதே கடுமையை வெளியிடுவதற்கு மற்ற ஒவ்வொரு அளவு வழங்குநருக்கும் அழுத்தம் கொடுக்கிறது.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →