டீப்சீக் DSpark ஐ வெளியிட்டது, இது ஒரு திறந்த மூல ஊக டிகோடிங் கட்டமைப்பை வெளியிடுகிறது, இது பெரிய மொழி மாதிரி (LLM) அனுமானத்தை நேரடி போக்குவரத்தின் கீழ் 85% வரை துரிதப்படுத்துகிறது, வெளியீட்டின் தரத்தில் எந்த இழப்பும் இல்லாமல். DeepSeek-AI மற்றும் பீக்கிங் பல்கலைக்கழகத்தின் புதிய ஆய்வறிக்கையில் விவரிக்கப்பட்டுள்ள இந்த அமைப்பு, உண்மையான பயனர் கோரிக்கைகளைக் கையாளும் DeepSeek-V4 சேவை உள்கட்டமைப்புக்குள் ஏற்கனவே இயங்குகிறது.

AI உற்பத்தியில் உள்ள மிகவும் பிடிவாதமான பிரச்சனைகளில் ஒன்றை வேலை சமாளிக்கிறது: அனுமானம் மெதுவாக உள்ளது, ஏனெனில் மாதிரிகள் ஒரு நேரத்தில் ஒரு டோக்கனை உருவாக்குகின்றன, ஒவ்வொன்றும் நெட்வொர்க் வழியாக முழு பாஸ் தேவைப்படுகிறது. ஸ்பெகுலேட்டிவ் டிகோடிங் என்பது ஒரு பிரபலமான தீர்வாகும், இதில் ஒரு சிறிய, வேகமான "வரைவு" மாதிரியானது டோக்கன்களின் தொகுதியை முன்மொழிகிறது, அது முழு அளவிலான மாதிரியானது, நீண்ட சரியான முன்னொட்டை ஏற்றுக்கொண்டு, ஒரே பாஸில் சரிபார்க்கிறது. சரிபார்ப்பு இணையாகவும் கணித ரீதியாகவும் துல்லியமாக இருப்பதால், அசல் மாதிரியின் விநியோகத்தைப் பாதுகாக்கும் போது இது விஷயங்களை வேகப்படுத்துகிறது. கிட்ஹப்பில் டீப்ஸ்பெக் பயிற்சி களஞ்சியத்துடன் வெளியிடப்பட்ட டிஎஸ்பார்க், ஹேக்கர் நியூஸில் மிக அதிகமாக விவாதிக்கப்பட்ட AI இன்ஜினியரிங் கதைகளில் ஒன்றாக மாறியது. For more context on this story, see our ongoing AI news.

ஏன் தற்போதுள்ள ஊக டிகோடிங் ஒரு சுவரைத் தாக்குகிறது

சமீபத்திய ஊக டிகோடிங் ஆராய்ச்சி "பேரலல் டிராஃப்டர்களை" நோக்கி நகர்ந்துள்ளது, இது ஒரு முழு தொகுதி வேட்பாளர் டோக்கன்களை ஒரே முன்னோக்கி பாஸில் உருவாக்குகிறது, இது வரைவு தாமதத்தை தொகுதி அளவிலிருந்து கிட்டத்தட்ட சுயாதீனமாக்குகிறது. DSpark தாள் இரண்டு இடையூறுகளை அடையாளம் காட்டுகிறது, அவை இந்த முறைகள் தங்கள் வாக்குறுதியை அளவில் வழங்குவதைத் தடுக்கின்றன.

முதலாவது தரமான பிரச்சனை. இணையான வரைவாளர்கள் ஒவ்வொரு நிலையையும் தனித்தனியாகக் கணிப்பதால், ஒரு தொகுதிக்குள் உள்ள டோக்கன்கள் ஒன்றை ஒன்று சார்ந்து இருப்பதை அவர்களால் மாதிரியாகக் காட்ட முடியாது. ஆராய்ச்சியாளர்கள் இது "மல்டி-மோடல் மோதல்கள்" மற்றும் ஒரு வரைவுத் தொகுதியில் பிந்தைய நிலைகளில் விரைவான ஏற்றுக்கொள்ளல் சிதைவுக்கு வழிவகுக்கிறது என்று காட்டுகிறார்கள், இந்த நிகழ்வை அவர்கள் பின்னொட்டு சிதைவு என்று அழைக்கிறார்கள். இணைத் தொகுதி நீண்டால், அதன் வால் தவறாக இருக்கும்.

இரண்டாவதாக ஒரு சிஸ்டம்-லெவல் பிரச்சனை. நீளமான வரைவுத் தொகுதிகளை உருவாக்குவது மலிவானது என்றாலும், ஒவ்வொரு முன்மொழியப்பட்ட டோக்கனையும் கண்மூடித்தனமாகச் சரிபார்ப்பது, நிராகரிக்கப்படக்கூடிய டோக்கன்களில் பற்றாக்குறையான தொகுதித் திறனை வீணாக்குகிறது. உண்மையான சேவை அமைப்பின் உயர் ஒத்திசைவின் கீழ், சிறந்த சரிபார்ப்பு நீளம் இரண்டு அச்சுகளில் மாறுபடும்: குறியீடு போன்ற கட்டமைக்கப்பட்ட கோரிக்கைகள் திறந்தநிலை அரட்டையை விட அதிக ஏற்றுக்கொள்ளும் விகிதங்களைத் தக்கவைத்துக்கொள்கின்றன, மேலும் கூடுதல் டோக்கன்களைச் சரிபார்ப்பது லேசான சுமையின் கீழ் கிட்டத்தட்ட இலவசம் ஆனால் கணினி நிறைவுற்றதாக இருக்கும்போது விலை அதிகம்.

ஒரு அரை தன்னியக்க வரைவு மாதிரி

பின்னொட்டு சிதைவை சரிசெய்ய, DSpark ஒரு அரை-தானியங்கி கட்டமைப்பை ஆசிரியர்கள் அழைக்கிறது. இது ஒரு கணக்கீட்டுரீதியாக கனமான இணையான முதுகெலும்பை இணைக்கிறது, இது ஒரே நேரத்தில் பல டோக்கன்களை முன்மொழியக்கூடியது, ஒரு இலகுரக வரிசை மாட்யூல் இன்ட்ரா-பிளாக் சார்பு மாடலிங்கை அறிமுகப்படுத்துகிறது. இந்த வடிவமைப்பு, டோக்கன்களை ஒன்றன் பின் ஒன்றாக உருவாக்கி இயற்கையாகவே சார்புகளை மதிக்கும் பாரம்பரிய தன்னியக்க ட்ராஃப்டர்களின் பின்னொட்டு ஒத்திசைவுடன் ஆரம்ப நிலைகளில் உள்ள இணை மாதிரிகளின் உயர் திறனை இணைப்பதாகும்.

கணிதப் பகுத்தறிவு, குறியீடு உருவாக்கம் மற்றும் தினசரி அரட்டை ஆகியவற்றில் கட்டுப்படுத்தப்பட்ட ஆஃப்லைன் வரையறைகளில், DSpark ஒரு சரிபார்ப்பு சுழற்சிக்கான ஏற்றுக்கொள்ளப்பட்ட நீளத்தை வலுவான அடிப்படைகளில் கணிசமாக மேம்படுத்துகிறது என்று குழு தெரிவிக்கிறது. குறிப்பாக, DSpark ஆனது தன்னியக்க ஈகிள்3 டிராஃப்டரில் ஏற்றுக்கொள்ளப்பட்ட நீளத்தை 30.9%, 26.7% மற்றும் 30.0% என மூன்று அமைப்புகளிலும், இணையான DFlash ட்ராஃப்டரை விட 16.3%, 18.4% மற்றும் 18.3% ஆகவும் மேம்படுத்துகிறது என்று கட்டுரை கூறுகிறது.

நம்பிக்கை-திட்டமிடப்பட்ட, சுமை-விழிப்புணர்வு சரிபார்ப்பு

DSpark இன் புதிய பாதி சரிபார்ப்புக்கான அணுகுமுறையாகும். ஒவ்வொரு கோரிக்கைக்கும் ஒரு குறிப்பிட்ட எண்ணிக்கையிலான வரைவு டோக்கன்களைச் சரிபார்ப்பதற்குப் பதிலாக, DSpark ஆனது சரிபார்ப்பு-நீளத் தேர்வை உலகளாவிய செயல்திறன் அதிகரிப்புச் சிக்கலாக உருவாக்குகிறது. வரைவின் முன்னொட்டு எவ்வளவு காலம் உயிர்வாழும் சாத்தியம், தாள் உயிர்வாழும் நிகழ்தகவுகள் என்று அழைக்கும் மதிப்பீடுகளை, நிகழ்நேர எஞ்சின் சுமையைப் படிக்கும் வன்பொருள்-விழிப்புடன் திட்டமிடும் மதிப்பீடுகளை இது இணைக்கிறது.

இதன் விளைவாக நம்பிக்கை-திட்டமிடப்பட்ட சரிபார்ப்பு: கோரிக்கையின் உள்ளடக்கம் மற்றும் சேவை செய்யும் இன்ஜினின் தற்போதைய நிலை ஆகிய இரண்டின் அடிப்படையில் ஒவ்வொரு கோரிக்கைக்கும் எத்தனை டோக்கன்களைச் சரிபார்க்கிறது என்பதை அமைப்பு மாறும். குறைந்த சுமைகளின் கீழ் அது தாராளமாக சரிபார்க்க முடியும், அதே நேரத்தில் அதிக நிகழ்தகவு டோக்கன்களில் தொகுதி திறனை செலவழிப்பதால் ஏற்படும் செயல்திறன் சரிவைத் தவிர்த்து, அதிக எதிர்பார்க்கப்படும் டோக்கன்களை நோக்கி மட்டுமே இலக்கு மாதிரியின் சரிபார்ப்பு பட்ஜெட்டை வழிநடத்துகிறது.

நேரடி பயனர் போக்குவரத்தின் கீழ் முடிவுகள்

மிகவும் விளைவான எண்கள் உற்பத்தியில் இருந்து வருகின்றன. டீப்சீக்-வி4 சர்விங் சிஸ்டத்தில் டீப்ஸீக்-வி4 சேவை அமைப்பில் டீப்ஸார்க்கை குழு பயன்படுத்தியது மற்றும் நிறுவனத்தின் முந்தைய உற்பத்தி அடிப்படையான எம்டிபி-1 எனப்படும் பல டோக்கன் முன்கணிப்பு முறையுடன் ஒப்பிடுகிறது.

ஆய்வறிக்கையின்படி, DSpark ஆனது, DeepSeek-V4-Flashக்கு 60% முதல் 85% வரையிலும், DeepSeek-V4-Pro க்கு 57% முதல் 78% வரையிலும் பொருந்திய மொத்த செயல்திறனில் ஒவ்வொரு பயனருக்கும் உற்பத்தி வேகத்தை தொடர்ந்து துரிதப்படுத்துகிறது. அடிப்படைத் திறன் கடுமையாக மோசமடையும் கடுமையான சேவை நிலை ஒப்பந்தங்களின் கீழ், ஃப்ளாஷுக்கு வினாடிக்கு 120 டோக்கன்கள் மற்றும் ப்ரோவுக்கு வினாடிக்கு 50 டோக்கன்கள், DSpark ஆனது வலுவான செயல்திறனைப் பராமரிக்க மேல்நிலை சரிபார்ப்பைத் தணிக்கிறது. அந்த செயல்திறன் குன்றினைக் கடப்பதன் மூலம், முன்னர் அடைய முடியாத கடுமையான ஊடாடும் அடுக்குகளைத் திறக்கிறது என்று ஆசிரியர்கள் வாதிடுகின்றனர், LLM இன் பரேட்டோ எல்லையை வெளிப்புறமாக மாற்றுகிறது.

அந்த வேறுபாடு ஆபரேட்டர்களுக்கு முக்கியமானது. ஒரே மொத்த செயல்திறனில் ஒவ்வொரு பயனருக்கும் வேகமான வேகம் என்பது, அதிக வன்பொருளை வாங்காமலேயே அதிக பதிலளிக்கக்கூடிய உதவியாளர்கள் மற்றும் ஏஜென்டிக் பணிப்பாய்வுகளைக் குறிக்கிறது, அதே நேரத்தில் கடுமையான தாமதமான SLAகள் சுமையின் கீழ் தப்பிப்பிழைப்பது என்பது ஒரு ஆராய்ச்சி டெமோவை ட்ராஃபிக் ஸ்பைக் போது வைத்திருக்கக்கூடிய அமைப்பிலிருந்து பிரிக்கிறது.

சமூகத்திற்கான திறந்த ஆதாரம்

DeepSeek-V4-Flash மற்றும் DeepSeek-V4-Pro மாதிரிக்காட்சி மாடல்களுக்கு பயிற்சியளிக்கப்பட்ட DSpark சோதனைச் சாவடிகளை DeepSeek வெளியிடுகிறது. அனுமதிக்கப்பட்ட எம்ஐடி உரிமத்தின் கீழ் வெளியிடப்பட்ட டீப்ஸ்பெக் களஞ்சியமானது, ஊக டிகோடிங்கிற்கான முழு-அடுக்கு, அல்காரிதம்-உந்துதல் பயிற்சி மற்றும் மதிப்பீட்டுக் குறியீட்டுத் தளமாக விவரிக்கப்படுகிறது. இதில் தரவுத் தயாரிப்பு பயன்பாடுகள், வரைவு மாதிரி செயலாக்கங்கள், பயிற்சி ஸ்கிரிப்டுகள் மற்றும் மதிப்பீட்டு சாதனங்கள் மற்றும் மூன்று வரைவு மாதிரி அல்காரிதம்களைக் கொண்ட கப்பல்கள்: DSpark, DFlash மற்றும் Eagle3 ஆகியவை அடங்கும்.

இந்த வெளியீடு மற்ற ஆய்வகங்கள் மற்றும் உள்கட்டமைப்பு குழுக்களுக்கு தரப்படுத்தப்பட்ட பைப்லைனுக்கு எதிராக தங்கள் சொந்த வரைவு மாதிரிகளை பயிற்றுவிப்பதற்கும் தரப்படுத்துவதற்கும் தடையை குறைக்கிறது. டீப்ஸ்பெக்கின் மதிப்பீட்டுத் தொகுப்பு GSM8K, MATH500, AIME 2025, HumanEval, MBPP, LiveCodeBench, MT-Bench, AlpacaEval மற்றும் Arena-Hard-v2 உள்ளிட்ட நிறுவப்பட்ட வரையறைகளை உள்ளடக்கியது.

ஏன் இது முக்கியமானது

அனுமான செலவு மற்றும் தாமதம் ஆகியவை இப்போது AI தொழில்துறையின் வரையறுக்கும் கட்டுப்பாடுகளில் ஒன்றாக உள்ளன, நிறுவனங்கள் AI முகவர்களை எவ்வளவு தீவிரமாக பயன்படுத்துகின்றன என்பது முதல் சிறிய வழங்குநர்கள் யூனிட் பொருளாதாரத்தில் ஹைப்பர்ஸ்கேலர்களுடன் போட்டியிட முடியுமா என்பது வரை அனைத்தையும் வடிவமைக்கிறது. வரைவு மாதிரி மற்றும் சரிபார்ப்பு அட்டவணையை கவனமாக இணைந்து வடிவமைத்து, சரிபார்ப்பு நீளத்தை நேரடி அமைப்பு நிலையின் செயல்பாடாகக் கருதி, உண்மையான வரிசைப்படுத்தல்களில் ஊசியை அர்த்தத்துடன் நகர்த்தக்கூடிய ஒரு செயல்விளக்கத்தை விட DSpark இன் பங்களிப்பு ஒரு புதிய அல்காரிதம் குறைவாக உள்ளது.

திறமையான, வெளிப்படையாக வெளியிடப்பட்ட அமைப்புகளில் அதன் நற்பெயரைக் கட்டியெழுப்பிய DeepSeek க்கு, DSpark என்பது ஆய்வகம் ஒரு வருடத்திற்கும் மேலாக செய்து வரும் வாதத்தின் மற்றொரு தரவுப் புள்ளியாகும். ஆதாயங்கள் செயற்கையான அளவுகோலில் இல்லாமல், நேரடி போக்குவரத்தின் கீழ் அளவிடப்பட்டது என்பது, திறந்த மூல சமூகம் காகிதத்தை ஜீரணித்து எண்களை மீண்டும் உருவாக்கத் தொடங்கும் போது, ​​மற்ற ஆபரேட்டர்கள் தீவிரமாக எடுத்துக்கொள்ளும் முடிவை எளிதாக்குகிறது.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →