DeepSeek அதன் முகவர் பயிற்சியின் பின்னால் மறைந்திருக்கும் உள்கட்டமைப்பை விவரிக்கும் தொழில்நுட்ப அறிக்கையை வெளியிட்டுள்ளது: DeepSeek எலாஸ்டிக் கம்ப்யூட் அல்லது DSec எனப்படும் உற்பத்தி சாண்ட்பாக்ஸ் தளம், சில நிறுவனங்கள் பகிரங்கமாக வெளிப்படுத்திய அளவில் தனிமைப்படுத்தப்பட்ட சூழல்களை சுழற்றுகிறது. செப்டம்பர் 19 அன்று arXiv இல் வெளியிடப்பட்ட தாள், இந்த வார இறுதியில் ஹேக்கர் நியூஸின் முதல் பக்கத்தை எட்டியபோது, ​​300 புள்ளிகளுக்கு மேல் பொறியாளர்கள் எண்களைப் பாகுபடுத்தியபோது அதிகமான பார்வையாளர்களைக் கண்டறிந்தனர் - தோராயமாக ஒரு நாளைக்கு 3 மில்லியன் சாண்ட்பாக்ஸ்கள் வழங்கப்படுகின்றன மற்றும் 380,000 க்கும் அதிகமானவை ஒரே நேரத்தில் இயங்குகின்றன.

AI முகவருக்குப் பயிற்சி அளிப்பது, சாட்போட்டைப் பயிற்றுவிப்பதைப் போன்றது அல்ல. ஒரு மாடல் செயல்பட கற்றுக்கொள்வதற்கு முன், அது செயல்படுவதற்கு எங்காவது தேவை - மற்றும் கடந்த ஆண்டு AI கவரேஜ் காட்டியுள்ளபடி, அந்தத் தேவையானது, முன்னணி ஆய்வகங்கள் தங்கள் கணக்கீட்டு அடுக்குகளை எவ்வாறு உருவாக்குகின்றன என்பதை அமைதியாக மாற்றியமைக்கிறது. DSec என்பது டீப்சீக்கின் பதில், மேலும் இயற்பியல் உள்கட்டமைப்பிலிருந்து ஏஜென்டிக் வலுவூட்டல் கற்றல் தேவைகள் என்ன என்பது பற்றிய விரிவான பொதுக் கணக்குகளில் இந்தத் தாள் ஒன்றாகும்.

ஏஜென்ட் பயிற்சி ஏன் சாதாரண கம்ப்யூட் ஸ்டேக்கை உடைத்தது

பெரிய அளவிலான ஏஜென்டிக் பயிற்சி மற்றும் மதிப்பீடு, தனிமைப்படுத்தப்பட்ட, நிலைநிறுத்தப்பட்ட செயல்படுத்தல் சூழல்களை நம்பியிருக்கிறது, இதில் மாதிரிகள் களஞ்சியங்களை ஆய்வு செய்கின்றன, கருவிகளை செயல்படுத்துகின்றன, கட்டளைகளை செயல்படுத்துகின்றன மற்றும் பணி சார்ந்த சேவைகளுடன் தொடர்பு கொள்கின்றன. அந்த பணிச்சுமைகள் தரவு மையத்தை சாதாரண பயிற்சி செய்யாத விதத்தில் வலியுறுத்துகின்றன: சாண்ட்பாக்ஸ்கள் பெரிய வெடிப்புகளில் உருவாக்கப்படுகின்றன, அவை பன்முக செயல்பாடுகள் மற்றும் தனிமைப்படுத்தல் தேவைகளை பரப்புகின்றன, அவை நீண்ட பல-திருப்பு தொடர்புகளில் நிலையைத் தக்கவைத்துக்கொள்கின்றன, மேலும் அவை மிகக் குறைந்த மறுபயன்பாட்டுடன் பெரிய படக் கார்போராவிலிருந்து எடுக்கப்படுகின்றன.

டீப்சீக்கின் கூற்றுப்படி, இதன் விளைவு என்னவென்றால், துணை முகவர்களுக்கு ஒற்றை சாண்ட்பாக்ஸ் இயக்க நேரத்தைக் காட்டிலும் மீள் செயலாக்க தளம் தேவைப்படுகிறது. ஒரு பணிக்காக வேலை செய்யும் பெஸ்போக் கண்டெய்னர் படம் ஒரு நாளைக்கு மில்லியன் கணக்கான வெளியீடுகளுக்கு அடித்தளமாக இருக்காது.

ஒரு SDKக்குப் பின்னால் நான்கு சாண்ட்பாக்ஸ் பின்பகுதிகள்

DSec நான்கு தனித்துவமான சாண்ட்பாக்ஸ் பின்தளங்களை வெளிப்படுத்துகிறது - FnCall, கொள்கலன், மைக்ரோவிஎம் மற்றும் முழு மெய்நிகர் இயந்திரம் - ஒரு ஒருங்கிணைந்த SDK மூலம், பயிற்சி பைப்லைன்கள் ஒவ்வொரு பணிக்கும் தேவைப்படும் தனிமை நிலையை தேர்வு செய்ய அனுமதிக்கிறது. பிளாட்ஃபார்ம் கிளஸ்டர் முழுவதும் வேலை வாய்ப்பு மற்றும் வாழ்க்கைச் சுழற்சி நிர்வாகத்தை ஒருங்கிணைக்கிறது, மேலும் பொதுவான கூறுகள் நகலெடுக்கப்படுவதற்குப் பதிலாக பகிரப்படும் வகையில் சுயாதீனமாக பதிப்பு செய்யப்பட்ட அடுக்குகளிலிருந்து சூழல்களை உருவாக்குகிறது.

அடர்த்தி என்பது பொறியியல் ஆக்ரோஷமாக இருக்கும் இடம். பகிர்ந்த வன்பொருளில் அதிக அடர்த்தியில் சாண்ட்பாக்ஸ்களை இயக்க நினைவகப் பகிர்வு, நினைவக மீட்பு மற்றும் CPU திட்டமிடல் ஆகியவற்றை DSec ஒருங்கிணைக்கிறது, மேலும் ஒவ்வொரு முனையிலும் முழுப் படங்களை நகலெடுப்பதற்குப் பதிலாக, DeepSeek இன் கிளஸ்டர் அளவிலான விநியோகிக்கப்பட்ட கோப்பு அமைப்பான Fire-Flyer File System (3FS) இலிருந்து தேவைக்கேற்ப படத் தரவை ஏற்றுகிறது.

RL லூப்பில் இணைக்கப்பட்டுள்ளது

DSec ஆனது DeepSeek இன் வலுவூட்டல் கற்றல் கட்டமைப்புடன் இணைந்து வடிவமைக்கப்பட்டது, அதற்கு அருகில் கட்டமைக்கப்படவில்லை என்பது மிகவும் பின்விளைவு வடிவமைப்பு முடிவு. பிளாட்ஃபார்ம் முன்னெச்சரிக்கையான GPU பயிற்சியிலிருந்து ஸ்டேட்ஃபுல் ரோல்-அவுட் செயல்படுத்தலைத் துண்டிக்கிறது, மேலும் சாண்ட்பாக்ஸ் வாழ்க்கைச் சுழற்சியை பயிற்சி ரன்களுடன் ஒருங்கிணைக்கிறது.

ரிவார்டு ஹேக்கிங் போன்ற ஏஜென்ட் தவறான நடத்தைகளை DSec குறைக்கிறது என்றும் அந்த தாள் குறிப்பிடுகிறது - ஒரு முகவர் பணியை முடிப்பதற்கு பதிலாக அதன் ரிவார்டு சிக்னலை விளையாடும் தோல்வி பயன்முறை. தனிமைப்படுத்தல், வேறுவிதமாகக் கூறினால், ஒரு செயல்திறன் அம்சம் மட்டுமல்ல; வடிவமைப்பின் மூலம், குறியீட்டைச் செயல்படுத்தவும், தன்னாட்சி முறையில் செயல்களை மேற்கொள்ளவும் அனுமதிக்கப்படும் அமைப்புகளுக்கான கட்டுப்பாட்டு எல்லை இது.

தி ஸ்கேல், எண்களில்

காகிதத்தின் படி, DSec இன் ஒரு உற்பத்தி அளவிலான அலகு சுமார் 160 முனைகளைக் கொண்டுள்ளது. அந்த யூனிட் ஒரு நாளைக்கு சுமார் 3 மில்லியன் சாண்ட்பாக்ஸ்களுக்கு சேவை செய்கிறது, 380,000 க்கும் மேற்பட்ட ஒரே நேரத்தில் சாண்ட்பாக்ஸ்களை ஆதரிக்கிறது, மேலும் வினாடிக்கு 5,000 சாண்ட்பாக்ஸ் படைப்புகளை தாங்குகிறது. இந்த வழிமுறைகள் சூழல் அமைவு மற்றும் பட-விநியோகம் மேல்நிலையைக் குறைக்கின்றன, நினைவகத் திறனை மேம்படுத்துகின்றன, மேலும் அதிக அடர்த்தி கொண்ட ஓவர் கமிட்டிலும் கூட தாமத-உணர்திறன் செயல்திறனைப் பாதுகாக்கின்றன என்று DeepSeek தெரிவிக்கிறது.

ஏன் இது முக்கியமானது

இந்த தாள் DeepSeek இன் சொந்த உள்கட்டமைப்பு பற்றி DeepSeek இன் அமைப்பு அறிக்கையாகும், எனவே இது ஒரு சுயாதீன தணிக்கைக்கு பதிலாக ஒரு நிறுவனத்தின் வெளிப்பாடாக படிக்கப்பட வேண்டும் - மேலும் இது செலவுகள் அல்லது வன்பொருள் கொள்முதல் செய்வதை விட கட்டிடக்கலையில் கவனம் செலுத்துகிறது. அந்த எச்சரிக்கைகளுடன் கூட, இது ஒரு AI ஆய்வகத்தின் பகுதிக்குள் ஒரு அரிய, உறுதியான தோற்றத்தை வழங்குகிறது, இது பத்திரிகை வெளியீடுகளில் குறிப்பிடப்படவில்லை.

மூன்று டேக்அவேகள் தனித்து நிற்கின்றன. முதலாவதாக, ஏஜென்டிக் வலுவூட்டல் கற்றல் அதன் சொந்த உள்கட்டமைப்புத் துறையாக மாறியுள்ளது: அதிக வெளியீடுகளை, வேகமாக, நம்பகமான தனிமையில் செயல்படுத்தக்கூடியவர், போட்டியாளர்களை விட வேகமாக முகவர் பயிற்சியில் ஈடுபட முடியும். இரண்டாவதாக, சாண்ட்பாக்ஸ் வடிவமைப்பு இப்போது ஒரு செயல்திறனைப் போலவே ஒரு பாதுகாப்பு பொறிமுறையாக உள்ளது - அதே மாதத்தில் DeepSeek வெகுமதி-ஹேக்கிங் முகவர்களைக் கொண்ட ஒரு தளத்தை வெளியிட்டது, அதன் முகவர்கள் அமெரிக்க அரசாங்க வலைத்தளங்களில் எதிர்பாராத நடத்தையை வெளிப்படுத்தியதால், OpenAI எல்லைப்புற மாதிரி பயிற்சியை இடைநிறுத்தியது. மூன்றாவதாக, வெளிப்படுத்தல் நம்பிக்கையைக் குறிக்கிறது: உங்கள் பயிற்சி அடுக்கின் வடிவத்தை வெளியிடுவது போட்டியாளர்களை அதைப் பொருத்துவதற்கு அழைக்கிறது, மேலும் DeepSeek அந்த பந்தயத்தில் வசதியாகத் தெரிகிறது.

160 க்கும் குறைவான முனைகளில் உள்ள அனைவருக்கும் பயிற்சி அளிக்கும் முகவர்களுக்கு, காகிதமானது ஒரு வடிவமைப்புக் குறிப்பாக இரட்டிப்பாகிறது - இது ஒரு புத்திசாலி மாடலை வேலை செய்யும் முகவராக மாற்றும் அழகற்ற இயந்திரங்களுக்கான பொது வரைபடமாகும்.
---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →