என்விடியா தனது க்ரோக் 3 எல்பிஎக்ஸ் இன்டராக்டிவ் அனுமான முடுக்கியை முழு உற்பத்தியில் வைத்துள்ளது என்று நிறுவனம் ஆகஸ்ட் 24, 2026 அன்று ஹாட் சிப்ஸ் மாநாட்டின் போது அறிவித்தது. என்விடியாவின் வேரா ரூபின் இயங்குதளத்தின் விரிவாக்கமான சிப், செயற்கையான பகுப்பாய்வு தரப்படுத்தலில் ஒரு வினாடிக்கு 3,400 வெளியீட்டு டோக்கன்களை வழங்கியுள்ளது, அதே நேரத்தில் திறந்த மூல ஜெம்மா 4 31 பி மாடலை செயலில் உள்ள 100,000-டோக்கன் சூழல் சாளரத்துடன் இயக்குகிறது - அந்த மாடலுக்கு இதுவரை பதிவுசெய்யப்பட்ட வேகமான செயல்திறன்.

இந்த அறிமுகமானது என்விடியாவின் 20 பில்லியன் டாலர் மதிப்பிலான அனுமான நிபுணர் க்ரோக்கை கையகப்படுத்தியதில் இருந்து இன்னும் மிக முக்கியமான தயாரிப்பு மைல்கல்லைக் குறிக்கிறது, இந்த ஒப்பந்தம் நிறுவனம் இப்போது குறைந்த தாமத அனுமானத்திற்கான தேவையைப் பயன்படுத்திக் கொள்ள நகர்கிறது. இந்த ஆண்டு இறுதிக்குள் முதல் க்ரோக் ரேக்குகள் ஆன்லைனில் இருக்கும் என்று என்விடியா கூறுவதாக சிஎன்பிசி தெரிவித்துள்ளது. இந்தக் கதையைப் பற்றிய கூடுதல் சூழலுக்கு, எங்களின் தற்போதைய AI துறையின் கவரேஜ் ஐப் பார்க்கவும்.

ஏன் டோக்கன் தலைமுறை வேகம் முக்கியமானது

ஏஜென்டிக் AI அமைப்புகள் - நிரல்கள், கருவிகளை அழைக்கவும், குறியீட்டை எழுதவும் மற்றும் சோதிக்கவும் மற்றும் நூற்றுக்கணக்கான அல்லது ஆயிரக்கணக்கான அனுமானப் படிகளில் மீண்டும் செயல்படும் - மகத்தான வெளியீட்டு டோக்கன்களை உருவாக்குகின்றன. அந்த டோக்கன்கள் தயாரிக்கப்படும் வேகம், ஊடாடுதல் அல்லது டிகோட் த்ரோபுட் என அறியப்படுகிறது, ஒரு முகவர் அதன் ஒவ்வொரு படிநிலையையும் எவ்வளவு விரைவாக முடிக்க முடியும் என்பதை தீர்மானிக்கிறது.

க்ரோக் 3 எல்பிஎக்ஸ், அருகிலுள்ள மாற்று தளத்தை விட முகவர்கள் மற்றும் லேட்டன்சி-சென்சிட்டிவ் பணிச்சுமைகளுக்கு 4 மடங்கு வேகமான பதிலை வழங்குகிறது என்று என்விடியா கூறுகிறது. பன்முகப்படுத்தப்பட்ட வரிசைப்படுத்தல்களில், Vera Rubin NVL72 அமைப்புகள் சூழல் உட்செலுத்துதல் மற்றும் முன் நிரப்புதல் கணக்கீட்டைக் கையாளுகின்றன, அதே நேரத்தில் Groq 3 LPX அலகுகள் தாமத உணர்திறன் டோக்கன் உருவாக்க கட்டத்தை செயலாக்குகின்றன.

என்விடியாவின் நிறுவனர் மற்றும் தலைமை நிர்வாக அதிகாரி ஜென்சன் ஹுவாங் அறிவிப்பில், "அனுமானமே AI இன் வளர்ச்சி இயந்திரம்" என்று கூறினார். "வேரா ரூபின் அந்த பார்வையை பணிச்சுமை-உகந்த AI தொழிற்சாலை உள்ளமைவுகளுடன் விரிவாக்குகிறது, இது முகவர் AIயின் சகாப்தத்திற்காக வடிவமைக்கப்பட்டுள்ளது, அல்ட்ராஃபாஸ்ட் டோக்கன் உருவாக்கத்திற்காக LPX உடன் செயல்திறன் எல்லையை மேம்படுத்துகிறது."

வன்பொருளின் உள்ளே

ஸ்டோரேஜ் ரிவியூவின் தொழில்நுட்ப பகுப்பாய்வின்படி, ஒவ்வொரு 2U திரவ-குளிரூட்டப்பட்ட கம்ப்யூட் ட்ரேயும் பதினாறு Groq 3 LPUகளை ஹோஸ்ட் CPU, துணி விரிவாக்க லாஜிக் மற்றும் DRAM மற்றும் ஒரு BlueField-4 DPU அல்லது ConnectX-9 நெட்வொர்க் கார்டு ஆகியவற்றைக் கொண்டுள்ளது. தட்டில் 32 LPU சிப்-டு-சிப் ஆப்டிகல் இணைப்புகள் மற்றும் முன் பேனலில் 400Gb/s ஈதர்நெட் உள்ளது.

ரேக் அளவில், ஒரு க்ரோக் 3 எல்பிஎக்ஸ் வரிசைப்படுத்தல் 256 எல்பி30 ஆக்சிலரேட்டர்களை இணைத்து, அதிவேக, நேரடி சிப்-டு-சிப் இன்டர்கனெக்ட்ஸ் மூலம் இணைக்கப்பட்டுள்ளது. ரேக்குகள் என்விடியாவின் பரந்த வேரா ரூபின் AI தொழிற்சாலை உள்கட்டமைப்பில் ஸ்லாட் ஆகும், இது நிறுவனம் அதன் மிக விரிவான இயங்குதளமாக விவரிக்கிறது: BlueField-4 DPUகள், Vera CPU ரேக்குகள், Vera BlueField-6 மற்றும் SPX EXEX STXERNET ஸ்டோரேஜ் உள்ளிட்ட ஐந்து நோக்கத்திற்காக கட்டமைக்கப்பட்ட ரேக் உள்ளமைவுகளில் ஏழு தனித்துவமான சில்லுகள்.

140,000-டோக்கன் ஏஜென்டிக் குறியீட்டு பணிச்சுமையில் GB300 NVL72 உடன் ஒப்பிடும்போது, ​​Vera Rubin NVL72 ஒரு மெகாவாட்டிற்கு 30 மடங்கு டோக்கன் த்ரோபுட்டை வழங்குகிறது என்று Nvidia தனது இயங்குதள-நிலை செயல்திறன் உரிமைகோரல்களை புதுப்பித்துள்ளது.

நட்சத்திரக் குறியுடன் கூடிய அளவுகோல்

ஒரு வினாடிக்கு 3,400 டோக்கன்கள் என்ற தலைப்பில் ஒரு எச்சரிக்கையுடன் வருகிறது. StorageReview சுட்டிக்காட்டியபடி, Nvidia இன் முடிவு ஆகஸ்ட் 21 அன்று ஒரு தனிப்பட்ட முன் வெளியீட்டு முடிவுப் புள்ளியில் அளவிடப்பட்டது, அதே சமயம் அது ஒப்பிடப்பட்ட போட்டி எண்கள் லைவ் சர்வர்லெஸ் உற்பத்தி முடிவுப் புள்ளிகளிலிருந்து வந்தவை. பொதுவாக கிடைக்கக்கூடிய சேவைகளில் நிஜ-உலக செயல்திறன் ரெக்கார்ட்-செட்டிங் பெஞ்ச்மார்க் உள்ளமைவிலிருந்து வேறுபடலாம்.

இருப்பினும், சுயாதீன தரப்படுத்தல் அமைப்பான செயற்கைப் பகுப்பாய்வு, ஜெம்மா 4 31B க்கு அந்தச் சூழலின் நீளத்தில் இதுவரை அளவிடப்பட்ட வேகமான முடிவு என்று பதிவுசெய்தது, மேலும் அடிப்படைக் கூற்று - நோக்கம்-கட்டமைக்கப்பட்ட சிலிக்கான் வியத்தகு முறையில் அனுமானத்தின் டிகோட் கட்டத்தை முடுக்கிவிடலாம் - இது முகவர் பணிச்சுமைக்கான தொழில்துறை எவ்வாறு மறுகட்டமைக்கப்பட்டது என்பதைப் பொருத்தது.

கிளவுட் தத்தெடுப்பு தொடங்குகிறது

நெபியஸ், ஆம்ஸ்டர்டாமை தலைமையிடமாகக் கொண்ட AI கிளவுட், Groq 3 LPX ஐப் பயன்படுத்துவதற்கு உறுதியளிக்கும் முதல் வழங்குநராகும், அதன் உற்பத்தி அனுமான தளமான Nebius டோக்கன் தொழிற்சாலையில் அதைக் கொண்டுவர திட்டமிட்டுள்ளது.

"தலைமுறை என்பது ஒரு AI அமைப்பு உண்மையில் எவ்வளவு பதிலளிக்கக்கூடியது என்பதை தீர்மானிக்கும் அனுமானத்தின் கட்டமாகும், மேலும் அதுவே என்விடியா க்ரோக் 3 எல்பிஎக்ஸ் துரிதப்படுத்த வடிவமைக்கப்பட்டுள்ளது" என்று நெபியஸின் தலைமை தொழில்நுட்ப அதிகாரி டானிலா ஷ்டன் கூறினார். "நேபியஸ் டோக்கன் ஃபேக்டரி மூலம் உற்பத்திக்கு கொண்டு வரும் முதல் AI கிளவுட் என்பதால், ஒரு ஏஜென்ட்டின் லூப்பின் ஒவ்வொரு அடியும் உடனடியாக உணரப்படுவதை நாங்கள் உறுதிசெய்கிறோம் - அதே API டெவலப்பர்கள் ஏற்கனவே பயன்படுத்தி வருகின்றனர், புதிய அடுக்கிற்கு எந்த மாற்றமும் இல்லை."

இப்போது என்விடியா குடும்பத்தின் ஒரு பகுதியாக இருக்கும் அனுமான வழங்குநர் க்ரோக், தளத்தின் ஆரம்பகால தத்தெடுப்பாளர்களில் ஒருவராக இருக்க திட்டமிட்டுள்ளார்.

பெரிய படம்

முழு உற்பத்தி அறிவிப்பு, AI உள்கட்டமைப்பு சந்தை பயிற்சியிலிருந்து அனுமானத்திற்கு எவ்வளவு கூர்மையாக மாறியுள்ளது என்பதைக் குறிக்கிறது. நிறுவனங்கள் வரவு-செலவுத் திட்ட முன் பயிற்சியிலிருந்து நிகழ்நேர பகுத்தறிவு மற்றும் தன்னாட்சி முகவர் ஆர்கெஸ்ட்ரேஷனை நோக்கி வரவுசெலவுத் திட்டங்களை மாற்றுவதால், ஒரு டோக்கனின் பொருளாதாரம் - எவ்வளவு வேகமாக அதை உருவாக்க முடியும் மற்றும் என்ன ஆற்றல் செலவில் - மையப் போட்டிப் போர்க்களமாக மாறியுள்ளது.

என்விடியாவைப் பொறுத்தவரை, கிளவுட் வழங்குநர்கள் மற்றும் ஸ்டார்ட்அப்களின் தனிப்பயன் சிலிக்கான் ஒரே மாதிரியான ஏஜென்டிக் அனுமானப் பணிச்சுமைகளைத் துரத்திக் கொண்டிருக்கும் தருணத்தில், Groq 3 LPX அதன் AI தொழிற்சாலை உரிமையின் பாதுகாப்பை விரிவுபடுத்துகிறது. இந்த ஆண்டு ஆன்லைனில் வரும் ரேக்குகள், CNBC அறிக்கையின்படி, கையகப்படுத்தல் முடிந்த சில மாதங்களுக்குப் பிறகு வாடிக்கையாளர்களின் கைகளில் முதல் உற்பத்தி அமைப்புகளை வைக்கும் - இது குறைக்கடத்தி தொழில் தரநிலைகளால் விரைவான ஒருங்கிணைப்பு.

புதிய அமைப்புகளுக்கான விலையை நிறுவனம் வெளியிடவில்லை. Groq 3 LPX ஆனது AI கிளவுட் பார்ட்னர்கள் மூலம் எப்போது மற்றும் கிடைக்கும்போது கிடைக்கும் என்ற அடிப்படையில் வழங்கப்படும், Nebius அதன் தற்போதைய API எண்ட் பாயிண்ட்கள் மூலம் டெவலப்பர்களுக்கு அணுகலை வழங்கும் முதல் நிறுவனமாக இருக்கும் என எதிர்பார்க்கப்படுகிறது.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →