Qualcomm Cloud AI 100 Ultra ஐ அறிமுகப்படுத்தியுள்ளது, இது 870 TOPS இன் INT8 செயல்திறன் மற்றும் 288 TFLOPS இன் FP16 கம்ப்யூட் வரை வழங்கும் ஒரு தரவு மைய அனுமான முடுக்கி, வெறும் 150 வாட்களை வரையும்போது - தற்போது AI இன்ஃபெரன்ஷனில் ஆதிக்கம் செலுத்தும் GPUகளின் சக்தி உறைகளின் ஒரு பகுதி.

Qualcomm இன் அதிகாரப்பூர்வ தரவு மைய தயாரிப்புப் பக்கத்தில் பட்டியலிடப்பட்ட அட்டை மற்றும் வெளியீட்டு கவரேஜில் விவரிக்கப்பட்டுள்ளது, குறிப்பாக உருவாக்கும் AI மற்றும் பெரிய மொழி மாதிரி பணிச்சுமைகளுக்காக வடிவமைக்கப்பட்டுள்ளது. இது மொபைல் சிப் நிறுவனத்தை அனுமான சந்தையில் நேரடி சவாலாக நிலைநிறுத்துகிறது, அங்கு நிறுவனங்கள் AI முகவர்கள், காப்பிலட்டுகள் மற்றும் மீட்டெடுப்பு-பெருக்கப்பட்ட பயன்பாடுகளை அளவில் பயன்படுத்துவதால் தேவை அதிகரித்து வருகிறது. AI வன்பொருள் பந்தயத்தைப் பற்றிய கூடுதல் சூழலுக்கு, எங்கள் AI செய்தித் தகவல் ஐப் பார்க்கவும்.

விவரக்குறிப்புகள்: SRAM முதல், DRAM இரண்டாவது

கிளவுட் AI 100 அல்ட்ராவின் மையத்தில் 64 AI கோர்கள் மற்றும் 576 MB ஆன்-டை SRAM உள்ளன. Qualcomm இன் பந்தயம் என்னவென்றால், மாடல் எடைகள் மற்றும் செயல்பாடுகளை கணினி அலகுகளுக்கு உடல் ரீதியாக நெருக்கமாக வைத்திருப்பது - ஒவ்வொரு டோக்கனையும் வெளிப்புற நினைவகத்திற்கு வெளியேற்றுவதை விட - மின்மாற்றி அடிப்படையிலான மாடல்களுக்கு பணம் செலுத்துகிறது, அவை நினைவக அலைவரிசையில் வாழ்ந்து இறக்கின்றன.

கார்டு இன்னும் 128 ஜிபி LPDDR4x நினைவகத்தைக் கொண்டுள்ளது, மேலும் பெரிய மாடல்கள் மற்றும் நீண்ட சூழல்களுக்கு 548 ஜிபி/வி அலைவரிசையுடன், 16 லேன்களுடன் PCIe Gen4 மூலம் இணைக்கப்பட்டுள்ளது. அந்த சேர்க்கை - பெரிய ஆன்-டை SRAM மற்றும் ஒரு மிதமான 150W பவர் டிரா - கார்டின் வேறுபாடு ஆகும். என்விடியாவின் டேட்டா சென்டர் GPUகள் பொதுவாக 300W முதல் 700W வரை இருக்கும், மேலும் டோக்கன் மூலம் அனுமானம் வசூலிக்கப்படும் போது ஒவ்வொரு வாட்டும் முக்கியமானது மற்றும் டேட்டா சென்டர் பவர் என்பது தொழில்துறையின் மிகவும் சர்ச்சைக்குரிய ஆதாரமாகும்.

"கிளவுட் AI 100 அல்ட்ரா ஒரு செயல்திறன் மற்றும் செலவு-உகந்த AI அனுமான தீர்வு" என்று நிறுவனம் தனது தயாரிப்பு பொருட்களில் கூறியது, கணினி பார்வை முதல் இயற்கை மொழி செயலாக்கம் வரையிலான பணிச்சுமைகளில் நிரலாக்கத்தை வலியுறுத்துகிறது.

மென்பொருள்: ஒரு OpenAI-இணக்கமான ஆன்-ராம்ப்

தரவு மையத்தில் வன்பொருள் குவால்காமின் பிரச்சனையாக இருந்ததில்லை; மென்பொருள் உள்ளது. நிறுவனம் தனது AI இன்ஃபெரன்ஸ் சூட் மூலம், சாட்போட்கள், காப்பிலட்டுகள் மற்றும் AI ஏஜெண்டுகளை உருவாக்குவதற்கான OpenAI-இணக்கமான API களை அம்பலப்படுத்தும் மென்பொருள் அடுக்கு.

இந்த தொகுப்பு அரட்டை, பட உருவாக்கம், மல்டிமாடல் மாடல்கள் மற்றும் மீட்டெடுப்பு-ஆக்மென்டட் ஜெனரேஷன் (RAG) பணிப்பாய்வுகளை ஆதரிக்கிறது மற்றும் குபெர்னெட்ஸ் அல்லது வெர்-மெட்டல் கொள்கலன்கள் வழியாக வரிசைப்படுத்துகிறது. குவால்காம் பயனர் மேலாண்மை மற்றும் நிர்வாகக் கருவிகளையும் அனுப்புகிறது - இது ஒரு அசிங்கமான கூடுதலாக, மூல முடுக்கி சலுகைகள் பெரும்பாலும் இல்லை.

OpenAI-இணக்கமான API மேற்பரப்பு மூலோபாய முக்கியத்துவம் வாய்ந்தது: இது குவால்காம் வன்பொருளில் இருக்கும் OpenAI-பிணைப்பு பைப்லைன்களை மீண்டும் எழுதுவதற்குப் பதிலாக உள்ளமைவு மாற்றத்துடன் டெவலப்பர்கள் சுட்டிக்காட்டுகிறது, இது இந்த சந்தையில் பதவியில் இருந்து பாதுகாக்கப்பட்ட மாறுதல் செலவைக் குறைக்கிறது.

ஒரு தெளிவான தலைவருடன் கூடிய கூட்டமான களம்

குவால்காம் ஒரு அனுமான சந்தையில் நுழைகிறது, இது AI வன்பொருள் சுழற்சியின் போர்க்களமாக மாறியுள்ளது. என்விடியாவின் L40S மற்றும் H100 ஆதிக்கம் செலுத்துகின்றன; AMD இன் MI300X மற்றும் Intel இன் Gaudi 3 ஆகியவை ஒரே பணிச்சுமைகளை இலக்காகக் கொண்டுள்ளன; மற்றும் க்ரோக் மற்றும் செரிப்ராஸின் சிறப்பு சிலிக்கான் மூல அனுமான வேகத்தில் முக்கிய இடங்களை உருவாக்கியுள்ளது.

கோரிக்கை தரப்பு போராட்டத்தை விளக்குகிறது. AI முகவர்கள் மற்றும் RAG பைப்லைன்களை வழங்குவது ஒரு பயனர் அமர்வு உருவாக்கும் மாடல் அழைப்புகளின் எண்ணிக்கையை பெருக்குகிறது, மேலும் அந்த அழைப்புகள் ஒவ்வொன்றும் ஒரு டோக்கனுக்கு சாத்தியமான குறைந்த செலவில் தீர்க்கப்பட வேண்டிய அனுமானச் சிக்கலாகும். ஹைப்பர்ஸ்கேலர்கள் அதைக் கையாள முதன்மையான GPUகளின் ரேக்குகளை வாங்குகிறார்கள்; அவற்றின் கீழ் உள்ள நிறுவனங்கள் தங்கள் மின்சார ஒப்பந்தங்களை மறுபரிசீலனை செய்யாமல், நிலையான மின்சுற்றில், நிலையான சர்வரில் பொருந்தக்கூடிய வன்பொருளைத் தேடுகின்றன.

Qualcomm இன் பிட்ச் என்பது உச்ச செயல்திறனைக் காட்டிலும் உரிமையின் மொத்தச் செலவாகும். அளவிலான அனுமானத்தை இயக்கும் நிறுவனங்களுக்கு, மின் நுகர்வு நேரடியாக இயக்கச் செலவுகளுக்குப் பாய்கிறது, மேலும் 150W இல் போட்டித் திறனை வழங்கும் அட்டையானது ப்ரூட்-ஃபோர்ஸ் GPUகளின் பொருளாதாரத்தைக் குறைக்கிறது. பயிற்சி என்விடியாவின் களமாகவே உள்ளது - அல்ட்ரா அதன் மீது எந்த உரிமைகோரலையும் கொண்டிருக்கவில்லை - ஆனால் தொழில்துறையின் அலகு பொருளாதாரம் உண்மையில் தீர்மானிக்கப்படும் இடமாக அனுமானம் உள்ளது, மேலும் இது வளாகத்தில் உள்ள கிளஸ்டரிலோ அல்லது ஒரு கூட்டுக் கூண்டிலோ பெரும்பாலான நிறுவனங்கள் தாங்களாகவே இயங்கும் பணிச்சுமையாகும்.

மென்பொருள் சுற்றுச்சூழல் அமைப்பு மேல்நோக்கிப் போராக உள்ளது. என்விடியாவின் CUDA இயங்குதளம் பெரும்பாலான AI டெவலப்பர்களுக்கு இன்னும் இயல்புநிலை தேர்வாக உள்ளது, மேலும் OpenAI-இணக்கமான APIகள் நுழைவதற்கான தடையை குறைக்கும் அதே வேளையில், தனிப்பயன் அனுமான பைப்லைன்களுக்கு தேவையான மறுவேலைகளை அவை அகற்றாது.

Qualcomm's Lineup இல் இது எங்கே பொருந்தும்

அல்ட்ரா Qualcomm இன் அனுமான வரிசையில் முதலிடத்தில் உள்ளது, இதில் Cloud AI 80 Ultra (அதே 576 MB SRAM உடன் INT8 இன் 618 TOPS வரை), Cloud AI 100 Pro மற்றும் Cloud AI 100 ஸ்டாண்டர்ட் ஆகியவை அடங்கும்.

கிளவுட் அளவிலான AI பணிச்சுமைகளுக்காக நிறுவனம் உருவாக்கி வரும் குவால்காமின் டிராகன்ஃபிளை டேட்டா சென்டர் சாலை வரைபடத்தின் தற்போதைய தலைமுறையை இந்த வெளியீடு பிரதிபலிக்கிறது - மேலும் இது விலை, தாமதம் அல்லது தரவு நிர்வாகக் காரணங்களுக்காக பொது கிளவுட்டில் இல்லாமல், வளாகத்தில் உருவாக்கும் AI அனுமானத்தை இயக்க விரும்பும் நிறுவனங்களுக்கான வாதத்தை இப்போது Qualcomm வழங்குகிறது.

பந்தயம், ஒரு வாக்கியத்தில்

குவால்காம் ஒரு சில ஹைப்பர்ஸ்கேலர்களில் இருந்து ஆயிரக்கணக்கான நிறுவனங்களுக்கு AI நகரும் போது, வெற்றிபெறும் அனுமான அட்டை வேகமானது அல்ல, ஆனால் மிகவும் திறமையானது. கிளவுட் ஏஐ 100 அல்ட்ரா என்பது சிலிக்கானில் உள்ள வாதம்; டெவலப்பர்கள் வாட்ஸைப் பின்பற்றுகிறார்களா என்பது திறந்த கேள்வியாகவே உள்ளது.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →