Meta ने MTIA 400 वरील पडदा मागे खेचला आहे, त्याचा पहिला सानुकूल प्रवेगक मोठ्या भाषेच्या मॉडेल्सना प्रशिक्षण देण्याच्या उद्देशाने आहे — एक असामान्य वळण घेऊन. या आठवड्यात वार्षिक हॉट चिप्स सेमीकंडक्टर कॉन्फरन्समध्ये तपशीलवार वर्णन केलेली चिप, मेटाच्या संपूर्ण एआय महत्त्वाकांक्षेसाठी जाहिरातींना निधी देणारी सखोल शिक्षण शिफारस करणारा वर्कलोड देखील घेऊन जाईल.

रजिस्टर, ज्याने प्रथम संपूर्ण तांत्रिक खुलासे नोंदवले, त्या डिझाइनला "स्प्लिट पर्सनॅलिटी" म्हटले: एका बाजूला फ्रंटियर-ट्रेनिंग चिप, तर दुसरीकडे जाहिरात देणारे इंजिन. मेटा आपले एआय भविष्य स्वतःच्या सिलिकॉनवर चालवण्याचा मानस आहे हे अद्याप सर्वात स्पष्ट चिन्ह आहे. चिप उद्योगाला आकार देणाऱ्या नवीनतम AI घडामोडी बद्दल अधिक माहितीसाठी, AI Buzz Wire चे अनुसरण करा.

AI ला ट्रेन का द्या आणि जाहिराती एकाच चिपवर का द्या?

सानुकूल AI प्रवेगक बनवणाऱ्या बहुतेक कंपन्या अनुमानाने सुरुवात करतात. क्लस्टर्स लहान आहेत, चिप्स सोप्या आहेत आणि काम चांगले समजले आहे. मेटा प्रथम LLM प्रशिक्षणाला लक्ष्य करून त्या ट्रेंडला चालना देत आहे — उद्योगातील सर्वात गणना-केंद्रित वर्कलोड, अनेकदा दहा किंवा शेकडो हजारो प्रवेगकांची आवश्यकता असते.

तडजोड हा दुसरा वर्कलोड आहे. डीएलआरएम अनुमान — वापरकर्ते कोणत्या जाहिराती आणि पोस्ट पाहतात हे ठरवणारे सखोल शिक्षण शिफारस करणारे मॉडेल — मुख्यत: कॉम्प्युट-बाउंड ऐवजी मेमरी-बाउंड आहे, याचा अर्थ जाहिरात सर्व्हिंग दरम्यान चिपची ट्रेनिंग फायरपॉवर निष्क्रिय असते. परंतु मेटा गणनेवर कोट्यवधी डॉलर्स बर्न करत असताना, एक चिप पुल डबल ड्युटी असणे हे एक व्यावहारिक बचाव आहे, विशेषत: जेव्हा दोन वापर प्रकरणांपैकी एक थेट महसूल उत्पन्न करते.

MTIA 400 च्या आत: 3nm Chiplets आणि Broadcom IP

मेटाच्या हॉट चिप्स प्रेझेंटेशननुसार, द रजिस्टर आणि सर्व्हेहोम द्वारे विश्लेषित केल्याप्रमाणे:

  • मल्टी-डाय आर्किटेक्चर: दोन कंप्युट मरतात, दोन I/O मरतात आणि एक SoC डाय हँडलिंग होस्ट कनेक्टिव्हिटी आणि वर्कलोड ऑर्केस्ट्रेशन
  • प्रोसेस नोड: कॉम्प्युट चिपलेट्स 3nm प्रोसेस टेक्नॉलॉजीवर बनवलेले आहेत, शक्यतो TSMC कडून
  • संगणना: प्रति चिपलेट प्रक्रिया घटकांची 6x8 ग्रिड, 1.7 GHz वर MXFP4 गणनेचे एकत्रित 12 petaFLOPS वितरित करते
  • मेमरी: आठ 36 GB HBM3e स्टॅक — अंदाजे 9.2 TB/s बँडविड्थसह एकूण 288 GB
  • इंटरकनेक्ट: RDMA वर 1.2 TB/s चिप-टू-चिप बँडविड्थ, ब्रॉडकॉमच्या सहभागामुळे इथरनेटची शक्यता

ब्रॉडकॉमचे फिंगरप्रिंट्स सर्वत्र आहेत. नोंदणी नोंदवते की एक्सीलरेटर जवळजवळ निश्चितपणे चिप डिझायनरच्या XPU IP वापरून तयार केला गेला होता - एक व्यावहारिक निवड जी मेटाला एक्सीलरेटर डिझाइनच्या अप्रतिम भागांचे आउटसोर्सिंग करताना भिन्नतेवर लक्ष केंद्रित करू देते.

हे Nvidia आणि AMD विरुद्ध कसे स्टॅक करते

कामगिरी चित्र सूक्ष्म आहे. सामान्यतः प्रशिक्षणासाठी वापरल्या जाणाऱ्या उच्च अचूकतेवर, MTIA 400 समान शक्ती काढताना Nvidia च्या टॉप-स्पेक ब्लॅकवेल प्रवेगकांपेक्षा अंदाजे 20% वेगवान आहे. त्याची मेमरी बँडविड्थ Nvidia आणि AMD च्या मागील पिढीच्या भागांपेक्षा सुमारे 15% चांगली आहे.

परंतु नवीन पिढीच्या विरूद्ध, अंतर झपाट्याने रुंद होते: MTIA 400 Nvidia च्या रुबिन आणि AMD च्या Instinct MI455X पेक्षा अनुक्रमे 3x आणि 3.3x मंद आहे आणि ते त्या नवीन GPU च्या अर्ध्याहून कमी मेमरी बँडविड्थ देते. ही तूट तंतोतंत का आहे की मेटा एक अनुमान चिप ऐवजी प्रशिक्षण चिप म्हणून भाग ठेवत आहे — टोकन सर्व्ह करण्यासाठी, त्यात बरेच जलद पर्याय आहेत.

सिस्टम स्तरावर, उद्योग मानक रॅकचे साम्य उल्लेखनीय आहे. प्रत्येक कंप्युट ब्लेडमध्ये PCIe स्विच, एक x86 CPU आणि स्केल-आउट NIC सह चार MTIA 400 प्रवेगक जोडले जातात. एका पूर्ण रॅकमध्ये 18 कंप्यूट ब्लेड आणि आठ स्विच ब्लेड असतात - एकाच युनिफाइड डोमेनमध्ये 72 प्रवेगक, एक कॉन्फिगरेशन जे Nvidia च्या NVL72 आणि AMD च्या Helios रॅक डिझाइनला प्रतिबिंबित करते. मेटा च्या स्लाइड्स क्लस्टर सीलिंग्स निर्दिष्ट न करता "मल्टी-हजार प्रवेगक स्केलिंग" चे वचन देतात.

रोडमॅप: पुढील वर्षी MTIA 450

MTIA 400 ही ओळीचा शेवट नाही. मेटाने मार्चमध्ये खुलासा केला की ते चार नवीन MTIA पिढ्यांमध्ये सहा महिन्यांच्या रिलीझ कॅडेन्सची योजना आखत आहे आणि पुढील स्टॉप MTIA 450 आहे - एक अनुमान-ऑप्टिमाइज्ड व्हेरिएंट मेमरी बँडविड्थ दुप्पट करणे अपेक्षित आहे, संभाव्यत: HBM4 स्वीकारून. ती चिप पुढील वर्षी उत्पादनासाठी निश्चित केली आहे आणि LLM-आधारित शिफारस वर्कलोड चालविण्यासाठी योग्य असावी.

प्रगती असूनही, रजिस्टरचे विश्लेषण अस्पष्ट आहे: Meta चे इन-हाउस सिलिकॉन AMD किंवा Nvidia GPU ची जागा लवकरच घेणार नाही. मेटा सुपरइंटलिजेन्स लॅब्स जवळजवळ निश्चितपणे अजूनही पारंपरिक GPU वर फ्रंटियर मॉडेल्सचे प्रशिक्षण देत आहेत आणि ॲप्लिकेशन-विशिष्ट हार्डवेअर चांगल्या प्रकारे समजल्या जाणाऱ्या, स्थिर वर्कलोडसाठी सर्वात योग्य आहे.

हे महत्त्वाचे का आहे

MTIA 400 दोन कारणांसाठी महत्त्वाचे आहे. प्रथम, हे सर्वात कठीण वर्कलोडवर हल्ला करण्यास इच्छुक हायपरस्केलर दर्शविते — फ्रंटियर ट्रेनिंग — सोपे निष्कर्ष जिंकण्याऐवजी. दुसरे, डिझाइनची जाहिरात देणारी बाजू ही अर्थशास्त्राची आठवण करून देणारी आहे: कस्टम सिलिकॉनवरील कॅपेक्सचा प्रत्येक डॉलर इतिहासातील सर्वात फायदेशीर जाहिरात व्यवसायाद्वारे अंडरराइट केला जातो. जर मेटा त्याच्या प्रशिक्षणाचा आणि शिफारशीच्या वर्कलोडचा थोडासा भाग व्यापारी GPU मधून हलवू शकला, तर त्याच्या स्केलवर होणारी बचत अब्जावधींमध्ये मोजली जाईल.

स्रोत: Meta's Hot Chips 2026 सादरीकरण, The Register आणि ServeTheHome.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →