মেটা MTIA 400-এর পর্দা ফিরিয়ে এনেছে, এটির প্রথম কাস্টম অ্যাক্সিলারেটর বৃহৎ ভাষার মডেলদের প্রশিক্ষণ দেওয়ার লক্ষ্যে - একটি অস্বাভাবিক মোচড় দিয়ে। এই সপ্তাহে বার্ষিক হট চিপস সেমিকন্ডাক্টর কনফারেন্সে বিস্তারিত চিপটি, ডিপ লার্নিং রিকমেন্ডার ওয়ার্কলোডও বহন করবে যা মেটার সম্পূর্ণ AI উচ্চাকাঙ্ক্ষার জন্য বিজ্ঞাপনে অর্থায়ন করে।

দ্য রেজিস্টার, যেটি প্রথমে সম্পূর্ণ প্রযুক্তিগত প্রকাশের রিপোর্ট করেছিল, ডিজাইনটিকে একটি "বিভক্ত ব্যক্তিত্ব" বলে অভিহিত করেছে: একদিকে একটি সীমান্ত-প্রশিক্ষণ চিপ, অন্যদিকে একটি বিজ্ঞাপন পরিবেশনকারী ইঞ্জিন৷ এটি এখনও সবচেয়ে স্পষ্ট লক্ষণ যে মেটা তার নিজস্ব সিলিকনে তার AI ভবিষ্যত চালাতে চায়। সর্বশেষ AI উন্নয়ন চিপ শিল্পকে রূপ দেওয়ার বিষয়ে আরও জানতে, AI Buzz Wire অনুসরণ করুন।

কেন এআইকে প্রশিক্ষণ দেবেন এবং একই চিপে বিজ্ঞাপন পরিবেশন করবেন?

কাস্টম এআই এক্সিলারেটর তৈরির বেশিরভাগ কোম্পানি অনুমান দিয়ে শুরু করে। ক্লাস্টারগুলি ছোট, চিপগুলি সহজ এবং কাজটি ভালভাবে বোঝা যায়। মেটা প্রথমে LLM প্রশিক্ষণকে টার্গেট করে সেই প্রবণতাকে সমর্থন করছে — শিল্পের সবচেয়ে গণনা-নিবিড় কাজের চাপ, প্রায়শই দশ বা কয়েক হাজার এক্সিলারেটরের প্রয়োজন হয়।

আপস দ্বিতীয় কাজের চাপ। DLRM অনুমান - ডিপ লার্নিং সুপারিশকারী মডেল যা সিদ্ধান্ত নেয় যে ব্যবহারকারীরা কোন বিজ্ঞাপন এবং পোস্টগুলি দেখেন - প্রধানত কম্পিউট-বাউন্ডের পরিবর্তে মেমরি-বাউন্ড, যার অর্থ বিজ্ঞাপন পরিবেশনের সময় চিপের বেশিরভাগ প্রশিক্ষণ ফায়ারপাওয়ার নিষ্ক্রিয় থাকে। কিন্তু মেটা কম্পিউটে কয়েক বিলিয়ন ডলার বার্ন করার সাথে, এক চিপ পুল ডাবল ডিউটি ​​থাকা একটি বাস্তবসম্মত হেজ, বিশেষ করে যখন দুটি ব্যবহারের ক্ষেত্রে একটি সরাসরি রাজস্ব উৎপন্ন করে।

MTIA 400 এর ভিতরে: 3nm চিপলেট এবং ব্রডকম আইপি

মেটার হট চিপস উপস্থাপনা অনুসারে, দ্য রেজিস্টার এবং সার্ভ দ্যহোম দ্বারা বিশ্লেষণ করা হয়েছে:

  • মাল্টি-ডাই আর্কিটেকচার: দুটি কম্পিউট ডাই, দুটি আই/ও মারা যায় এবং একটি SoC ডাই হ্যান্ডলিং হোস্ট কানেক্টিভিটি এবং ওয়ার্কলোড অর্কেস্ট্রেশন
  • প্রসেস নোড: কম্পিউট চিপলেটগুলি 3nm প্রক্রিয়া প্রযুক্তিতে তৈরি করা হয়েছে, সম্ভবত TSMC থেকে
  • কম্পিউট: প্রতি চিপলেটে প্রসেসিং উপাদানগুলির একটি 6x8 গ্রিড, 1.7 GHz এ MXFP4 কম্পিউটের সম্মিলিত 12 petaFLOPS প্রদান করে
  • মেমরি: আটটি 36 GB HBM3e স্ট্যাক — মোটামুটি 9.2 TB/s ব্যান্ডউইথ সহ মোট 288 GB
  • ইন্টারকানেক্ট: RDMA এর উপর চিপ-টু-চিপ ব্যান্ডউইথের 1.2 TB/s, সম্ভবত ইথারনেট ব্রডকমের জড়িত থাকার কারণে

ব্রডকমের আঙুলের ছাপ সর্বত্র রয়েছে। রেজিস্টার নোট করে যে অ্যাক্সিলারেটরটি প্রায় নিশ্চিতভাবে চিপ ডিজাইনারের XPU আইপি ব্যবহার করে তৈরি করা হয়েছিল - একটি বাস্তবসম্মত পছন্দ যা মেটাকে এক্সিলারেটর ডিজাইনের অস্পষ্ট অংশগুলি আউটসোর্স করার সময় পার্থক্যের উপর ফোকাস করতে দেয়।

এটি কীভাবে এনভিডিয়া এবং এএমডির বিরুদ্ধে স্ট্যাক আপ করে

কর্মক্ষমতা ছবি nuanced হয়. সাধারণত প্রশিক্ষণের জন্য ব্যবহৃত উচ্চতর নির্ভুলতায়, MTIA 400 অনুরূপ শক্তি আঁকতে গিয়ে Nvidia-এর টপ-স্পেক ব্ল্যাকওয়েল এক্সিলারেটরের তুলনায় প্রায় 20% দ্রুত। এর মেমরি ব্যান্ডউইথ Nvidia এবং AMD এর আগের প্রজন্মের যন্ত্রাংশের তুলনায় প্রায় 15% ভালো।

কিন্তু নতুন প্রজন্মের বিপরীতে, ব্যবধানটি তীব্রভাবে প্রসারিত হয়: MTIA 400 যথাক্রমে Nvidia's Rubin এবং AMD এর Instinct MI455X এর চেয়ে 3x এবং 3.3x ধীরগতির, এবং এটি সেই নতুন GPU গুলির অর্ধেকেরও কম মেমরি ব্যান্ডউইথ অফার করে৷ এই ঘাটতির কারণেই মেটা অংশটিকে একটি অনুমান চিপের পরিবর্তে একটি প্রশিক্ষণ চিপ হিসাবে অবস্থান করছে — টোকেন পরিবেশনের জন্য, এটিতে আরও দ্রুত বিকল্প রয়েছে।

সিস্টেম স্তরে, শিল্পের স্ট্যান্ডার্ড র্যাকের সাদৃশ্য লক্ষণীয়। প্রতিটি কম্পিউট ব্লেড একটি PCIe সুইচ, একটি x86 CPU, এবং একটি স্কেল-আউট NIC সহ চারটি MTIA 400 এক্সিলারেটর যুক্ত করে। একটি সম্পূর্ণ র‍্যাকে 18টি কম্পিউট ব্লেড এবং আটটি সুইচ ব্লেড রয়েছে — একটি একক ইউনিফাইড ডোমেনে 72টি এক্সিলারেটর, একটি কনফিগারেশন যা এনভিডিয়ার এনভিএল72 এবং এএমডির হেলিওস র‍্যাক ডিজাইনকে প্রতিফলিত করে। মেটার স্লাইডগুলি ক্লাস্টার সিলিং নির্দিষ্ট না করেই "মাল্টি-হাজার অ্যাক্সিলারেটর স্কেলিং" প্রতিশ্রুতি দেয়।

রোডম্যাপ: MTIA 450 পরের বছর

MTIA 400 লাইনের শেষ নয়। মেটা মার্চ মাসে প্রকাশ করেছে যে এটি চারটি নতুন MTIA জেনারেশন জুড়ে একটি ছয় মাসের রিলিজ ক্যাডেন্সের পরিকল্পনা করেছে, এবং পরবর্তী স্টপ হল MTIA 450 - একটি অনুমান-অপ্টিমাইজড বৈকল্পিক যা মেমরি ব্যান্ডউইথ দ্বিগুণ করবে বলে আশা করা হচ্ছে, সম্ভবত HBM4 গ্রহণ করে। এই চিপটি পরের বছর উৎপাদনের জন্য নির্ধারিত এবং LLM-ভিত্তিক সুপারিশ কাজের চাপ চালানোর জন্য উপযুক্ত হওয়া উচিত।

অগ্রগতি সত্ত্বেও, দ্য রেজিস্টারের বিশ্লেষণ অস্পষ্ট: মেটার ইন-হাউস সিলিকন শীঘ্রই যে কোনও সময় AMD বা Nvidia GPU-কে প্রতিস্থাপন করবে না। মেটা সুপার ইন্টেলিজেন্স ল্যাবগুলি প্রায় নিশ্চিতভাবে এখনও প্রচলিত GPU-তে সীমান্ত মডেলগুলিকে প্রশিক্ষণ দিচ্ছে, এবং অ্যাপ্লিকেশন-নির্দিষ্ট হার্ডওয়্যারগুলি ভালভাবে বোঝা, স্থিতিশীল কাজের চাপের জন্য সবচেয়ে উপযুক্ত।

কেন এটা গুরুত্বপূর্ণ

MTIA 400 দুটি কারণে গুরুত্বপূর্ণ। প্রথমত, এটি একটি হাইপারস্কেলার দেখায় যে সহজ অনুমান জয়ের পরিবর্তে সবচেয়ে কঠিন কাজের চাপ - সীমান্ত প্রশিক্ষণ - আক্রমণ করতে ইচ্ছুক। দ্বিতীয়ত, ডিজাইনের বিজ্ঞাপন পরিবেশনকারী দিকটি হল অর্থনীতির একটি অনুস্মারক: কাস্টম সিলিকনে ক্যাপেক্সের প্রতিটি ডলার ইতিহাসের সবচেয়ে লাভজনক বিজ্ঞাপন ব্যবসার দ্বারা আন্ডাররাইট করা হয়। মেটা যদি মার্চেন্ট জিপিইউ থেকে তার প্রশিক্ষণ এবং সুপারিশ কাজের লোডের একটি ভগ্নাংশও স্থানান্তর করতে পারে, তবে এর স্কেলে সঞ্চয় বিলিয়নে পরিমাপ করা হবে।

সূত্র: Meta's Hot Chips 2026 উপস্থাপনা, The Register, and ServeTheHome.

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →