AI انفراسٹرکچر کی معاشیات پلٹ گئی ہے۔ پوزیٹرون اے آئی کے ایگزیکٹو کیمرون میک کاسکل کے مطابق، جس نے SC26 سپر کمپیوٹنگ کانفرنس میں CUBE ریسرچ کے ساتھ ایک انٹرویو میں اعداد و شمار کا اشتراک کیا، کے مطابق، آج کل AI انفراسٹرکچر کے ذریعے چلنے والے تقریباً دو تہائی کام کا بوجھ تربیت کے بجائے تخمینہ ہے۔ تین سال پہلے، تقسیم تقریباً بالکل برعکس تھی: تقریباً 85 فیصد تربیت اور 15 فیصد تخمینہ۔

یہ الٹ پلٹ خاموشی سے اس نقشے کو دوبارہ تیار کر رہا ہے جہاں AI کمپیوٹ رہتا ہے - اور یہ بتاتا ہے کہ کیوں inference-first chipmakers کی ایک نئی نسل اچانک اپنے سے کہیں بڑی کمپنیوں سے کلاؤڈ ڈیل جیت رہی ہے۔

پلٹنے کے پیچھے نمبر

"ہم اس مقام پر ہیں جہاں ان AI انفراسٹرکچرز کے ذریعے چلائے جانے والے کام کے بوجھ کا تقریباً دو تہائی حصہ تربیت کا ہے بمقابلہ ایک تہائی تربیت ہے،" پوزیٹرون میں سیلز اور بزنس ڈویلپمنٹ کے سربراہ میک کاسکل نے CUBE ریسرچ کی ریبیکا نائٹ اور جان فرئیر کے ساتھ انٹرویو میں کہا۔ "2023 میں، یہ 85% ٹریننگ، 15% تخمینہ کی طرح تھا۔ تو اب آپ دیکھ سکتے ہیں کہ کیوں انفرنس معاشی فیصلوں کو آگے بڑھا رہا ہے کہ وہ اپنے انفراسٹرکچر کو کیسے تیار کرنے جا رہے ہیں۔"

تبدیلی بدیہی معنی رکھتی ہے۔ تربیت اربوں ڈالر کے کلسٹرز کے ساتھ مٹھی بھر فرنٹیئر لیبز میں ہوتی ہے۔ اندازہ ہر جگہ ہوتا ہے، جب بھی کوئی صارف کسی ماڈل کا اشارہ کرتا ہے — اور جیسا کہ صارف اور انٹرپرائز اپنانے میں اضافہ ہوا ہے، ٹوکنز کی مجموعی مانگ نے تربیتی دور کے لیے بنائے گئے انفراسٹرکچر کو مغلوب کر دیا ہے۔ پاور، کولنگ، اور میموری سپلائی اب شکل اختیار کر لیتی ہے جہاں ٹوکنز اتنے ہی تیار ہوتے ہیں جتنا کہ خام چپ کی کارکردگی، اور یہ تبدیلیاں ہوتی ہیں جس سے ہارڈویئر سودے جیتتا ہے۔

کموڈٹی میموری پر پوزیٹرون کی شرط

Positron AI، جس نے ستمبر میں 5 بلین ڈالر کی قیمت پر 875 ملین ڈالر اکٹھے کیے، نے اپنی پوری حکمت عملی تخمینہ کے دور کے ارد گرد بنائی ہے۔ کمپنی کا مرکزی ڈیزائن کا انتخاب: ہائی بینڈ وڈتھ میموری (HBM) کو چھوڑیں، جو کہ قلیل اور مہنگی میموری کی قسم ہے جو زیادہ تر AI ایکسلریٹر کو اینکر کرتی ہے، اور اس کی بجائے کموڈٹی میموری کے ارد گرد انفرنس ایپلائینسز بنائیں۔

McCaskill نے کہا، "انڈسٹری میں ہر کوئی بہت زیادہ استعمال کر رہا ہے جسے HBM یا ہائی بینڈوتھ میموری کہا جاتا ہے۔ یہ سپلائی میں بہت محدود ہے، بہت مہنگا ہے،" McCaskill نے کہا۔ "ہم کموڈٹی میموری کے ساتھ گئے تھے۔"

تجارت جان بوجھ کر کی جاتی ہے۔ کموڈٹی میموری سستی اور منبع کرنے میں کہیں زیادہ آسان ہے، اور پوزیٹرون کا فن تعمیر ہوا سے ٹھنڈے کمروں کے لیے طاقت کو کافی کم رکھتا ہے - کسی غیر ملکی مائع کولنگ کی ضرورت نہیں ہے۔ ایک واحد پوزیٹرون سرور تقریباً 4,500 واٹ حاصل کرتا ہے، اور کمپنی کے آنے والے ٹائٹن سرورز کا ایک مکمل ریک 40 کلو واٹ کے اندر فٹ ہوجاتا ہے۔

روڈ میپ تیزی سے آگے بڑھ رہا ہے۔ Positron کی پہلی نسل کا اٹلس سرور ایک قابل پروگرام چپ پر چلتا ہے، اور کمپنی اگلے سال کے شروع میں ٹائٹن سرور کے لیے اپنا سلکان ٹیپ کرنے کا ارادہ رکھتی ہے۔ کمپنی پہلے ہی مارکی تعیناتیاں کرچکی ہے: اوریکل اس سہ ماہی میں تقریباً 340 اٹلس سرورز اپنے کلاؤڈ میں لائیو لا رہا ہے، میک کاسکل کے مطابق، اور ایک نیوکلاؤڈ فراہم کنندہ نے ٹائٹن کی آنے والی نسل کے لیے وابستگی کے دوران اٹلس کے لیے دستخط کیے ہیں۔

ماڈیولر ڈیٹا سینٹرز انفرنس کے لیے قدرتی گھر بن جاتے ہیں۔

شاید انٹرویو کا سب سے نتیجہ خیز حصہ وہ ہے جہاں McCaskill کا کہنا ہے کہ مطالبہ آ رہا ہے: ہائپر اسکیل کیمپس نہیں، لیکن چھوٹی، تیز، ماڈیولر سہولیات۔

"کمپنیوں کے گروپوں میں سے ایک جن میں ہم اس وقت اضافہ دیکھ رہے ہیں اور ہمارے پاس پروڈکٹ کے لیے آرہے ہیں، یہ ماڈیولر ڈیٹا سینٹرز ہیں، جہاں ان کے پاس آدھا میگا واٹ یا 1 میگا واٹ یا 2.5 میگا واٹ کا ماڈیولر ڈیٹا سینٹر ہے، اور ان کو بہت جلد تعینات کیا جا سکتا ہے۔" انہوں نے کہا۔ "ان بہت سارے انفرنس پلیئرز کا مقصد یہ ہے کہ میں زمین اور طاقت سے 90 سے 120 دنوں کے اندر منیٹائز ایبل ٹوکن حاصل کرنا چاہتا ہوں۔"

وہ ٹائم لائن - گراؤنڈ کو توڑنے سے لے کر آمدنی تک تقریبا ایک چوتھائی - گیگا واٹ پیمانے کے تربیتی کیمپس کے لیے ناممکن ہے، جسے اجازت دینے، تعمیر کرنے اور توانائی بخشنے میں برسوں لگ سکتے ہیں۔ انفرنس ورک بوجھ چھوٹے، جغرافیائی طور پر زیادہ لچکدار، اور ایسی سائٹس کے لیے روادار ہیں جہاں آپریٹرز بھاری ریگولیٹری رکاوٹوں کے بغیر چند میگا واٹ سستی بجلی حاصل کر سکتے ہیں۔ نتیجہ یہ ہے کہ ٹیلکو سائٹس، کولیکشن کی سہولیات، اور ماڈیولر یونٹس میں موجود تقسیم شدہ انفراسٹرکچر کا ابھرتا ہوا درجہ ہے جہاں اصل میں طلب ہے۔

صنعت کے لیے اس کا کیا مطلب ہے۔

چپ فروشوں کے لیے، پیغام یہ ہے کہ AI ہارڈویئر مارکیٹ تقسیم ہو رہی ہے۔ تربیت سب سے زیادہ جدید ایکسلریٹر اور گہری جیبوں کو انعام دیتی ہے۔ اندازہ مختلف خوبیوں کو انعام دیتا ہے: بجلی کی کارکردگی، میموری کی قیمت، تعیناتی کی رفتار، اور عام ہوا سے ٹھنڈا عمارتوں میں چلانے کی صلاحیت۔ صرف تربیتی دوڑ کے لیے موزوں فروخت کنندگان مستقبل میں تعیناتی کے فیصلوں کا سب سے بڑا حجم تلاش کر سکتے ہیں — جہاں ٹوکنز اصل میں منیٹائز کیے جاتے ہیں — جو ہارڈ ویئر پر مختلف رکاوٹوں کے لیے ڈیزائن کیے گئے ہیں۔

انٹرپرائزز اور کلاؤڈ صارفین کے لیے، شفٹ زیادہ تر پوشیدہ ہے لیکن تیزی سے نتیجہ خیز ہے: 90 سے 120 دن کے اضافے میں پہنچنے والی تخمینہ صلاحیت کا مطلب ہے صارفین اور ڈیٹا کے قریب ماڈل چلانے کے لیے زیادہ مسابقتی قیمت اور زیادہ جغرافیائی اختیارات۔

اور AI انڈسٹری کے تعمیراتی بیانیے کے لیے - جسے اکثر گیگا واٹ کیمپسز کے لیے ایک نہ ختم ہونے والی دوڑ کے طور پر تیار کیا جاتا ہے - انفرنس فلپ ایک یاد دہانی ہے کہ ڈیمانڈ کریو وسیع ہو رہا ہے، نہ صرف پیمانہ۔ SC26 میں جس دو تہائی سنگ میل کا حوالہ دیا گیا ہے وہ ایک ایگزیکٹو کا تخمینہ ہے، لیکن یہ اس سمت سے میل کھاتا ہے جس کی اطلاع ہر بڑے کلاؤڈ آپریٹر نے دی ہے: AI بلڈ آؤٹ کا مرکز ثقل ماڈلز کی تربیت سے لے کر ان کی خدمت کی طرف بڑھ رہا ہے۔

اے آئی سے آگے رہیں

AI ہارڈویئر اور انفراسٹرکچر کی خبروں کے لیے آپ کا ذریعہ AI Buzz Wire کے ساتھ ہونے والی تازہ ترین AI پیشرفت کو ٹریک کریں۔

مزید AI خبریں پڑھیں →