گوگل نے اپنے آٹھویں جنریشن کے TPU پورٹ فولیو کو دو نئے سسٹمز کے ساتھ بڑھایا ہے — محفوظ، رازدارانہ اندازے کے لیے TPU 8tx اور بڑے سیاق و سباق کی ونڈوز کے لیے TPU 8i Max — پہلی بار کمپنی نے ایک سال میں چار TPU سسٹم بھیجے ہیں۔
پیر کو شائع ہونے والی ایک بلاگ پوسٹ میں، گوگل نے کہا کہ یہ دو اضافے کام کے بوجھ والے پروفائل کے لیے بنائے گئے ہیں جو بمشکل موجود تھے جب ایک دہائی قبل پہلی TPU نے لانچ کیا تھا: خود مختار ایجنٹوں کے بیڑے بہت زیادہ سیاق و سباق کی ونڈوز پر استدلال کرتے ہیں اور حساس انٹرپرائز ڈیٹا کو ہینڈل کرتے ہیں۔ "کمپیوٹنگ انسان سے ایجنٹ پیمانے پر منتقل ہونے کے ساتھ، کاروبار ایسے ایکسلریٹر کے لیے پوچھ رہے ہیں جو AI ماڈلز کے بڑے سیاق و سباق کی کھڑکیوں پر استدلال کر سکتے ہیں،" کمپنی نے لکھا۔ "اس کے علاوہ، کچھ انتہائی ریگولیٹڈ گاہک منفرد کام کے بوجھ کے لیے خصوصی خفیہ کاری کی صلاحیتوں کے لیے پوچھ رہے ہیں۔" For more context on this story, see our ongoing breaking AI news.
ایجنٹی لائف سائیکل کے ہر مرحلے کے لیے ایک نظام
آٹھویں جنریشن کا آغاز اپریل میں گوگل کلاؤڈ نیکسٹ میں TPU 8t کے ساتھ ہوا، جو بڑے پیمانے پر تربیت کے لیے بنایا گیا تھا، اور TPU 8i، جو حقیقی وقت کے استدلال کے لیے بنایا گیا تھا۔ گوگل نے پچھلی نسل کے مقابلے میں 8t کے لیے 2.7 گنا بہتر تربیتی کارکردگی اور 8i کے لیے 80% بہتر تخمینہ قیمت کی کارکردگی کا حوالہ دیا۔
دو نئے آنے والوں نے باقی ماندہ علاقے کو تقسیم کر دیا۔ جیسا کہ گوگل نے کہا ہے، چار سسٹم مل کر صارفین کو "ایجنٹک لائف سائیکل کے ہر مرحلے کے لیے ایک مقصد سے بنایا ہوا ایکسلریٹر" فراہم کرتے ہیں: اسکیل اپ ٹریننگ کے لیے TPU 8t، کم تاخیر سے استدلال کے لیے TPU 8i، خفیہ کمپیوٹنگ کے لیے TPU 8tx، اور TPU 8i Max بڑے پیمانے پر سیاق و سباق والی ونڈوز کے لیے اور سب سے زیادہ کمپیوٹ ریکڈن کے لیے۔
TPU 8tx: ہارڈ ویئر میں شامل سیکیورٹی
TPU 8tx کو محفوظ اور رازدارانہ اندازے کے لیے بہتر بنایا گیا ہے اور گوگل نوٹ کرتا ہے کہ یہ چھوٹے پیمانے کی تربیت کے لیے بھی موزوں ہے۔ ہدف کا صارف واضح ہے: ریگولیٹڈ انٹرپرائزز اور حکومتیں جو اپنے انتہائی حساس ڈیٹا کے ساتھ فرنٹیئر یا ملکیتی ماڈلز اور خود مختار ایجنٹس چلا رہے ہیں۔
انجینئرنگ کا نقطہ نظر محفوظ کمپیوٹنگ میں دیرینہ تناؤ کو دور کرتا ہے۔ ڈیٹا کو عام طور پر انکرپٹ کیا جاتا ہے جب اسٹور یا ٹرانسمٹ کیا جاتا ہے، لیکن اسے میموری میں ان لاک کرنا پڑتا ہے جب کمپیوٹر اس پر کارروائی کرتا ہے — جس لمحے یہ سب سے زیادہ بے نقاب ہوتا ہے۔ TPU 8t جیسے سلکان پر بنایا گیا ہے اور 5th جنریشن AMD EPYC CPU میزبانوں کے ساتھ جوڑا بنا ہوا ہے، TPU 8tx براہ راست ہارڈ ویئر کی تہہ میں سیکیورٹی بناتا ہے، حساس ڈیٹا اور ماڈل کے وزن کو محفوظ اور الگ تھلگ رکھتے ہوئے بھی فعال استعمال میں۔
یہ سسٹم وہی کم لیٹنسی والے "بورڈ فلائی" نیٹ ورک کا استعمال کرتا ہے جسے گوگل نے ریئل ٹائم استدلال کے لیے بنایا ہے، جس کا مطلب ہے کہ یہ بیک وقت ٹریننگ گریڈ کمپیوٹ اور تیز اندازہ کو سنبھال سکتا ہے۔ گوگل کا کہنا ہے کہ یہ تنظیموں کو نجی ڈیٹا کے ساتھ ماڈلز کو ٹھیک کرنے دیتا ہے، بڑے ماڈلز کو چھوٹے ماڈلز میں ڈسٹل کرتا ہے، اور ایک ہی سسٹم پر کمک سیکھنے کے ذریعے ایجنٹوں کو تربیت دیتا ہے — الگ الگ کلسٹرز کے درمیان حساس ڈیٹا کو منتقل کیے بغیر۔
TPU 8i میکس: میموری وال پر حملہ کرنا
TPU 8i Max ایک مختلف رکاوٹ سے پوری طرح نمٹتا ہے۔ گوگل نے لکھا، "جب درجنوں AI ایجنٹس ایک ساتھ پورے سافٹ ویئر کوڈبیس یا ویڈیو کے گھنٹوں پر ایک ساتھ کام کرتے ہیں، تو میموری بینڈوڈتھ تیزی سے رکاوٹ بن جاتی ہے۔" کمپنی کا جواب آرکیٹیکچرل ہے: دو کم تاخیر والے TPU 8i چپس کو ایک پیکج پر ملایا گیا ہے۔
نتیجہ ایک ایسا نظام ہے جو لاک اسٹیپ میں کمپیوٹ اور میموری کو اسکیل کرتا ہے — کمپیوٹ کو دوگنا، SRAM کو دوگنا، اور TPU 8i کی HBM بینڈوتھ کو دوگنا کرتا ہے۔ اور چونکہ TPU 8i Max موجودہ ریک فٹ پرنٹ کے اندر سلیکون سے دوگنا فٹ بیٹھتا ہے، گوگل کا کہنا ہے کہ ڈیٹا سینٹرز فی مربع فٹ اور فی واٹ نمایاں طور پر زیادہ کمپیوٹنگ پاور تعینات کر سکتے ہیں، یہ ایک معنی خیز غور ہے جب پاور اور فلور اسپیس AI صلاحیت کی توسیع میں پابند رکاوٹ ہیں۔
کیوں سسٹمز، چپس نہیں۔
پیر کے اعلان میں ایک اہم بات یہ ہے کہ گوگل ان کو نئے چپس کے بجائے نئے سسٹم کے طور پر تیار کر رہا ہے۔ کمپنی بتاتی ہے کہ ایک چپ ڈیزائن کرنا، فزکس اور مینوفیکچرنگ ٹائم لائنز کے پابند اربوں ٹرانجسٹروں کو بچھانے کا ایک کثیر سالہ عمل ہے۔ ایک نظام - کس طرح کمپیوٹ، نیٹ ورکنگ، اسٹوریج، اور پیکیجنگ ایک چپ کے ارد گرد ترتیب دیا جاتا ہے - بہت تیزی سے ایڈجسٹ کیا جا سکتا ہے.
یہ ماڈیولریٹی گوگل کی AI ہائپر کمپیوٹر حکمت عملی کا بنیادی مرکز ہے، اور یہی وہ چیز ہے جس نے چار خصوصی نظاموں کو ایک ہی نسل میں بھیجنے کی اجازت دی۔ گوگل نے اس بات پر بھی روشنی ڈالی کہ اس کا اپنا AI انفراسٹرکچر اب ہارڈ ویئر کی تعمیر میں کتنا کام کرتا ہے: کمپنی ڈیپ مائنڈ کے AlphaChip کمک سیکھنے کے نظام کا استعمال کرتی ہے، اور کہتی ہے کہ Gemini اب "ہفتوں کے بجائے گھنٹوں میں" چپ لے آؤٹ فراہم کرنے میں مدد کرتی ہے۔ گوگل اسے "حقیقی کو-ڈیزائن" اور ایک منفرد تفریق کرنے والا کہتا ہے۔
مسابقتی سیاق و سباق
AI ایکسلریٹروں میں تیز مسابقت کے درمیان توسیع کا آغاز ہوا۔ TPU کی تعیناتیوں نے Google کی اپنی دیواروں کے باہر ماڈلز پیش کرنے میں ان کے کردار کی طرف توجہ مبذول کرائی ہے — کمپنی نوٹ کرتی ہے کہ TPUs اب اپنے جیمنی ماڈلز، ایجنٹی کام کے بوجھ، Google کلاؤڈ کسٹمر سروسز، اور صارفین کے اپنے ڈیٹا سینٹرز میں TPUs کی براہ راست تعیناتیوں کے لیے اب پاور ٹریننگ اور خدمات انجام دے رہے ہیں۔ گوگل TPUs کو "تیزی سے بڑھتے ہوئے کاروبار" کے طور پر بیان کرتا ہے۔
اعلان کی کوریج، بشمول TechPowerUp اور Electronics Weekly کے ٹکڑوں نے، اس اقدام کو واضح طور پر مسابقتی شرائط میں تیار کیا - Google اپنی کسٹم سلکان لائن اپ کو بڑھا رہا ہے کیونکہ یہ AI کام کے بوجھ کو عدالت کرتا ہے جو کہ دوسری صورت میں NVIDIA ہارڈویئر پر چل سکتا ہے۔ NVIDIA نے اپنے حصے کے لیے، اپنے ریک اسکیل سسٹمز کی پے در پے نسلوں کی ترسیل جاری رکھی ہے، جس سے AI بنیادی ڈھانچے کے خریداروں کو مرچنٹ اور کسٹم سلیکون کے درمیان تیزی سے قابل اعتبار انتخاب مل گیا ہے۔
ڈویلپرز کے لیے اس کا کیا مطلب ہے۔
ڈویلپرز کے لیے، عملی اہمیت کسی ایک بینچ مارک کے بارے میں کم اور فٹ کے بارے میں زیادہ ہے۔ ایجنٹ پروڈکٹس بنانے والی ٹیمیں جو طویل دستاویزات، بڑے کوڈ بیسز، یا توسیع شدہ ویڈیو سیاق و سباق کو پیس کر میموری بینڈ وڈتھ کی چھتوں کو نشانہ بنا رہی ہیں جو کہ خام FLOPS حل نہیں کرتی ہیں — مسئلہ 8i Max کے لیے بنایا گیا ہے۔ فنانس، ہیلتھ کیئر، اور حکومت کی ٹیمیں جو حساس کام کے بوجھ کو مشترکہ انفراسٹرکچر میں منتقل نہیں کر سکتیں کیونکہ پروسیسنگ کے دوران ڈیٹا کو ڈیکرپٹ کرنا پڑتا ہے اب 8tx میں ہارڈ ویئر سے چلنے والا آپشن ہے۔
گوگل نے اپنے حالیہ PyTorch کے اعلانات اور TPUs کو "عام مقصد کے ہارڈ ویئر کی طرح استعمال میں آسان" بنانے کی طرف اشارہ کرتے ہوئے ہارڈ ویئر کی خبروں کو سافٹ ویئر کی رسائی کے پیغام رسانی کے ساتھ جوڑا۔ کمپنی نے پیر کو نئے سسٹمز کی تفصیل کے لیے ایک نشریات کی میزبانی کی اور کہا کہ صارفین گوگل کلاؤڈ ویب سائٹ پر مکمل انفراسٹرکچر لائن اپ کو تلاش کر سکتے ہیں۔
AI سے آگے رہیں
حسب ضرورت سلیکون AI کی تعمیر کا اسٹریٹجک میدان جنگ بن رہا ہے۔ AI Buzz Wire کے ساتھ AI سے آگے رہیں — AI ہارڈویئر، ماڈلز اور انہیں بنانے والی کمپنیوں کی بریکنگ کوریج۔
مزید AI خبریں پڑھیں →
