گوگل مجموعه نسل هشتمی TPU خود را با دو سیستم جدید گسترش داده است - TPU 8tx برای استنتاج امن و محرمانه و TPU 8i Max برای پنجره‌های زمینه عظیم - این اولین باری است که این شرکت چهار سیستم TPU را در یک سال عرضه می‌کند.
در یک پست وبلاگی منتشر شده در روز دوشنبه، گوگل گفت که این دو افزوده برای یک نمایه حجم کاری طراحی شده اند که در زمان راه اندازی اولین TPU در یک دهه پیش به سختی وجود داشت: ناوگانی از عوامل مستقل که بر روی پنجره های زمینه عظیم استدلال می کنند و داده های حساس سازمانی را مدیریت می کنند. این شرکت نوشت: «با حرکت محاسباتی از مقیاس انسانی به عامل، کسب‌وکارها درخواست شتاب‌دهنده‌هایی می‌کنند که بتوانند در پنجره‌های زمینه عظیم مدل‌های هوش مصنوعی استدلال کنند. "علاوه بر این، برخی از مشتریان بسیار تنظیم شده درخواست قابلیت های رمزگذاری تخصصی برای حجم کاری منحصر به فرد را دارند." For more context on this story, see our ongoing artificial intelligence updates.
سیستمی برای هر مرحله از چرخه حیات عامل
نسل هشتم در Google Cloud Next در ماه آوریل با TPU 8t، ساخته شده برای آموزش در مقیاس بزرگ، و TPU 8i، ساخته شده برای استدلال بلادرنگ آغاز شد. گوگل 2.7 برابر عملکرد آموزشی بهتر برای 8t و 80 درصد عملکرد استنباط قیمت بهتر برای 8i در مقایسه با نسل قبلی ذکر کرده است.
دو تازه وارد قلمرو باقی مانده را تقسیم کردند. همانطور که گوگل بیان کرد، این چهار سیستم در کنار هم به مشتریان "یک شتاب دهنده هدفمند برای هر مرحله از چرخه حیات نمایندگی" می دهند: TPU 8t برای آموزش افزایش مقیاس، TPU 8i برای استدلال با تاخیر کم، TPU 8tx برای محاسبات محرمانه، و TPU 8i Max برای پنجره های زمینه عظیم و بالاترین تراکم محاسباتی در هر رک.
TPU 8tx: امنیت داخلی در سخت افزار
TPU 8tx برای استنتاج ایمن و محرمانه بهینه شده است و به گفته گوگل، برای آموزش در مقیاس کوچک نیز مناسب است. مشتری هدف صریح است: شرکت‌های تحت نظارت و دولت‌هایی که مدل‌های مرزی یا اختصاصی و عوامل مستقل را در کنار حساس‌ترین داده‌هایشان اجرا می‌کنند.
رویکرد مهندسی به تنش طولانی مدت در محاسبات ایمن می پردازد. داده‌ها معمولاً هنگام ذخیره یا ارسال رمزگذاری می‌شوند، اما باید در حین پردازش آنها در حافظه باز شوند - در لحظه‌ای که بیشتر در معرض دید قرار می‌گیرند. TPU 8tx که بر روی همان سیلیکون TPU 8t ساخته شده و با میزبان‌های نسل پنجم CPU AMD EPYC جفت شده است، امنیت را مستقیماً در لایه سخت‌افزار ایجاد می‌کند و داده‌های حساس و وزن مدل را حتی در هنگام استفاده فعال محافظت و ایزوله نگه می‌دارد.
این سیستم از همان شبکه کم تاخیر "Boardfly" استفاده می کند که گوگل برای استدلال بلادرنگ ایجاد کرده است، به این معنی که می تواند محاسبات درجه آموزشی و استنتاج سریع را به طور همزمان انجام دهد. گوگل می‌گوید این به سازمان‌ها اجازه می‌دهد مدل‌ها را با داده‌های خصوصی تنظیم کنند، مدل‌های بزرگ را به مدل‌های کوچک‌تر تقطیر کنند، و عوامل را از طریق یادگیری تقویتی در یک سیستم واحد آموزش دهند - بدون انتقال داده‌های حساس بین خوشه‌های جداگانه.
TPU 8i Max: حمله به دیوار حافظه
TPU 8i Max به طور کامل با یک محدودیت متفاوت مقابله می کند. گوگل نوشت: «وقتی ده‌ها عامل هوش مصنوعی در کل یک پایگاه کد نرم‌افزاری یا ساعت‌ها ویدیو با هم کار می‌کنند، پهنای باند حافظه به سرعت به گلوگاه تبدیل می‌شود. پاسخ این شرکت معماری است: دو تراشه TPU 8i با تاخیر کم در یک بسته واحد ترکیب شده اند.
نتیجه سیستمی است که محاسبات و حافظه را در مرحله قفل مقیاس بندی می کند - دو برابر محاسبه، دو برابر SRAM و دو برابر پهنای باند HBM TPU 8i را ارائه می دهد. و از آنجایی که TPU 8i Max دو برابر سیلیکون در رک موجود جای می‌گیرد، گوگل می‌گوید مراکز داده می‌توانند قدرت محاسباتی بیشتری را در هر فوت مربع و در هر وات به کار ببرند، زمانی که قدرت و فضای کف محدودیت‌های الزام‌آوری برای افزایش ظرفیت هوش مصنوعی هستند.
چرا سیستم ها، نه تراشه ها
نکته مهم در اطلاعیه روز دوشنبه این است که گوگل به جای تراشه های جدید، اینها را به عنوان سیستم های جدید در نظر گرفته است. این شرکت توضیح می‌دهد که طراحی یک تراشه یک فرآیند چند ساله برای قرار دادن میلیاردها ترانزیستور است که توسط فیزیک و جدول‌های زمانی تولید محدود شده‌اند. یک سیستم – نحوه چیدمان محاسبات، شبکه، ذخیره سازی و بسته بندی حول یک تراشه – می تواند بسیار سریعتر تنظیم شود.
این ماژولار بودن هسته اصلی استراتژی ابررایانه هوش مصنوعی گوگل است و این همان چیزی است که به چهار سیستم تخصصی اجازه می دهد در یک نسل واحد عرضه شوند. گوگل همچنین تاکید کرد که چه مقدار از زیرساخت‌های هوش مصنوعی خود اکنون به ساخت سخت‌افزار بازمی‌گردد: این شرکت از سیستم یادگیری تقویت‌کننده AlphaChip DeepMind استفاده می‌کند و می‌گوید Gemini اکنون به ارائه طرح‌بندی تراشه‌ها «در چند ساعت به جای هفته‌ها» کمک می‌کند. گوگل این را "طراحی مشترک واقعی" و یک متمایز کننده منحصر به فرد می نامد.
زمینه رقابتی
این گسترش در میان تشدید رقابت در شتاب دهنده های هوش مصنوعی فرود می آید. استقرار TPU به دلیل نقش خود در ارائه مدل‌های خارج از دیوارهای خود گوگل توجه را به خود جلب کرده است - این شرکت خاطرنشان می‌کند که TPUها اکنون برای مدل‌های Gemini، بارهای کاری نمایندگی، خدمات مشتریان Google Cloud، و اخیراً مستقر مستقیم TPUها در مراکز داده خود مشتریان، به آموزش و خدمت رسانی می‌پردازند. گوگل TPU ها را به عنوان "یک کسب و کار به سرعت در حال رشد" توصیف می کند.
پوشش این اعلامیه، از جمله قطعاتی از TechPowerUp و Electronics Weekly، این حرکت را با شرایط رقابتی مشخص می‌کند - Google خط تولید سیلیکون سفارشی خود را گسترش می‌دهد زیرا بارهای کاری هوش مصنوعی را که در غیر این صورت ممکن است بر روی سخت‌افزار NVIDIA اجرا شود، گسترش می‌دهد. انویدیا به نوبه خود به ارسال نسل‌های متوالی سیستم‌های در مقیاس رک خود ادامه داده است و خریداران زیرساخت‌های هوش مصنوعی را با انتخاب معتبر بین تاجر و سیلیکون سفارشی روبرو کرده است.
چه معنایی برای توسعه دهندگان دارد
برای توسعه دهندگان، اهمیت عملی کمتر در مورد هر معیار واحد و بیشتر در مورد تناسب است. تیم‌هایی که محصولات عاملی می‌سازند که اسناد طولانی، پایگاه‌های کد بزرگ، یا زمینه ویدیویی گسترده را می‌سازند، به سقف‌های پهنای باند حافظه رسیده‌اند که FLOPS خام آنها را حل نمی‌کند - مشکلی که 8i Max برای آن ساخته شده است. تیم‌های مالی، مراقبت‌های بهداشتی و دولتی که نمی‌توانستند بارهای کاری حساس را به زیرساخت‌های مشترک منتقل کنند، زیرا داده‌ها باید در حین پردازش رمزگشایی می‌شدند، اکنون یک گزینه سخت‌افزاری در 8tx دارند.
گوگل اخبار سخت افزاری را با پیام های دسترسی نرم افزاری همراه کرد و به اطلاعیه های اخیر PyTorch و هدف اعلام شده اش برای ایجاد TPU ها "به اندازه سخت افزارهای همه منظوره برای استفاده آسان" اشاره کرد. این شرکت روز دوشنبه یک برنامه پخش را برای جزئیات سیستم های جدید میزبانی کرد و گفت که مشتریان می توانند زیرساخت کامل را در وب سایت Google Cloud بررسی کنند.
از هوش مصنوعی جلوتر بمانید
سیلیکون سفارشی در حال تبدیل شدن به میدان جنگ استراتژیک ساخت هوش مصنوعی است. با AI Buzz Wire از هوش مصنوعی جلوتر بمانید - پوشش سخت افزاری، مدل ها و شرکت های سازنده آنها را از بین ببرید.
اخبار هوش مصنوعی را بیشتر بخوانید →
