قامت Google بتوسيع تشكيلة الجيل الثامن من أجهزة TPU بنظامين متخصصين جديدين: TPU 8i Max، الذي يجمع بين شريحتين استدلاليتين في حزمة واحدة لأعباء العمل طويلة السياق، وTPU 8tx، المصمم للاستدلال السري والمعزول عن الأجهزة الذي يستهدف المؤسسات والحكومات الخاضعة للتنظيم. أبلغت Tom's Hardware عن الإضافات يوم الخميس.

تكمل هذه الخطوة عائلة بدأتها Google في أبريل باستخدام TPU 8t، المصمم للتدريب على نطاق واسع على الذكاء الاصطناعي، وTPU 8i، المصمم للعمل الاستدلالي للأغراض العامة مثل أخذ العينات والتقديم والاستدلال. مع المتغيرات الجديدة، تغطي تشكيلة الجيل الثامن الآن التدريب والاستدلال القياسي والاستدلال الآمن والاستدلال الوكيل لعرض النطاق الأقصى - وهي مصفوفة من الخيارات التي تعكس مدى اختلاف استخدام المؤسسات الآن لأجهزة الذكاء الاصطناعي. تعد أخبار الرقائق هذه جزءًا من تغطية أحدث تطورات الذكاء الاصطناعي عبر سوق أجهزة الذكاء الاصطناعي.

ماذا تفعل الرقائق الجديدة

يضع TPU 8i Max شريحتين 8i في حزمة واحدة، مما يضاعف الحوسبة وذاكرة الوصول العشوائي (SRAM) وعرض النطاق الترددي للذاكرة ذات النطاق الترددي العالي لـ 8i الأصلي. يستهدف التصميم العمل الوكيل طويل السياق - وهي السيناريوهات التي يحمل فيها عملاء الذكاء الاصطناعي سياقات عمل كبيرة جدًا عبر مهام متعددة الخطوات.

قامت شركة Tom’s Hardware بتأطير مضاعفة عرض النطاق الترددي كوسيلة للالتفاف حول ما تسميه Google جدار الذاكرة، وهو عنق الزجاجة في عرض النطاق الترددي الذي يصبح حادًا "عندما يعمل العشرات من عملاء الذكاء الاصطناعي معًا عبر قاعدة بيانات برمجية كاملة." نوافذ السياق الأكبر - مع نماذج أكبر تستهدف حوالي مليون رمز مميز - تعني ذاكرة تخزين مؤقت أكبر لـ KV، محتفظ بها جزئيًا في SRAM، ويجب على كل رمز مميز جديد يتم إنشاؤه قراءة ذاكرة التخزين المؤقت هذه من الذاكرة. إن مضاعفة عرض النطاق الترددي لـ HBM في حزمة واحدة يهاجم عنق الزجاجة على وجه التحديد، وأشار المنشور إلى أنه طريق مختلف عن نهج Nvidia المتمثل في إقران نوع شريحة ثانٍ لفك التشفير مع طبقة تخزين للسياق.

وفي الوقت نفسه، تم بناء TPU 8tx على نفس السيليكون مثل 8t الموجه للتدريب الذي تم الإعلان عنه مسبقًا، ولكن تم تكوينه للحوسبة السرية: الاستدلال المعزول عن الأجهزة للمؤسسات الخاضعة للتنظيم والحكومات التي تحتاج إلى إثبات أن بياناتها ونماذجها محمية أثناء المعالجة. يقوم النظام بتبديل وحدات المعالجة المركزية المضيفة Axion المستندة إلى Arm والتي يستخدمها 8t و8i لمعالج AMD EPYC من الجيل الخامس ويعتمد شبكة Boardfly من Google.

والجدير بالذكر أن جوجل لم تشارك بعد المواصفات التفصيلية أو الأسعار أو تواريخ الشحن لأي من النظامين الجديدين، لذا فإن المشترين لديهم حاليًا عروض وتحديد المواقع بدلاً من المنتجات القابلة للطلب.

تُظهر العروض التي نشرتها Google جنبًا إلى جنب مع الإعلان لوحة TPU 8tx تحمل أربع شرائح، إلى جانب أربع لوحات TPU 8i Max، كل منها يحمل شريحتين في حزمة واحدة – وهو توضيح مادي لمدى ابتعاد عائلة الجيل الثامن عن شريحة واحدة تناسب الجميع نموذج التسريع للأجيال السابقة.

TPU Sync: طبقة البرامج لذاكرة الوكيل

وإلى جانب السيليكون، تعتمد جوجل على البرمجيات لحل مشكلة الذاكرة الوكيلة. TPU Sync عبارة عن "طبقة حالة نموذجية مفتوحة المصدر لمجموعات TPU" تعمل تلقائيًا على تصنيف ذاكرة التخزين المؤقت الضخمة KV خارج الشريحة بالمللي ثانية، وتنقلها إلى الأسفل لاستضافة DRAM والتخزين المشترك بشكل تجريبي.

وفقًا لجوجل، يمكن أن يؤدي ذلك إلى تقليل زمن انتقال نقل ذاكرة التخزين المؤقت لـ KV بأكثر من 90%، مع مكاسب مقابلة في الوقت حتى أول رمز مميز - وهو التأخير الذي يواجهه المستخدم قبل أن يبدأ نظام الذكاء الاصطناعي في الاستجابة. بالنسبة لأحمال العمل الوكيل، حيث قد تتضمن جلسة واحدة عشرات من استدعاءات النماذج التسلسلية التي يحتاج كل منها إلى الوصول إلى نفس السياق المتراكم، أصبحت إدارة ذاكرة التخزين المؤقت بنفس أهمية الحوسبة الأولية.

سبب أهمية سوق أجهزة الذكاء الاصطناعي

لقد أصبحت وحدات TPU عملاً سريع النمو لشركة Google، التي تدعي أن لديها ما يقرب من 100 عميل للرقائق - بما في ذلك شركة Meta، التي كان اعتمادها لوحدات TPU من Google في مراكز بياناتها بمثابة واحدة من أهم التوغلات التنافسية في منطقة Nvidia. وتقول الشركة إن النهج الأكثر معيارية الذي تتبعه جوجل مع عائلة الجيل الثامن يسمح لها بتقديم أنظمة متخصصة "في غضون أشهر وليس سنوات"، مما يساعد على نمو هذا العميل.

توقيت الإعلان ملفت للنظر. وصل توسع شرائح Google في نفس اليوم الذي أعلنت فيه Nvidia استقالة الرئيس التنفيذي Jensen Huang، وتعيين CFO Colette Kress رئيسًا تنفيذيًا مؤقتًا - وهو اضطراب غير عادي في القيادة في نفس الشركة التي تهيمن وحدات معالجة الرسومات الخاصة بها على السوق التي تعمل بها وحدات TPU من Google. لا يوجد ارتباط بين الحدثين من حيث السبب، لكنهما معًا يؤكدان مدى التنافسية ومدى التقلب الذي أصبح عليه سوق البنية التحتية للذكاء الاصطناعي.

بالنسبة للشركات التي تقوم بتقييم البنية التحتية للذكاء الاصطناعي، تشير الإضافات إلى أن مجموعة الاختيار آخذة في الاتساع: فقد أصبحت السيليكون المحسن للتدريب، والاستدلال العام، والاستدلال الآمن للبيانات المنظمة، وحزم النطاق الأقصى لأساطيل الوكلاء، فئات منتجات متميزة بدلا من مسرعات مقاس واحد يناسب الجميع. عندما تنشر Google تفاصيل الأسعار والتوفر، سيكون السؤال العملي للمشترين هو ما إذا كان النطاق الترددي المضاعف لجهاز 8i Max يُترجم إلى إنتاجية كافية لأساطيل الوكلاء لتبرير علاوة على عمليات نشر 8i القياسية.

تحتوي الوحدة أيضًا على منطق جانب العرض. بدلاً من الانتظار لسنوات حتى يتنقل تصميم الجيل التالي عبر حزمة الأجهزة الكاملة، تستطيع جوجل إعادة تجميع السيليكون الحالي - كما فعلت عن طريق نقل السيليكون 8t إلى حزمة استدلال آمنة مع وحدة معالجة مركزية مضيفة مختلفة - للوصول إلى القطاعات المتخصصة بشكل أسرع، مع الحفاظ على حزمة برامج مشتركة عبر جميع المتغيرات. وتعد هذه السرعة في حد ذاتها سلاحًا تنافسيًا في سوق تتغير فيه متطلبات العملاء كل ثلاثة أشهر.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →