قامت Google بتوسيع محفظة منتجاتها من الجيل الثامن من مادة TPU بنظامين جديدين - TPU 8tx للاستدلال الآمن والسري وTPU 8i Max للنوافذ ذات السياق الضخم - وهي المرة الأولى التي تقوم فيها الشركة بشحن أربعة أنظمة TPU في عام واحد.
في منشور بالمدونة نُشر يوم الاثنين، قالت Google إن الإضافتين مصممتان لملف تعريف عبء العمل الذي بالكاد كان موجودًا عندما تم إطلاق أول TPU قبل عقد من الزمن: أساطيل من الوكلاء المستقلين الذين يفكرون في نوافذ السياق الهائلة ويتعاملون مع بيانات المؤسسة الحساسة. وكتبت الشركة: "مع انتقال الحوسبة من نطاق الإنسان إلى نطاق الوكيل، تطلب الشركات مسرعات يمكنها التفكير عبر نوافذ السياق الضخمة لنماذج الذكاء الاصطناعي". "بالإضافة إلى ذلك، يطلب بعض العملاء الخاضعين للتنظيم العالي إمكانات تشفير متخصصة لأعباء العمل الفريدة." لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.
نظام لكل مرحلة من مراحل دورة حياة الوكيل
بدأ الجيل الثامن في Google Cloud Next في أبريل باستخدام TPU 8t، المصمم للتدريب واسع النطاق، وTPU 8i، المصمم للاستدلال في الوقت الفعلي. أشارت Google إلى أداء تدريب أفضل بما يصل إلى 2.7 مرة لجهاز 8t وأداء سعر استدلالي أفضل بنسبة 80% لجهاز 8i مقارنة بالجيل السابق.
قام الوافدان الجديدان بتقسيم الأراضي المتبقية. وكما أوضحت Google، فإن الأنظمة الأربعة معًا تمنح العملاء "مسرعًا مصممًا خصيصًا لكل مرحلة من مراحل دورة حياة الوكيل": TPU 8t للتدريب على نطاق واسع، وTPU 8i للاستدلال بزمن الوصول المنخفض، وTPU 8tx للحوسبة السرية، وTPU 8i Max لنوافذ السياق الضخمة وأعلى كثافة حسابية لكل حامل.
TPU 8tx: أمان مدمج في الأجهزة
تم تحسين TPU 8tx للاستدلال الآمن والسري، كما تلاحظ Google، وهو أيضًا مناسب تمامًا للتدريب على نطاق صغير. العميل المستهدف واضح: الشركات الخاضعة للتنظيم والحكومات التي تدير نماذج حدودية أو مملوكة ووكلاء مستقلين إلى جانب بياناتهم الأكثر حساسية.
يعالج النهج الهندسي التوتر طويل الأمد في الحوسبة الآمنة. عادةً ما يتم تشفير البيانات عند تخزينها أو نقلها، ولكن يجب فتحها في الذاكرة أثناء قيام الكمبيوتر بمعالجتها - في اللحظة التي تكون فيها أكثر عرضة للخطر. تم تصميمه على نفس السيليكون الموجود في TPU 8t ومقترنًا بمضيفي وحدة المعالجة المركزية AMD EPYC من الجيل الخامس، ويقوم TPU 8tx ببناء الأمان مباشرة في طبقة الأجهزة، مما يحافظ على البيانات الحساسة وأوزان النماذج محمية ومعزولة حتى أثناء الاستخدام النشط.
يستخدم النظام نفس شبكة "Boardfly" ذات زمن الاستجابة المنخفض التي أنشأتها Google للاستدلال في الوقت الفعلي، مما يعني أنه يمكنه التعامل مع الحوسبة على مستوى التدريب والاستدلال السريع في وقت واحد. تقول جوجل إن هذا يتيح للمؤسسات ضبط النماذج باستخدام البيانات الخاصة، وتقطيع النماذج الكبيرة إلى نماذج أصغر، وتدريب الوكلاء من خلال التعلم المعزز على نظام واحد - دون ترحيل البيانات الحساسة بين مجموعات منفصلة.
TPU 8i Max: مهاجمة جدار الذاكرة
يعالج TPU 8i Max قيودًا مختلفة تمامًا. وكتبت جوجل: "عندما يعمل العشرات من وكلاء الذكاء الاصطناعي معًا عبر قاعدة بيانات برمجية كاملة أو ساعات من الفيديو في وقت واحد، فإن عرض النطاق الترددي للذاكرة يصبح بسرعة عنق الزجاجة". إجابة الشركة معمارية: شريحتان من مادة TPU 8i منخفضة زمن الوصول مدمجتان في حزمة واحدة.
والنتيجة هي نظام يقوم بتوسيع نطاق الحوسبة والذاكرة بشكل متزامن - مما يوفر مضاعفة الحوسبة، ومضاعفة ذاكرة الوصول العشوائي (SRAM)، ومضاعفة عرض النطاق الترددي HBM لـ TPU 8i. ونظرًا لأن TPU 8i Max يتسع لضعف السيليكون الموجود داخل مساحة الحامل الحالية، تقول Google إن مراكز البيانات يمكنها نشر طاقة حوسبة أكبر بكثير لكل قدم مربع ولكل واط، وهو اعتبار مفيد عندما تكون الطاقة ومساحة الأرضية بمثابة قيود ملزمة على توسيع سعة الذكاء الاصطناعي.
لماذا الأنظمة وليس الرقائق؟
أحد الفروق الدقيقة المهمة في إعلان يوم الاثنين هو أن Google تقوم بتأطير هذه الأنظمة كأنظمة جديدة بدلاً من شرائح جديدة. توضح الشركة أن تصميم الشريحة هو عملية تستغرق عدة سنوات لوضع مليارات الترانزستورات المرتبطة بالفيزياء والجداول الزمنية للتصنيع. يمكن تعديل النظام - كيف يتم ترتيب الحوسبة والشبكات والتخزين والتعبئة حول شريحة - بشكل أسرع بكثير.
هذه الوحدة هي جوهر استراتيجية Google للحاسوب الفائق الذي يعمل بالذكاء الاصطناعي، وهو ما سمح لأربعة أنظمة متخصصة بالشحن خلال جيل واحد. وسلطت جوجل الضوء أيضًا على مقدار البنية التحتية للذكاء الاصطناعي الخاصة بها والتي تعود الآن إلى بناء الأجهزة: تستخدم الشركة نظام التعلم المعزز AlphaChip من DeepMind، وتقول إن Gemini تساعد الآن في تقديم تخطيطات الرقائق "في ساعات بدلاً من أسابيع". تسمي Google هذا "التصميم المشترك الحقيقي" والتمييز الفريد.
السياق التنافسي
ويأتي التوسع وسط منافسة شديدة في مسرعات الذكاء الاصطناعي. لقد لفتت عمليات نشر TPU الانتباه لدورها في خدمة النماذج خارج جدران Google الخاصة - وتشير الشركة إلى أن وحدات TPU تعمل الآن على تدريب وتقديم نماذج Gemini الخاصة بها، وأعباء عمل الوكلاء، وخدمات عملاء Google Cloud، ومؤخرًا عمليات النشر المباشرة لوحدات TPU في مراكز البيانات الخاصة بالعملاء. تصف Google أجهزة TPU بأنها "عمل تجاري سريع النمو".
تغطية الإعلان، بما في ذلك أجزاء من TechPowerUp وElectronics Weekly، وضعت إطارًا لهذه الخطوة بشروط تنافسية صريحة - قامت Google بتوسيع تشكيلة السيليكون المخصصة الخاصة بها لأنها تتعامل مع أعباء عمل الذكاء الاصطناعي التي قد تعمل على أجهزة NVIDIA. واصلت NVIDIA، من جانبها، شحن أجيال متتالية من أنظمتها ذات الحجم الكبير، مما يترك لمشتري البنية التحتية للذكاء الاصطناعي خيارًا ذا مصداقية متزايدة بين السيليكون التجاري والسيليكون المخصص.
ماذا يعني ذلك بالنسبة للمطورين
بالنسبة للمطورين، فإن الأهمية العملية لا تتعلق بمعيار واحد بقدر ما تتعلق بالملاءمة. إن الفرق التي تبني منتجات وكيلة تعمل على معالجة المستندات الطويلة أو قواعد التعليمات البرمجية الكبيرة أو سياق الفيديو الممتد قد وصلت إلى أسقف عرض النطاق الترددي للذاكرة التي لا تحلها FLOPS الخام - المشكلة التي تم تصميم 8i Max من أجلها. الفرق في مجال التمويل والرعاية الصحية والحكومة التي لم تتمكن من نقل أعباء العمل الحساسة إلى البنية التحتية المشتركة لأنه كان لا بد من فك تشفير البيانات أثناء المعالجة، أصبح لديها الآن خيار مدعوم بالأجهزة في 8tx.
ربطت Google أخبار الأجهزة برسائل إمكانية الوصول إلى البرامج، مشيرة إلى إعلانات PyTorch الأخيرة وهدفها المعلن المتمثل في جعل أجهزة TPU "سهلة الاستخدام مثل الأجهزة ذات الأغراض العامة". استضافت الشركة بثًا يوم الاثنين لتوضيح تفاصيل الأنظمة الجديدة وقالت إنه يمكن للعملاء استكشاف مجموعة البنية التحتية الكاملة على موقع Google Cloud الإلكتروني.
ابق في صدارة الذكاء الاصطناعي
أصبح السيليكون المخصص ساحة المعركة الإستراتيجية لبناء الذكاء الاصطناعي. ابق في صدارة الذكاء الاصطناعي مع AI Buzz Wire - تغطية شاملة لأجهزة الذكاء الاصطناعي ونماذجه والشركات التي تصنعها.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
