أعلنت أمازون عن TorchNeuron، وهي واجهة خلفية أصلية مفتوحة المصدر من PyTorch لعائلة Trainium من شرائح الذكاء الاصطناعي، في خطوة تزيل أحد أكبر العوائق العملية التي تحول دون اعتماد السيليكون المخصص لأعباء عمل التعلم الآلي. وفقًا لمنشور رسمي على مدونة PyTorch تم نشره قبل مؤتمر PyTorch بأمريكا الشمالية في 20 أكتوبر، يمكن للمطورين الآن تشغيل كود نموذج PyTorch الحالي على Trainium مع تغيير سطر واحد، بدلاً من إعادة كتابة سير العمل الخاص بهم حول الأدوات الخاصة.

وقد لفت هذا الإعلان انتباهًا فوريًا لأنه يستهدف ما وصفه المحللون منذ فترة طويلة بأنها الميزة الأكثر استدامة لـ Nvidia: ليس أداء الرقائق الخام، ولكن النظام البيئي لبرامج CUDA الذي يربط المطورين بوحدات معالجة الرسومات الخاصة بها. قامت رويترز بتأطير الإصدار على أنه أمازون تقول إن رقائق الذكاء الاصطناعي الخاصة بها ستعمل مع إطار التطوير الأكثر شيوعًا في الذكاء الاصطناعي، في حين وصف موقع TechCrunch TorchNeuron بأنه أكبر لقطة للشركة في Nvidia حتى الآن. للحصول على رؤية أوسع حول كيفية تحول سوق المسرعات، تتتبع [تغطية أخبار أجهزة الذكاء الاصطناعي] المستمرة لدينا هذه التطورات فور ظهورها.

ما الذي تغير في TorchNeuron فعليًا؟

الوعد الأساسي لـ TorchNeuron هو البساطة. في المثال المنشور على مدونة PyTorch، يتم تشغيل حلقة تدريب موجودة على Trainium بعد لا شيء أكثر من نقل النموذج إلى الجهاز الجديد باستخدام `.to('neuron')`. الكود المكتوب ضد torch.accelerator، واجهة برمجة التطبيقات الموصى بها من PyTorch، يعمل بدون تعديل، وفقًا للمنشور. بالنسبة لأعباء العمل المجمعة، يقوم المطورون بتعيين الواجهة الخلفية الافتراضية مرة واحدة باستخدام `torch.compiler.set_default_backend("neuron")` ثم استدعاء `model.compile()` دون أي تغييرات أخرى.

تحت الغطاء، تقوم TorchNeuron بتسجيل Trainium من خلال PrivateUse1، وهي نقطة الامتداد الرسمية لـ PyTorch للواجهات الخلفية للأجهزة المخصصة، مما يعني أن الشريحة تتصرف كجهاز PyTorch قياسي بدلاً من ملحق مثبت على إطار العمل. تصف AWS التكامل بأنه يشمل عدة أوضاع تنفيذ:

  • التنفيذ الدقيق للبحث وتصحيح الأخطاء، من خلال "وضع حريص تكيفي" تجريبي يقلل من أعباء الإطلاق
  • torch.compile لأداء الإنتاج، والتقاط النماذج في الرسوم البيانية التي يقوم برنامج التحويل البرمجي Neuron بتحسينها، مع دعم أصلي لـ FlexAttention
  • واجهة النواة العصبية (NKI) للباحثين الذين يحتاجون إلى نواة مخصصة منخفضة المستوى

تعمل الواجهة الخلفية على كل من شرائح Trainium2 وTrainium3 الأحدث، وفقًا للإعلان.

ضربة مباشرة على خندق برامج Nvidia

إن قبضة Nvidia على حوسبة الذكاء الاصطناعي لم تعتمد أبدًا على الأجهزة الأسرع فقط. CUDA، منصة برمجيات الشركة التي يبلغ عمرها عقدين من الزمن، هي المكان الذي تتم فيه كتابة معظم أكواد أبحاث الذكاء الاصطناعي وضبطها ونشرها، وكان على كل شريحة منافسة - بدءًا من خط Instinct من AMD إلى وحدات TPU من Google وTrainium من Amazon - أن تتعامل مع تكلفة مطالبة المطورين بتركها. تغطية إطلاق TorchNeuron في GeekWire وBenzinga وGuruFocus صاغت الإعلان بشكل موحد على أنه اعتداء على هذا الخندق.

لا تحاول أمازون سحب المطورين من PyTorch لكسبهم. وبدلاً من ذلك، فقد جلبت Trainium إلى PyTorch، بحيث يمكن لقاعدة المستخدمين الهائلة لإطار العمل اعتماد الشريحة دون تغيير العادات. تضمن منشور مدونة PyTorch موافقة من Meta، التي تحافظ على إطار العمل: "يعمل الدعم الأصلي لـ AWS Trainium على توسيع هذا الاختيار، مما يمكّن الباحثين والمهندسين من التجربة والتكرار باستخدام التنفيذ المتلهف وواجهات برمجة التطبيقات الموزعة التي يعرفونها بالفعل،" قالت جانا فان جرونين، مديرة هندسة PyTorch في Meta، في المنشور.

هذا الإطار مهم للأعمال السحابية في AWS. تم تسويق مثيلات Trainium كبديل أقل تكلفة لوحدات معالجة الرسوميات Nvidia للتدريب والاستدلال، وقد اجتذبت الرقائق بالفعل عملاء بارزين في مجال الذكاء الاصطناعي. إن جعل الرقائق تبدو أصلية في PyTorch يعالج بشكل مباشر الاعتراض الذي أدى إلى إبطاء الاعتماد على نطاق أوسع: جهد النقل.

النطاق الفني، من دفاتر الملاحظات إلى التدريب على نطاق واسع

تشير الإمكانات المدرجة في مدونة PyTorch إلى أن أمازون تهدف إلى ما هو أبعد من تجارب الهواة. يغطي TorchNeuron مجموعات المشغلين التي يتم مشاهدتها عبر نماذج النص والوسائط المتعددة ولغة الرؤية بالإضافة إلى إنشاء الصور والفيديو ونماذج مساحة الحالة والنماذج العالمية، بدقة BF16 وFP32 وFP16؛ يتوفر دعم TorchAO وFP8 في مرحلة تجريبية خاصة قبل التوفر العام في الإصدار التالي.

يتم دعم التدريب الموزع، وهو النظام الذي يحول كود وحدة معالجة الرسومات المفردة إلى عمليات تشغيل على نطاق عنقودي، من خلال واجهات برمجة تطبيقات PyTorch القياسية — DDP، وFSDP2، وSimpleFSDP، وتوازي الموتر وخط الأنابيب، والمشاركة على نمط ZeRO، جنبًا إلى جنب مع DTensor وDeviceMesh لمجموعات العمليات متعددة الأبعاد. وقال المنشور إن التدفقات والأحداث تحدد دلالات PyTorch في قوائم انتظار أجهزة Trainium.

للاستدلال، تعتمد مجموعات Amazon Neuron على نفس الأساس: يقدم vLLM Neuron نماذج لغوية كبيرة، بينما يقدم vLLM Omni Neuron نماذج نشر لتوليد الصور والفيديو. تتيح واجهة Neuron Kernel للباحثين كتابة عوامل تشغيل مخصصة لكل من التنفيذ المتحمس والمجمع، وAWS عبارة عن NKI-lib مفتوح المصدر، وهي مجموعة من النواة المحسنة لـ Trainium والتي تغطي حسابات FlashAttention وMoE باتجاه الكتلة لسيناريوهات LLM السائدة والسيناريوهات متعددة الوسائط.

يتم تضمين أدوات الأداء أيضًا. يقوم Neuron Explorer بتوسيع "torch.profiler" القياسي لتتبع التنفيذ من إطار العمل إلى الأجهزة، وربط كل حدث مرة أخرى بخط المصدر الخاص به، ويمكنه تصدير مقاييس بتنسيق Parquet يمكن للوكلاء استهلاك الملاحظات المنشورة فيها لتحليل عنق الزجاجة الآلي.

التوفر وما سيأتي بعد ذلك

تم إعداد TorchNeuron لإطلاقه مفتوح المصدر في مؤتمر PyTorch بأمريكا الشمالية في 20 أكتوبر، وفقًا لمنشور المدونة، مع تمديد التوافق إلى Hugging Face Transformers v5. تصف AWS برنامج Trainium بأنه مجموعة من الرقائق المصممة من الألف إلى الياء للتدريب والاستدلال على الذكاء الاصطناعي على نطاق سحابي.

السياق الاستراتيجي هو السوق الذي يكون فيه كل مزود سحابي رئيسي هو في نفس الوقت أكبر مشتري لمسرعات Nvidia ومنافس محتمل. وتقوم كل من مايكروسوفت، وجوجل، وميتا بتطوير السيليكون المخصص، وتقوم الشركات الصينية بما في ذلك هواوي ببناء مجموعات برامج خاصة بها للهروب من جاذبية CUDA. من خلال مقابلة المطورين داخل PyTorch بدلاً من مطالبتهم بالترحيل، اختارت أمازون المسار الأقل تعطيلًا في تلك المسابقة - وهو المسار الأكثر ترجيحًا، إذا صمدت تجربة المطور، لنقل أعباء العمل التدريبية الحقيقية من أجهزة Nvidia.

ما إذا كان TorchNeuron سيقضي حقًا على ميزة CUDA سيعتمد على الأداء على نطاق واسع والذيل الطويل لنماذج العالم الحقيقي، وهي أسئلة لا تجيب عليها مواد الإطلاق. لكن العائق الذي منع معظم مطوري PyTorch من تجربة برنامج Trainium - وهو إعادة كتابة - قد تم الآن تخفيضه إلى سطر واحد من التعليمات البرمجية.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →