أطلقت شركة Qualcomm Cloud AI 100 Ultra، وهو مسرع استدلال لمركز البيانات يوفر ما يصل إلى 870 TOPS من أداء INT8 و288 TFLOPS من حساب FP16 بينما يسحب 150 واط فقط - وهو جزء صغير من غلاف الطاقة لوحدات معالجة الرسومات التي تهيمن حاليًا على استدلال الذكاء الاصطناعي التوليدي.

تم تصميم البطاقة، المدرجة في صفحة منتج مركز البيانات الرسمية لشركة Qualcomm والمفصلة في تغطية الإطلاق، خصيصًا للذكاء الاصطناعي التوليدي وأحمال عمل نماذج اللغة الكبيرة. إنه يضع عملاق شرائح الهاتف المحمول كمنافس مباشر في سوق الاستدلال، حيث يتزايد الطلب مع قيام المؤسسات بنشر وكلاء الذكاء الاصطناعي ومساعدي الطيارين والتطبيقات المعززة للاسترجاع على نطاق واسع. لمزيد من السياق حول سباق أجهزة الذكاء الاصطناعي، راجع [تغطية أخبار الذكاء الاصطناعي] (https://aibuzzwire.news).

المواصفات: SRAM أولاً، DRAM ثانياً

يوجد في قلب Cloud AI 100 Ultra 64 نواة للذكاء الاصطناعي و576 ميجابايت من ذاكرة الوصول العشوائي (SRAM) القابلة للتشغيل. رهان كوالكوم هو أن إبقاء أوزان النماذج وعمليات التنشيط قريبة ماديًا من وحدات الحوسبة - بدلاً من نقل كل رمز مميز إلى الذاكرة الخارجية - يؤتي ثماره للنماذج القائمة على المحولات، والتي تعيش وتموت على النطاق الترددي للذاكرة.

لا تزال البطاقة تحمل 128 جيجابايت من ذاكرة LPDDR4x مع 548 جيجابايت/ثانية من عرض النطاق الترددي للنماذج الأكبر والسياقات الأطول، متصلة عبر PCIe Gen4 مع 16 مسارًا. هذا المزيج - SRAM الكبيرة المدمجة بالإضافة إلى سحب طاقة متواضع يبلغ 150 واط - هو ما يميز البطاقة. تتراوح وحدات معالجة الرسومات لمركز بيانات Nvidia عادةً من 300 واط إلى 700 واط، وكل واط مهم عندما تتم فاتورة الاستدلال بواسطة الرمز المميز وتكون طاقة مركز البيانات هي المورد الأكثر إثارة للجدل في الصناعة.

وقالت الشركة في مواد منتجاتها: "إن Cloud AI 100 Ultra هو حل استدلالي للذكاء الاصطناعي محسّن الأداء والتكلفة"، مع التركيز على قابلية البرمجة عبر أعباء العمل التي تتراوح من رؤية الكمبيوتر إلى معالجة اللغة الطبيعية.

البرنامج: منحدر متوافق مع OpenAI

لم تكن الأجهزة أبدًا مشكلة كوالكوم في مركز البيانات؛ البرمجيات لديها. تعالج الشركة ذلك من خلال AI Inference Suite، وهي طبقة برمجية تكشف عن واجهات برمجة التطبيقات المتوافقة مع OpenAI لبناء روبوتات الدردشة ومساعدي الطيارين ووكلاء الذكاء الاصطناعي.

يدعم الجناح الدردشة وتوليد الصور والنماذج متعددة الوسائط وسير عمل توليد الاسترجاع المعزز (RAG)، ويتم نشره عبر Kubernetes أو الحاويات المعدنية العارية. تقوم Qualcomm أيضًا بشحن أدوات إدارة وإدارة المستخدم - وهي إضافة غير جذابة غالبًا ما تفتقر إليها عروض التسريع الأولية، ولكنها تضيف وزنًا ثقيلًا لفرق تكنولوجيا المعلومات في المؤسسة عند نقل أعباء العمل داخل الشركة.

إن سطح واجهة برمجة التطبيقات (API) المتوافق مع OpenAI له أهمية استراتيجية: فهو يتيح للمطورين توجيه خطوط الأنابيب الحالية المرتبطة بـ OpenAI إلى أجهزة Qualcomm مع تغيير التكوين بدلاً من إعادة الكتابة، مما يقلل من تكلفة التبديل التي تحمي شاغر الوظائف في هذا السوق.

ميدان مزدحم بقائد واحد واضح

تدخل شركة Qualcomm سوق الاستدلال الذي أصبح ساحة معركة لدورة أجهزة الذكاء الاصطناعي. تهيمن Nvidia's L40S وH100؛ يستهدف كل من MI300X من AMD وGaudi 3 من Intel نفس أعباء العمل؛ وقد نجح السيليكون المتخصص من شركتي Groq وCerebras في إيجاد مجالات متخصصة في سرعة الاستدلال الخام.

يفسر جانب الطلب التدافع. تعمل خدمة وكلاء الذكاء الاصطناعي وخطوط أنابيب RAG على مضاعفة عدد استدعاءات النماذج التي تنشئها جلسة مستخدم واحدة، وكل واحدة من هذه الاستدعاءات هي مشكلة استدلال يجب حلها بأقل تكلفة ممكنة لكل رمز مميز. يشتري Hyperscalers رفوفًا من وحدات معالجة الرسومات الرائدة للتعامل معها؛ تبحث الشركات التابعة لها عن أجهزة تناسب خادمًا قياسيًا، على دائرة طاقة قياسية، دون إعادة التفاوض على عقود الكهرباء الخاصة بها.

إن عرض Qualcomm هو التكلفة الإجمالية للملكية وليس ذروة الأداء. بالنسبة للمؤسسات التي تستخدم الاستدلال على نطاق واسع، يتدفق استهلاك الطاقة مباشرة إلى تكاليف التشغيل، كما أن البطاقة التي توفر إنتاجية تنافسية بقدرة 150 وات تقوض اقتصاديات وحدات معالجة الرسومات ذات القوة الغاشمة. يظل التدريب مجالًا لـ Nvidia - لا يطالب Ultra به - ولكن الاستدلال هو المكان الذي يتم فيه تحديد اقتصاديات وحدة الصناعة فعليًا، وهو عبء العمل الذي ستديره معظم المؤسسات بنفسها، سواء في مجموعة محلية أو في قفص مشترك.

يظل النظام البيئي للبرمجيات هو المعركة الشاقة. لا تزال منصة CUDA من Nvidia هي الخيار الافتراضي لمعظم مطوري الذكاء الاصطناعي، وبينما تعمل واجهات برمجة التطبيقات المتوافقة مع OpenAI على تقليل حاجز الدخول، فإنها لا تلغي إعادة العمل المطلوبة لخطوط أنابيب الاستدلال المخصصة.

أين يتناسب مع تشكيلة كوالكوم

يقع Ultra في الجزء العلوي من تشكيلة الاستدلال من Qualcomm، والتي تتضمن أيضًا Cloud AI 80 Ultra (ما يصل إلى 618 TOPS من INT8 مع نفس 576 ميجابايت من ذاكرة SRAM)، وCloud AI 100 Pro، وCloud AI 100 Standard، الذي يستهدف عمليات النشر على الحافة والأصغر حجمًا بمظاريف طاقة 75 وات.

يمثل الإطلاق الجيل الحالي من خارطة طريق مركز بيانات Dragonfly من Qualcomm، والتي تعمل الشركة على تطويرها لأحمال عمل الذكاء الاصطناعي على مستوى السحابة - والتي تمنح كوالكوم الآن حجة للمؤسسات التي ترغب في تشغيل استدلال الذكاء الاصطناعي التوليدي محليًا بدلاً من السحابة العامة، سواء لأسباب تتعلق بالتكلفة أو زمن الوصول أو إدارة البيانات.

الرهان، في جملة واحدة

تراهن شركة كوالكوم على أنه مع انتقال الذكاء الاصطناعي من حفنة من المتوسعين الفائقين إلى آلاف المؤسسات، فإن بطاقة الاستدلال الفائزة ليست الأسرع ولكنها الأكثر كفاءة. Cloud AI 100 Ultra هو تلك الحجة في السيليكون؛ يظل السؤال مفتوحًا حول ما إذا كان المطورون يتبعون واتس.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →