لدى DeepSeek DeepInfer مفتوح المصدر، وهو إطار عمل استدلالي عالي الأداء يقول مختبر الذكاء الاصطناعي الصيني إنه يدعم خدمات الإنتاج واسعة النطاق الخاصة به. ظهر الكود على GitHub بموجب ترخيص Apache 2.0 وقد جمع بالفعل أكثر من 5500 نجمة في غضون أيام، بعد أن اجتذبت مناقشة Hacker News حول الإصدار مئات الأصوات المؤيدة يوم الاثنين.

وفقًا لـ README الخاص بالمشروع، يوفر الإصدار استدلالًا دون الاتصال بالإنترنت مع الميزات الأساسية التي يعتمد عليها DeepSeek لخدمة نماذجه على نطاق واسع. يستهدف التكوين الافتراضي DeepSeek-V4.1-Flash، ويقوم الإطار تلقائيًا بتنزيل نقطة تفتيش DeepSeek-V4.1-Flash-1017 من Hugging Face عند التشغيل لأول مرة. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

ما يتضمنه DeepInfer بالفعل

DeepInfer ليس إعادة كتابة من الصفر. فهو يربط معًا النوى المتخصصة التي أطلقها DeepSeek قطعة قطعة على مدار العامين الماضيين — FlashMLA، وDeepGEMM، وDeepEP، وTileKernels، وDeepSelect، ونواة TileLang المخصصة — في وقت تشغيل واحد مع تنفيذ النموذج وأخذ العينات.

يشحن الإطار أيضًا العديد من تقنيات التقديم الموثقة بالتفصيل في المستودع:

  • التحقق المجدول بثقة، وهو أسلوب فك التشفير التخميني الذي يستخدم الرموز المميزة وتقديرات الثقة لجدولة التحقق، ويمكن التحكم فيه من خلال متغيرات البيئة
  • إعادة تشغيل SWA لوحدة فك التشفير، مما يقلل من عمل التعبئة المسبقة لوحدة فك التشفير عن طريق إعادة تشغيل لاحقة محدودة فقط من التسلسل
  • الجدولة غير المتزامنة التي تتداخل مع جدولة مجموعة وحدة المعالجة المركزية (CPU) مع تنفيذ الجهاز، ويتم تمكينها افتراضيًا
  • استدلال الدفعة الثابتة، الذي يحافظ على نتائج النموذج متطابقة عبر تركيبات الدفعات المختلفة
  • أخذ العينات الحتمية ، إنتاج مخرجات متطابقة للمدخلات ومعلمات أخذ العينات متطابقة
  • المخرجات المنظمة، مما يقيد عملية الإنشاء بالتعبير العادي أو مخطط JSON أو القواعد النحوية لـ EBNF

يستهدف هذا المزيج بشكل مباشر المشغلين الذين يحتاجون إلى إنشاء نصوص قابلة للتكرار وعالية الإنتاجية بدلاً من الألعاب التجريبية. إن ثبات الدفعة وأخذ العينات الحتمية أمران مهمان بشكل خاص للمؤسسات التي يجب أن تقوم بمراجعة سبب إنتاج النموذج لمخرجات معينة.

NVIDIA وHuawei Ascend، جنبًا إلى جنب

التفاصيل الأكثر مراقبة عن كثب هي دعم الأجهزة. يستهدف DeepInfer وحدات معالجة الرسوميات NVIDIA SM100 من خلال CUDA 13 وHuawei Ascend 950 NPUs من خلال CANN 9.2، مع إدراج Linux وGC 13 وPython 3.12 كمتطلبات أساسية لكلا المسارين.

يتوافق موقف النظام الأساسي المزدوج هذا مع تاريخ DeepSeek الحديث. لقد أمضت الشركة أشهرًا في تطوير برنامج يستند إلى TileLang لأجهزة Ascend وتحدى علنًا الافتراضات القائلة بأن CUDA لا يمكن استبداله. إن شحن إطار عمل استدلالي للإنتاج يعامل شركة Ascend كمواطن من الدرجة الأولى - وليس مجرد فكرة بحثية لاحقة - يوسع نطاق هذه الاستراتيجية، ويأتي في وقت تستمر فيه ضوابط التصدير الأمريكية في تقييد رقائق Nvidia التي يمكن للشركات الصينية شراؤها.

بالنسبة لمشغلي السحابة الصينيين الذين يقومون بتشغيل السيليكون المحلي، فإن محرك الاستدلال الذي يدعم Ascend 950 يزيل أحد العوائق العملية التي تحول دون تقديم نماذج مفتوحة من الدرجة الحدودية خارج النظام البيئي لـ Nvidia.

ما هو مفقود من الإصدار

يوضح README أن هذه ليست مجموعة تقديم كاملة بعد. لا يزال نشر الإنتاج المبني على DeepInfer يحتاج إلى ثلاثة مكونات لا يتضمنها الإصدار: نظام ذاكرة التخزين المؤقت KV، والتعبئة المسبقة وفك التشفير، وموازنة التحميل عبر النسخ المتماثلة المتوازية للبيانات. يشير المستودع إلى أن معظم وظائف المحرك المطلوبة للتفكيك قد تم تنفيذها بالفعل، ولكن يتم ترك الأنظمة المحيطة للمشغل.

من الناحية العملية، يعني هذا أنه من الأفضل فهم DeepInfer باعتباره المحرك الحسابي للبنية التحتية لـ DeepSeek بدلاً من كونه بديلاً جاهزًا لأطر عمل خدمة المجتمع. ستظل الفرق بحاجة إلى دمجها مع طبقات التخزين المؤقت والتوجيه قبل وضعها أمام حركة المرور الحقيقية.

لماذا يهم

تعتمد أعمال DeepSeek على خدمة النماذج بتكلفة رخيصة للغاية، وكانت اقتصاديات هذا العمل موضوعًا لتدقيق مكثف حيث تتجه الشركة نحو ما وصفته بتحرك التسعير بعيدًا عن موقعها السابق منخفض التكلفة. إن فتح مسار استدلال الإنتاج الفعلي - وليس فقط كود البحث - يمنح المطورين الخارجيين ومقدمي الخدمات السحابية نظرة مباشرة غير عادية على التقنيات الكامنة وراء هذه التكاليف.

كما أنها تواصل نمطًا متعمدًا. تم إصدار كل من FlashMLA وDeepGEMM وDeepEP بشكل فردي عندما قام المختبر ببناء مجموعته؛ يوثق DeepInfer بشكل فعال كيفية توافق القطع معًا. بالنسبة للباحثين، يسهل الإصدار إعادة إنتاج ادعاءات الأداء المنشورة لـ DeepSeek. بالنسبة للمنافسين، فهو يرفع مستوى ما يمكن اعتباره مجموعة استدلالات مفتوحة.

يسمح ترخيص Apache 2.0 بالاستخدام التجاري دون التزامات الحقوق المتروكة، مما يعني أن موفري الخدمات السحابية الغربيين يمكنهم نشره بشكل قانوني - على الرغم من أن دعم نموذجه يقتصر حاليًا على نقطة تفتيش V4.1-Flash الخاصة بـ DeepSeek، لذلك سيتعامل معه معظمهم باعتباره تطبيقًا مرجعيًا في الوقت الحالي.

ما يجب مشاهدته

هناك ثلاثة أسئلة ستحدد ما إذا كان DeepInfer سيصبح معتمدًا على نطاق واسع أم أنه سيظل مثيرًا للفضول. أولاً، ما إذا كان المجتمع ينقله إلى ما هو أبعد من V4.1-Flash إلى بنيات النماذج الأخرى. ثانيًا، ما إذا كانت نتائج قياس الأداء المنشورة في جداول أداء المستودع تصمد أمام الأجهزة الموجودة خارج مجموعات DeepSeek الخاصة. ثالثًا، ما إذا كانت الأجزاء المفقودة - إدارة ذاكرة التخزين المؤقت لـ KV، والتصنيف، وموازنة التحميل - ستصل إلى الإصدارات المستقبلية، مما يحول المحرك إلى إطار خدمة كامل.

في الوقت الحالي، يعد الإصدار بمثابة خطوة ملحوظة للشفافية من المختبر الذي اختار مرارًا وتكرارًا نشر البنية التحتية أسفل نماذجه. يمكن للمطورين الذين يرغبون في التجربة إنشاء DeepInfer من المصدر على أي من الأنظمة الأساسية المدعومة وتشغيل الاستدلال دون اتصال باستخدام برنامج نصي مثال واحد.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →