نشر مختبر الذكاء الاصطناعي الصيني Z.ai حسابًا تقنيًا مفصلاً لكيفية ضبط نماذج GLM للعمل على تحسين الأنظمة ذاتها التي تخدمها، واصفًا "عامل الأشعة تحت الحمراء" الذي يجد ويصلح اختناقات الأداء في البنية التحتية الاستدلالية للشركة مع تدخل بشري محدود.
ظهرت المدونة التي تحمل عنوان "نحو تحسين ذاتي متكرر: كيف قامت شركة GLM ببناء بنيتها التحتية الاستدلالية الخاصة بها" على موقع الشركة يوم الأربعاء وسرعان ما أصبحت واحدة من أكثر قصص التكنولوجيا مناقشة على Hacker News، حيث جذبت أكثر من 200 نقطة من مجتمع المطورين. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.
وكتبت الشركة في السطور الافتتاحية لهذا المنشور: "بينما نقوم بتطوير GLM، يُظهر النموذج أحيانًا قدرات تفاجئنا، بل وتزعجنا".
من أبحاث الأمن السيبراني إلى أنظمة التحسين الذاتي
يعود العمل إلى أكتوبر 2025، عندما بدأت Z.ai البحث عن كيفية تعزيز قدرات الأمن السيبراني لشركة GLM. وتقول الشركة إن المنطق كان واضحًا: الأمن السيبراني هو امتداد طبيعي للبرمجة، والنماذج التي يمكنها التنقل في قواعد التعليمات البرمجية الكبيرة يمكنها في النهاية التنقل في كود الأنظمة منخفضة المستوى الذي يتجنبه معظم المهندسين.
تطور هذا الأساس إلى شيء أكثر طموحًا. بدلاً من استخدام النماذج لمجرد كتابة التعليمات البرمجية، شرعت Z.ai في الإجابة على سؤال في هندسة الأنظمة: هل يمكن لعامل الذكاء الاصطناعي أن يتحمل مسؤولية أداء مجموعة استدلال الإنتاج، وهي طبقة تنسيق البرامج والأجهزة التي تحول أوزان النماذج إلى استجابات سريعة ورخيصة؟
تضمنت إجابة الشركة إعادة صياغة المشكلة. ويجادل المنشور بأن المقاييس الشاملة وحدها لا يمكنها توجيه وكيل التحسين. إن التقرير الذي يشير إلى زيادة وقت ظهور الرمز المميز الأول بنسبة 30 بالمائة أو انخفاض إنتاجية المخرجات بنسبة 20 بالمائة يخبر الوكيل بأن شيئًا ما أصبح أسوأ، ولكن ليس الطبقة المسؤولة، أو سبب فشل فرضيتها، أو ما الذي يجب اختباره بعد ذلك.
"كيف يمكننا تحويل النتائج المتفرقة الشاملة إلى ردود فعل هندسية دقيقة يمكن عزوها والتي توجه الإجراء التالي بشكل مباشر؟" تسأل الشركة في المنشور، واصفة السؤال بأنه مفتاح الجهد بأكمله.
ثلاث قواعد للملاحظات التي يمكن للوكيل قراءتها
إجابة Z.ai هي نظام ردود الفعل المبني على ثلاث خصائص. أولاً، يجب أن تكون ردود الفعل محلية بما فيه الكفاية، ومرتبطة بمعلمات تشغيل المحرك المحددة، أو تغييرات التعليمات البرمجية، أو النواة، أو شروط الإدخال، أو الخيوط، أو فترات التنفيذ، أو مسارات التعليمات البرمجية، حتى يتمكن الوكيل من تضييق نطاق أي مشكلة. ثانيًا، يجب أن يكون الحصول عليها غير مكلف وفي الوقت المناسب: فالسؤال الذي يمكن الإجابة عليه عن طريق اختبار kernel أو اختبار معياري صغير محلي يجب ألا يتطلب نشرًا كاملاً للخدمة. ثالثًا، يجب أن يتطابق التحقق من الصحة مع الفرضية الحالية، حيث يتم تصميم كل تجربة للإجابة على سؤال محدد بدلاً من اتباع تسلسل ثابت.
تقول الشركة إن حلقة ردود الفعل الكثيفة هذه هي ما يسمح لعامل Infra بالتصرف بشكل أقل شبهاً بالإكمال التلقائي للمهندسين وأكثر كزميل يمكنه إجراء التجارب بين عشية وضحاها.
ثلاث دراسات حالة، من الأرقام إلى خطأ الترابط
يتناول المنشور ثلاث حلقات ملموسة من تحسين مجموعة الخدمة الخاصة بالشركة لـ GLM-5.3-Flash، وهو نموذج الوزن المفتوح Z.ai الذي تم إصداره بموجب ترخيص MIT في أغسطس.
الأول ينطوي على الصواب. نظرًا لأن تحسينات الاستدلال تعمل على تعديل كيفية موازنة الحسابات، كان الوكيل بحاجة إلى التحقق من أن النوى تنتج نفس النتائج في ظل ظروف مقسمة وغير مقسمة. في إحدى الحالات، قام الفريق بدمج ثلاث عمليات TF32 Tensor Core لإنتاج نتيجة عالية الدقة، مما يقلل من الأخطاء الرقمية المتراكمة مع الحفاظ على معظم مزايا أداء Tensor Core. كشف الاختبار المقارن بين استراتيجيات التقسيم عن التناقضات التي حفزت الإصلاح.
والثانية هي قصة تصحيح أخطاء الأنظمة التي ستكون مألوفة لدى أي مهندس أداء. تتطلب معايير القبول أن إضافة نقل ذاكرة التخزين المؤقت KV إلى مسار العرض يجب ألا يؤدي إلى انخفاض أداء التعبئة المسبقة بأكثر من 5 بالمائة في ظل أحمال عمل متطابقة. وجد الوكيل أن الفجوة تجاوزت 20 بالمائة في بعض السيناريوهات، مما أدى إلى تضييق نطاق التحقيق ليقتصر على سلوك التزامن لنقل KV نفسه. من خلال فحص الجداول الزمنية للتنفيذ، حدد الوكيل حالة شاذة: في سيناريوهات المشكلة، لم يتداخل تنفيذ نقل KV من جانب Python مطلقًا مع فترات الإرسال والجمع لمكتبة اتصالات DeepEP. كان الإصلاح هو تحرير قفل المترجم العام لـ Python أثناء فترات تنفيذ C++ ذات الصلة، مما يسمح لسلسلة النقل التي تخدم Mooncake، مخزن ذاكرة التخزين المؤقت KV، بالمضي قدمًا بالتوازي مع الحساب. وبعد ذلك، انخفضت فجوة الأداء ضمن عتبة القبول.
تعرض الحلقة الثالثة ضبط النواة التكراري. أدى تقديم ReplaySSM، وهي تقنية تستبدل الحوسبة بالذاكرة، إلى زيادة وقت تنفيذ نواة فك تشفير KDA في البداية. أدى تحسين تقسيم الوكيل إلى تقليل وقت تنفيذ النواة بنسبة 9.6 بالمائة. بعد تلقي تعليقات تفيد بأن الحساب ظل عنق الزجاجة الأساسي، اكتشف الوكيل التنفيذ الأصلي المتراصف على طول البعد V، مما تسبب في تكرار حسابات التطبيع والبوابات المتطابقة لـ FP32 دون داع.
المكدس خلف GLM-5.3-Flash
ترتكز التحسينات على بنية الخدمة القوية التي يصفها Z.ai في المنشور: توازي الموتر داخل العقدة للاهتمام الخطي ورئيس نموذج اللغة، وتجارة الحوسبة مقابل الذاكرة ReplaySSM، وتكميم W8A8، وتكميم ذاكرة التخزين المؤقت ذات الدقة المختلطة باستخدام تنسيقات INT8 وFP8 وBF16، ونظام تقسيم الطبقة، وبنية التشفير والتعبئة المسبقة وفك التشفير المفصلة التي تدير مراحل التقديم على صيغ منفصلة. الموارد.
تضع الشركة إطارًا لتراكم هذه التقنيات، التي اكتشفها الوكيل نفسه وتحقق من صحتها إلى حد كبير، كخطوة نحو التحسين الذاتي المتكرر: تعمل أنظمة الذكاء الاصطناعي على تحسين البنية التحتية التي تجعلها أسرع وأرخص في التشغيل، وهو ما يجعل بدوره الجولة التالية من التحسين الذي يحركه الوكيل أقل تكلفة.
لماذا يهم
تعد تكلفة الاستدلال أحد العوامل الاقتصادية الحاسمة في صناعة الذكاء الاصطناعي. يمكن للمختبرات التي يمكنها تقديم نماذج من الدرجة الأولى بتكلفة أقل لكل رمز مميز أن تقوم بتسعيرها بقوة، ودعم الوكلاء الذين يقومون بإجراء آلاف المكالمات لكل مهمة، وتمويل المزيد من الدورات التدريبية من خدمة الإيرادات. لقد كانت Z.ai عدوانية بشكل ملحوظ على الجبهات الثلاث، وأظهرت الإفصاحات المالية المؤقتة للشركة في وقت سابق من هذا العام نمو الإيرادات بشكل حاد حتى مع تضييق الخسائر.
يعد هذا المنشور أيضًا إشارة حول الاتجاه الذي تتجه إليه الهندسة في المختبر. يتم استبدال التقسيم التقليدي للعمل، حيث يقوم مهندسو الأداء البشري بضبط النواة والمجدولين بينما تتعامل النماذج مع طلبات المستخدم، في Z.ai بحلقة يقترح فيها النموذج التغييرات، وتتحقق التجارب الرخيصة من صحتها، وتوجه ردود الفعل الكثيفة المحاولة التالية.
ينبغي قراءة ادعاءات التحسين الذاتي المستقل تمامًا بعناية. يوضح المنشور نفسه أن المهندسين البشريين قاموا بتحديد سيناريوهات الاختبار، ووضعوا معايير القبول، وقاموا ببناء بيئات التعليقات التي يعمل فيها الوكيل. ما تصفه الشركة هو أتمتة حلقة تحسين جيدة التجهيز، وليس نظامًا غير خاضع للرقابة يعيد تصميم نفسه.
ومع ذلك فإن الاتجاه واضح. إذا تم تحديد اقتصاديات الذكاء الاصطناعي في السنوات القليلة المقبلة من خلال من يمكنه خدمة الذكاء بأرخص الأسعار، فإن المختبرات التي تعلم نماذجها لتحسين البنية التحتية الخاصة بها قد تحدد السرعة، وتريد Z.ai أن تعرف الصناعة أنها تنوي أن تكون واحدة منها.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →