عندما تتحدث إلى صديق شخصيًا، يمكنك رؤيته، وسماعه، ومصافحته. عندما تتحدث إلى نموذج الذكاء الاصطناعي، فلن يكون لديك أي من هذه الضمانات تقريبًا. يهدف بحث Anthropic الجديد إلى سد هذه الفجوة بالضبط: فقد نشرت الشركة تقدمًا في إثباتات الاستدلال المشفرة، بما في ذلك نظام يسمى FlashProve يمكنه أن يثبت - رياضيًا وليس تعاقديًا - أن الاستجابة جاءت بالفعل من النموذج الذي تدعي أنه كذلك.

المشكلة التي يعالجها FlashProve هي مشكلة هيكلية بهدوء. لا يمكن للمستخدم الذي يستعلم عن نموذج اليوم التحقق من أن الاستجابات جاءت من النموذج المحدد الذي يدعي المطور أنه يستجيب، على عكس النموذج الذي تم استبداله سرًا بواسطة خدمة توجيه لأسباب تتعلق بالتكلفة، أو حتى من قبل مهاجم تلاعب بتدفق الرمز المميز. إن الحكم على المخرجات وحدها أمر غير موثوق، حتى لو كانت الإجابات تبدو ممتازة. في صناعة حيث يمكن لنافذة الدردشة نفسها أن تتجه بصمت إلى نموذج أرخص تحت الضغط، فإن هذا ليس مصدر قلق افتراضي - إنه نموذج الثقة الافتراضي. لمزيد من التغطية لأعمال كهذه، راجع أخبار أبحاث الذكاء الاصطناعي.

لماذا يعد الاستدلال الذي يمكن إثباته أمرًا صعبًا؟

الهدف من الاستدلال القابل للإثبات هو السماح للمستخدم الذي لديه موارد حسابية محدودة - وليس لديه إمكانية الوصول إلى الأوزان الخاصة للنموذج - بالتحقق من أن استجابة معينة قد تم إنتاجها بالفعل بواسطة هذا النموذج. إن النهج الواضح، المتمثل في إعادة تشغيل النموذج بنفسك، غير موفق: حيث يتم الاحتفاظ بأوزان النماذج الحدودية خاصة، والتحقق من الاستجابة مقابلها يتطلب عمليات حسابية تتجاوز بكثير ما يستطيع المستخدم العادي، أو حتى المقيم الممول تمويلا جيدا، تحمله.

يعتمد نهج Anthropic على zkSNARKs، وهي مجموعة من إثباتات المعرفة الصفرية ذات خصائص إخفاء وكفاءة قوية تجعلها مناسبة بشكل فريد للمهمة. يلتزم المزود بالنموذج مرة واحدة، ثم يقوم بإنشاء دليل مضغوط لكل استجابة تم حساب الإجابة بواسطة النموذج الملتزم به - بينما تخفي البراهين نفسها أوزان النموذج. إخفاء البنية ليس هدفاً للنظام؛ إخفاء الأوزان هو.

الأرقام

تمثل أرقام الكفاءة الواردة في المنشور جوهر القصة الفني، نظرًا لأن توليد الأدلة للنماذج الكبيرة كان تاريخيًا بطيئًا للغاية بحيث لا يهم. بالنسبة إلى Llama 4 Maverick، وهو نموذج خليط من الخبراء مكون من 400 مليار معلمة، تقوم وحدة معالجة رسوميات NVIDIA H100 واحدة بإنشاء إثباتات بمعدل 110 رمزًا في الثانية تقريبًا، مع حجم إثبات يبلغ حوالي 19 ميجابايت لكل طلب 1024 رمزًا، باستخدام أوزان كمية 4 بت وحسابات أعداد صحيحة في التعبئة المسبقة.

تأتي هذه السرعة بتكلفة: يستغرق إنشاء الإثبات ما يقرب من 70 إلى 95 ضعف وقت وحدة معالجة الرسومات (GPU) بمجرد تشغيل النموذج نفسه على vLLM، وهي مكتبة استدلالية مفتوحة المصدر مستخدمة على نطاق واسع. بعبارة أخرى، باهظ الثمن، ولكن للمرة الأولى بنفس حجم الشيء الذي تم إثباته، ووفقًا لـ Anthropic، فهو أسرع بكثير من الأنظمة السابقة مفتوحة المصدر، والتي تتخلف من حيث الحجم.

قام كلود ببنائها — وقام Lean بمراجعة المطالبات

وهناك قصة ثانية مطوية داخل الأولى. وفقًا للمنشور، أنتج كلود بنفسه تحسينات على zkSNARKs للاستدلال، وإيجاد طرق جديدة لتطبيق أحدث الأدوات من التشفير والأدبيات الأمنية مع الاعتماد على مبادئ التصميم الراسخة لأنظمة إثبات التشفير.

إن أنثروبيك صريحة بشأن المخاطر التي تأتي مع سير العمل هذا: كلود جيد في التحسين، لكنه غالبًا ما يتخذ قرارات يصعب تقييمها، خاصة في الأنظمة المعقدة الكبيرة. الإجراء المضاد هو التحقق الرسمي. توفر الشركة بيانات قابلة للتدقيق عالية المستوى بلغة Lean، وهي لغة تحقق رسمية، لضمانات الأمان المطالب بها - وتقف الرياضيات التي تم فحصها آليًا بين التحسينات الذكية للذكاء الاصطناعي والمستخدمين الذين يتعين عليهم الوثوق بها.

يتم إصدار المجموعة الكاملة بموجب ترخيص Apache 2.0: منشور المدونة، وتقرير فني يشرح تفاصيل النظام، ووصف البروتوكول، والتعليمة البرمجية القابلة للتنفيذ بما في ذلك المثبت وأداة التحقق - أداة تحقق سريعة في C++ وأداة تحقق يمكن إثبات صحتها في Lean - بالإضافة إلى أدلة Lean نفسها ومصور تفاعلي للمساعدة في التدقيق.

من الامتثال إلى معاهدات تعزيز الذكاء الاصطناعي

تستخدم الرسومات التخطيطية الإنسانية حالات تتراوح من الروتين إلى الجيوسياسية. يحتاج المقيمون المستقلون الذين يختبرون نماذج الذكاء الاصطناعي قبل الإصدار وبعده إلى معرفة أن النموذج الذي يقومون بتقييمه هو النموذج الذي يتم تقديمه. العملاء الذين يصلون إلى النموذج من خلال خدمة توجيه تابعة لجهة خارجية يريدون التأكد من أن الرموز المميزة جاءت من النموذج الذي دفعوا مقابله. وفي السيناريو الأمني، يصبح المهاجم الإلكتروني الذي يقوم بتعديل تدفق الرمز المميز أثناء انتحال نموذج معين قابلاً للاكتشاف بطريقة لا يمكن لفحص المخرجات وحده تحقيقها.

التطبيق الأكثر طموحًا المذكور في المنشور هو التحقق من الامتثال لمتطلبات سرعة الذكاء الاصطناعي - فئة الاتفاقيات الناشئة، الطوعية والحكومية، التي تحاول التحكم في مدى سرعة تقدم القدرات الحدودية. واليوم، تعتمد هذه الالتزامات على الثقة والأوراق. تقدم أدلة الاستدلال المشفرة شيئًا أقرب إلى الفحص: طريقة لتوضيح النموذج الذي يخدم عبء عمل معين، بدلاً من التأكيد عليه.

لقد أوضح الباحثون أن هذا تقدم متوسط، وليس أجندة بحث مكتملة، وهم ينشرون بهدف معلن وهو أن يقوم الآخرون بالعمل ويحسنونه. يعد هذا التأطير في حد ذاته إشارة: فقد انتقل الاستدلال القابل للإثبات من تجربة فكرية في ندوات التشفير إلى مشكلة هندسية يتسابق الآن أحد المختبرات الحدودية علنًا لجعلها رخيصة بما يكفي لنشرها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →