نشرت Anthropic مجموعة مفصلة من القياسات الذاتية يوم السبت تهدف إلى السماح للجمهور والصحفيين والحكومات بتتبع مدى السرعة التي يتم بها تطوير الذكاء الاصطناعي الحدودي بالفعل - بما في ذلك مؤشر هو الأول من نوعه لمقدار الأبحاث الخاصة بالشركة التي يتم إجراؤها الآن بواسطة الذكاء الاصطناعي، والكشف عن أن ما يقرب من 30.000 من عملاء الذكاء الاصطناعي يقومون بأعمال بحثية وهندسية داخل الشركة في أي لحظة.
يصل المنشور الذي يحمل عنوان "قياسات لفهم وتيرة تطوير الذكاء الاصطناعي داخل المختبرات الحدودية"، إلى قلب الجدل الأكثر أهمية في الصناعة: ما إذا كان ينبغي إبطاء التطوير الحدودي عمدًا. دعا داريو أمودي إلى التنسيق من أجل "تسريع الحدود"، وهو الاقتراح الذي هز الأسواق، وأثار دعوى قضائية للمستهلكين تزعم وجود تواطؤ بين المختبرات الكبرى، ودفع الرئيس ترامب إلى الإعلان عن "قوة الذكاء الاصطناعي" المخصصة لمنع أي تباطؤ. إن الإطار الأنثروبي واضح بشأن هذا السياق: "بينما يفكر العالم في إبطاء وتيرة تطوير الذكاء الاصطناعي الحدودي، يحتاج الجمهور إلى المزيد من المعلومات".
ثلاثة قياسات لتتبع تقدم الذكاء الاصطناعي
وضعت الشركة ثلاثة مجالات قياس ترى أن أي مختبر حدودي يمكنه نشرها بانتظام:
1. ما مقدار أعمال البحث والتطوير التي يقوم بها الذكاء الاصطناعي نفسه. قامت شركة Anthropic ببناء نموذج أولي "مؤشر أتمتة البحث والتطوير الأنثروبي" من خلال فهرسة كل أنواع أعمال البحث والتطوير في مجال الذكاء الاصطناعي التي يتم إجراؤها في الشركة، وتقييم مدى أتمتة كل مهمة حاليًا، وتجميع النتائج. تستخدم التقييمات مقياس "مستوى الأتمتة" العام الخاص بـ Epoch AI، والذي يمتد من AL0 (بدون مشاركة الذكاء الاصطناعي) إلى AL5 (يعمل الذكاء الاصطناعي بشكل مستقل تمامًا مع عدم وجود إنسان في الحلقة). على هذا المقياس، تعني AL3 أن الذكاء الاصطناعي "يتعاون" - أي القيام بأجزاء كبيرة من العمل تحت توجيه بشري وثيق - بينما تعني AL4 أن الذكاء الاصطناعي "يقود"، حيث يكمل معظم المهمة من البداية إلى النهاية من خلال توجيه عالي المستوى بينما يشرف الإنسان.الهدف من المؤشر هو قياس مدى اقتراب أي مختبر من التحسين الذاتي العودي، وهو نموذج يبني خليفته بشكل مستقل تمامًا. تشير أنثروبيك إلى أن النماذج التي تعمل على تسريع تطوير الذكاء الاصطناعي "يمكن أن تجعل الأمر أكثر صعوبة بالنسبة للبشر لفهم هذه الأنظمة أو التحكم فيها".
2. مدى جودة مراقبة تصرفات عملاء الذكاء الاصطناعي. هذا هو المكان الذي يظهر فيه الرقم 30,000. اعتبارًا من أغسطس 2026، كان ما يقرب من 30000 وكيل يقومون بأعمال بحثية وهندسية في أي وقت داخل منصة Anthropic الداخلية الأكثر استخدامًا، حيث يقومون بتفويض المهام لبعضهم البعض والعمل بشكل شبه مستقل لفترات طويلة. تقيس الشركة ثلاثة أشياء تتعلق بالإشراف على هؤلاء الوكلاء: التغطية (حصة إجراءات الوكيل التي تمر عبر جهاز المراقبة قبل التنفيذ أو بعده)، وزمن وصول المراجعة (مدى سرعة مراجعة الإجراءات التي تم وضع علامة عليها، أولاً بواسطة مراقب آلي ثم بواسطة إنسان)، ومعدل التصعيد (حصة الأنشطة المحظورة أو المعاد توجيهها أو التي تم وضع علامة عليها للمراجعة).تشير بيانات المراقبة الخاصة بشركة أنثروبيك حتى الآن إلى أن الوكلاء الأفراد نادرًا ما يسيئون التصرف - لكن الشركة تحذر من أنه "عندما يكون هناك ملايين أو مليارات من الوكلاء العاملين في الاقتصاد، فحتى الأحداث النادرة يمكن أن تحدث بانتظام".
3. كيفية تخصيص الحوسبة. يتتبع القياس الثالث كيفية توزيع موارد الحوسبة في المختبر - المدخلات الأولية التي ترتبط بقدرات النموذج. وإلى جانب المقياسين الآخرين، تقول أنثروبيك أن هذا يمنح الأطراف الخارجية طريقة لربط مدخلات النموذج بمخرجات النموذج، مما يكمل تقييمات القدرات التي تنشرها الشركة بالفعل من خلال تقارير مخاطر سياسة القياس المسؤول.ستتحرك الأرقام في ظل التباطؤ
يستهدف الخط الأكثر توجيهًا سياسيًا في هذا المنشور بشكل مباشر إلى النقاش حول سرعة السرعة: حيث تنص الأنثروبيك على أنها "تتوقع أن تتغير هذه الأرقام إذا كان هناك تنسيق بشأن سرعة الحدود، كما دعا الرئيس التنفيذي لشركة الأنثروبيك داريو أمودي". بمعنى آخر، إذا تباطأت الصناعة حقًا، فإن هذه المقاييس هي الطريقة التي يمكن للجمهور التحقق منها - وإذا ادعت الشركات أنها تسير بخطى سريعة بينما تستمر أرقامها في الارتفاع، فإن القياسات ستكشف ذلك أيضًا.
التحقق المستقل هو القطعة المفقودة
تعترف شركة أنثروبيك بالضعف المركزي في المقاييس التي يتم الإبلاغ عنها ذاتيًا: فهي تستخدم نماذجها الخاصة لتقييم أنظمتها الخاصة، مما يعني أن نموذج "القاضي" يمكنه مشاركة النقاط العمياء للنموذج الذي يتم فحصه. وتشير الشركة أيضًا إلى عدم وجود منهجية مشتركة عبر المختبرات، مما يجعل المقارنات صعبة.
العلاج المقترح هو دمج مقيمين خارجيين مستقلين من منظمات متعددة داخل Anthropic، مما يتيح لهم الوصول إلى العمليات والأنظمة والبيانات الداخلية المماثلة لما تراه فرق تقييم المخاطر الداخلية. ستقوم هذه الأطراف الثالثة بالتحقق من ممارسات السلامة والإبلاغ عن الحوادث ومراقبة المقاييس الجديدة. تقول الشركة إن منظمة METR، وهي منظمة تقييم غير ربحية، قد قامت سابقًا بتشكيل فريق مستقل بشكل مستقل لمنصة المراقبة غير المتصلة بالإنترنت، وأنها تخطط لنشر هذه القياسات بانتظام في شكل يمكن للآخرين التحقق منه.
ترتبط القياسات بمقترح إطار الذكاء الاصطناعي المتقدم الأوسع نطاقًا من Anthropic، والذي يحدد "قواعد الطريق" لإصدارات النماذج الحدودية، بما في ذلك التزامات الشفافية التي يمكن أن تطلبها الحكومات - مثل تقارير المخاطر الموحدة.
اختبار للصناعة بأكملها
قد تكون الأهمية الأعمق لهذا المنصب تنافسية. تتحدى أنثروبيك كل مختبر حدودي فعليًا لنشر نفس الأرقام، بحجة أن "أي مطور حدودي يمكنه نشر هذه التدابير بانتظام، باستخدام منهجية عامة". وإذا تراجع المنافسون، فإن التباين يصبح نقطة بيانات خاصة به في الجدل الدائر حول السلامة؛ وإذا وافقوا، فإن الصناعة تكتسب أول مقياس مشترك لمدى سرعة تقدم الذكاء الاصطناعي حقًا.
في الوقت الحالي، يتم الإبلاغ عن الأرقام ذاتيًا من قبل شركة لديها اهتمام واضح بالمحادثات الجارية. ولكنها تمثل شيئا افتقدته المناقشة: قياسات ملموسة وقابلة للتكرار من شأنها أن تظهر ما إذا كانت الحدود تتسارع، أو ثابتة، أو تتباطأ بالفعل.
ابق في صدارة الذكاء الاصطناعي
إفصاحات مختبر الحدود مثل هذه التي يتم نشرها أسبوعيًا. لمزيد من التغطية الشاملة لأبحاث الذكاء الاصطناعي والصناعة، تابع AI Buzz Wire.
اقرأ آخر أخبار الذكاء الاصطناعي →
