بدأت Anthropic في منح فريق من METR، وهي منظمة غير ربحية تقوم بتقييم نماذج الذكاء الاصطناعي الحدودية، "وصولاً يشبه وصول الموظفين" إلى أنظمتها الداخلية - أجهزة الشركة، والمساحات المكتبية، والأدوات على قدم المساواة تقريبًا مع ما تستخدمه فرق تقييم المخاطر الخاصة بها - حتى تتمكن المجموعة الخارجية من تقييم مخاطر نماذج Anthropic الحدودية بشكل مستقل ونشر ما تجده.
يذهب هذا الترتيب، الذي أُعلن عنه في مدونة أنثروبيك يوم الأربعاء، إلى أبعد من العلاقات على غرار التدقيق التي تتسامح معها عادة شركات الذكاء الاصطناعي، ويأتي مع بند بارز: ستنشر METR نتائج تقييمات المخاطر الخاصة بها، ولا تستطيع أنثروبيك الاعتراض على النشر.
ماذا يعني "الوصول مثل الموظف" في الواقع
تم تزويد ستة من موظفي METR بأجهزة الشركة، والمساحات المكتبية، والوصول إلى الأدوات والأنظمة الداخلية التي تصفها Anthropic بأنها تساوي تقريبًا ما تتلقاه فرق تقييم المخاطر الخاصة بها. خارج عدد صغير من الفئات المحددة بوضوح - بيانات حول العملاء، والمعلومات المميزة للمحامي وموكله، ومعلومات حول بنيات النماذج - تقول Anthropic أنه يتم تشجيع موظفيها على مشاركة المعلومات مع فريق METR تمامًا كما يفعلون مع زميل موظف يعمل على مخاطر المواءمة.
الخطوبة ضيقة عمدا. وهو يغطي فريقًا صغيرًا يعمل بموجب اتفاقيات قابلة للتنفيذ، ويتم عزل موظفي METR الآخرين عن عمل هذا الفريق - بما في ذلك الباحثين الذين يتعاونون مع Anthropic في مشاريع أخرى. تلاحظ Anthropic أن الإعداد يمنح عددًا قليلًا من الأشخاص المؤهلين، الذين يعملون وفقًا لمعايير Anthropic الأمنية، نظرة قريبة على كيفية عمل الشركة. إنها ليست قناة للمؤسسات الأخرى للحصول على معلومات Anthropic أو معلومات عملائها.
حقوق النشر، مع حواجز الحماية
وبموجب الاتفاقية، ستقوم METR بنشر تحليلها لمستويات المخاطر أو الأحداث أو الممارسات الإنسانية. لا تستطيع أنثروبيك منع النشر، ولكنها قد تتطلب تنقيحًا عندما تندرج المعلومات ضمن الفئات المحددة مسبقًا الموضحة أعلاه - وتقرر أنثروبيك نفسها ما يندرج أو لا يندرج ضمن هذه الفئات. تحتفظ METR، من جانبها، بالحق في الإدلاء ببيانات معينة حول مستوى الوصول والمعلومات التي تتلقاها، وهو ثقل موازن مصمم لمنع قوة التنقيح من أن تصبح زر كتم الصوت.
لماذا تنفتح الأنثروبولوجيا؟
تأتي هذه الخطوة في أعقاب التزام شركة Anthropic الشهر الماضي بإجراء تقييم مستقل أقوى من طرف ثالث لنماذجها وممارسات السلامة الخاصة بها، وتوقيعها على اتفاق البيت الأبيض بشأن الذكاء الفائق، والذي تعهدت فيه شركات الذكاء الاصطناعي بالشراكة مع مدققين أو مقيمين خارجيين مستقلين. كما أنها توسع العلاقة القائمة: خلال العام الماضي، عملت Anthropic مع METR على العديد من المراجعات لتقارير المخاطر الخاصة بها.
METR ليست وحدها في المحفظة. تقول Anthropic إنها تعمل أيضًا مع SecureBio وAccenture كمقيمين - تم اختيار كلية Accenture كأول مقيم مدمج للشركة في سبتمبر - وهي تجري مناقشات مبكرة مع العديد من المنظمات الأخرى، بما في ذلك Hugging Face. تأتي هذه الشراكات في المراحل المبكرة مع وصول محدود إلى المعلومات وحقوق النشر بينما تتعلم الشركة أنواع عمل الشراكة.
القياس على الإشراف البنكي
الإطار الأنثروبي الخاص يستعير من التمويل. إن البنوك تعرف المزيد عن مراكز المخاطر الخاصة بها مقارنة بالأطراف الخارجية، ولهذا السبب تقوم الهيئات التنظيمية بتعيين فاحصين مقيمين للعمل داخل أكبر البنوك؛ فإذا كان خوض البنك للمجازفة قد يشكل تهديداً للعامة، فإن أطرافاً ثالثة تحاول رؤية ذلك مسبقاً. تضع الشركة التقييم المضمن كنسخة من هذا المنطق في صناعة الذكاء الاصطناعي - وهي خطوة نحو مراقبة قوية للسلامة في مجال يعرف فيه المنشئ دائمًا أكثر من الجهة الرقابية.
ويكمن وراء كل ذلك هدف معلن: سد الفجوة بين ما يفهمه المقيمون المستقلون حول أنظمة شركة الذكاء الاصطناعي الحدودية وما تفهمه الشركة نفسها.
ما يحتاجه المقيِّمون
ويحدد الإعلان أيضًا ما تعتقد أنثروبيك أن التقييم الهادف يتطلبه: الخبرة في تقييم قدرات النموذج الحدودي، بما في ذلك فهم كيف يمكن أن تسوء التقييمات من خلال ظواهر مثل تزييف المحاذاة؛ الاستقلالية، مما يعني عدم وجود حقوق ملكية أو اعتماد مالي أو تشغيلي على الشركة التي يتم تقييمها؛ الوصول الكافي إلى تقييم المخاطر بشكل هادف، بما يتجاوز أحدث النماذج لكيفية تدريبهم وكيفية عمل الضمانات؛ وحرية نشر الملاحظات والتقييمات لنموذج أو عملية.
حالة اختبارية للصناعة بأكملها
سيتم الحكم على الترتيب من خلال مخرجاته. سيُظهر أول تقييم منشور لـ METR بموجب نظام الوصول الجديد ما إذا كان الوصول المشابه للموظف يؤدي إلى نتائج ذات أسنان حقيقية أو تقارير مقصوصة بفئات التنقيح التي تحددها الشركة نفسها. سوف يلاحظ المتشككون أن الأنثروبيين يتحكمون في حدود الفئة وأن الفريق التجريبي صغير؛ سيلاحظ المؤيدون أن حق النشر الذي لا يمكن للأنثروبيك أن يعترض عليه هو أمر جديد حقًا بين المختبرات الحدودية.
وفي كلتا الحالتين، الصناعة تراقب. إذا أظهر الوصول المضمن لـ METR النتائج المادية ونشرها دون أي خلل، فسيصبح النموذج هو النموذج الواضح لكل مختبر وقع على اتفاق البيت الأبيض - ومعيارًا لصانعي السياسات الذين يزنون ما إذا كانت الرقابة الطوعية يمكن أن تحل محل عمليات التدقيق الإلزامية. للحصول على تغطية مستمرة لسياسة سلامة الذكاء الاصطناعي وأخبار صناعة الذكاء الاصطناعي التي تشكلها، تتابع AI Buzz Wire كل تطور عند حدوثه.
---
ابقَ في طليعة الذكاء الاصطناعياحصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
