اقترح ديميس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind، إنشاء هيئة معايير مستقلة بقيادة الولايات المتحدة على غرار هيئة تنظيم الصناعة المالية (FINRA) لتقييم وتنظيم نماذج الذكاء الاصطناعي الحدودية قبل الإصدار العام، محذرًا من أن البشرية لديها "نافذة ثمينة" لضمان تطوير الذكاء الاصطناعي العام بأمان.
وفي وثيقة إطارية بعنوان "إطار عمل للذكاء الاصطناعي الحدودي وبزوغ عصر جديد"، نُشرت على موقع X صباح الثلاثاء، وضع هاسابيس اقتراحًا مفصلاً لكيفية إنشاء الولايات المتحدة بنية تحتية تنظيمية موثوقة لأقوى أنظمة الذكاء الاصطناعي. تدعو الخطة إلى إنشاء منظمة جديدة تختبر النماذج الرائدة وتطور أفضل الممارسات لنشرها - بتمويل من صناعة الذكاء الاصطناعي ولكنها تعمل بشكل مستقل عن أي شركة منفردة.
للحصول على أحدث أخبار الذكاء الاصطناعي العاجلة والتحليل المتعمق للسياسات، تتتبع AI Buzz Wire التطورات التي تشكل الصناعة.
كيف ستعمل هيئة المعايير المقترحة
وبموجب اقتراح هاسابيس، ستقوم مختبرات الذكاء الاصطناعي بمشاركة نماذجها الحدودية طوعًا مع هيئة المعايير لمراجعتها لمدة تصل إلى 30 يومًا قبل الإصدار العام. ومن شأن هذا التقييم السابق للنشر تقييم نماذج السلامة والأمن ومخاطر سوء الاستخدام المحتملة. بمجرد إثبات فعالية بروتوكول التقييم وقوته، يتصور الإطار إضفاء الطابع الرسمي على العملية بحيث يُطلب من النماذج الحدودية اجتيازها قبل نشرها في السوق الأمريكية.
يعالج الاقتراح بشكل مباشر الفجوة التي كشفت عنها المراجعات الحكومية الأخيرة لأنظمة الذكاء الاصطناعي الحدودية. في وقت سابق من هذا العام، أجرت حكومة الولايات المتحدة مراجعات سلامة مخصصة لنموذج Anthropic's Mythos ونموذج OpenAI's Sol قبل إصدار كل منهما. أثارت هذه المراجعات انتقادات كبيرة لافتقارها إلى العمق الفني ولعدم شفافية عملية اتخاذ القرار بشأن متى يعتبر النموذج آمنًا بدرجة كافية للنشر العام.
وبموجب إطار عمل هاسابيس، سيتم التعامل مع هذه القرارات من قبل منظمة متخصصة تضم خبراء فنيين، وتدعمها حكومة الولايات المتحدة ولكنها معزولة عن الضغوط السياسية. سيُطلب من المختبرات أيضًا العمل مع هيئة المعايير لمعالجة نقاط الضعف الحرجة التي تم اكتشافها بعد الإصدار.
"نافذة ثمينة" قبل الذكاء الاصطناعي العام
وفي مقابلات مع أكسيوس، وسي إن بي سي، والإيكونوميست، شدد هاسابيس على أن اللحظة الحالية تمثل فرصة ضيقة لإنشاء آليات الحوكمة قبل وصول الذكاء العام الاصطناعي. ووصف هذه الفترة بأنها "نافذة ثمينة" - مما يعني أن النافذة لن تظل مفتوحة إلى أجل غير مسمى.
لطالما كان هاسابيس من المدافعين عن الحوكمة الاستباقية للذكاء الاصطناعي. ويأتي إطاره وسط جدل مكثف حول ما إذا كان ينبغي للولايات المتحدة إنشاء هيئة تنظيمية رسمية للذكاء الاصطناعي، وإذا كان الأمر كذلك، فما هو الشكل الذي يجب أن تتخذه. يعد نموذج FINRA ملحوظًا لأن منظمة التنظيم الذاتي للصناعة المالية يتم تمويلها من قبل الشركات الأعضاء ولكنها تعمل تحت إشراف الحكومة، مما يمنحها الخبرة الصناعية والمساءلة العامة.
مقاومة من إدارة ترامب
ويواجه هذا الاقتراح رياحاً سياسية معاكسة كبيرة. أبدت إدارة ترامب شكوكًا عميقة تجاه إنشاء هيئات تنظيمية جديدة للذكاء الاصطناعي. رفض مستشار الذكاء الاصطناعي بالبيت الأبيض والشريك العام لشركة a16z، سريرام كريشنان - الذي ترك منصبه منذ ذلك الحين - علنًا فكرة وجود جهة تنظيمية للذكاء الاصطناعي داخل السلطة التنفيذية، مشيرًا بصراحة إلى أنه "لن تكون هناك إدارة الغذاء والدواء للذكاء الاصطناعي".
وقد أدى هذا الموقف إلى وضع مسؤولي الإدارة على خلاف مع بعض أبرز قادة الصناعة. في حين أن شركات مثل Anthropic وOpenAI دعمت على نطاق واسع اختبار السلامة قبل النشر، فإن آلية وسلطة مثل هذا الاختبار لا تزال محل نزاع. ويحاول اقتراح هاسابيس حل هذه المشكلة من خلال جعل هيئة المعايير ممولة من الصناعة وطوعية في البداية، مع إضفاء الطابع الرسمي عليها فقط بعد أن تثبت العملية قيمتها.
البناء على الجهود الحالية
الإطار لا يبدأ من الصفر. وهو يعتمد على الالتزامات الطوعية التي تعهدت بها بالفعل العديد من شركات الذكاء الاصطناعي الحدودية فيما يتعلق باختبارات السلامة والفريق الأحمر. كما أنه يعتمد على الجهود الدولية، بما في ذلك معهد سلامة الذكاء الاصطناعي في المملكة المتحدة وعملية هيروشيما للذكاء الاصطناعي التابعة لمجموعة السبع، والتي أنشأت أطر أولية لتقييم النماذج المتقدمة.
ومع ذلك، فإن اقتراح هاسابيس يذهب إلى أبعد من ذلك من خلال الدعوة إلى إنشاء منظمة دائمة ذات موارد جيدة، ولديها تفويض لاختبار كل نموذج حدودي قبل إطلاقه - وهو مستوى من التدقيق لا توفره أي هيئة حالية. ويشير تشبيه FINRA إلى عملية احترافية واسعة النطاق بمشاركة مئات من الخبراء الفنيين، وليس لجنة استشارية صغيرة.
يتناول الاقتراح أيضًا مراقبة ما بعد النشر، مما يتطلب من المختبرات العمل مع هيئة المعايير بشأن نقاط الضعف المكتشفة بعد إتاحة النموذج للجمهور. ويعكس هذا الاعتراف المتزايد بأن المخاطر المتعلقة بالسلامة لا تنتهي عند الإطلاق، كما يتضح من عمليات كسر الحماية وحالات سوء الاستخدام التي ظهرت بعد العديد من إصدارات النماذج البارزة.
استجابة الصناعة والخطوات التالية
لقد ولّد هذا الإطار اهتمامًا كبيرًا عبر مجتمع سياسات الذكاء الاصطناعي. ويزعم المؤيدون أن نظام اختبار ما قبل النشر الذي يتمتع بالمصداقية من الممكن أن يعمل على بناء ثقة عامة الناس في النماذج الرائدة والحد من مخاطر إساءة الاستخدام الكارثية. ويحذر المنتقدون، بما في ذلك بعض المدافعين عن السوق الحرة، من أن شرط الاختبار الإلزامي يمكن أن يؤدي إلى ترسيخ الشركات الكبيرة من خلال خلق حواجز تنظيمية أمام الشركات الأصغر ومطوري المصادر المفتوحة.
ولا يحدد اقتراح هاسابيس أي النماذج يمكن وصفها بأنها "حدودية" - وهو سؤال عتبة سيحدد نطاق أي نظام تنظيمي في المستقبل. كما أنه يترك المجال مفتوحًا لكيفية تعامل هيئة المعايير مع التطبيقات السرية أو التطبيقات ذات الاستخدام المزدوج، لا سيما في ضوء المخاوف الأخيرة بشأن استخدام نماذج الذكاء الاصطناعي لاختراق الأنظمة الأمريكية السرية.
توقيت الاقتراح متعمد. ومع ظهور الذكاء الاصطناعي العام بشكل متزايد في غضون السنوات القليلة المقبلة، يصر هاسابيس على ضرورة بناء البنية التحتية للحوكمة الآن، وليس بعد ظهور قدرة خطيرة. ويبقى أن نرى ما إذا كانت واشنطن ستستجيب لدعوته.
ابق في صدارة الذكاء الاصطناعي
للحصول على تغطية شاملة لسياسة الذكاء الاصطناعي وتنظيمه وتطورات الصناعة، تفضل بزيارة AI Buzz Wire.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
