أطلقت Google DeepMind معهدًا جديدًا مخصصًا لتوسيع نطاق المحادثة حول الذكاء الاصطناعي العام، وتتضمن مقالاته الافتتاحية اقتراحًا ملموسًا من ديميس هاسابيس لإنشاء هيئة بقيادة الولايات المتحدة من شأنها تقييم نماذج الذكاء الاصطناعي الحدودية قبل نشرها.

يدرج معهد DeepMind، الذي أطلقه يوم الأربعاء باحثون من Google وGoogle DeepMind، شين ليج، المؤسس المشارك لـ DeepMind، كمدير تحرير، إلى جانب المدير التنفيذي لشركة Google جيمس مانيكا ورئيس Google DeepMind Demis Hassabis كمديرين، وفقًا لموقع TechCrunch. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

مجال للخلاف

والغرض المعلن للمعهد هو إظهار الخلاف الحقيقي، بما في ذلك داخل جوجل نفسها. وجاء في الإعلان: "لن يتفقوا دائمًا، ومن المرجح أن يغيروا رأيهم، مع ظهور المزيد من البيانات والمعلومات على الحدود سريعة الحركة".

تتألف مجموعتها الأولى من أربع مقالات تغطي السياسات الاقتصادية لإدارة الاختلال المحتمل في الذكاء الاصطناعي العام، والحفاظ على المنطق النموذجي الذي يمكن للإنسان قراءته، ومبادئ الازدهار البشري، وإطار لتقييم نماذج الذكاء الاصطناعي الحدودية.

يعد إضفاء الطابع المؤسسي على الخلاف المفتوح خطوة غير عادية بالنسبة لمختبر الذكاء الاصطناعي التابع لشركة ما، حيث تميل الرسائل العامة إلى السيطرة الصارمة. ومن خلال تصميمه، يمنح المعهد الباحثين في جوجل مكانًا لمناقشة المواقف التي قد تتعارض مع المصالح التجارية للشركة، أو مع مصالح بعضهم البعض.

مقالة الشفافية: شاهد "العمق التسلسلي المبهم"

تقول إحدى المقالات الأربعة، التي كتبها روهين شاه وأنكا دراجان، الباحثان في مجال السلامة في ديب مايند، إن نافذة الشفافية المتقلصة للذكاء الاصطناعي - القدرة على رؤية والتحقق من المنطق خطوة بخطوة للنموذج - ليست حتمية، حتى مع أن البنى الجديدة تجعل مراقبة أقوى النماذج أكثر صعوبة.

يقول المؤلفون إن المطورين والمنظمين يجب أن يواجهوا مقايضات السلامة بشكل مباشر. بشكل ملموس، قد يعني ذلك الحد مما يسمونه "العمق التسلسلي غير الشفاف" - مقدار الحسابات التسلسلية التي يمكن أن يؤديها النموذج دون إنتاج أثر منطقي قابل للقراءة - أو مطالبة المطورين بإثبات أن الأنظمة الأقل شفافية تظل قابلة للمراقبة مثل الأنظمة القابلة للتفسير.

وهذا الاقتراح جدير بالملاحظة لأنه يتعامل مع فقدان القدرة على التفسير باعتباره اختيارًا للتصميم والسياسة وليس نتيجة حتمية للحجم، مما يفتح الباب أمام المتطلبات التي يمكن كتابتها في التنظيم.

اقتراح هاسابيس: هيئة معايير حدودية أمريكية

ربما تكون المقالة الأكثر أهمية هي مقالة هاسابيس. ويقترح إنشاء هيئة معايير للذكاء الاصطناعي الحدودي بقيادة الولايات المتحدة مكلفة بتقييم نماذج الذكاء الاصطناعي الأكثر تقدمًا. وبموجب هذا الإطار، سيقوم المطورون في البداية بإرسال النماذج طوعًا للمراجعة لمدة تصل إلى 30 يومًا قبل الإصدار. وبمجرد أن يثبت نظام التقييم فعاليته، فإن اجتياز اختباراته قد يصبح شرطًا لنشر النماذج الحدودية في الولايات المتحدة.

ستبدأ الهيئة بتصميم التقييمات بالتشاور مع شركات الذكاء الاصطناعي، ولكنها في النهاية ستقوم بتطوير تقييمات مستقلة غير معلنة - ما يسميه المقال الاختبارات "المعلقة" - لمنع المختبرات من تصميم نماذجها وفقًا لمعايير معروفة، وهو نمط فشل موثق جيدًا لأنظمة التقييم العامة.

كما ترك هاسابيس الباب مفتوحًا أمام التصعيد: فمن الممكن "تعزيز إطار العمل إذا تطلبت خطورة الوضع ذلك"، ومن المحتمل أن يشمل ذلك تباطؤًا منسقًا بين مطوري الذكاء الاصطناعي الحدودي.

سبب أهمية المقالتين الأخريين

المقالتان المتبقيتان - حول السياسات الاقتصادية لإدارة اضطراب الذكاء الاصطناعي العام، وحول مبادئ ازدهار الإنسان - تكملان مجموعة تتعامل مع الذكاء الاصطناعي العام باعتباره مشكلة على مستوى المجتمع، وليس مشكلة فنية بحتة. لقد كان النزوح الاقتصادي منذ فترة طويلة هو القلق العام الأكثر وضوحًا حول الذكاء الاصطناعي المتقدم، وتأطيره جنبًا إلى جنب مع سياسة التقييم وقابلية التفسير يشير إلى أن المعهد يريد من صناع السياسات أن ينظروا إلى الأجزاء على أنها أجندة واحدة بدلاً من مناقشات منفصلة.

يعد هذا الاتساع أيضًا إشارة حول موقع Google. تتنافس الشركة على عملاء المؤسسات والعقود الحكومية بينما تجادل في الوقت نفسه بأن الأنظمة الحدودية تحتاج إلى تدقيق خارجي. إن نشر التوتر، بدلاً من تخفيفه، هو الفرضية الأساسية للمعهد.

من الاهتمام إلى المقترحات الملموسة

تأتي هذه المقالات في الوقت الذي يتحول فيه النقاش حول السلامة في الصناعة من البيانات العامة المثيرة للقلق إلى آليات محددة: متطلبات الإفصاح، والتدقيق الخارجي، و- إذا تخلفت الضمانات - عن التباطؤ المنسق. تسارع هذا التحول هذا الأسبوع حيث أيد قادة الصناعة عناصر دعوة الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى "تسريع" تطوير الذكاء الاصطناعي الحدودي، وفقًا لموقع TechCrunch.

التوقيت مهم. تدرس الحكومات على جانبي المحيط الأطلسي كيفية الإشراف على الأنظمة التي تتقدم قدراتها بشكل أسرع من البنية التحتية للتقييم. إن الاقتراح الذي ينشأ داخل أحد مختبرات الذكاء الاصطناعي الرائدة - والذي يتضمن مراجعة ما قبل الإصدار بشكل دقيق - يمنح صناع السياسات نموذجًا أقرته الصناعة نفسها اسميًا، والذي كان تاريخيًا شرطًا أساسيًا لتنظيم الذكاء الاصطناعي بشكل هادف.

ما يجب مشاهدته

وسيكون استقلال المعهد التحريري عن جوجل هو الاختبار الأول. إذا استمرت المقالات في تضمين مواقف تتعارض مع خريطة الطريق التجارية لشركة Google - كما يمكن القول أن مقالة الشفافية - يمكن أن يصبح المكان مساهمًا جادًا في مناقشة سياسة الذكاء الاصطناعي العام. إذا انجرفت نحو رسائل الشركات، فستكون قناة علاقات عامة أخرى في مجال مزدحم.

وفي كلتا الحالتين، أصبح الجوهر مطروحًا على الطاولة الآن: متطلبات التقييم قبل الإصدار، والاختبارات المعلقة، وحتى التباطؤ المنسق، كلها أمور تناقشها علنًا واحدة من أقوى الشخصيات في مجال الذكاء الاصطناعي. لم يعد السؤال هو ما إذا كان ينبغي تقييم النماذج الحدودية بشكل مستقل، بل من الذي يقوم بالتقييم - وعلى أي جدول زمني.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →