أفادت وكالة أسوشيتد برس يوم السبت أن الموظفين في المكتب الحكومي الأمريكي الصغير المسؤول عن اختبار سلامة نماذج الذكاء الاصطناعي الحدودية، طُلب منهم مؤخرًا تقديم تقارير غير رسمية إلى مكتب البيت الأبيض، مما أثار مخاوف جديدة بشأن استقلالية أكبر مُقيّم لسلامة الذكاء الاصطناعي في البلاد.
كما توقف المكتب، وهو مركز تطوير الابتكار ومعايير الذكاء الفائق – المعروف باسم CAISSI ومقره داخل وزارة التجارة – عن نشر أبحاثه، وفقًا لوكالة أسوشييتد برس. يأتي التقرير وسط قلق عام متزايد بشأن سلسلة من القصص حول عملاء الذكاء الاصطناعي الخارجين عن السيطرة، ويصف هيئة رقابية تعاني من نقص الموظفين، وبلا قيادة، وهادئة بشكل متزايد. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.
ما الذي تفعله CAISSI — وما وجدته AP
تم تكليف CAISSI بتقييم سلامة عروض الذكاء الاصطناعي الجديدة قبل وصولها إلى الجمهور، وهي مهمة تتضمن تقييم مدى مقاومة النماذج الرائدة لإساءة الاستخدام للهجمات السيبرانية وغيرها من الأضرار الجسيمة. وفقًا لوكالة أسوشييتد برس، طُلب من الموظفين في المركز "مؤخرًا" الحضور بشكل غير رسمي إلى أحد مكاتب البيت الأبيض. ونقلت وكالة الأنباء عن مسؤولين حكوميين سابقين على علم بالمناقشات، وتحدثا دون الكشف عن هويتهما لحماية الموظفين الحاليين. ولم يرد البيت الأبيض على أسئلة محددة حول المركز.
حجم العملية متواضع. تشير وكالة أسوشيتد برس إلى أن شركة CAISSI تتلقى حوالي 10 ملايين دولار سنويًا - أي ما يقرب من ثمن ما تتلقاه نظيرتها في المملكة المتحدة، على الرغم من أن الولايات المتحدة هي المكان الذي يتم فيه بناء معظم النماذج الحدودية.
إن الترتيب غير الرسمي لإعداد التقارير ليس سوى أحدث اضطراب في المركز. تصف وكالة أسوشييتد برس فراغًا في القيادة يمتد لعدة أشهر: تم تعيين مدير في أبريل وتم فصله في غضون أيام، واستمر بديله بضعة أشهر قبل الاستقالة، ويعمل رئيس المعهد الأصلي حاليًا كمدير بالإنابة. ومن الناحية العملية، هذا يعني أنه لا يوجد أحد لديه تفويض دائم يدافع حاليًا عن استقلال المركز.
هيئة رقابية توقفت عن النشر
التغيير الأكثر أهمية، وفقًا لوكالة أسوشييتد برس، هو ما لم يعد المركز يفعله. في أغسطس، تساءل الكونجرس عن سبب توقف CAISSI عن إصدار تقارير علنية حول كيفية أداء أنظمة الذكاء الاصطناعي في اختبارات السلامة. يعمل اختبار ما قبل النشر بمثابة فحص عام لمنشئي النماذج فقط إذا كانت نتائجه مرئية خارج المختبر - وهي ليست كذلك في الوقت الحالي.
التحول لم يأت من العدم. وفي أكتوبر/تشرين الأول، كشفت رويترز، نقلاً عن تقرير صادر عن The Information، أن الإدارة خططت لنقل ثلاثة من كبار المسؤولين في CAISSI إلى البيت الأبيض. وقال مسؤول في البيت الأبيض لصحيفة The Information في ذلك الوقت إن مشاكل التنسيق مع التجارة أظهرت الحاجة إلى تقريب قيادة المركز من عملية صنع القرار في مجال الذكاء الاصطناعي. ووفقًا لهذا التقرير، فإن المسؤولين سيستجيبون لمايكل كراتسيوس، الذي يدير مكتب سياسة العلوم والتكنولوجيا، ومدير الإنترنت الوطني شون كيرنكروس. وكان وزير التجارة هوارد لوتنيك قد دعا الاثنين للمشاركة في إدارة المركز قبل ستة أشهر تقريبًا.
عند القراءة معًا، تشير التقارير الجديدة لوكالة أسوشييتد برس إلى أن الخطة بدأت تدخل حيز التنفيذ – بشكل غير رسمي، وقبل أي عملية إعادة هيكلة رسمية.
##مخاوف الاستقلال في الاتجاهين
نقلت وكالة أسوشيتد برس عن النقاد قلقهم من أن القرارات التي تمس الأمن السيبراني ومخاطر الأسلحة البيولوجية يمكن تسييسها، أو أن النتائج يمكن تخفيفها لتناسب صناعة التكنولوجيا. وقال عاموس توه من مركز برينان للعدالة لوكالة أسوشييتد برس إن مثل هذه القرارات لها عواقب عامة هائلة ويجب شرحها علنًا. ووصفت كارولين سيجل سينغ من اتحاد العلماء الأمريكيين مراكز مثل CAISSI بأنها مؤسسات قوية يمكنها تحسين الحياة بشكل كبير أو القيام بالعكس.
هناك حجة مضادة، ولا ترفضها وكالة الأسوشييتد برس. إن تقييم قدرة النموذج على المساعدة في كتابة البرمجيات الخبيثة هو مسألة تتعلق بالأمن القومي، والإدارة التي تريد رؤية من يرى تلك النتائج لديها حالة يمكن الدفاع عنها. والصعوبة مؤسسية: فالحكم الذي يستجيب لأحد رعاة الفريق ليس في وضع يسمح له بتسوية المباراة، وقد توقف المركز عن نشر التقارير التي كانت لتثبت استقلاليته لولا ذلك.
سبب أهميته للبناة والمشترين
بالنسبة للشركات التي تعتمد على النماذج الرائدة، فإن المخاطر العملية المحددة في التقارير لا تمثل حظرا - بل هي عدم اليقين. إذا ظلت التقييمات سرية وتغذي ضوابط التصدير والمشتريات الحكومية، فقد يخسر المختبر عقدًا أو سوقًا على أساس نتيجة لم يتمكن من رؤيتها أو الاعتراض عليها أبدًا. وسوف ينتشر هذا الخطر عبر سلسلة التوريد إلى المنتجات النهائية دون أي تحذير.
شيئان يستحقان المشاهدة بعد ذلك. الأول هو ما إذا كانت الإدارة تعين مديراً دائماً للمركز ومن يختاره. والسؤال الثاني هو ما إذا كان الكونجرس، الذي مارس ضغوطًا بالفعل على المركز بشأن صمته تجاه التقارير المنشورة، سيتحرك لتحويل استقلال المركز إلى قانون. وإلى أن يحدث أي من الأمرين، يعمل حكم سلامة الذكاء الاصطناعي الحدودي في أمريكا بميزانية قدرها 10 ملايين دولار، ولا يوجد قائد دائم وخط إداري يمتد نحو البيت الأبيض.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
