قالت الشركة في منشور مدونة نُشر يوم الثلاثاء، 22 سبتمبر، وفقًا لما أوردته PYMNTS، إن OpenAI تتحدث مع العديد من المقيمين المستقلين للمساعدة في زيادة عدد الشركات التي لديها خبرة في مجال سلامة الذكاء الاصطناعي الحدودي ويمكنها تقديم تقييمات فعالة من طرف ثالث.

يوضح المنشور أولويات ومبادئ OpenAI المقترحة للرقابة الفعالة من طرف ثالث - وهو إطار يقول إنه يجب أن ينطبق على جميع مختبرات الذكاء الاصطناعي الحدودية أثناء قيامها بتدريب وتقييم ونشر نماذج ذات قدرة متزايدة. يأتي هذا الإعلان في منتصف شهر مشحون بشكل غير عادي بالنسبة لسياسة سلامة الذكاء الاصطناعي، ويعتبر بمثابة تنازل للنقاد ومحاولة لتشكيل القواعد قبل أن تكتبها الحكومات. بالنسبة لأي شخص يتابع [أخبار الذكاء الاصطناعي العاجلة] (https://aibuzzwire.news)، فإن هذه هي الخطوة الأخيرة في منافسة مستمرة منذ أسابيع بين المختبرات ومنتقديها والمنظمين حول من يمكنه التحقق من أن النماذج الرائدة آمنة.

ما يقترحه OpenAI

وقالت OpenAI في المنشور، وفقًا لموقع PYMNTS: "نحن ملتزمون بدعم المُقيّمين المستقلين ووضع معايير دولية مشتركة أكثر وضوحًا - سواء من خلال القوانين المستقبلية أو مبادرات الحوكمة الخاصة - لإجراء تقييمات فعالة من قبل طرف ثالث".

المشكلة الأساسية التي يصفها OpenAI هي فشل السوق: هناك ببساطة عدد قليل جدًا من المنظمات التي تتمتع بالعمق الفني الذي لا يسمح لها بمراجعة النموذج الحدودي. يتطلب تقييم السلامة الهادف الوصول إلى الأنظمة غير المنشورة، والخبرة في مجالات من الأمن السيبراني إلى الأمن البيولوجي، والاستقلال المؤسسي لنشر النتائج غير المرحب بها. من خلال توظيف ودعم العديد من المقيّمين بدلاً من مدقق واحد متميز، تقول OpenAI إنها تريد بناء نظام بيئي حيث يكون تقييم الطرف الثالث جزءًا روتينيًا من نشر الأنظمة الحدودية - وليس ممارسة علاقات عامة لمرة واحدة.

لم تُسم الشركة المُقيّمين الذين تتحدث معهم، ويبقى أن نرى ما إذا كانت الترتيبات الناتجة ستمنح المُقيّمين إمكانية الوصول والاستقلال في التمويل وحقوق النشر التي يعتبرها الباحثون في مجال السلامة ذات معنى.

أسبوع من الجدل بشأن سياسة الذكاء الاصطناعي

ويأتي هذا الاقتراح وسط سلسلة سريعة من التطورات السياسية التي حددت نقاش الذكاء الاصطناعي في سبتمبر:

  • الاثنين 21 سبتمبر: دعت منظمة OpenAI الولايات المتحدة إلى قيادة جهد دولي لتطوير معايير تقنية عالمية للذكاء الاصطناعي الحدودي - بما في ذلك التحسين الذاتي العودي، وهي النقطة التي تعمل عندها أنظمة الذكاء الاصطناعي على تحسين نفسها. وحذرت الشركة من أن تطوير الذكاء الاصطناعي المستقل بالكامل يمكن أن يتجاوز قدرة البشر على فهمه والتحكم فيه، وقالت إن القرارات بشأن ما إذا كان يجب المضي قدمًا وكيفية المضي قدمًا يجب اتخاذها الآن.
  • الجمعة 18 سبتمبر: وقع حاكم ولاية كاليفورنيا جافين نيوسوم على أمر تنفيذي يدعو إلى عقد خبراء وطنيين لتعزيز قوانين سلامة الذكاء الاصطناعي في الولاية، والتي تهدف صراحةً إلى تسريع تنفيذ إشراف طرف ثالث جديد على مخاطر السلامة والأمن في أنظمة الذكاء الاصطناعي.
  • السبت 19 سبتمبر: رفض الرئيس دونالد ترامب المخاوف المتعلقة بالسلامة في هذه الصناعة في منشور على موقع Truth Social، حيث كتب: "لن نعوق أو نخنق بأي شكل من الأشكال نمو هذه الصناعة المذهلة. الذكاء الاصطناعي هو الثورة الصناعية القادمة، أو الإنترنت، ولكنه سيكون أكبر وأكثر تأثيرًا، وربما يصل إلى 25% من الناتج المحلي الإجمالي لبلدنا."

كما ذكرنا في وقت سابق من هذا الأسبوع، يمثل اقتراح المعايير الذي تقوده الولايات المتحدة لشركة OpenAI تحولًا مذهلاً لشركة أمضت سنوات في مقاومة الرقابة الملزمة - ومبادئ التقييم الجديدة من طرف ثالث توسع هذا الموقف ليشمل جبهة الحوكمة الخاصة.

مشكلة الاستقلال

إن احتضان OpenAI للهيئات الرقابية الخارجية يتبع اقتراحًا موازيًا من منافسها الرئيسي. قبل أسبوع تقريبًا، نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالًا يقترح خطة لسلامة الذكاء الاصطناعي مبنية على مقيمين مستقلين مدمجين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين الشركات في البلدان الديمقراطية، وفي النهاية اتفاقية دولية تشمل الصين.

وقد أثار كلا الاقتراحين شكوكًا فورية من الخبراء. ذكرت CNBC أن تحالفًا يضم أكثر من 100 خبير في الذكاء الاصطناعي يحث على الاستقلال والشفافية من مختبرات Anthropic وOpenAI وغيرها من المختبرات النموذجية الأساسية التي تجري التقييمات، محذرين من أن المقيمين الذين هم جزء من - أو يدفع لهم - الشركات التي يقومون بمراجعتها يواجهون تضاربًا لا مفر منه في المصالح. وقد ضغطت هيئات المراقبة المدعومة من رائد الذكاء الاصطناعي جيفري هينتون على الشركتين بشأن تفاصيل خطط السلامة الخاصة بهما، وأشار المعلقون إلى الباب الدوار بين منظمات تقييم سلامة الذكاء الاصطناعي والمختبرات نفسها: فالأشخاص الذين يصنفون واجبات السلامة المنزلية قد يكونون أيضًا هم الذين كتبوها.

هذا التوتر هو جوهر النقاش الذي يحاول منشور OpenAI الجديد نزع فتيله. إن إجابة الشركة - المزيد من المقيّمين، والمعايير الدولية المشتركة، والرقابة التي يتم فرضها من خلال القوانين المستقبلية والمبادرات الخاصة - هي إطار عمل، وليس ضمانًا بعد. وسوف يشير النقاد إلى أن المختبرات التي تقترح القواعد هي نفس المختبرات الخاضعة لها، وأن الحوكمة ذاتية التشكيل كانت تاريخياً في صالح الشركات التي تقوم بتشكيل القواعد.

لماذا يهم

إن النماذج الحدودية التالية هي قيد التدريب بالفعل، كما أن نافذة تصميم الرقابة قبل النشر تغلق. إذا أدى توظيف شركة OpenAI للمقيّمين المستقلين إلى إنتاج مدققين يتمتعون بإمكانية وصول حقيقية واستقلال حقيقي، فقد يصبح هذا نموذجًا لكيفية إدارة الذكاء الاصطناعي الحدودي في جميع أنحاء العالم - وهو نظام خاص فشل المشرعون في واشنطن وبروكسل وأماكن أخرى حتى الآن في بنائه بأنفسهم. وإذا أنتجت استشارات تابعة لاتفاقيات عدم الإفشاء، فإن ذلك سيؤكد أسوأ قراءة للمتشككين.

وفي كلتا الحالتين، فإن حقيقة أن شركة OpenAI تتنافس مع شركة Anthropic على من يمكنه اقتراح نظام الرقابة الأكثر مصداقية هي في حد ذاتها أمر جديد. قبل عام مضى، كانت المختبرات موحدة بشكل رئيسي في معارضة التنظيم. والآن يتسابقون لتحديده.

---

ابق في صدارة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →