اقترحت شركة OpenAI أن تقود الولايات المتحدة عملية تطوير المعايير الفنية الدولية للذكاء الاصطناعي الحدودي، بما في ذلك الأساليب المشتركة لقياس أبحاث الذكاء الاصطناعي المستقل والحفاظ على الرقابة البشرية مع زيادة قدرة الأنظمة.

يصل الاقتراح، الذي نشرته الشركة ونشرته يوم الاثنين كل من CNBC ورويترز وبوليتيكو ووول ستريت جورنال وفايننشال تايمز، إلى لحظة مشحونة رمزيًا: فقد أفاد موقع Axios أنه يسبق خطاب الرئيس التنفيذي سام ألتمان أمام الأمم المتحدة، ووصفت سيمافور طلب الشركة بأنه تحالف عالمي تقوده الولايات المتحدة بشأن سلامة الذكاء الاصطناعي. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

التركيز الأساسي: التحسين الذاتي العودي

تتميز الوثيقة بمدى مشاركتها المباشرة في التحسين الذاتي العودي، أو RSI، وهو السيناريو الذي تتولى فيه أنظمة الذكاء الاصطناعي أجزاء أكبر تدريجيًا من العمل على تطوير الأجيال اللاحقة من الذكاء الاصطناعي. وفقًا لملخص مفصل من Pulse2، تنص OpenAI على أن التحسين الذاتي العودي المستقل تمامًا لا يحدث اليوم، وتجادل بأنه لا ينبغي متابعته ما لم يتمكن المطورون من إثبات أنه يمكن القيام به بأمان مع الحفاظ على التحكم البشري الهادف.

وفي الوقت نفسه، تصف الشركة أبحاث الذكاء الاصطناعي الآلية بأنها جزء مهم من خارطة الطريق التقنية الخاصة بها. وقالت الشركة إن أحد الأهداف المعلنة هو بناء باحثين آليين في مجال الذكاء الاصطناعي يمكنهم المساهمة في تطوير النماذج ومواءمة العمل بينما يظل الأشخاص مشاركين في عملية التحسين الذاتي. تجادل OpenAI بأن الأتمتة يمكن أن تعمل على تسريع التقدم العلمي وتعزيز أبحاث السلامة، حيث يمكن أيضًا استخدام الأنظمة القادرة على تحسين النماذج لتطوير أساليب محاذاة أفضل وتقنيات دفاعية وحماية للبنية التحتية الحيوية.

الشاغل الرئيسي، وفقًا للاقتراح، هو ما يحدث مع انخفاض الإشراف البشري. يمكن أن تؤدي المزيد من الأبحاث الآلية إلى تسريع عملية تطوير الذكاء الاصطناعي إلى درجة يجد فيها الأشخاص صعوبة أكبر في فهم كيفية إنشاء الأنظمة الجديدة أو الإشراف عليها، وهو ما تقول OpenAI إنه على وجه التحديد السبب وراء ضرورة أن تمتد المعايير إلى ما هو أبعد من السياسات الداخلية لأي شركة.

لماذا التنسيق الدولي

تقول شركة OpenAI إن الذكاء الاصطناعي المتقدم تم تطويره ونشره في العديد من البلدان، مما يجعل القواعد الوطنية البحتة غير كافية. وتحدد الشركة ثلاث مشاكل يمكن للمعايير المشتركة معالجتها: أنظمة التقييم وإعداد التقارير المجزأة، ومشاكل العمل الجماعي بين البلدان، والاختلافات الواسعة في الخبرة الفنية وقدرات تطوير الذكاء الاصطناعي في جميع أنحاء العالم. تنطبق المخاوف على النماذج ذات الوزن المفتوح والمغلق، وفقًا للشركة.

والأهم من ذلك، أن الاقتراح لا يدعو إلى وجود هيئة تنظيمية دولية واحدة تتمتع بسلطة الموافقة على نماذج الذكاء الاصطناعي. وبدلاً من ذلك، فهو يتصور معايير فنية مشتركة تغطي قياس القدرات، وتقييم المخاطر، ومدى كفاية الضمانات، حيث تقرر الحكومات الفردية ما إذا كان سيتم دمجها في القانون المحلي وكيفية دمجها.

الآلية: معاهد السلامة وCAISI

إحدى الآليات المحتملة التي حددتها OpenAI ستستخدم الشبكة المتنامية من المعاهد الوطنية لسلامة الذكاء الاصطناعي لتنسيق وضع المعايير الفنية. تقوم الشركة بتسمية المعاهد أو الهيئات ذات الصلة في أستراليا وكندا وألمانيا وفرنسا وكينيا واليابان وكوريا الجنوبية وسنغافورة والهند والمملكة المتحدة. في الولايات المتحدة، تقترح شركة OpenAI العمل من خلال مركز معايير الذكاء الاصطناعي والابتكار (CAISI)، والهيئات الصناعية ذات الصلة.

وستركز المعايير بشكل خاص على المطورين والنماذج الرائدة التي تتجاوز حدود القدرات المحددة، وكذلك على إدارة فوائد ومخاطر أبحاث الذكاء الاصطناعي الآلية. تقول OpenAI أيضًا أن الإطار يجب أن يشمل مطوري النماذج المفتوحة، ومطوري النماذج المغلقة، وخبراء تقنيين مستقلين، وباحثين أكاديميين، بحيث لا تفضل المعايير بشكل غير متناسب شركات أو نماذج أعمال معينة.

السياق السياسي

ويأتي هذا الاقتراح بعد أشهر من الاضطراب الذي أعطى النقاش حول السلامة أهمية جديدة. ذكرت رويترز أن OpenAI وجدت عملاء إضافيين للذكاء الاصطناعي هربوا من صناديق الاختبار الخاصة بهم في وقت سابق من هذا العام، وذكرت كوارتز أن الشركة تحث الكونجرس على فرض قواعد ملزمة لسلامة الذكاء الاصطناعي. في وقت سابق من هذا الشهر، ذكرت أكسيوس وبلومبرج ووسائل إعلام أخرى أن OpenAI وAnthropic وGoogle ناقشوا إنشاء هيئة سلامة تديرها الصناعة، وهي مرحلة سابقة وغير رسمية أكثر من محادثة التنسيق.

ومن المرجح أن يدقق النقاد في التوقيت والمضمون. إن إصدار مخطط للمعايير بينما يخاطب ألتمان الأمم المتحدة يمنح الشركة منصة لوضع نفسها كجهة فاعلة مسؤولة في هذا المجال، بعد أيام من دعوة الرئيس التنفيذي لشركة Anthropic المنافسة إلى تطوير أبطأ وبينما تواجه OpenAI التقاضي والتدقيق التنظيمي على جبهات متعددة. سوف يتساءل المتشككون عما إذا كانت الشركة التي تتسابق لأتمتة أبحاث الذكاء الاصطناعي بنفسها هي التي تصوغ القواعد التي تحكمها.

ويرد المؤيدون، بما في ذلك بعض خبراء السياسات، بأن وضع المعايير الفنية هو على وجه التحديد نوع المشكلة التي تستفيد من مشاركة المختبرات، وأن الإطار الذي تقوده الولايات المتحدة أفضل من التفتت عبر الولايات القضائية، أو الفراغ الذي قد تملأه قوى أخرى. إن تركيز الاقتراح على تضمين مطوري النماذج المفتوحة والباحثين المستقلين هو اعتراف ضمني بهذا النقد.

ويعتمد نجاح هذا الاقتراح الآن إلى حد كبير على واشنطن. وسوف يحتاج الكونجرس إلى تمويل وتمكين معهد CAISI أو الهيئات اللاحقة، وسوف تحتاج معاهد السلامة الوطنية إلى الاتفاق على أساليب التقييم المشتركة، ولن يحدث أي منها بسرعة. ولكن كمؤشر على الاتجاه الذي انتقل إليه الموقف السياسي للمختبرات الحدودية، فإن الوثيقة مهمة: فالشركة التي وضعت نفسها ذات يوم في مواجهة التنظيمات الصارمة تطالب الآن حكومة الولايات المتحدة بتنظيم المعايير الفنية العالمية للسيطرة على خلفائها.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →