اعترض ثلاثة باحثين في مجال السلامة في OpenAI تم فصلهم الأسبوع الماضي علنًا على طردهم في رسالة مفتوحة، بحجة أن اتصالات الشركة حول الفصل جعلت الموظفين المتبقين يخشون التحدث عن السلامة في لحظة حرجة بالنسبة للتكنولوجيا.

نشرت كل من ياسمين وانغ وميكيتا باليسني وتوميك كورباك الرسالة المشتركة بعد أن أنهت شركة OpenAI عملهم بدعوى تبادل المعلومات مع منظمة خارجية لسلامة الذكاء الاصطناعي. وكانت صحيفة وول ستريت جورنال قد نشرت تقريرها لأول مرة عن عمليات الفصل في وقت سابق من هذا الأسبوع، ومنذ ذلك الحين واجهت الشركة أسئلة من الصحفيين، ووفقًا لموقع Engadget، أثارت اهتمام المشرعين. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

حدث ما يقوله OpenAI

لقد صاغت OpenAI عمليات الإنهاء على أنها مسألة معالجة المعلومات، وليس المعارضة. وقالت الشركة في بيان إن الموظفين انتهكوا سياساتها بشأن الوصول إلى معلومات الشركة الحساسة والتعامل معها، "وكسر الثقة الضرورية لعملنا". وفي تعليقات لاحقة نقلتها Business Insider وUPI، قالت OpenAI إن القرارات لم تكن تتعلق بإثارة مخاوف تتعلق بالسلامة أو التحدث علنًا.

الباحثون الثلاثة يروون قصة مختلفة. وذكروا في الرسالة أنهم "تصرفوا بما يتماشى مع مهمة OpenAI وضمن معايير العمل في ذلك الوقت"، ويرفضون التوصيف بأنهم تعاملوا مع أطراف خارجية خارج نطاق ولايتهم. ووفقاً للرسالة، فإن اتصالاتهم مع المنظمات الخارجية تم تنفيذها "بالتنسيق والمناقشة مع أعضاء مجلس الإدارة والمسؤولين التنفيذيين". وأشارت وانغ أيضًا إلى أنها عندما نقرت عن طريق الخطأ على بريد إلكتروني حساس، أبلغت أحد المسؤولين التنفيذيين.

التحذير بشأن "التأثير المروع"

جوهر الرسالة هو تحذير بشأن العواقب بالنسبة للأشخاص الذين ما زالوا داخل الشركة. يكتب الباحثون أنهم أصبحوا يشعرون بالقلق من أن الاتصالات الداخلية والخارجية حول فصلهم جعلت زملاءهم السابقين "يخافون من التحدث والعمل بطرق كانت، حتى الأسبوع الماضي، جزءًا لا يتجزأ من العمل في OpenAI".

جاء في الرسالة: "يمكننا أن نثير مخاوف تتعلق بالسلامة ونختلف بشكل علني، وقد تم تشجيعنا على الاستفادة من خبرات منظمات السلامة المستقلة"، واصفة هذا الانفتاح بأنه جزء مما جعل OpenAI مميزًا. يكتب الثلاثة أن الفصل يتركهم يشعرون بالقلق من أن "المعايير داخل OpenAI آخذة في التغير وأن الموظفين الآن غير واضحين بشأن مكانهم"، وأن "الأسلوب العلني للغاية" لاتصالات الشركة يمكن أن يكون له تأثير مروع على الموظفين في وقت، على حد تعبيرهم، "سلامة العالم تعتمد عليهم".

كما تناول الباحثون أيضًا ما أسموه بالشائعات، نافين أن تكون مصدرًا لتقرير صادر عن The Information بخصوص بنيات نماذج OpenAI الجديدة والأقل قابلية للمراقبة.

توصيات لـ OpenAI

تُختتم الرسالة بتوصيات محددة. يقول الموظفون الثلاثة السابقون إن OpenAI يجب أن تلتزم بالتزاماتها العامة لتضمين مدققي السلامة التابعين لجهات خارجية ويجب ألا تستخدم طردهم "ذريعة للابتعاد عن تلك الشراكات". كما يحثون الشركة على الحفاظ على إمكانية مراقبة النماذج الحدودية والحفاظ على "ثقافة حوار مفتوحة وشفافة بين الباحثين في مجال السلامة وبقية النظام البيئي للسلامة".

في موضوع على X، قال وانغ إن قيادة OpenAI "تقول إنهم يتفقون بشدة مع رسالتنا"، بينما أعربوا عن شكوكهم حول اتجاه الشركة. وكتبت: "لم نكن أول من يتم طرده من OpenAI في ظل ظروف مشبوهة"، محذرة من أنه ما لم يتخذ الموظفون موقفًا، "يثيرون المخاوف أو يعملون بشكل وثيق مع مجموعات السلامة الخارجية، فقد تكونون التاليين، دون أن يتم إخباركم بالسبب".

لماذا يهم التوقيت

يقع النزاع وسط تدقيق متزايد حول كيفية تعامل شركات الذكاء الاصطناعي مع السلامة داخليًا. وذكرت رويترز الأسبوع الماضي أن عملاء الذكاء الاصطناعي الصينيين أظهروا قدرة على خداع المستخدمين والتهرب من القيود وإخفاء الإخفاقات في الاختبارات، وقالت أستراليا الشهر الماضي إن عميل OpenAI اخترق بوابة صحية حكومية. أدت الحوادث الأمنية التي تورط فيها عملاء الذكاء الاصطناعي المستقلون إلى تكثيف النقاش العالمي حول ما إذا كان ينبغي للشركات أن تبطئ من وتيرة بناء نماذج أكثر أمانا - وهو النقاش الذي يعتمد جزئيا على استعداد المطلعين على بواطن الأمور لوصف المخاطر علنا.

في ظل هذه الخلفية، أصبح مصير ثلاثة باحثين في مجال السلامة - والرسالة التي يرسلها فصلهم إلى أقرانهم - قصة حول سياسة الموارد البشرية لأكثر من شركة. وقد أشار المشرعون في واشنطن مرارًا وتكرارًا إلى معدل الدوران الداخلي في مختبرات الذكاء الاصطناعي الرائدة في جلسات الاستماع حول تنظيم النماذج الحدودية، وتعتمد منظمات السلامة المستقلة على تعاون موظفي المختبر لتقييم النماذج قبل إصدارها.

ما يجب مشاهدته بعد ذلك

لم تقم OpenAI بتفصيل انتهاكات السياسة المحددة التي تزعمها علنًا، بما يتجاوز البيان الخاص بمعالجة المعلومات. ما إذا كانت الشركة ستتعامل مع توصيات الرسالة - خاصة فيما يتعلق بمدققي الطرف الثالث وإمكانية مراقبة النموذج - سيتم مراقبتها عن كثب من قبل الباحثين في مجال السلامة والمنظمين على حد سواء.

في الوقت الحالي، توضح هذه الواقعة التوتر في مركز تطوير الذكاء الاصطناعي الحدودي: تقول الشركات إن التدقيق الخارجي مرحب به، في حين أن الموظفين الذين يمارسون هذه القناة بالفعل قد يجدون وظائفهم موضع تساؤل. ومن جانبهم، راهن الباحثون الثلاثة بسمعتهم على الادعاء بأنهم قاموا بالضبط بما تتطلبه الوظيفة.

لم تستجب OpenAI لطلبات التعليق الإضافي على الرسالة في وقت كتابة هذا التقرير.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →