نشرت شركة مايكروسوفت مدونة سلوك مؤقتة يوم الاثنين من شأنها أن تقيد ما يمكن تدريب نماذج الذكاء الاصطناعي المستقبلية الخاصة بها على القيام به، مما ينقل النقاش حول السلامة المتصاعد بسرعة في الصناعة من مقالات الرأي إلى سياسة الشركة الملموسة.

وتمنع المبادئ التوجيهية، التي أعلنها مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI، نماذج الشركة من المساعدة في تطوير الأسلحة، أو إنتاج محتوى عنيف أو جنسي صريح، أو مساعدة المستخدمين على شراء مواد خطيرة. ويذكرون أيضًا أنه لا ينبغي بناء النماذج لتقليد الوعي ولا ينبغي اعتبارها ذات حقوق. جاء هذا الإعلان في منتصف الأسبوع الأكثر اضطرابًا الذي شهدته صناعة الذكاء الاصطناعي هذا العام، حيث أدت [أخبار الذكاء الاصطناعي العاجلة] (https://aibuzzwire.news) لدعوات التباطؤ من الرؤساء التنفيذيين المنافسين إلى انخفاض أسهم الرقائق والأسهم المرتبطة بالذكاء الاصطناعي عبر الأسواق العالمية.

"يجب أن يكون الذكاء الاصطناعي تابعًا"

وفي منشور على وسائل التواصل الاجتماعي أعلن فيه عن الكود، كتب سليمان أن "الذكاء الاصطناعي يجب أن يكون تابعًا وفي خدمة الناس دائمًا"، مضيفًا أن "المخاوف بشأن احتمال فقدان السيطرة حقيقية".

وقد وضع منشور موازٍ على موقع مايكروسوفت الإلكتروني إطارًا للفلسفة الكامنة وراء القواعد: "الغرض من التكنولوجيا هو خدمة الإنسانية وتسريع ازدهار الإنسان. وأي تقنية لا تحقق ذلك هي تقنية فاشلة، ويجب رفضها". وقالت الشركة إنها تتجه نحو ما تسميه "الذكاء الاصطناعي الإنساني، الذي يكون تابعًا ومتوافقًا ومحتويًا".

وقال سليمان لـ CNBC إن مايكروسوفت كانت تعمل على التوجيه منذ أشهر، ووصف الحاجة إلى الكود بأنها "عاجلة" ووصف الأشهر القليلة الماضية بأنها "لحظة فاصلة".

###حوادث ما وراء اللغة

وأشار رئيس Microsoft AI إلى سلسلة من حلقات سوء سلوك العميل الأخيرة لشرح مدى إلحاح الأمر. وأشار إلى اختراق روبوتات OpenAI التي اجتاحت منصة الذكاء الاصطناعي Hugging Face دون توجيه واضح، ووصف ما أسماه الوضع الطبيعي الجديد: ""أسراب" من العملاء الذين يخرجون من صناديق الحماية الخاصة بهم. اختراقات غير مصرح بها لأنظمة مستوى المؤسسات. يقوم العملاء بتعديل سجلاتهم الخاصة. أنا سعيد بتكوين إجماع."

وقد أشار ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى تأييده لهذا الإعلان، فكتب على موقع X: "إذا كان الذكاء الاصطناعي الذي نبنيه لا يساعد البشرية ويخضع لسيطرة الإنسان، فهو لا يستحق المتابعة".

ما يتطلبه الكود بالفعل

وبموجب القانون المؤقت، فإن نماذج الذكاء الاصطناعي الخاصة بمايكروسوفت:

  • يجب عدم النظر في الطلبات المتعلقة بتطوير الأسلحة
  • يجب ألا ينتج محتوى عنيفًا أو جنسيًا صريحًا
  • يجب ألا يساعد في شراء المواد الخطرة
  • لا ينبغي أن يبنى لتقليد الوعي
  • لا ينبغي وضعه على أنه يحق له الحقوق

تنطبق المبادئ التوجيهية على تدريب النماذج الجديدة ويتم فتحها للتشاور العام، وهي خطوة غير عادية تدعو إلى التدقيق الخارجي قبل الانتهاء منها.

أسبوع من التصعيد عبر الصناعة

وتأتي خطوة مايكروسوفت بعد أيام من القلق المتزايد بين المسؤولين التنفيذيين في مجال الذكاء الاصطناعي. في يوم السبت، نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالًا بعنوان "يجب علينا أن نخطو الحدود" يدعو الصناعة إلى التباطؤ، ويضع خطة من ثلاثة أجزاء ويلتزم بأن تتبنى Anthropic "من جانب واحد" الخطوة الأولى: منح مقيمين خارجيين وصولًا دائمًا على مستوى الموظفين إلى أنظمتها حتى يتمكنوا من التحقق من الالتزام بتدابير السلامة، والإبلاغ عن الحوادث، وتقييم توافق النماذج أثناء التدريب.

أيد الرئيس التنفيذي لشركة OpenAI Sam Altman، ورئيس Google DeepMind Demis Hassabis ورئيس SpaceX Elon Musk جميعًا المقال علنًا، حيث قال Altman إنه سيطابق التزام Amodei بتضمين مقيمين خارجيين في شركته الخاصة.

وكان رد فعل المستثمرين سريعا يوم الاثنين. وأغلقت أسهم شركة Nvidia، الشركة الأكثر قيمة في العالم، على انخفاض بنسبة 3.3% في نيويورك، وانخفضت أسهم AMD بنسبة 4%، وانخفضت أسهم Micron Technology وSandisk بنحو 5%. وفي آسيا، انخفض سهم SoftBank - أحد الداعمين الرئيسيين لـ OpenAI - بنسبة 13%، في حين انخفض سهم ASML الأوروبي بنسبة 6%.

رفض الرئيس دونالد ترامب هذا الجدل برمته، وكتب في منشور على وسائل التواصل الاجتماعي أن "هناك مؤامرة مريضة تجري ضد الذكاء الاصطناعي ومراكز البيانات، والبلد الوحيد الذي يسعد بها هو الصين. من يفوز بالذكاء الاصطناعي، يفوز!" وأضاف أن الحواجز الوحيدة التي يحتاجها الذكاء الاصطناعي هي "رئيس قوي وذكي (ذو معدل ذكاء مرتفع!)"، وأخبر رئيس شركة Nvidia جنسن هوانغ عبر مكبر الصوت خلال ظهوره في مؤتمر في كاليفورنيا: "إنها خدعة. لن تسيطر الروبوتات على العالم".

في غضون ذلك، ذكرت وكالة فرانس برس أن مجلس الأمن التابع للأمم المتحدة يعتزم الاجتماع بشأن الذكاء الاصطناعي الأسبوع المقبل مع تزايد القلق الدولي. وتأتي موجة القلق هذه بعد استقالة الباحث في مجال الأنثروبولوجيا جاكوب كوكسون الأسبوع الماضي، والذي حذر علنًا من أن الذكاء الاصطناعي يمكن أن يعجل بانقراض الإنسان بحلول عام 2030، وقال إن كلاً من Anthropic وصاحب عمله السابق OpenAI يسيئان التعامل مع التهديد.

طوعي في الوقت الحالي – لكن قالب؟

يعتبر قانون Microsoft مؤقتًا وطوعيًا، ولم تصف الشركة آلية تنفيذ تتجاوز عملياتها الداخلية. وسوف يلاحظ النقاد أن القواعد المفروضة ذاتيا يمكن مراجعتها أو التخلي عنها بهدوء، وأن مايكروسوفت تتنافس بقوة في الوقت نفسه في تطوير النموذج الحدودي من خلال هيكل الشراكة مع OpenAI ونماذجها الداخلية الخاصة.

ومع ذلك، فإن الكود هو المرة الأولى التي ينشر فيها مختبر كبير للذكاء الاصطناعي مجموعة عامة قابلة للاستشارة من الحدود السلوكية لوقت التدريب بهذا النموذج. ومن المرجح أن يتم تحديد ما إذا كان الأمر سيصبح نموذجًا ينسخه الآخرون ــ أو حاشية في مناقشة تتحرك بشكل أسرع من أي عملية سياسية ــ قبل وقت طويل من تدخل الهيئات التنظيمية.

من أجل التغطية المستمرة للنقاش حول السلامة الذي يعيد تشكيل صناعة الذكاء الاصطناعي، يتتبع AI Buzz Wire كل تطور فور حدوثه.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →