حذر الرئيس التنفيذي لشركة الأنثروبي، داريو أمودي، المشرعين من أن الاتجاه المتسارع نحو الذكاء الاصطناعي مفتوح المصدر يمكن أن يقود المجتمع إلى مسار خطير إذا تم إطلاق نماذج قوية دون ضمانات دقيقة، مما يعيد إشعال واحدة من أكثر المناقشات إثارة للجدل في سياسة الذكاء الاصطناعي.

زعم أمودي، الذي أسس ويقود الشركة التي تقف وراء عائلة نماذج كلود، أن الطبيعة الفريدة للذكاء الاصطناعي مفتوح المصدر، والتي تجعل الأنظمة المتقدمة متاحة مجانًا لأي شخص لتنزيلها وتعديلها ونشرها، تخلق مخاطر لا تشكلها البرامج التقليدية مفتوحة المصدر أبدًا. وتركزت تصريحاته، التي نقلتها تيكيديا، على صعوبة التحكم في الذكاء الاصطناعي القادر بمجرد توزيعه علنًا. لمزيد من السياق حول هذه القصة، راجع [المزيد من قصص الذكاء الاصطناعي] (https://aibuzzwire.news) المستمرة لدينا.

وعلى عكس البرامج التقليدية، يمكن لأنظمة الذكاء الاصطناعي المتطورة إنشاء نصوص مقنعة، وإنتاج صور واقعية، وكتابة رموز الكمبيوتر، والمساعدة في مهام الأمن السيبراني. ويؤكد أمودي أنه إذا وقعت هذه القدرات في الأيدي الخطأ، فيمكن استغلالها لأتمتة الهجمات الإلكترونية، أو شن حملات تضليل متطورة، أو تطوير الأبحاث البيولوجية الضارة.

مشكلة الدوام

أحد المخاطر الرئيسية التي أبرزها أمودي هو أنه بمجرد إطلاق نموذج قوي علنًا، يصبح من المستحيل تذكره فعليًا. يمكن مراقبة الأنظمة المغلقة التي تديرها الشركات وتصحيحها وتقييدها عند ظهور ثغرات أمنية جديدة. وعلى النقيض من ذلك، يمكن نسخ النموذج مفتوح المصدر إلى أجل غير مسمى وإعادة توزيعه عبر الإنترنت، مما لا يترك للمطورين أي آلية للحد من استخدامه بعد الإصدار.

وحذر أمودي من أن هذا الدوام مثير للقلق بشكل خاص مع اقتراب النماذج من الأداء على المستوى البشري في مهام متزايدة التعقيد. وزعم أن الذكاء الاصطناعي المتقدم ينبغي أن يخضع لاختبارات سلامة قوية، ونشر خاضع للرقابة، والإشراف التنظيمي المناسب قبل أن يصبح متاحا على نطاق واسع، بدلا من معاملته مثل البرامج العادية التي يمكن تحسينها بشكل تعاوني في العلن.

يعكس موقفه خط الصدع المتزايد في الصناعة. يزعم أنصار الذكاء الاصطناعي مفتوح المصدر أن الوصول العام إلى الذكاء الاصطناعي يحفز المنافسة، ويضفي الديمقراطية على التقدم التكنولوجي، ويمنع حفنة من الشركات من احتكار الذكاء الاصطناعي. ويمكن للمطورين في جميع أنحاء العالم فحص بنية النماذج، وإظهار العيوب الأمنية، وتحسين الأنظمة بشكل تعاوني، في حين يمكن للشركات الناشئة والباحثين والمؤسسات التعليمية البناء دون الاعتماد على منصات خاصة باهظة الثمن.

مخاطر محددة مطروحة

إن مخاوف أمودي ليست مجردة. لقد تم بالفعل تجريد النماذج التي تم إصدارها بشكل علني من حواجز السلامة الخاصة بها من قبل الباحثين باستخدام تقنيات الضبط الدقيق المباشرة، وهي الممارسة التي أظهرت مدى سرعة إزالة التدابير الوقائية بمجرد نشر الأوزان الأساسية. ومع ازدياد قدرة النماذج على أداء مهام مثل الكيمياء، وعلم الأحياء، واستغلال البرمجيات، فإن القلق هو أن الإصدارات المفتوحة يمكن أن توفر قدرات قوية للجهات الفاعلة التي لن تنجح أبدًا في اجتياز الفحص الذي تفرضه المختبرات المسؤولة على عملائها.

كما أن بُعد المعلومات المضللة قد خضع للتدقيق. ويمكن تحويل النماذج القادرة على توليد نصوص وصور ومقاطع صوتية واقعية على نطاق واسع نحو التدخل في الانتخابات، أو الاحتيال المالي، أو الإنتاج الضخم للدعاية. وأشار أمودي إلى أنه نظرًا لأن النموذج المفتوح يعمل بالكامل على الأجهزة الخاصة بالمهاجم، فلا توجد واجهة برمجة التطبيقات (API) لخنقها، ولا يوجد حساب لتعليقه، ولا يوجد مزود يمكن مساءلته بمجرد حدوث الضرر.

خلفية تنافسية

تأتي تحذيرات Amodei وسط موجة من النماذج المفتوحة القادرة من المطورين الصينيين. وقد لفت نظام GLM-5.2 من شركة Zhipu، إلى جانب الأنظمة الصينية الأخرى منخفضة التكلفة، انتباهًا جديدًا إلى مدى سرعة النماذج المفتوحة والمتاحة بشكل مفتوح في سد الفجوة مع الأنظمة ذات الملكية الحدودية من Anthropic وOpenAI. وكانت هذه الضغوط التنافسية سبباً في تكثيف المناقشة السياسية حول ما إذا كانت القيود المفروضة على الإصدارات المفتوحة ستفيد الشركات المهيمنة أو تترك المجتمعات عرضة لإساءة الاستخدام.

ويؤكد منتقدو موقف أمودي أن تقييد الذكاء الاصطناعي مفتوح المصدر يمكن أن يؤدي عن غير قصد إلى ترسيخ شركات التكنولوجيا الكبرى من خلال الحد من الابتكار المستقل. ويشيرون أيضًا إلى أن الشفافية في كثير من الأحيان تسمح للباحثين بتحديد نقاط الضعف بشكل أسرع من التطوير المغلق. ومع ذلك، فإن العديد من المدافعين عن التنمية المفتوحة يعترفون بأن الأنظمة المتزايدة القوة قد تتطلب أطر حوكمة أقوى من الأجيال السابقة من البرمجيات.

الحبل التنظيمي المشدود

وقد اكتسبت المناقشة إلحاحا في الوقت الذي تدرس فيه الحكومات في جميع أنحاء العالم لوائح جديدة للذكاء الاصطناعي. ويواجه صناع السياسات توازنا صعبا: فالقيود المفرطة قد تؤدي إلى إبطاء النمو الاقتصادي والاكتشاف العلمي، في حين قد يؤدي عدم كفاية الرقابة إلى تعريض المجتمعات لمخاطر يصعب توقعها. واقترح أمودي أن تحقيق هذا التوازن يتطلب التعاون بين الحكومات وشركات التكنولوجيا والباحثين الأكاديميين والمجتمع المدني.

وتسلط شهادته الضوء على واحدة من المناقشات الحاسمة في مجال السياسة التكنولوجية خلال هذا العقد. ومع تزايد قدرة الذكاء الاصطناعي، يجب على المجتمع أن يقرر كيفية تشجيع الابتكار مع تقليل المخاطر المرتبطة بالقدرة على الوصول على نطاق واسع إلى الأنظمة التحويلية. وسواء كان ذلك من خلال التنظيم، أو معايير الصناعة، أو التعاون الدولي، فإن الاختيارات التي سيتم اتخاذها في الأشهر المقبلة بشأن الذكاء الاصطناعي مفتوح المصدر يمكن أن تشكل من يتحكم في التكنولوجيا، ومدى أمان نشرها، لسنوات قادمة.

بالنسبة إلى Anthropic، يتوافق الموقف مع تركيز الشركة طويل الأمد على سلامة الذكاء الاصطناعي والإصدارات الخاضعة للرقابة. ولكن مع التقدم السريع للنماذج المفتوحة واستمرار سعي المنظمين للحاق بالركب، فإن الفجوة بين تحذيرات أمودي ووتيرة حركة المصادر المفتوحة قد تضيق بشكل أسرع من قدرة صناع السياسات على سدها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →