اشتدت موجة من التحذيرات العامة من داخل شركة Anthropic هذا الأسبوع، حيث ردد العديد من الباحثين في شركة الذكاء الاصطناعي تقييمًا مروعًا لزميل سابق للذكاء الاصطناعي، مما أثار رد فعل ساخرًا من إيلون موسك، الذي أشار إلى أن الصرخة كانت "عملية نفسية" منسقة.

بالنسبة الى الحارس، جاء التصعيد بعد يوم واحد من إعلان الباحث الأنثروبيكي جاكوب كوكسون استقالته في منشور فيروسي، كتب فيه أنه لا Anthropic ولا OpenAI - صاحب العمل السابق - كانا يبنيان نماذج الذكاء الاصطناعي بمسؤولية وكانا "يقامران بحياتنا". وبدلاً من أن يتلاشى، نما الجدل عندما نشر طاقم الأنثروبيك الحالي تقييماتهم المؤلمة لدعمهم. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

التحذيرات تتراكم

قالت آنا وانغ، التي تعمل في مجال سلامة الذكاء الاصطناعي العام في Anthropic وعملت سابقًا في DeepMind التابعة لشركة Google، يوم الخميس إن العديد من الأشخاص في الشركة يريدون إبطاء التطوير للتخطيط للمخاطر التي تشكلها النماذج ذات القدرات المتزايدة.

وكتب وانغ على موقع X: "لا توجد حتى الآن خطة علمية قابلة للتطبيق لحل المخاطر الناجمة عن التحسين الذاتي المتكرر للذكاء الاصطناعي".

وقال دريك توماس، وهو موظف آخر في شركة أنثروبيك، إنه يحترم قرار كوكسون بالابتعاد عن بناء التكنولوجيا. وكتب توماس: "الأمور تتحرك بسرعة كبيرة، وليس لدينا أي درجة قريبة من درجة الضمان التي نريدها لـ ASI [الذكاء الاصطناعي الفائق]".

قال صامويل ماركس، الذي يعمل في أبحاث السلامة في الشركة، إن المخاوف مشتركة على نطاق واسع داخل الصناعة - وأن الأقدمية ترتبط بالإنذار. وكتب ماركس: "يعتقد مطورو الذكاء الاصطناعي أن تقنيتهم ​​يمكن أن تسبب انقراض الإنسان (أو نتائج سيئة مماثلة)." "قد يحدث هذا في السنوات القليلة المقبلة. بشكل عام، كلما كان الموظف في رتبة أعلى، كلما زاد قلقه."

ذهب إيفان هوبنجر، الذي يصف نفسه بأنه رائد في قسم المحاذاة الأنثروبيكية، إلى أبعد من ذلك. "نحن نعتقد حقًا أن الذكاء الاصطناعي يمكنه قتل جميع البشر!" كتب هوبنجر، مضيفًا أنه شخصيًا يضع الاحتمال أعلى من 10 بالمائة خلال العقد المقبل.

تأتي ملاحظات The Insider في أعقاب تقرير صادر عن شبكة سي بي إس نيوز مفاده أن أحد الباحثين في مجال الأنثروبولوجيا قد حدد فرصة أكبر من 10 بالمائة للذكاء الاصطناعي الذي يتسبب في انقراض الإنسان، وتغطية صحيفة جابان تايمز بأن التحذيرات جددت الدعوات لقواعد جديدة للذكاء الاصطناعي في الولايات المتحدة.

المسك: "يبدو وكأنه إعداد"

اتخذ إيلون موسك وجهة نظر عدائية بشكل حاد. كتب أغنى رجل في العالم على منصته الاجتماعية X: "يبدو الأمر وكأنه مكيدة".

أجاب كوكسون بصورة شخصية: "أنا حقيقي وهذه هي معتقداتي الحقيقية. يمكنك أن تسأل باحثي XAI عني إذا لم تكن قد طردتهم".

قام " ماسك " وغيره من الأصوات المتعاطفة بتضخيم النظرية التي طرحها باركر ثاير، الباحث في مركز الأبحاث المحافظ "كابيتال ريسيرش"، الذي اقترح - مع القليل من الأدلة، حسبما ذكرت صحيفة الغارديان - أن منشور كوكسون كان بمثابة الخطوة الافتتاحية "لعملية علاقات عامة معقدة للغاية وممولة جيدًا للحصول على دعم الديمقراطيين لتنظيم الذكاء الاصطناعي في غياهب النسيان".

اقتبس مدير صندوق التحوط الملياردير بيل أكمان منشور ثاير مع رد مكون من كلمة واحدة: "مثير للاهتمام".

وأوضح المسك في وقت لاحق. وقال: "أعتقد أن الأساس لهذه العملية النفسية (لعدم وجود مصطلح أفضل) تم إعداده منذ فترة طويلة". "كانت هذه مجرد المباراة التي أشعلت النار."

أنثروبيك تدافع عن منهجها

وقد علقت شركة أنثروبيك بين تحذيرات موظفيها والهجمات من الخارج، وقد قدمت استجابة عامة محسوبة.

وقال متحدث باسم الشركة لصحيفة الغارديان: "لقد كنا دائمًا شفافين بشأن أن الذكاء الاصطناعي سيجلب فوائد هائلة ومخاطر غير مسبوقة". ولمعالجة هذه المخاطر، نواصل بناء نماذج تتمتع ببعض أقوى الضمانات في الصناعة."

وأشارت الشركة إلى سجلها الحافل في توثيق وتعطيل سوء الاستخدام. في نفس اليوم الذي انتشرت فيه التحذيرات، أصدرت Anthropic تقريرها الاستخباري عن التهديدات في سبتمبر، والذي يوضح بالتفصيل كيف قامت الشركة بتفكيك عملية تحاول بناء سلاح بيولوجي باستخدام نماذج الذكاء الاصطناعي الخاصة بها - إلى جانب الحملات المعطلة التي تشمل الهجمات الإلكترونية وعمليات التأثير. وكانت قناة الجزيرة وبي بي سي من بين المنافذ التي سلطت الضوء على نتائج الأسلحة البيولوجية يوم الجمعة.

المتشككون يرون خطرًا مختلفًا

لا يقبل الجميع تأطير الانقراض. قال غاري ماركوس، العالم والناقد القديم للذكاء الاصطناعي، إن التكنولوجيا تسبب بالفعل ضررًا يستدعي اتخاذ إجراء بغض النظر عن سيناريوهات الذكاء الفائق - داعيًا إلى مقاطعة الذكاء الاصطناعي بسبب الأضرار الحالية.

أكثر من مجرد الانقراض، قال ماركوس لصحيفة الغارديان إنه يشعر بالقلق بشأن "خطر الكارثة" من "مسببات الأمراض التي يولدها الذكاء الاصطناعي، ومن الحروب التي بدأت أو تصاعدت بسبب المعلومات المضللة التي يولدها الذكاء الاصطناعي، ومن الاختراقات التي تدمر البنية التحتية الحيوية، وما إلى ذلك. ولا شيء رأيته يشير إلى أن أيًا من ذلك تحت السيطرة".

ويسلط موقفه الضوء على الانقسام داخل المناقشة حول سلامة الذكاء الاصطناعي نفسها: بين أولئك الذين يركزون على المخاطر طويلة المدى على مستوى الحضارة من الأنظمة المستقبلية، وأولئك الذين يركزون على الأضرار الملموسة من نماذج اليوم.

نقاش يرفض البقاء داخليًا

ما بدأ كرسالة استقالة لأحد الباحثين أصبح بمثابة استفتاء عام للغاية حول كيفية بناء صناعة الذكاء الاصطناعي لأقوى أنظمتها. داخل شركة أنثروبيك، يناقش الموظفون علنًا ما إذا كانت الجداول الزمنية الخاصة بهم للتطوير الآمن قد تأخرت. وخارجها، تندرج التحذيرات ضمن معركة سياسية متزايدة الاستقطاب حول ما إذا كان ينبغي للحكومات أن تتدخل وكيف.

تشير تقارير صحيفة الغارديان إلى أن العديد من موظفي الأنثروبيين يشاركون هذه المخاوف على انفراد ولكنهم لم يتحدثوا علنًا. وإذا اتبع المزيد منهم كوكسون، ووانج، وتوماس، وماركس، وهوبينجر، فإن الضغوط على مختبرات الذكاء الاصطناعي الرائدة لإبطاء عملها ــ وعلى الهيئات التنظيمية للتحرك ــ سوف تتزايد.

_يستند هذا المقال إلى تقارير صحيفة الغارديان، مع سياق إضافي من شبكة سي بي إس نيوز، وصحيفة جابان تايمز، والجزيرة، وبي بي سي._

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →