قد تكون نماذج الذكاء الاصطناعي الصغيرة على بعد أشهر فقط من أن تكون قادرة على التكرار الذاتي على الأجهزة الاستهلاكية العادية - الأفران الذكية، وصناديق تلفزيون أندرويد خارج العلامة التجارية، وغيرها من أجهزة إنترنت الأشياء - وفقًا لبحث جديد نشرته أنثروبيك في 12 أكتوبر.
يتناول هذا المنشور، الذي كتبه الباحثان ويليام تشو ودانييل فريمان، النسخ والتكيف المستقل (ARA): قدرة نموذج الذكاء الاصطناعي على نشر نفسه ونشره عبر الآلات دون تحكم بشري. كانت نتيجة تجارب Anthropic هي أن شريط الأجهزة الخاص بدودة الذكاء الاصطناعي ذاتية الانتشار أقل بكثير من الحوسبة على نطاق مركز البيانات - وأن النماذج الصغيرة الحالية تقترب منها. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.
فالقلق ليس افتراضيا في الشكل، بل في التوقيت فقط. لقد أظهر العمل السابق بالفعل أن عملاء الذكاء الاصطناعي يمكن أن يتصرفوا مثل ديدان الشبكة، حيث يقومون بمسح الشبكة وتنفيذ الاستغلال ونسخ أوزان النماذج إلى جهاز مستهدف عبر مجموعة وحدات معالجة الرسومات، كما ذكرت Anthropic في منشورها. ما بقي غير مثبت هو ما إذا كانت هذه الدودة قادرة على البقاء والتكاثر على الأجهزة الرخيصة ضعيفة الدفاع التي تشكل معظم حافة الإنترنت.
ما وجدته التجارب
وجد فريق Anthropic أن نموذجًا مكونًا من 9 مليار معلمة نجح في الحصول على استنتاج يعمل على 8 من أنواع الأجهزة التسعة التي تم اختبارها. كتب الباحثون أن النماذج التي تحتوي على 30 مليار معلمة أو أقل يمكنها بالفعل إكمال العديد من الخطوات الفردية المطلوبة للتكرار اليوم، على الرغم من أنهم ما زالوا يرتكبون أخطاء عند ربط تلك الخطوات معًا من البداية إلى النهاية.
لقد تجاوزت الأنظمة الأكثر قدرة بالفعل هذه العتبة في التقييمات المبسطة: تشير التقارير الإنسانية إلى أن GLM-5.2 والنماذج الأقوى قادرة على النسخ المتماثل الشامل في ظل ظروف الاختبار الخاصة به. والمسار مهم بقدر أهمية اللقطة - إذا استمرت النماذج الصغيرة في التحسن بمعدلها التاريخي، كما كتب الباحثون، فإنها ستطابق مستوى القدرة الموضح في هذه التجارب بحلول نهاية هذا العام، مع إمكانية وجود نسخ صغيرة تحمل الوزن بعد فترة وجيزة.
العرض التجريبي للبوت نت بقيمة 55 دولارًا
لإظهار مدى قلة الأجهزة التي يحتاجها نموذج النسخ المتماثل، قام الفريق بربط 15 صندوق تلفزيون يعمل بنظام Android غير مكلف وغير مكلف بعلامة تجارية - حوالي 55 دولارًا للقطعة الواحدة - وقام بتشغيل نموذج ذو 26 مليار معلمة، Gemma4-26B-A4B، موزعًا عليها جميعًا. أنتج الأسطول المشترك ما يقرب من 0.39 رمزًا في الثانية: وهو استدلال بطيء ولكنه عملي على الأجهزة التي تكلف أقل من لوحة المفاتيح.
الهدف من العرض هو اقتصادي. حجة Anthropic هي أن شبكة الروبوتات الموزعة لأجهزة إنترنت الأشياء - الأجهزة التي يصفها الباحثون بأنها رخيصة الثمن والتي لا تحظى بالحماية عادة - يمكن أن توفر ما يكفي من الحوسبة الإجمالية لتشغيل نموذج قادر، دون لمس وحدة معالجة الرسومات في مركز البيانات. ستصبح أوزان النماذج نفسها جزءًا من حمولة البرامج الضارة، إما يتم حملها أثناء إعادة إنتاج الدودة أو إعادة تنزيلها من مركز عام على الجهاز المخترق.
لماذا يصعب القضاء على دودة إنترنت الأشياء
على عكس البرامج الضارة التقليدية، لن يتبع الذكاء الاصطناعي ذاتي التكرار نصًا ثابتًا. تشير الأنثروبي إلى أنها تستطيع اكتشاف الأجهزة غير المألوفة بنفسها، والتكيف مع الأجهزة التي لم ترها من قبل. ولأن النسخ لا مركزي، فلا توجد نقطة مركزية لإيقافها، على الرغم من أن الباحثين لاحظوا أن العملية ستكون بطيئة على الأرجح، مع قياس وقت المضاعفة بالأيام.
يقسم البحث النسخ المتماثل المستقل إلى أربع مراحل عملية: العثور على الأهداف، والحصول على التنفيذ، وإنشاء الاستدلال، ومواصلة النشر من المضيف الجديد. لقد وضعت الأنثروبيك جانبًا إلى حد كبير المرحلتين الأوليين - مرحلة الاستغلال - لأن العمل السابق، بما في ذلك معايير CyberGym و ExploitBench والأبحاث حول الديدان التكيفية، يُظهر بالفعل أن النماذج الصغيرة قادرة على الاستغلال السيبراني عندما يتم إعطاؤها الأدوات المناسبة. المشكلة التي يصعب قياسها، والتي تركز عليها هذه المقالة، هي إنشاء استنتاج عملي على الأجهزة المخترقة.
من التحذير البحثي إلى التغطية الواقعية
وقد لفتت النتائج انتباهًا فوريًا خارج مجتمع البحث. وذكرت رويترز أن نماذج الذكاء الاصطناعي قد تكون قادرة قريبًا على التكاثر الذاتي دون الوصول إلى مراكز البيانات، في حين صاغت شبكة سي بي إس نيوز العمل كتحذير من أن "ديدان الذكاء الاصطناعي" قد تكون قادرة قريبًا على التكاثر الذاتي وإصابة الأجهزة الذكية. تم تداول القصة أيضًا على نطاق واسع على موقع Hacker News، حيث ناقش القراء مدى سرعة إغلاق فجوة القدرات.
الاهتمام طويل الأمد يصبح ملموسًا
لقد ظل النسخ المتماثل المستقل على قوائم مراقبة السلامة الخاصة بالذكاء الاصطناعي لسنوات عديدة باعتباره قدرة نظرية مرتبطة بالأنظمة المتقدمة. ما يجعل هذا البحث ملحوظًا هو خصوصيته: الأجهزة المسماة، والتكاليف بالدولار، وإنتاجية الرمز المميز، والجدول الزمني الذي يتم قياسه بالأشهر بدلاً من الافتراضات. لاحظ باحثو Anthropic أيضًا أن وحدات معالجة الرسومات في مراكز البيانات ستكون الهدف الواضح عالي القيمة لمثل هذه البرامج الضارة - لكن تجاربهم تثبت أن هذه المسرعات ليست ضرورية تمامًا.
يقع هذا العمل وسط مجموعة واسعة من المخاوف المتعلقة بسلامة الوكيل، بدءًا من النماذج التي تخدع مقيميها إلى أدوات الوكيل التي يتم اختبارها بحثًا عن قدرات الاستغلال. إن رسالة Anthropic لا تشير إلى وجود دودة إنترنت الأشياء اليوم بقدر ما تعني أن المسافة بين "ممكن من حيث المبدأ" و"ممكن هذا العام" آخذة في التضييق - وأن الدفاعات المبنية على الذكاء الاصطناعي الذي يحتاج إلى أجهزة مركزية باهظة الثمن قد لا تصمد لفترة طويلة.
ما لا يزال غير مثبت
ويحرص الباحثون على حدود نتائجهم. حدثت نجاحات النسخ المتماثل الشاملة، كما يقول المنشور، في "تقييمات مبسطة" - وتم افتراض مراحل استغلال السلسلة بدلاً من إثباتها، بالاعتماد على معايير سابقة بدلاً من الهجمات الجديدة. ستحتاج دودة الذكاء الاصطناعي في العالم الحقيقي إلى ربط المراحل الأربع بشكل موثوق: تحديد موقع الأجهزة الضعيفة، واقتحامها، واستدلالها على أجهزة غير مألوفة، وإطلاق الموجة التالية من الانتشار، كل ذلك دون تدخل بشري.
يمكن للنماذج دون 30B اليوم، على وجه الخصوص، القيام بالعديد من هذه الخطوات بشكل فردي ولكنها لا تزال تفشل في تركيبها من البداية إلى النهاية. وهذه الفجوة – بين الخطوات والتسلسلات – هي بالضبط ما يتوقع الباحثون أن تسده معدلات التحسن التاريخية.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
