طبق تحقیقات جدید منتشر شده توسط Anthropic در 12 اکتبر، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه تا توانایی کافی برای تکثیر خود در دستگاه‌های مصرف‌کننده معمولی - فرهای هوشمند، جعبه‌های تلویزیون اندرویدی بی‌نام تجاری، و سایر سخت‌افزارهای اینترنتی اشیا فاصله داشته باشند.

این پست که توسط محققان ویلیام ژو و دانیل فریمن نوشته شده است، تکثیر و سازگاری خودکار (ARA) را بررسی می‌کند: توانایی یک مدل هوش مصنوعی برای استقرار و انتشار خود در ماشین‌ها بدون کنترل انسان. نتیجه آزمایش‌های آنتروپیک این است که نوار سخت‌افزاری یک کرم هوش مصنوعی خودگسترش بسیار پایین‌تر از محاسبات در مقیاس مرکز داده است – و مدل‌های کوچک امروزی در حال نزدیک شدن به آن هستند. For more context on this story, see our ongoing artificial intelligence updates.

نگرانی در شکل فرضی نیست، فقط در زمان بندی است. کار قبلی نشان داده است که عامل‌های هوش مصنوعی می‌توانند مانند کرم‌های شبکه رفتار کنند - اسکن شبکه، اجرای یک اکسپلویت و کپی کردن وزن‌های مدل در ماشین هدف در یک کلاستر GPU، همانطور که Anthropic در پست خود بازگو می‌کند. چیزی که ثابت نشد این بود که آیا چنین کرمی می‌تواند زنده بماند و بر روی سخت‌افزار ارزان‌قیمت ضعیفی که بیشتر لبه اینترنت را تشکیل می‌دهد، تکثیر شود.

آنچه آزمایش‌ها پیدا کردند

تیم Anthropic دریافتند که یک مدل 9 میلیارد پارامتری با موفقیت بر روی 8 نوع از 9 نوع سخت افزاری آزمایش شده استنتاج دریافت کرد. محققان می نویسند که مدل هایی با 30 میلیارد پارامتر و کمتر از قبل می توانند بسیاری از مراحل فردی مورد نیاز برای تکرار را تکمیل کنند، اگرچه هنوز هم هنگام زنجیر کردن این مراحل با هم اشتباه می کنند.

سیستم‌های توانمندتر در حال حاضر از آستانه در ارزیابی‌های ساده عبور کرده‌اند: Anthropic گزارش می‌دهد که GLM-5.2 و مدل‌های قوی‌تر قادر به تکرار سرتاسر تحت شرایط آزمایشی آن هستند. و این مسیر به اندازه عکس فوری مهم است - محققان می نویسند اگر مدل های کوچک با سرعت تاریخی خود به بهبود ادامه دهند، تا پایان سال جاری با سطح توانایی نشان داده شده در این آزمایش ها مطابقت خواهند داشت و به زودی امکان تکرار کننده های کوچک حمل وزن وجود دارد.

نسخه نمایشی بات نت 55 دلاری

برای نشان دادن اینکه یک مدل تکرارشونده چقدر به سخت‌افزار کمی نیاز دارد، این تیم 15 جعبه تلویزیون اندرویدی ارزان‌قیمت - حدود 55 دلار - را شبکه‌سازی کرد و یک مدل 26 میلیارد پارامتری به نام Gemma4-26B-A4B را اجرا کرد که در همه آنها توزیع شد. ناوگان ترکیبی تقریباً 0.39 توکن در ثانیه تولید کرد: استنتاج آهسته اما کاربردی بر روی سخت افزاری که قیمتی کمتر از یک صفحه کلید دارد.

نکته نمایشی اقتصادی است. استدلال Anthropic این است که یک بات نت توزیع شده از دستگاه های IoT - سخت افزاری که محققان آن را ارزان و معمولاً ضعیف توصیف می کنند - می تواند محاسبات جمعی کافی برای اجرای یک مدل توانمند را بدون دست زدن به یک GPU مرکز داده ارائه دهد. وزن‌های مدل خود بخشی از بار بدافزار می‌شوند، یا در حین بازتولید کرم حمل می‌شوند یا دوباره از یک هاب عمومی بر روی دستگاه آسیب‌دیده دانلود می‌شوند.

چرا کشتن یک کرم اینترنت اشیا سخت است؟

برخلاف بدافزارهای معمولی، یک هوش مصنوعی خود-تکثیر شونده از یک اسکریپت ثابت پیروی نمی کند. یادداشت‌های Anthropic می‌توانست به تنهایی دستگاه‌های ناآشنا را کشف کند و با سخت‌افزاری که هرگز ندیده بود سازگار شود. و از آنجایی که تکثیر غیرمتمرکز است، هیچ نقطه متمرکزی برای خاموش کردن وجود ندارد - اگرچه محققان خاطرنشان می‌کنند که این روند احتمالاً کند خواهد بود و زمان دوبرابر شدن در روز اندازه‌گیری می‌شود.

این تحقیق تکثیر مستقل را به چهار مرحله عملی تقسیم می کند: یافتن اهداف، به دست آوردن اجرا، ایجاد استنتاج و ادامه انتشار از میزبان جدید. Anthropic تا حد زیادی دو مورد اول - مرحله بهره برداری - را کنار گذاشت، زیرا کارهای قبلی، از جمله معیارهای CyberGym و ExploitBench و تحقیق در مورد کرم‌های تطبیقی، نشان می‌دهند که مدل‌های کوچک با استفاده از ابزارهای مناسب، قادر به بهره‌برداری سایبری هستند. مشکل سخت‌تر برای اندازه‌گیری و تمرکز این پست، ایجاد استنتاج کاری در دستگاه‌های در معرض خطر است.

از هشدار تحقیق تا پوشش دنیای واقعی

این یافته ها توجه فوری را فراتر از جامعه پژوهشی جلب کرد. رویترز گزارش داد که مدل‌های هوش مصنوعی به زودی می‌توانند بدون دسترسی به مراکز داده، خود را تکثیر کنند، در حالی که CBS News این کار را به‌عنوان هشداری در نظر گرفت که «کرم‌های هوش مصنوعی» ممکن است به زودی قادر به تکثیر خود باشند و دستگاه‌های هوشمند را آلوده کنند. این داستان همچنین به طور گسترده در هکر نیوز منتشر شد، جایی که خوانندگان بحث کردند که چقدر زود شکاف قابلیت بسته می شود.

یک نگرانی طولانی مدت مشخص می شود

تکثیر خودکار به عنوان یک قابلیت تئوری مرتبط با سیستم‌های پیشرفته، سال‌ها در فهرست‌های نظارتی ایمنی هوش مصنوعی قرار داشت. چیزی که این تحقیق را قابل توجه می‌کند، ویژگی است: سخت‌افزار نام‌گذاری شده، هزینه‌های دلاری، توان عملیاتی توکن، و جدول زمانی اندازه‌گیری شده در ماه‌ها به جای فرضیات. محققان Anthropic همچنین مشاهده می کنند که GPU های مرکز داده هدف با ارزش بالایی برای چنین بدافزارهایی خواهند بود - اما آزمایشات آنها نشان می دهد که این شتاب دهنده ها کاملاً ضروری نیستند.

کار در میان طیف گسترده‌تری از نگرانی‌های ایمنی عاملی، از مدل‌هایی که ارزیاب‌های خود را فریب می‌دهند تا ابزارهای عاملی که برای قابلیت‌های بهره‌برداری بررسی می‌شوند، فرو می‌رود. پیام آنتروپیک کمتر از وجود کرم اینترنت اشیاء امروزی است تا اینکه فاصله بین «در اصل ممکن» و «امسال ممکن» در حال کاهش است – و اینکه دفاعی که مبتنی بر هوش مصنوعی نیاز به سخت‌افزار متمرکز و گران قیمت دارد ممکن است برای مدت طولانی دوام نیاورد.

آنچه ثابت نشده است

محققان در مورد محدودیت های نتایج خود دقت می کنند. موفقیت‌های تکراری انتها به انتها، همانطور که پست بیان می‌کند، در «ارزیابی‌های ساده‌شده» اتفاق افتاد - و مراحل بهره‌برداری زنجیره به جای نشان‌دادن، بر معیارهای قبلی به جای حملات جدید فرض شد. یک کرم هوش مصنوعی در دنیای واقعی باید هر چهار مرحله را به‌طور قابل اعتماد زنجیره‌ای کند: مکان‌یابی دستگاه‌های آسیب‌پذیر، نفوذ به داخل، استنتاج بوت استرپ بر روی سخت‌افزار ناآشنا، و راه‌اندازی موج بعدی انتشار، همه بدون دخالت انسان.

مدل‌های زیر 30B امروزی، به‌ویژه، می‌توانند بسیاری از این مراحل را به صورت جداگانه انجام دهند، اما هنوز در ساختن آن‌ها از انتها به پایان ناکام هستند. این شکاف - بین مراحل و توالی - دقیقاً همان چیزی است که محققان انتظار دارند نرخ بهبود تاریخی بسته شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →