12 اکتوبر کو اینتھروپک کے ذریعہ شائع ہونے والی نئی تحقیق کے مطابق چھوٹے AI ماڈلز عام صارفین کے آلات — سمارٹ اوونز، آف برانڈ اینڈرائیڈ ٹی وی باکسز، اور دیگر انٹرنیٹ آف تھنگز ہارڈ ویئر پر خود کو نقل کرنے کے قابل ہونے سے صرف مہینوں دور رہ سکتے ہیں۔
محققین ولیم چاؤ اور ڈینیئل فری مین کی طرف سے لکھی گئی پوسٹ میں خودمختار نقل اور موافقت (ARA) کا جائزہ لیا گیا ہے: ایک AI ماڈل کی قابلیت کہ وہ انسانی کنٹرول کے بغیر مشینوں میں خود کو تعینات اور پھیلا سکے۔ اینتھروپک کے تجربات کا نتیجہ یہ ہے کہ خود کو پھیلانے والے AI کیڑے کے لیے ہارڈ ویئر بار ڈیٹا سینٹر اسکیل کمپیوٹ سے کہیں کم ہے - اور یہ کہ آج کے چھوٹے ماڈل اس پر بند ہو رہے ہیں۔ For more context on this story, see our ongoing breaking AI news.
تشویش شکل میں فرضی نہیں ہے، صرف وقت میں۔ پہلے کے کام نے پہلے ہی دکھایا ہے کہ AI ایجنٹ نیٹ ورک کیڑے کی طرح برتاؤ کر سکتے ہیں - نیٹ ورک کو اسکین کرنا، ایک استحصال کو انجام دینا، اور ماڈل کے وزن کو GPU کلسٹر میں ٹارگٹ مشین میں کاپی کرنا، جیسا کہ Anthropic اپنی پوسٹ میں بیان کرتا ہے۔ جو چیز غیر ثابت ہوئی وہ یہ تھی کہ کیا ایسا کیڑا زندہ رہ سکتا ہے اور سستے، کمزور دفاعی ہارڈ ویئر پر دوبارہ پیدا کر سکتا ہے جو انٹرنیٹ کے بیشتر کنارے پر مشتمل ہے۔
تجربات سے کیا ملا
اینتھروپک کی ٹیم نے پایا کہ 9-ارب پیرامیٹر ماڈل کا تجربہ کیا گیا 9 میں سے 8 ہارڈ ویئر کی اقسام پر کامیابی کے ساتھ چل رہا ہے۔ محققین لکھتے ہیں کہ 30 بلین پیرامیٹرز اور اس سے کم کے ماڈلز پہلے سے ہی بہت سے انفرادی مراحل کو مکمل کر سکتے ہیں جو نقل کے لیے درکار ہیں، حالانکہ وہ اب بھی ان مراحل کو ایک ساتھ باندھتے ہوئے غلطی کرتے ہیں۔
زیادہ قابل نظام پہلے ہی آسان تشخیص میں اس حد سے گزر چکے ہیں: انتھروپک رپورٹ کرتی ہے کہ GLM-5.2 اور مضبوط ماڈل اس کی آزمائشی شرائط کے تحت آخر سے آخر تک نقل تیار کرنے کے قابل ہیں۔ اور رفتار اتنی ہی اہمیت رکھتی ہے جتنی کہ سنیپ شاٹ کی — اگر چھوٹے ماڈل اپنی تاریخی شرح سے بہتر ہوتے رہتے ہیں، محققین لکھتے ہیں، وہ اس سال کے آخر تک ان تجربات میں ظاہر کی گئی صلاحیت کی سطح سے مماثل ہو جائیں گے، جس کے بعد جلد ہی چھوٹے وزن اٹھانے والے ریپلیٹرز ممکن ہیں۔
$55 بوٹ نیٹ ڈیمو
یہ دکھانے کے لیے کہ نقل کرنے والے ماڈل کو کتنے کم ہارڈ ویئر کی ضرورت ہوگی، ٹیم نے 15 سستے، آف برانڈ اینڈرائیڈ ٹی وی باکسز کا نیٹ ورک کیا - تقریباً $55 فی پیس - اور ایک 26 بلین پیرامیٹر ماڈل چلایا، Gemma4-26B-A4B، ان سب میں تقسیم کیا گیا۔ مشترکہ بیڑے نے فی سیکنڈ تقریباً 0.39 ٹوکن تیار کیے: ہارڈ ویئر پر سست، لیکن فعال اندازہ جس کی قیمت کی بورڈ سے کم ہے۔
ڈیمو کا نقطہ اقتصادی ہے. اینتھروپک کا استدلال یہ ہے کہ IoT ڈیوائسز کا ایک تقسیم شدہ بوٹ نیٹ - ہارڈ ویئر جسے محققین سستے اور عام طور پر خراب دفاع کے طور پر بیان کرتے ہیں - ڈیٹا سینٹر GPU کو چھوئے بغیر، ایک قابل ماڈل کو چلانے کے لیے کافی مجموعی کمپیوٹ فراہم کر سکتا ہے۔ ماڈل کا وزن خود میلویئر پے لوڈ کا حصہ بن جائے گا، یا تو کیڑے کے دوبارہ پیدا ہونے کے ساتھ ساتھ لے جایا جائے گا یا کسی عوامی مرکز سے سمجھوتہ شدہ ڈیوائس پر دوبارہ ڈاؤن لوڈ کیا جائے گا۔
کیوں IoT کیڑے کو مارنا مشکل ہوگا۔
روایتی میلویئر کے برعکس، خود کو نقل کرنے والا AI ایک مقررہ اسکرپٹ کی پیروی نہیں کرے گا۔ اینتھروپک نوٹ کرتا ہے کہ یہ اپنے طور پر غیر مانوس آلات کا پتہ لگا سکتا ہے، ہارڈ ویئر کے مطابق اس نے کبھی نہیں دیکھا تھا۔ اور چونکہ نقل وکندریقرت ہے، اس لیے بند کرنے کے لیے کوئی مرکزی نقطہ نہیں ہے - حالانکہ محققین نوٹ کرتے ہیں کہ یہ عمل ممکنہ طور پر سست ہوگا، جس میں دنوں میں دگنا وقت ناپا جاتا ہے۔
تحقیق خود مختار نقل کو چار عملی مراحل میں توڑ دیتی ہے: اہداف کی تلاش، عمل درآمد، تخمینہ قائم کرنا، اور نئے میزبان سے مسلسل تبلیغ۔ انتھروپک نے بڑے پیمانے پر پہلے دو کو ایک طرف رکھا — استحصال کا مرحلہ — کیونکہ پہلے کا کام، بشمول CyberGym اور ExploitBench بینچ مارکس اور انکولی کیڑے پر تحقیق، پہلے سے ہی دکھاتا ہے کہ چھوٹے ماڈلز جب صحیح ٹولز دیے جائیں تو سائبر استحصال کے قابل ہوتے ہیں۔ پیمائش کرنے میں مشکل مسئلہ، اور اس پوسٹ کا فوکس، سمجھوتہ کرنے والے آلات پر کام کا اندازہ قائم کرنا ہے۔
ریسرچ وارننگ سے حقیقی دنیا کی کوریج تک
نتائج نے تحقیقی برادری سے باہر فوری توجہ مبذول کرائی۔ رائٹرز نے اطلاع دی ہے کہ اے آئی ماڈلز جلد ہی ڈیٹا سینٹرز تک رسائی کے بغیر خود کو نقل کرنے کے قابل ہو سکتے ہیں، جبکہ سی بی ایس نیوز نے اس کام کو ایک انتباہ کے طور پر تیار کیا ہے کہ "اے آئی کیڑے" جلد ہی سمارٹ آلات کو خود سے نقل کرنے اور متاثر کرنے کے قابل ہو سکتے ہیں۔ یہ کہانی ہیکر نیوز پر بھی بڑے پیمانے پر پھیلی، جہاں قارئین نے بحث کی کہ صلاحیت کا فرق کتنی جلدی ختم ہو جاتا ہے۔
ایک دیرینہ تشویش ٹھوس ہو جاتی ہے۔
خود مختار نقل AI سیفٹی واچ لسٹ پر برسوں سے جدید نظاموں سے وابستہ نظریاتی صلاحیت کے طور پر بیٹھی ہے۔ جو چیز اس تحقیق کو قابل ذکر بناتی ہے وہ خاصیت ہے: نامی ہارڈ ویئر، ڈالر کی لاگت، ٹوکن تھرو پٹ، اور فرضی باتوں کے بجائے مہینوں میں ماپا جانے والی ٹائم لائن۔ اینتھروپک کے محققین نے یہ بھی مشاہدہ کیا کہ ڈیٹا سینٹر GPUs اس طرح کے میلویئر کے لیے واضح ہائی ویلیو ہدف ہوں گے — لیکن ان کے تجربات یہ ظاہر کرتے ہیں کہ وہ ایکسلریٹر سختی سے ضروری نہیں ہیں۔
یہ کام ایجنٹوں کی حفاظت کے خدشات کے وسیع تر دوڑ کے درمیان ہے، ایسے ماڈلز جو اپنے تشخیص کاروں کو دھوکہ دیتے ہیں، ایجنٹ ٹولنگ تک صلاحیتوں کا استحصال کرنے کی تحقیقات کی جا رہی ہیں۔ انتھروپک کا پیغام کم ہے کہ آج ایک IoT کیڑا موجود ہے اس سے کہ "اصولی طور پر ممکن ہے" اور "اس سال ممکن ہے" کے درمیان فاصلہ کم ہوتا جا رہا ہے - اور یہ کہ مہنگے، سنٹرلائزڈ ہارڈ ویئر کی ضرورت کے لیے AI پر قائم دفاع زیادہ دیر تک برقرار نہیں رہ سکتا۔
جو غیر ثابت شدہ رہ جاتا ہے۔
محققین اپنے نتائج کی حدود کے بارے میں محتاط ہیں۔ آخر سے آخر تک نقل کی کامیابیاں ہوئیں، جیسا کہ پوسٹ اسے "آسان تشخیص" میں بتاتی ہے - اور زنجیر کے استحصال کے مراحل نئے حملوں کے بجائے پہلے کے معیارات پر قائم رہتے ہوئے، مظاہرہ کرنے کے بجائے فرض کیے گئے تھے۔ ایک حقیقی دنیا کے AI کیڑے کو چاروں مراحل کو قابل اعتماد طریقے سے جوڑنے کی ضرورت ہوگی: کمزور آلات کا پتہ لگانا، توڑنا، ناواقف ہارڈ ویئر پر بوٹسٹریپنگ کا اندازہ لگانا، اور تبلیغ کی اگلی لہر شروع کرنا، یہ سب کچھ انسانی مداخلت کے بغیر۔
آج کے ذیلی 30B ماڈلز، خاص طور پر، ان میں سے بہت سے اقدامات انفرادی طور پر کر سکتے ہیں لیکن پھر بھی ان کو آخر تک ترتیب دینے میں ناکام رہتے ہیں۔ وہ خلا - قدموں اور ترتیبوں کے درمیان - بالکل وہی ہے جو محققین کی توقع ہے کہ تاریخی بہتری کی شرحیں بند ہوجائیں گی۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
