ایک لمحے میں جب فرنٹیئر لیبز ڈیٹا سینٹرز کو بھرنے والے ٹریلین پیرامیٹر ماڈلز بنانے کی دوڑ میں لگ گئی ہیں، ایک ڈویلپر پوری طرح سے دوسری سمت چلا گیا ہے: ایک ورکنگ سوال جواب دینے والا لینگویج ماڈل جو 1980 کی فلاپی ڈسک پر فٹ بیٹھتا ہے اور CPU پر چلتا ہے جو کہ 486DX کے اندر بھیجنے کے لیے کافی پرانا ہے۔

ٹنی 2.1 نامی اس پروجیکٹ کو ہیکاڈے نے دیکھا اور اس ہفتے فیوچرزم اور ٹام کے ہارڈ ویئر نے اٹھایا۔ اس کے GitHub پروجیکٹ پیج کے مطابق، پورے ماڈل کا وزن تقریباً 380 KB 8-bit وزن میں ہے — جو اتنا چھوٹا ہے کہ ایک MS-DOS فارمیٹ شدہ فلاپی ڈسک پر آرام سے فٹ ہو سکے — اور اسے چلانے کے لیے صرف 540 KB میموری کی ضرورت ہے۔ ٹام کے ہارڈ ویئر نے رپورٹ کیا ہے کہ یہ اپنے جوابات بھی پی سی اسپیکر کے ذریعے بولتا ہے۔ اگر آپ AI توڑنے کی توقعات کے بارے میں کہانیوں سے لطف اندوز ہوتے ہیں، تو ہماری تازہ ترین AI پیش رفت میں ایج انفرنس سے لے کر ٹریلین پیرامیٹر فرنٹیئر سسٹم تک سب کچھ شامل ہے۔

367,000 پیرامیٹرز کے ساتھ سوال کا جواب دینے والا ٹرانسفارمر

ٹائنی 2.1 ایک چھوٹا ٹرانسفارمر فن تعمیر ہے جس میں تقریباً 367,000 پیرامیٹرز ہیں - "ہلکے وزن" کے ماڈلز کے سائز کا ایک حصہ جو عام طور پر کم اربوں میں ناپتے ہیں۔ یہ ٹربو سی 2.0 میں لکھا گیا تھا اور MS-DOS پر چلتا ہے، یہ آپریٹنگ سسٹم ہے جس نے 1980 اور 1990 کی دہائی کے اوائل میں پرسنل کمپیوٹنگ پر غلبہ حاصل کیا، جس نے Intel 486DX اور ابتدائی پینٹیم جنریشنز جیسی پرانی مشینوں کو نشانہ بنایا۔

اس کا تربیتی ڈیٹا اسی مناسبت سے چھوٹا ہے: صرف 3,500 حقائق۔ یہ رکاوٹ اسے استعمال کرنے کے تجربے کی وضاحت کرتی ہے۔ پروجیکٹ کے صفحے پر شیئر کیے گئے اسکرین شاٹ میں، ماڈل نے درست جواب دیا کہ وہیل مچھلی کے بجائے ممالیہ جانور ہیں اور ٹیلی فون ایجاد کرنے کا صحیح طور پر سہرا الیگزینڈر گراہم بیل کو دیتا ہے۔ 17 گنا 23 کی گنتی کرنے کے لیے کہا گیا، تاہم، یہ "96" کا جواب دیتا ہے۔ اور پوچھا کہ فرانس کا بادشاہ کون ہے، یہ اعتماد کے ساتھ جواب دیتا ہے "یہ انٹارس نیوٹن تھا" - 100 فیصد اعتماد کی سطح کے ساتھ۔

کلاڈ جیسی کارکردگی کی توقع نہ کریں۔

جیسا کہ فیوچرزم دو ٹوک الفاظ میں نوٹ کرتا ہے، ماڈل "ہر وقت بہت زیادہ جوابات تیار کرتا ہے،" کیونکہ یہ دنیا کے بارے میں بہت زیادہ نہیں جانتا ہے۔ بازیافت کی کوئی پرت نہیں ہے، کوئی ٹول استعمال نہیں ہے، کوئی ویب سرچ نہیں ہے — صرف ایک کمپیکٹ نیورل نیٹ ورک اور جو بھی پیٹرن اس نے اپنے 3,500 فیکٹ ٹریننگ سیٹ سے جذب کیا ہے۔

جو چیز پروجیکٹ کو قابل ذکر بناتی ہے وہ اس سے کم ہے کہ ماڈل کیا کرسکتا ہے اس سے اس کا وجود ظاہر کرتا ہے۔ جدید LLM اندازہ گیگا بائٹس میموری، GPU ایکسلریشن، اور کلو واٹ پاور سے وابستہ ہے۔ ٹنی 2.1 اس کے بجائے اس تصور کو ثابت کرتا ہے کہ ایک ٹرانسفارمر ہارڈ ویئر پر سٹرکچرڈ، سوال و جواب کا تعامل پیدا کر سکتا ہے جس کے بارے میں بات کرنے کے لیے کوئی فلوٹنگ پوائنٹ یونٹ نہیں، فلاپی سے آگے ہارڈ ڈرائیو کی کوئی ضرورت نہیں، اور آڈیو آؤٹ پٹ پاتھ ایک مدر بورڈ اسپیکر کی طرح قدیم ہے۔

AI AI کے ساتھ بنایا گیا ہے۔

ایک میٹا موڑ بھی ہے۔ پروجیکٹ پیج کے مطابق، ڈویلپر نے ہر لائن کو ہاتھ سے نہیں لکھا: انہوں نے ماڈل کا کوڈ لکھنے میں مدد کے لیے Anthropic's Fable 5.2 اور تربیتی عمل کو سپورٹ کرنے کے لیے Opus 5.5 کا استعمال کیا۔ دوسرے لفظوں میں، فلاپی ڈسک پر فٹ ہونے کے لیے کافی چھوٹا ماڈل خود فرنٹیئر اسکیل AI سسٹمز کی مدد سے تصنیف اور تربیت یافتہ تھا - جو بہت بڑے والدین کی ایک چھوٹی اولاد ہے۔

یہ ورک فلو AI انجینئرنگ میں ایک وسیع تر رجحان کی عکاسی کرتا ہے، جہاں بڑے ماڈلز تیزی سے ان سسٹمز کو تیار، ڈیبگ اور بہتر بناتے ہیں جو بہت چھوٹے ہارڈ ویئر پر چلتے ہیں۔ یہی پیٹرن جدید ایج-AI ٹول چینز میں ظاہر ہوتا ہے، جہاں کلاؤڈ اسکیل ماڈل فونز، مائیکرو کنٹرولرز، اور ایمبیڈڈ ڈیوائسز کے لیے نیٹ ورکس کو کمپریس اور کوانٹائز کرنے میں مدد کرتے ہیں۔

چھوٹے ماڈلز کیوں اہم ہیں۔

ٹنی 2.1 کسی بھی تجارتی چیٹ بوٹ کو دھمکی نہیں دے گا۔ لیکن اس جیسے منصوبے اس بات کی ایک مفید یاد دہانی کے طور پر کام کرتے ہیں کہ ماڈل کمپریشن کس حد تک آچکا ہے - اور ضرورت کے بجائے انتخاب کتنا بلوٹ ہے۔ ریٹرو کمپیوٹنگ کے شوقین افراد نے یہ ظاہر کرنے میں برسوں گزارے ہیں کہ دہائیوں پرانا ہارڈویئر براؤزر کے قابل امیگاس سے لے کر نیٹ ورک والی 8 بٹ مشینوں تک حیران کن کام کرنے کے قابل ہے۔ اس نسب میں شامل ہونے والا زبان کا نمونہ پہلا ہے، اور ایک چنچل ہے۔

ٹنی 2.1 کی شکل دینے والی انجینئرنگ کی رکاوٹیں بھی کارکردگی میں کریش کورس ہیں۔ ایک 8 بٹ ویٹ فارمیٹ، ایک الفاظ اور فن تعمیر کا سائز کام کے لیے، اور ہارڈ ویئر کی حدود کے ارد گرد ڈیزائن کیا گیا آؤٹ پٹ پاتھ ایک ایسے سسٹم میں شامل ہوتا ہے جہاں ہر کلو بائٹ کا حساب ہوتا ہے۔ اس کے برعکس مین اسٹریم کی تعیناتیوں کے ساتھ، جہاں کوانٹائزیشن، پرننگ، اور ڈسٹلیشن بہت بڑے پیمانے پر بنائے گئے ماڈلز پر لاگو سابقہ ​​​​فکسز ہیں — اور جہاں ایک ہی چیٹ سیشن ٹنی 2.1 رن ٹائم کی پوری ضروریات سے زیادہ میموری استعمال کر سکتا ہے، وزن بھی شامل ہے۔

یہ AI کی طاقت کی بھوک کے ارد گرد حقیقی ماحولیاتی جانچ پڑتال کے وقت بھی اترتا ہے، محققین اور ریگولیٹرز بڑے پیمانے پر تربیت اور تخمینہ کی توانائی کی لاگت پر تیزی سے توجہ مرکوز کرتے ہیں، اور پورے امریکہ میں ڈیٹا سینٹر سائٹنگ کے جھگڑے ہوتے ہیں۔ ایک ماڈل جو 540 KB میموری پر چلتا ہے اور 1980 کی دہائی کی پاور سپلائی اس مسئلے کا حل نہیں ہے — لیکن یہ سپیکٹرم کے دوسرے سرے کی ایک واضح مثال ہے: میگا واٹ میں نہیں بلکہ واٹس میں ماپے گئے نقش کے ساتھ اندازہ۔ فلاپی ڈسک سے لے کر گیگا واٹ کیمپس تک فیلڈ کتنی دور تک پھیلی ہوئی ہے اس پر نظر رکھنے والے قارئین ہماری بریکنگ اے آئی نیوز میں دونوں سرے تلاش کر سکتے ہیں۔

ابھی کے لیے، ٹنی 2.1 کا بنانے والا ایک حقیقی طور پر نایاب کامیابی کا دعویٰ کر سکتا ہے: ایک نیورل نیٹ ورک جسے آپ اسی میڈیم سے انسٹال کر سکتے ہیں جسے آپ کسی ورڈ پروسیسر دستاویز کو محفوظ کرنے کے لیے استعمال کرتے ہیں، ویب سے پہلے والی مشین پر۔ یہ مسلسل فریب دیتا ہے، مکمل اعتماد کے ساتھ فرانسیسی رائلٹی کی شناخت کو غلط بیان کرتا ہے، اور دو ہندسوں کی تعداد کو قابل اعتماد طریقے سے ضرب نہیں دے سکتا۔ یہ مکمل طور پر فلاپی ڈسک پر بھی چلتا ہے۔

AI سے آگے رہیں

فلاپی ڈسک ماڈلز سے لے کر فرنٹیئر لیبز تک، ہم ان سب کو ٹریک کرتے ہیں۔ مزید AI خبریں پڑھیں →