در لحظهای که آزمایشگاههای مرزی در حال رقابت برای ساخت مدلهای تریلیون پارامتری هستند که مراکز داده را پر میکنند، یکی از توسعهدهندگان به طور کامل مسیر دیگری را طی کرده است: یک مدل زبان پاسخگوی پرسش که بر روی یک فلاپی دیسک در دهه 1980 قرار میگیرد و روی یک CPU به اندازهای قدیمی کار میکند که در داخل 486DX حمل شود.
این پروژه که Tiny 2.1 نام دارد توسط Hackaday مشاهده شد و این هفته توسط Futurism و Tom's Hardware انتخاب شد. طبق صفحه پروژه GitHub، کل مدل تقریباً 380 کیلوبایت وزن 8 بیتی دارد - به اندازه ای کوچک که به راحتی بر روی یک فلاپی دیسک با فرمت MS-DOS قرار گیرد - و برای اجرا فقط به 540 کیلوبایت حافظه نیاز دارد. Tom's Hardware گزارش می دهد که حتی پاسخ های خود را از طریق بلندگوی ساده رایانه شخصی بیان می کند. اگر از داستانهایی درباره شکستن انتظارات هوش مصنوعی لذت میبرید، [آخرین پیشرفتهای هوش مصنوعی] (https://aibuzzwire.news) ما همه چیز را از استنتاج لبه گرفته تا سیستمهای مرزی تریلیون پارامتری پوشش میدهد.
ترانسفورماتور پرسش و پاسخ با 367000 پارامتر
Tiny 2.1 یک معماری ترانسفورماتور کوچک با تقریباً 367000 پارامتر است - کسری از اندازه مدلهای "سبک" که معمولاً به میلیاردها می رسد. این در Turbo C 2.0 نوشته شده است و بر روی MS-DOS اجرا می شود، سیستم عاملی که در دهه 1980 و اوایل دهه 1990 بر محاسبات شخصی تسلط داشت و ماشین هایی به قدمت اینتل 486DX و نسل های اولیه پنتیوم را هدف قرار می داد.
داده های آموزشی آن نیز به همین نسبت بسیار اندک است: فقط 3500 واقعیت. این محدودیت تجربه استفاده از آن را تعریف می کند. در اسکرین شات به اشتراک گذاشته شده در صفحه پروژه، مدل به درستی پاسخ می دهد که نهنگ ها پستانداران هستند تا ماهی و به درستی الکساندر گراهام بل را اختراع تلفن می داند. از او خواسته شد 17 ضربدر 23 را محاسبه کند، با این حال، "96" پاسخ می دهد. و از او پرسیده شد که پادشاه فرانسه کیست، با اطمینان پاسخ می دهد که "آنتارس نیوتن بود" - با سطح اطمینان 100 درصد.
انتظار عملکردی شبیه کلود را نداشته باشید
همانطور که آیندهنگاری به صراحت اشاره میکند، این مدل «تقریباً همیشه پاسخها را میسازد»، زیرا به سادگی چیز زیادی درباره جهان نمیداند. هیچ لایه بازیابی، بدون استفاده از ابزار، هیچ جستجوی وب وجود ندارد - فقط یک شبکه عصبی فشرده و هر الگویی که از مجموعه آموزشی 3500 واقعیت جذب کرده است.
چیزی که پروژه را قابل توجه می کند، آنچه که مدل می تواند انجام دهد کمتر از آنچه وجود آن نشان می دهد است. استنتاج مدرن LLM با گیگابایت حافظه، شتاب پردازنده گرافیکی و کیلووات قدرت مرتبط است. Tiny 2.1 در عوض این مفهوم را ثابت می کند که یک ترانسفورماتور می تواند تعامل ساختاریافته و پرسش و پاسخی را روی سخت افزار ایجاد کند، بدون اینکه واحد ممیز شناور صحبت شود، بدون نیاز به هارد دیسک فراتر از فلاپی، و یک مسیر خروجی صدا به همان ابتدایی یک بلندگوی مادربرد.
هوش مصنوعی ساخته شده با هوش مصنوعی
یک متا پیچش نیز وجود دارد. طبق صفحه پروژه، توسعهدهنده هر خط را با دست ننوشت: آنها از Anthropic's Fable 5.2 برای کمک به نوشتن کد مدل و Opus 5.5 برای پشتیبانی از فرآیند آموزش استفاده کردند. به عبارت دیگر، مدلی به اندازهای کوچک که بر روی یک فلاپی دیسک قرار گیرد، خود با کمک سیستمهای هوش مصنوعی در مقیاس مرزی - یک نسل کوچک از والدین بسیار بزرگ - ساخته و آموزش داده شد.
این گردش کار روند گستردهتری را در مهندسی هوش مصنوعی منعکس میکند، جایی که مدلهای بزرگ به طور فزایندهای سیستمهایی را که روی سختافزار بسیار کوچکتر اجرا میشوند، تولید، اشکالزدایی و بهینهسازی میکنند. همین الگو در زنجیرههای ابزار مدرن Edge-AI دیده میشود، جایی که مدلهای مقیاس ابری به فشردهسازی و کوانتیزه کردن شبکهها برای تلفنها، میکروکنترلرها و دستگاههای تعبیهشده کمک میکنند.
چرا مدل های کوچک مهم هستند
Tiny 2.1 هیچ چت بات تجاری را تهدید نمی کند. اما پروژههایی مانند آن بهعنوان یادآوری مفیدی در مورد اینکه فشردهسازی مدل تا کجا پیش رفته است - و میزان نفخ انتخابی است تا ضرورت. علاقهمندان به محاسبات یکپارچهسازی با سیستمعامل سالها نشان دادهاند که سختافزار چند دههای قادر به انجام کارهای شگفتانگیز است، از آمیگا با قابلیت مرورگر گرفته تا ماشینهای 8 بیتی شبکهای. یک مدل زبانی که به آن دودمان ملحق می شود، اولین و بازیگوش است.
محدودیتهای مهندسی که Tiny 2.1 را شکل دادهاند نیز یک دوره تصادفی در کارایی هستند. فرمت وزن 8 بیتی، واژگان و معماری متناسب با کار، و مسیر خروجی طراحی شده حول محدودیتهای سختافزاری، سیستمی را تشکیل میدهند که در آن هر کیلوبایت محاسبه میشود. در مقایسه با استقرارهای رایج، که در آن کوانتیزاسیون، هرس و تقطیر اصلاحات عطف به ماسبق هستند که برای مدلهایی که در مقیاس بسیار بزرگتر ساخته شدهاند اعمال میشوند – و در آنها یک جلسه چت میتواند حافظه بیشتری را نسبت به کل زمان اجرا Tiny 2.1، شامل وزنها، مصرف کند.
همچنین در زمان بررسی دقیق زیستمحیطی واقعی پیرامون قدرت هوش مصنوعی، با تمرکز فزاینده محققان و تنظیمکنندهها بر هزینه انرژی آموزش و استنتاج در مقیاس بزرگ، و درگیریهای مرکز داده در سرتاسر ایالات متحده انجام میشود. مدلی که با حافظه 540 کیلوبایتی و منبع تغذیه دهه 1980 کار میکند راهحلی برای این مشکل نیست – اما تصویر واضحی از انتهای دیگر طیف است: استنتاج با ردپایی که بر حسب وات اندازهگیری میشود، نه مگاوات. خوانندگانی که فاصله میدان را دنبال میکنند، از فلاپی دیسک تا محوطههای گیگاواتی، میتوانند هر دو طرف را در [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) ما بیابند.
در حال حاضر، سازنده Tiny 2.1 میتواند ادعای یک دستاورد واقعاً نادر را داشته باشد: یک شبکه عصبی که میتوانید آن را از همان رسانهای که برای ذخیره یک سند پردازشگر کلمه استفاده میکنید، روی ماشینی که قبل از وب نصب میکنید، نصب کنید. مدام توهم می زند، هویت خانواده سلطنتی فرانسوی را با اطمینان کامل به اشتباه نقل می کند و نمی تواند اعداد دو رقمی را به طور قابل اعتماد ضرب کند. همچنین به طور کامل روی یک فلاپی دیسک اجرا می شود.
از هوش مصنوعی جلوتر بمانید
از مدلهای فلاپی دیسک گرفته تا آزمایشگاههای مرزی، همه آنها را دنبال میکنیم. اخبار هوش مصنوعی را بیشتر بخوانید →
