Edge0 منبع باز Edge0-145B در 12 نوامبر 2026، در کنار یک Edge0-120B کوچکتر، یک چارچوب استنتاج یکپارچه، و ابزارهای استقرار. این استارت آپ Edge0-145B را به عنوان اولین مدل AI منبع باز روی دستگاه با ۱۴۵ میلیارد پارامتر توصیف می کند و می گوید که قابلیت های کدنویسی، استدلال و عاملی را که با مدل های ابری مرزی رقابت می کند را به سخت افزار مصرف کننده می آورد.
این نسخه در همان روزی رسید که به 219 امتیاز در Hacker News رسید، جایی که چشم انداز یک مدل پارامتر 100B plus بدون سرور اجرا می شود، توجه قابل توجهی را از سوی توسعه دهندگانی که استنتاج محلی را دنبال می کنند، جلب کرد. For more context on this story, see our ongoing AI industry coverage.
اعداد پشت ادعای لپ تاپ
طبق اعلام این شرکت، Edge0-145B بر روی یک لپ تاپ شخصی سازگار مانند مک بوک پرو با نتایج گزارش شده زیر اجرا می شود:
- حافظه حداکثر 29 گیگابایت، به اندازه کافی کم است تا در ماشین های مصرف کننده رده بالا بدون سرور اختصاصی جا شود
- بیش از 1100 توکن در هر ثانیه از پیش پر کردن، به فرآیند مدل اجازه می دهد تا ده ها صفحه کد را قبل از شروع تولید بپوشاند.
- رمزگشایی 80+ توکن در ثانیه، که شرکت یادداشت می کند سریعتر از خواندن یک شخص است.
- تقریباً 120 وات توان معمولی، پایداری عملکرد بدون گاز در تنظیم گزارش شده
- 128 تا 256 هزار زمینه ، با سرعت تولید اساساً بدون تغییر در ورودی های طولانی
این ارقام از معیارهای منتشر شده خود Edge0 بهجای آزمایشهای مستقل میآیند، و این شرکت پشته کامل - وزنها، چارچوب استنتاج و ابزارهای استقرار - را منتشر کرده است تا توسعهدهندگان بتوانند اندازهگیریها را روی سختافزار خود بازتولید کنند.
چرا مدل های روی دستگاه کوچک مانده اند
این اعلامیه شامل زمینه های مفیدی است که چرا مدل های بزرگ از لحاظ تاریخی در لپ تاپ ها وجود نداشته اند. قبل از سپتامبر 2026، محدودیت های حافظه اکثر مدل های روی دستگاه را زیر 10 میلیارد پارامتر نگه می داشت. مدل پایه روی دستگاه Apple Intelligence تقریباً 3 میلیارد پارامتر داشت، در حالی که Gemini Nano گوگل در نسخه های 1.8B و 3.25B عرضه شد.
محدودیت فیزیکی است: وزنهای مدل باید در طول هر مرحله تولید از حافظه خوانده شوند و برای پهنای باند با سیستم عامل و سایر برنامهها رقابت کنند. حتی یک مدل 35B به شدت فشرده میتواند به حدود 20 گیگابایت حافظه نیاز داشته باشد که بسیار فراتر از آن چیزی است که تلفنها میتوانند اختصاص دهند.
انتشار قبلی Edge0 نشان داد که رویکرد این شرکت به کجا میرود. مدل تلفن Edge0-35B حداکثر حافظه را کمتر از 2.5 گیگابایت گزارش کرده است که 37+ توکن در ثانیه را در iPhone 18 Pro Max ارائه میکند. Edge0-145B تقریباً چهار برابر پارامترهای آن مدل است، در حالی که پیکربندی لپتاپ آن تقریباً دو برابر سرعت رمزگشایی در حافظه 28 گیگابایتی را گزارش میدهد - این شرکت مراقب است که این اندازهگیریها برای مدلها و سختافزارهای مختلف اعمال شود.
دستیار که کار را تمام می کند
فراتر از سرعت خام، Edge0 مدل را به عنوان یک عامل و نه یک ربات چت قرار می دهد. این اطلاعیه سیستمی را توصیف می کند که کدها را برنامه ریزی، می نویسد و اجرا می کند، خطاها را رفع اشکال می کند و نتایج را به صورت بصری برای پروژه هایی مانند صحنه های سه بعدی، بازی ها، برنامه های سخت افزاری و طرح های PCB بررسی می کند.
این شرکت گزارش میدهد که نتایج کدگذاری، استدلال و دستورالعملها با مدلهای ابر مرزی خاص رقابتی است، اگرچه مقایسههای منتشر شده آن هنوز به طور مستقل تأیید نشده است. مانند هر معیاری که فروشنده گزارش می دهد، توسعه دهندگان می خواهند قبل از نتیجه گیری در مورد برابری در سطح مرزی، ارزیابی های شخص ثالث را ببینند.
بحث حفظ حریم خصوصی و هزینه
این زمین بر سه مزیت نسبت به گردش کار ابری استوار است. استنتاج محلی هیچ هزینه API برای هر توکن متحمل نمیشود، دادههای حساس میتوانند در دستگاه باقی بمانند، و قابلیتهای اصلی آفلاین کار میکنند. برای شرکتهایی که دادههای تنظیمشده را مدیریت میکنند، و برای توسعهدهندگان در محیطهای با پهنای باند محدود، این ویژگیها میتوانند از قابلیت خام یک مدل مرزی میزبانی شده بیشتر باشد.
البته سخت افزار و برق رایگان نیست. Edge0 مستقیماً این را تصدیق می کند و خاطرنشان می کند که ارقام قدرت آن منعکس کننده 120 وات پایدار است - قابل مقایسه با یک لپ تاپ با کارایی بالا که حجم کاری زیادی دارد که پیامدهای واقعی برای عمر باتری و حرارت دارد.
چه معنایی برای اکوسیستم هوش مصنوعی محلی دارد
تجزیه و تحلیل همراه اعلامیه 67 مدل باز با حداقل پارامترهای 1B را از 14 آزمایشگاه در نظر گرفته شده برای تلفنها، لپتاپها و رایانههای شخصی هوش مصنوعی دنبال میکند و مسیر شیبدار است. اگر اعداد گزارششده تحت بررسی مستقل باقی بمانند، Edge0-145B یک تغییر مرحلهای را در سختافزار مصرفکننده میتواند نشان دهد: کلاس مدلی که تا کنون نیاز به در دسترس بودن GPUهای مرکز داده در ماشینهایی را که افراد قبلاً دارند، داشتند.
رقبا در همین مسیر حرکت می کنند. متا مدل باز نمایندگی Muse Glimmer خود را که برای اجرا بر روی پردازندههای گرافیکی مصرفکننده ساخته شده است، ارسال کرده است، و چارچوب مدلهای بنیادی اپل، علاقه توسعهدهندگان را به استنتاج روی دستگاه تجدید کرده است. تفاوت در مقیاس است: هیچ چیز در اکوسیستم وزن باز کنونی به پارامترهای 145B نزدیک نمی شود که بودجه حافظه کلاس لپ تاپ را هدف قرار می دهد.
انتشار همچنین در بحبوحه بحث های تشدید شده در مورد تمرکز قرار می گیرد. از مرورگرهای متمرکز بر حریم خصوصی که جریانهای پرداخت عاملی را به چارچوبهای استنتاج محلی اول اضافه میکنند، اردوگاه وزن باز این صنعت سال 2026 را با این استدلال سپری کرده است که هوش مصنوعی توانا نیازی به زندگی در مرکز دادههای ابرمقیاسگر ندارد. Edge0-145B تهاجمیترین نقطه داده در آن آرگومان است.
توسعهدهندگان میتوانند وزنهای مدل را دانلود کنند، چارچوب استنتاج را بررسی کنند، یا برنامه Edge0 را از طریق سایت شرکت امتحان کنند. این که آیا معیارها از بررسی دقیق جامعه جان سالم به در میبرند یا نه، سوالی است که باز است - اما با وجود پشته کامل برای بازتولید، این بررسی نباید زیاد طول بکشد.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →