مدیر اجرایی کوالکام می‌گوید بزرگترین شرکت‌های هوش مصنوعی از او می‌خواهند چیزی را که گوشی‌های هوشمند کنونی نمی‌توانند انجام دهند: اجرای مدل‌های ۱۰۰ میلیارد پارامتری بر روی خود گوشی، به طور مداوم تا سال ۲۰۲۸.

کریستیانو آمون در مصاحبه‌ای در 8 اکتبر که توسط Fortune گزارش شد و این هفته توسط رسانه‌هایی از جمله TOKENPOST و Startup Fortune انتخاب شد، گفت: چندین شرکت هوش مصنوعی - که نام‌هایشان را اعلام نکرد - به دنبال گوشی‌های هوشمندی هستند که بتوانند مدلی با پارامتر 100 میلیارد را در تمام ساعات شبانه‌روز نگه دارند. برای خوانندگانی که تغییر هوش مصنوعی از ابر به جیب و مچ دست را دنبال می‌کنند، واضح‌ترین سیگنال تقاضا تا کنون است و بخش [اخبار سخت‌افزار هوش مصنوعی] (https://aibuzzwire.news) ما را دنبال می‌کند که این فشار به کجا می‌رود.

تقاضا از آزمایشگاه های هوش مصنوعی می آید، نه نقشه راه کوالکام

عدد به دلیل اینکه از کجا آمده است مهم است. آمون هدف محصول خود کوالکام را اعلام نکرد. او آنچه را که آزمایشگاه‌های هوش مصنوعی به بزرگترین سازنده تراشه‌های موبایل دنیا می‌گویند که می‌خواهند بسازد را بازگو می‌کرد. تراشه‌های پرچم‌دار امروزی بسیار پایین‌تر از این رقم هستند - Snapdragon 8 Elite Extreme Gen 6، بالاترین پلت‌فرم موبایل کوالکام، می‌تواند مدل‌های ترکیبی از متخصصان بالاتر از 30 میلیارد پارامتر را روی دستگاه اجرا کند، با پنجره زمینه تقریباً 32000 توکن.

یک مدل 100 میلیارد پارامتری که بدون توقف اجرا می شود بیش از سه برابر این سقف است و مشکل مهندسی را از نظر نوع و نه فقط در درجه تغییر می دهد. همانطور که گزارش Startup Fortune اشاره می کند، این درخواست برای نسخه بزرگتری از دستیارهایی که قبلاً استفاده می کردند نیست. این برای هوش مصنوعی است: نرم‌افزاری که به‌جای منتظر ماندن برای اعلان، تماشا می‌کند، استدلال می‌کند و از طرف کاربر عمل می‌کند، به این معنی که مدل باید در حافظه باقی بماند و تمام روز بدون پختن باتری یا شاسی، استنتاج را در پس‌زمینه انجام دهد.

چرا حافظه گلوگاه است

شکاف بین 30 میلیارد و 100 میلیارد پارامتر اساساً یک مشکل حافظه است. وزن مدل‌های روی دستگاه باید در حافظه RAM باشد، و سه برابر کردن تعداد پارامترها در حالی که استنتاج مداوم را در حال اجرا نگه می‌دارد، پهنای باند حافظه و تقاضای انرژی را چند برابر می‌کند، به گونه‌ای که سخت‌افزار پرچم‌دار فعلی هرگز برای جذب طراحی نشده است.

آمون اذعان کرد که عرضه تراشه‌های حافظه برای گوشی‌های هوشمند تحت یک «محدودیت موقت» است - همان کمبودی که امسال قیمت گوشی‌ها را در سراسر صنعت افزایش داده است - اما او آن را به‌عنوان فشاری توصیف کرد که باعث می‌شود طراحی تراشه‌های حافظه کارآمدتر به جای حافظه بیشتر ایجاد شود. این موضوع با انتخاب‌های سیلیکونی اخیر کوالکام مطابقت دارد: 8 Elite Extreme Gen 6 NPU شش گوش خود را با یک شتاب‌دهنده المان جدید و یک استخر حافظه مشترک بزرگ‌تر جفت می‌کند تا تأخیر و مصرف انرژی را برای استنتاج ترکیبی از متخصصان روی دستگاه کنترل کند.

تراشه هایی که باید شکاف را پر کنند

نسل پرچمدار فعلی کوالکام - اسنپدراگون 8 الیت نسل 6 و 8 الیت اکستریم ژن 6، ساخته شده بر اساس فرآیند 2 نانومتری - قرار است تلفن های پرچمدار سال 2027 را از Honor، iQOO، Motorola، OnePlus، OPPO، Redmi، RedMagic، گوشی های برتر سامسونگ ویوو و X7 تامین کند. محدوده اگر فهرست آرزوهای صنعت هوش مصنوعی در سال 2028 برآورده شود، این چرخه تراشه و چرخه بعد از آن است که باید معماری حافظه، حرارت و کارایی باتری را برای زنده نگه داشتن یک مدل در مقیاس مرزی در جیب پیراهن ارائه دهد.

آمون همچنین گفت، طبق گزارش فورچون، کوالکام با تقریباً تمام بازیگران اصلی هوش مصنوعی روی پروژه‌های سخت‌افزاری فاش نشده، از جمله دسته‌بندی دستگاه‌ها فراتر از تلفن‌ها، کار می‌کند. این با موضع اخیر این شرکت در قرار دادن سیلیکون اسنپدراگون به عنوان لایه استنتاج پیش‌فرض برای هوش مصنوعی لبه در هر کجا که فرود می‌آید - تلفن، ماشین، رایانه شخصی و عینک - مطابقت دارد.

هوش مصنوعی مداوم روی دستگاه واقعا به چه معناست

اگر شرکت‌های هوش مصنوعی به آنچه می‌خواهند دست پیدا کنند، تغییر ساختاری خواهد بود تا زیبایی. مدلی که تمام روز را در پس‌زمینه اجرا می‌کند، می‌تواند زمینه را مشاهده کند، نیازها را پیش‌بینی کند و بدون رفت و برگشت به مرکز داده عمل کند – که به معنای تأخیر کمتر، حفظ حریم خصوصی بهتر و بدون هزینه ابری برای هر پرسش است. همچنین به تلفن‌هایی با حافظه بزرگ‌تر، سریع‌تر و پرقدرت‌تر از گوشی‌های پرچم‌دار امروزی اشاره می‌کند، در بازاری که قیمت‌گذاری حافظه از قبل افزایش یافته است.

شک و تردید سالمی وجود دارد که باید در اینجا اعمال شود. مدیران تراشه‌ها قبلاً پیش‌بینی‌های جسورانه‌ای بر روی دستگاه‌های هوش مصنوعی انجام داده‌اند، و سال 2028 به اندازه‌ای است که این ادعا تا حدی به عنوان یک موضع مذاکره با تأمین‌کنندگان حافظه، سازندگان تلفن و خود آزمایشگاه‌های هوش مصنوعی عمل کند. اما جهت درخواست قابل توجه است: شرکت های هوش مصنوعی این بار درخواست پردازنده های گرافیکی ابری سریع تر ندارند. آنها تلفنی می خواهند که هرگز از فکر کردن باز نمی ماند.

چه مشتریان کوالکام آن دستگاه را در سال 2028 ارسال کنند یا بعد از آن، گلوگاه تماشای پارامترها نیست - پهنای باند حافظه در هر وات است. شرکتی که در ردموند یا سن دیگو یا تایپه این مشکل را حل کند، تعریف بعدی گوشی پرچمدار را در اختیار خواهد داشت.

از هوش مصنوعی جلوتر بمانید

جنگ تراشه‌ها، راه‌اندازی مدل‌ها و پیشرفت‌های هوش مصنوعی لبه‌ای - بدون هیاهو پوشش داده می‌شود.

اخبار هوش مصنوعی را بیشتر بخوانید →