اقتصاد زیرساخت های هوش مصنوعی متحول شده است. به گفته کامرون مک کاسکیل، مدیر هوش مصنوعی پوزیترون، که این رقم را در مصاحبه ای با theCUBE Research در کنفرانس ابررایانه SC26 به اشتراک گذاشت، تقریباً دو سوم از حجم کاری که امروزه از طریق زیرساخت هوش مصنوعی انجام می شود، به جای آموزش استنتاج است. سه سال پیش، تقسیم بندی تقریباً برعکس بود: حدود 85 درصد آموزش و 15 درصد استنتاج.

این معکوس بی سر و صدا نقشه محل زندگی محاسبات هوش مصنوعی را دوباره ترسیم می کند – و توضیح می دهد که چرا نسل جدیدی از سازندگان تراشه اول استنتاج به طور ناگهانی معاملات ابری را از شرکت های بسیار بزرگتر از خودشان به دست می آورند.

اعداد پشت تلنگر

مک کاسکیل، رئیس فروش و توسعه کسب و کار در پوزیترون، در مصاحبه با ربکا نایت و جان فریر از theCUBE Research گفت: «ما در نقطه‌ای هستیم که حدود دو سوم حجم کاری که از طریق این زیرساخت‌های هوش مصنوعی انجام می‌شود، استنتاج است در مقابل یک سوم آن آموزش است. در سال 2023، 85 درصد آموزش، 15 درصد استنتاج بود. بنابراین اکنون می‌توانید ببینید که چرا استنباط تصمیم‌های اقتصادی را در مورد چگونگی ایجاد زیرساخت‌هایشان هدایت می‌کند.»

تغییر به معنای شهودی است. آموزش در تعداد انگشت شماری از آزمایشگاه های مرزی با خوشه های میلیارد دلاری انجام می شود. استنتاج در همه جا اتفاق می افتد، هر بار که کاربر مدلی را درخواست می کند - و با افزایش پذیرش مصرف کنندگان و شرکت ها، تقاضای کل برای توکن ها زیرساخت های ساخته شده برای دوره آموزشی را تحت تأثیر قرار داده است. منبع تغذیه، خنک‌کننده و حافظه اکنون به همان اندازه که عملکرد تراشه خام تولید می‌کند توکن‌ها را شکل می‌دهد و این که سخت‌افزار برنده معامله می‌شود.

شرط پوزیترون بر روی حافظه کالا

هوش مصنوعی پوزیترون که در ماه سپتامبر 875 میلیون دلار با ارزش گذاری 5 میلیارد دلاری جذب کرد، کل استراتژی خود را حول دوران استنتاج ساخته است. انتخاب اصلی طراحی این شرکت: از حافظه با پهنای باند بالا (HBM)، نوع حافظه کمیاب و گران‌قیمتی که بیشتر شتاب‌دهنده‌های هوش مصنوعی را متصل می‌کند، صرفنظر کنید، و به جای آن، ابزارهای استنتاجی را بر روی حافظه کالا بسازید.

مک کاسکیل گفت: "تقریباً همه افراد دیگر در صنعت از چیزی استفاده می کنند که HBM یا حافظه با پهنای باند بالا نامیده می شود. عرضه آن بسیار محدود و بسیار گران است." با حافظه کالایی رفتیم.

مبادلات عمدی هستند. حافظه کالا ارزان‌تر است و تهیه آن بسیار آسان‌تر است، و معماری پوزیترون قدرت را به اندازه کافی برای اتاق‌های خنک‌کننده هوا پایین نگه می‌دارد - بدون نیاز به خنک‌کننده مایع عجیب و غریب. یک سرور پوزیترون حدود 4500 وات مصرف می کند و یک رک کامل از سرورهای آینده Titan این شرکت در 40 کیلووات قرار می گیرد.

نقشه راه به سرعت در حال پیشرفت است. سرور اطلس نسل اول پوزیترون بر روی یک تراشه قابل برنامه ریزی اجرا می شد و این شرکت قصد دارد در اوایل سال آینده سیلیکون خود را برای سرور Titan تولید کند. به گفته مک‌کاسکیل، این شرکت قبلاً پیاده‌سازی‌های خیمه‌ای را انجام داده است: طبق گفته مک‌کاسکیل، اوراکل تقریباً 340 سرور اطلس را در این سه‌ماهه در فضای ابری خود ارائه می‌کند، و یک ارائه‌دهنده نئوکلاد در حالی که به نسل آینده Titan متعهد است، برای Atlas قرارداد امضا کرده است.

مراکز داده مدولار به خانه طبیعی برای استنتاج تبدیل می شوند

شاید مهم‌ترین بخش مصاحبه جایی است که مک‌کاسکیل می‌گوید تقاضا از آنجا می‌آید: نه دانشگاه‌های فوق‌مقیاس، بلکه امکانات کوچک، سریع و مدولار.

وی گفت: یکی از گروه‌هایی از شرکت‌هایی که در حال حاضر شاهد رشد آن‌ها هستیم و برای محصولات به ما مراجعه می‌کنند، این مراکز داده ماژولار هستند که در آن مرکز داده‌های ماژولار نیم مگاوات یا 1 مگاوات یا 2.5 مگاوات دارند و خیلی سریع می‌توان آن‌ها را مستقر کرد. "هدف بسیاری از این بازیکنان استنباط این است که من می‌خواهم ظرف 90 تا 120 روز از زمین و قدرت به توکن‌های قابل کسب درآمد برسم."

این جدول زمانی - تقریباً یک چهارم از نقطه شروع به درآمد - برای یک پردیس آموزشی در مقیاس گیگاوات غیرممکن است، که ممکن است سال ها طول بکشد تا اجازه دهد، ساخته شود و انرژی بخشد. حجم کار استنتاج کوچکتر است، از نظر جغرافیایی انعطاف پذیرتر است و نسبت به سایت هایی که اپراتورها می توانند چند مگاوات برق ارزان را بدون موانع نظارتی سنگین پیدا کنند، تحمل می کنند. نتیجه یک لایه در حال ظهور از زیرساخت استنتاج توزیع شده است که در سایت‌های مخابراتی، امکانات هم‌محلی و واحدهای مدولار نزدیک‌تر به جایی که تقاضا است.

چه معنایی برای صنعت دارد

برای فروشندگان تراشه، پیام این است که بازار سخت افزار هوش مصنوعی در حال دوشاخه شدن است. آموزش برای پاداش دادن به پیشرفته ترین شتاب دهنده ها و عمیق ترین جیب ها ادامه دارد. استنتاج فضیلت های مختلفی را پاداش می دهد: بهره وری انرژی، هزینه حافظه، سرعت استقرار، و توانایی اجرا در ساختمان های معمولی با هوا خنک. فروشندگانی که فقط برای مسابقه آموزشی بهینه شده اند ممکن است بیشترین حجم تصمیمات استقرار آینده را پیدا کنند - جایی که توکن ها واقعاً درآمدزایی می کنند - روی سخت افزار طراحی شده برای مجموعه ای از محدودیت ها اتفاق می افتد.

برای شرکت‌ها و مشتریان ابری، این تغییر عمدتاً نامرئی است، اما به‌طور فزاینده‌ای نتیجه‌ای دارد: ظرفیت استنتاج که با افزایش‌های 90 تا 120 روزه می‌رسد، به معنای قیمت رقابتی‌تر و گزینه‌های جغرافیایی بیشتر برای مدل‌های در حال اجرا در نزدیکی کاربران و داده‌ها است.

و برای روایت ساخت صنعت هوش مصنوعی - که اغلب به عنوان یک مسابقه بی پایان برای پردیس های گیگاواتی قاب می شود - تلنگر استنتاج یادآوری است که منحنی تقاضا در حال گسترش است، نه فقط مقیاس پذیر. دو سوم نقطه عطف ذکر شده در SC26 برآورد یکی از مدیران اجرایی است، اما با جهتی مطابقت دارد که هر اپراتور بزرگ ابری گزارش کرده است: مرکز ثقل ساختار هوش مصنوعی از آموزش مدل‌ها به ارائه خدمات به آن‌ها در حال حرکت است.

از هوش مصنوعی جلوتر بمانید

آخرین پیشرفت‌های هوش مصنوعی را با [AI Buzz Wire] (https://aibuzzwire.news)، منبع اخبار سخت‌افزار و زیرساخت‌های هوش مصنوعی دنبال کنید.

بیشتر بخوانید اخبار هوش مصنوعی →