CEO-ul OpenAI, Sam Altman, a intrat într-una dintre cele mai aprinse dezbateri din comunitatea AI, argumentând că rularea modelelor AI pe computere personale este o utilizare proastă a memoriei limitate din lume. Vorbind la podcastul Cheeky Pint, Altman a spus că este „destul de îngrozitor” din perspectiva alocării globale pentru indivizi să dețină DRAM care sta inactiv cea mai mare parte a zilei și că memoria este mai bine implementată în centrele de date cloud care rulează la utilizare maximă.
Comentariile, raportate de The Verge, aterizează pe fondul unei penurii globale de memorie care a dus la creșterea prețurilor RAM și pe care unii critici o atribuie în parte construcției centrelor de date pe care Altman o susține. For more context on this story, see our ongoing AI trends.
Ce a spus Altman de fapt
Întrebat despre lipsa lanțului de aprovizionare, inclusiv despre deficitul de memorie RAM, Altman a respins ideea că modelele open-source vor permite oamenilor să ocolească în totalitate cloud-ul.
„Mulți oameni doresc inferențe locale. Și, cumva, presupun că problema este rezolvată acum, deoarece vom avea modele open-source, vom putea să le rulăm pe computerele noastre și, prin urmare, nu vom avea nevoie de toate lucrurile din centrul de date”, a spus Altman, potrivit The Verge.
„Dar dintr-o perspectivă globală de alocare, de fapt, este destul de groaznic ca toată lumea să aibă o mulțime de resurse limitate de DRAM din lume în propriul computer și sunt folosite cinci la sută din timp. Vrei o utilizare maximă în cloud dacă încerci să faci față acestui mediu foarte limitat de aprovizionare. Și cumva a tuturor – intuiția multor oameni este opusul.”
Criza memoriei din spatele comentariilor
Argumentul lui Altman vine într-un moment în care memoria a devenit una dintre cele mai contestate resurse din tehnologie. Samsung și SK Hynix au semnat acorduri pe termen lung cu operatorii de cloud și proiecte precum Stargate de la OpenAI, care au rezervat o mare parte din producția RAM din lume pentru următorii câțiva ani, a raportat The Verge. Această strângere este unul dintre motivele pentru care laptopurile, telefoanele și alte dispozitive de consum devin mai scumpe în acest moment.
Amploarea crizei nu este în discuție. AI Buzz Wire a raportat anterior că capacitatea de memorie până în 2027 este epuizată, o situație pe care unii din industrie au numit-o „RAMageddon”. Pe acest fundal, fiecare gigabyte de DRAM aflat într-o mașină de consum este, în cadrul lui Altman, un gigabyte care nu deservește sarcinile de lucru AI la scară.
Jucătorii și comunitatea locală de inteligență artificială împing înapoi
Remarcile nu au trecut în liniște. Tom's Hardware a rezumat poziția direct: „CEO-ul OpenAI spune că este „destul de groaznic” ca computerul tău să aibă RAM”. IGN și Shacknews au evidențiat același citat, în timp ce PC Gamer a încadrat episodul ca Altman deplângându-se de ineficiența unei crize de aprovizionare a memoriei pe care a ajutat-o propria explozie de cumpărare a OpenAI. Futurismul a mers mai departe, caracterizand comentariile drept un argument că oamenii nu ar trebui să dețină computere deloc.
O parte a frecării este definitorie. The Verge a remarcat că nu este clar dacă Altman vorbea despre PC-uri de gaming sau despre mașini de dezvoltator, cum ar fi Surface RTX Spark Dev Box sau noul ecran tactil MacBook Pro, dar pentru cei care cumpără acel hardware, rezultatul este același: memoria este puțină, prețurile sunt în creștere și cel mai proeminent CEO AI din lume pare să-și vadă achizițiile ca pe o alocare greșită.
Pentru comunitatea locală de inferență - pasionați, utilizatori conștienți de confidențialitate și dezvoltatori care rulează modele deschise pe propriile lor mașini - comentariile sunt considerate disprețuitoare de motivul pentru care rulează modele la nivel local, în primul rând. Latența, disponibilitatea offline, libertatea de la prețul abonamentului și controlul asupra datelor sensibile fac parte din atractie și niciunul dintre aceste beneficii nu se transferă la un centru de date, oricât de eficient este utilizat.
Utilizare versus proprietate
În spatele argumentului lui Altman se află o economie reală. Hardware-ul centrului de date funcționează aproape continuu, împrăștiind costurile și alocarea memoriei în milioane de solicitări, în timp ce un computer de acasă își folosește cea mai mare parte a memoriei în rafale. Într-o piață cu adevărat limitată de aprovizionare, eficiența alocării este o preocupare legitimă – iar Altman nu greșește că utilizarea agregată este mult mai mică pe desktop-uri decât în cloud.
Dar argumentul are un punct orb evident pe care criticii s-au grăbit să îl sublinieze: OpenAI nu este un observator neutru al unde ar trebui să meargă DRAM-ul lumii. Proiectul Stargate al companiei și angajamentele sale privind centrele de date se numără printre forțele care absorb aprovizionarea cu memorie în primul rând, așa cum a subliniat acoperirea PC Gamer. Atunci când directorul a cărui companie consumă o mare parte din stocul de memorie din lume susține că consumatorii ar trebui să renunțe la a lor, scepticismul cu privire la încadrare este un răspuns rațional.
Există, de asemenea, o divizare filozofică în joc care a definit mișcarea locală de AI încă de la începuturile sale. Modelul cloud tratează calculul ca pe o utilitate care trebuie închiriată; modelul local o tratează ca pe o proprietate care trebuie deținută. Comentariile lui Altman sugerează că acesta din urmă îl vede ca pe o ineficiență care trebuie eliminată. O mare parte din comunitate îl vede ca o asigurare împotriva exact tipului de centralizare pe care o descrie.
Ce înseamnă a merge înainte
Nimic din toate acestea nu schimbă fizica care stă la baza penuriei. Producătorii de memorie s-au epuizat, prețurile sunt în creștere, iar centrele de date AI vor consuma cota covârșitoare din noile ieșiri DRAM și HBM în viitorul apropiat, indiferent dacă jucătorii aprobă sau nu.
Ceea ce ilustrează episodul este modul în care cererile de resurse ale industriei AI încep să se ciocnească de așteptările consumatorilor în moduri vizibile – mai întâi în prețurile dispozitivelor, iar acum în argumentele despre cui aparține memoria. Poziția lui Altman este clară: DRAM-ul limitat din lume ar trebui să funcționeze în centrele de date. Un segment în creștere al publicului care cumpără PC-uri, dacă reacția la comentariile sale este vreo indicație, are un răspuns diferit.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
