Dyrektor generalny OpenAI, Sam Altman, włączył się w jedną z najbardziej gorących debat w społeczności AI, argumentując, że uruchamianie modeli AI na komputerach osobistych jest złym wykorzystaniem ograniczonych zasobów pamięci na świecie. W podcaście Cheeky Pint Altman stwierdził, że z perspektywy globalnej alokacji „całkiem okropne” jest trzymanie przez pojedyncze osoby pamięci DRAM, która przez większość dnia pozostaje bezczynna, a pamięć ta jest lepiej wykorzystywana w centrach danych w chmurze działających przy pełnym wykorzystaniu.
Komentarze opublikowane przez The Verge wynikają z globalnego niedoboru pamięci, który spowodował wzrost cen pamięci RAM i który niektórzy krytycy przypisują częściowo samej budowie centrum danych, za którą opowiada się Altman. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Co właściwie powiedział Altman
Zapytany o braki w łańcuchu dostaw, w tym o ciągły brak pamięci RAM, Altman odrzucił pomysł, że modele open source pozwolą ludziom całkowicie ominąć chmurę.
„Wiele osób chce wnioskowania lokalnego. I w jakiś sposób zakładają, że problem został już rozwiązany, ponieważ będziemy mieć modele typu open source, będziemy mogli je uruchamiać na naszych komputerach, więc nie będziemy potrzebować wszystkich rzeczy w centrum danych” – powiedział Altman, według The Verge.
„Ale z perspektywy globalnej alokacji właściwie to okropne, gdy każdy ma garść ograniczonej na świecie pamięci DRAM znajdującej się na swoim komputerze i używanej przez pięć procent czasu. Chcesz maksymalnego wykorzystania chmury, jeśli próbujesz sobie poradzić w tym środowisku o bardzo ograniczonych dostawach. I w jakiś sposób intuicja wielu ludzi jest temu przeciwna”.
Załamanie pamięci pod komentarzami
Argument Altmana pojawia się w momencie, gdy pamięć stała się jednym z najbardziej kwestionowanych zasobów technologii. Jak podaje The Verge, Samsung i SK Hynix podpisały długoterminowe umowy z operatorami chmur i projektami takimi jak Stargate OpenAI, które zarezerwowały większość światowej produkcji pamięci RAM na kilka następnych lat. To ograniczenie jest jednym z powodów, dla których laptopy, telefony i inne urządzenia konsumenckie stają się obecnie droższe.
Skala kryzysu nie podlega dyskusji. AI Buzz Wire wcześniej informowało, że pojemność pamięci do 2027 r. została wyprzedana, a sytuację tę niektórzy przedstawiciele branży nazwali „RAMageddon”. Na tym tle każdy gigabajt pamięci DRAM znajdującej się w komputerze konsumenckim to, w ujęciu Altmana, gigabajt nieobsługujący obciążeń AI na dużą skalę.
Gracze i lokalna społeczność AI sprzeciwiają się
Uwagi nie ucichły. Tom's Hardware podsumował swoje stanowisko bez ogródek: „Dyrektor generalny OpenAI twierdzi, że posiadanie pamięci RAM na komputerze jest «dość okropne»”. IGN i Shacknews podkreśliły ten sam cytat, podczas gdy PC Gamer ujął ten odcinek jako Altmana ubolewającego nad nieefektywnością kryzysu dostaw pamięci, do którego powstania przyczynił się szał zakupów OpenAI. Futuryzm poszedł dalej, określając komentarze jako argument, że ludzie w ogóle nie powinni posiadać komputerów.
Część tarcia jest zdefiniowana. The Verge zauważył, że nie jest jasne, czy Altman miał na myśli komputery do gier, czy maszyny dla programistów, takie jak Surface RTX Spark Dev Box czy nowy MacBook Pro z ekranem dotykowym – ale dla osób kupujących ten sprzęt wynik jest ten sam: brakuje pamięci, ceny rosną, a najwybitniejszy dyrektor generalny AI na świecie wydaje się postrzegać swoje zakupy jako niewłaściwą alokację.
Dla lokalnej społeczności wnioskowującej – hobbystów, użytkowników dbających o prywatność i programistów, którzy uruchamiają modele o otwartej wadze na własnych komputerach – komentarze są odczytywane jako lekceważące w stosunku do tego, dlaczego w ogóle uruchamiają modele lokalnie. Opóźnienia, dostępność w trybie offline, brak opłat abonamentowych i kontrola nad wrażliwymi danymi to elementy atrakcyjne, a żadna z tych korzyści nie jest przenoszona do centrum danych, niezależnie od tego, jak efektywnie jest wykorzystywane.
Wykorzystanie a własność
Za argumentem Altmana kryje się prawdziwa ekonomia. Sprzęt do centrum danych działa niemal nieprzerwanie, rozkładając koszty i alokację pamięci na miliony żądań, podczas gdy domowy komputer PC wykorzystuje większość pamięci w seriach. Na rynku o rzeczywiście ograniczonej podaży efektywność alokacji jest uzasadnioną obawą — i Altman nie myli się, twierdząc, że łączne wykorzystanie jest znacznie niższe na komputerach stacjonarnych niż w chmurze.
Argument ten ma jednak oczywisty słaby punkt, który szybko wykazali krytycy: OpenAI nie jest neutralnym obserwatorem tego, dokąd powinna zmierzać światowa pamięć DRAM. Projekt Stargate firmy i jej zobowiązania dotyczące centrum danych należą do czynników pochłaniających w pierwszej kolejności podaż pamięci, jak podkreślono w relacji PC Gamer. Kiedy dyrektor, którego firma zużywa dużą część światowych zasobów pamięci, twierdzi, że konsumenci powinni zrezygnować z pamięci, racjonalną reakcją jest sceptycyzm co do ramowania.
W grę wchodzi także podział filozoficzny, który definiuje lokalny ruch sztucznej inteligencji od jego powstania. Model chmury traktuje moc obliczeniową jako narzędzie, które można wypożyczyć; model lokalny traktuje ją jako własność, którą należy posiadać. Komentarze Altmana sugerują, że postrzega to drugie jako nieefektywność, którą należy wyeliminować. Większość społeczności postrzega to jako zabezpieczenie przed dokładnie takim rodzajem centralizacji, jaki opisuje.
Co to znaczy iść naprzód
Nic z tego nie zmienia podstawowej fizyki niedoboru. Producenci pamięci są wyprzedawani, ceny rosną, a centra danych AI będą zużywać przeważającą część nowej produkcji DRAM i HBM w dającej się przewidzieć przyszłości, niezależnie od tego, czy gracze się na to zgodzą.
Odcinek ten ilustruje, jak zapotrzebowanie branży sztucznej inteligencji na zasoby zaczyna w widoczny sposób kolidować z oczekiwaniami konsumentów – najpierw w cenach urządzeń, a teraz w sporach o to, do kogo właściwie należy pamięć. Stanowisko Altmana jest jasne: ograniczona na świecie pamięć DRAM powinna działać w centrach danych. Rosnąca część konsumentów kupujących komputery PC, jeśli reakcja na jego komentarze może cokolwiek wskazywać, ma inną odpowiedź.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
