Ketua Pegawai Eksekutif OpenAI Sam Altman telah mengharungi salah satu perdebatan paling hangat dalam komuniti AI, dengan alasan bahawa menjalankan model AI pada komputer peribadi adalah penggunaan buruk bekalan memori terhad dunia. Bercakap mengenai podcast Cheeky Pint, Altman berkata ia adalah "agak dahsyat" dari perspektif peruntukan global bagi individu untuk memegang DRAM yang terbiar hampir sepanjang hari, dan memori itu digunakan dengan lebih baik dalam pusat data awan yang berjalan pada penggunaan penuh.
Komen itu, yang dilaporkan oleh The Verge, mendarat di tengah-tengah kekurangan memori global yang telah mendorong harga RAM meningkat dan sesetengah pengkritik mengaitkan sebahagiannya kepada pembinaan pusat data yang diperjuangkan oleh Altman. For more context on this story, see our ongoing breaking AI news.
Apa yang Altman Katakan Sebenarnya
Ditanya tentang kekurangan rantaian bekalan, termasuk kekurangan RAM yang berterusan, Altman menolak idea bahawa model sumber terbuka akan membenarkan orang ramai memintas awan sepenuhnya.
"Ramai orang mahukan kesimpulan tempatan. Dan entah bagaimana, mereka menganggap bahawa masalah itu diselesaikan sekarang kerana kami akan mempunyai model sumber terbuka, kami akan dapat menjalankannya pada komputer kami, dan jadi kami tidak akan memerlukan semua barangan di pusat data, "kata Altman, menurut The Verge.
"Tetapi dari perspektif peruntukan global, sebenarnya, ia agak mengerikan apabila semua orang mempunyai sekumpulan bekalan terhad DRAM dunia yang duduk di dalam komputer mereka sendiri dan digunakan lima peratus setiap masa. Anda mahukan penggunaan maksimum dalam awan jika anda cuba menangani persekitaran yang sangat terhad bekalan ini. Dan entah bagaimana semua orang - intuisi ramai orang adalah sebaliknya."
Kehancuran Memori di Sebalik Komen
Hujah Altman tiba pada saat memori telah menjadi salah satu sumber yang paling dipertikaikan dalam teknologi. Samsung dan SK Hynix telah menandatangani perjanjian jangka panjang dengan pengendali awan dan projek seperti Stargate OpenAI yang telah menyimpan sebahagian besar keluaran RAM dunia untuk beberapa tahun akan datang, lapor The Verge. Tekanan itu adalah salah satu sebab komputer riba, telefon dan peranti pengguna lain menjadi lebih mahal sekarang.
Skala krisis tidak dipertikaikan. AI Buzz Wire sebelum ini melaporkan bahawa kapasiti memori sehingga 2027 dilaporkan habis dijual, situasi yang sesetengah dalam industri digelar "RAMageddon." Berdasarkan latar belakang itu, setiap gigabait DRAM yang terdapat dalam mesin pengguna adalah, dalam pembingkaian Altman, gigabait yang tidak menyediakan beban kerja AI pada skala.
Pemain dan Komuniti AI Tempatan Tolak Ke Belakang
Ucapan itu tidak dilanjutkan dengan senyap. Perkakasan Tom meringkaskan kedudukan itu secara terang-terangan: "Ketua Pegawai Eksekutif OpenAI mengatakan ia 'agak mengerikan' untuk PC anda mempunyai RAM." IGN dan Shacknews menyerlahkan petikan yang sama, manakala PC Gamer merangka episod itu ketika Altman meratapi ketidakcekapan krisis bekalan memori yang dibantu oleh pembelian OpenAI sendiri. Futurisme pergi lebih jauh, mencirikan komen sebagai hujah bahawa orang tidak sepatutnya memiliki komputer sama sekali.
Sebahagian daripada geseran adalah definisi. The Verge menyatakan adalah tidak jelas sama ada Altman bercakap tentang PC permainan atau mesin pembangun seperti Surface RTX Spark Dev Box atau MacBook Pro skrin sentuh baharu — tetapi bagi orang yang membeli perkakasan itu, hasilnya adalah sama: ingatan terhad, harga meningkat, dan Ketua Pegawai Eksekutif AI yang paling terkemuka di dunia nampaknya melihat pembelian mereka sebagai salah peruntukan.
Untuk komuniti inferens tempatan — penggemar, pengguna yang mementingkan privasi dan pembangun yang menjalankan model berwajaran terbuka pada mesin mereka sendiri — komen itu dibaca sebagai mengetepikan sebab mereka menjalankan model secara tempatan pada mulanya. Kependaman, ketersediaan luar talian, kebebasan daripada penetapan harga langganan dan kawalan ke atas data sensitif adalah sebahagian daripada rayuan dan tiada satu pun daripada faedah tersebut dipindahkan ke pusat data, walau bagaimanapun digunakan dengan cekap.
Penggunaan Berbanding Pemilikan
Terdapat ekonomi sebenar di sebalik hujah Altman. Perkakasan pusat data berjalan hampir berterusan, menyebarkan kos dan peruntukan memorinya merentasi berjuta-juta permintaan, manakala PC rumah menggunakan kebanyakan memorinya secara pecah. Dalam pasaran yang benar-benar terhad bekalan, kecekapan peruntukan adalah kebimbangan yang sah — dan Altman tidak salah bahawa penggunaan agregat jauh lebih rendah pada desktop berbanding awan.
Tetapi hujah itu mempunyai titik buta yang jelas bahawa pengkritik cepat menunjukkan: OpenAI bukanlah pemerhati neutral ke mana DRAM dunia harus pergi. Projek Stargate syarikat dan komitmen pusat datanya adalah antara kuasa yang menyerap bekalan memori di tempat pertama, seperti yang ditekankan oleh liputan PC Gamer. Apabila eksekutif yang syarikatnya menggunakan sebahagian besar bekalan ingatan dunia berhujah bahawa pengguna harus melepaskan mereka, keraguan tentang pembingkaian adalah tindak balas yang rasional.
Terdapat juga jurang falsafah yang dipertaruhkan yang telah menentukan pergerakan AI tempatan sejak penubuhannya. Model awan menganggap pengiraan sebagai utiliti untuk disewa; model tempatan menganggapnya sebagai harta untuk dimiliki. Komen Altman mencadangkan dia melihat yang terakhir sebagai ketidakcekapan untuk direkayasa. Kebanyakan masyarakat melihatnya sebagai insurans terhadap jenis pemusatan yang digambarkannya.
Maksudnya Melangkah ke Hadapan
Tiada satu pun daripada ini mengubah fizik asas kekurangan itu. Pembuat memori habis dijual, harga semakin meningkat, dan pusat data AI akan menggunakan bahagian besar keluaran DRAM dan HBM baharu untuk masa hadapan yang boleh dijangka sama ada pemain bersetuju atau tidak.
Apa yang digambarkan oleh episod itu ialah bagaimana permintaan sumber industri AI mula bertembung dengan jangkaan pengguna dengan cara yang boleh dilihat — pertama dalam harga peranti, dan kini dalam hujah tentang memori siapa sebenarnya. Kedudukan Altman adalah jelas: DRAM terhad dunia harus berfungsi di pusat data. Segmen yang semakin meningkat daripada orang ramai yang membeli PC, jika reaksi terhadap komennya adalah sebarang petunjuk, mempunyai jawapan yang berbeza.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →