OpenAI telah membeli puluhan ribu minis Mac dan Mac Studios dalam beberapa bulan kebelakangan ini untuk melatih ejen penggunaan komputer, The Information melaporkan, strategi pengiraan luar biasa yang telah membantu mencetuskan lonjakan permintaan yang dipacu AI yang Apple sendiri tidak nampak akan datang.
Pembelian pukal, yang dibuat untuk kerja pembelajaran pengukuhan, telah menyumbang kepada kekurangan konfigurasi Mac mini dan Mac Studio yang menyebabkan beberapa model kehabisan stok selama berbulan-bulan, menurut laporan yang diliputi oleh MacRumors dan 24/7 Wall St. For more context on this story, see our ongoing latest AI developments.
Mengapa AI Labs Mahukan Meja Daripada Rak GPU
Logiknya menyongsangkan kebijaksanaan infrastruktur AI konvensional. Melatih model sempadan memerlukan kumpulan besar GPU yang saling berkaitan — pasaran yang dikuasai Nvidia. Tetapi melatih ejen penggunaan komputer, yang diletakkan di dalam desktop, disuruh menyelesaikan tugas, dan menjaringkan gol pada hasilnya, mempunyai profil yang berbeza: ia mengutamakan keluasan merentas beribu-ribu mesin bebas daripada kuasa kuda mentah yang tertumpu pada satu superkomputer.
Di situlah seni bina memori bersatu silikon Apple menjadi berguna. Mac memastikan CPU, GPU dan memori berfungsi dari kumpulan yang sama dan bukannya bergantung pada kad grafik diskret dan memori sistem yang berasingan, susunan yang sangat sesuai untuk menjalankan beribu-ribu sesi desktop selari di mana setiap mesin beroperasi secara bebas. Ia juga, secara komersil, cara yang lebih murah untuk menskalakan latihan ejen daripada menyewa jam GPU yang terhad dan mahal untuk beban kerja yang GPU tidak begitu mahir.
OpenAI tidak bersendirian dalam pendekatan. Anthropic dilaporkan telah menyewa kapasiti silikon Apple melalui AWS Amazon untuk beban kerja yang sama, menurut 24/7 Wall St.
Apple Tidak Bersedia untuk Pembeli AI Perusahaan
Permintaan itu menarik perhatian Apple. Menurut laporan The Information, syarikat itu tidak mempunyai pasukan kejuruteraan khusus untuk pelanggan perniagaan dan kakitangan yang menumpukan pada perhubungan pembangun, dan tidak mempunyai strategi AI perusahaan apabila organisasi mula mendekatinya untuk membeli Mac sebanyak ribuan sebagai nod pengiraan.
Sesetengah pelanggan perusahaan meminta akses kepada infrastruktur Pengiraan Awan Persendirian Apple — dan ditolak, lapor MacRumors. Apple sebaliknya bersandar pada rakan kongsi seperti WebAI dan Mount Thor, yang menyediakan perkakasan AI dan persekitaran pelaksanaan yang dibina pada perkakasan Apple.
Syarikat itu bagaimanapun telah memikat segmen tersebut. Pada bulan Jun, Apple mengadakan acara "Business at the Park" yang menampilkan eksekutif dari Ford, Disney dan Anthropic, di mana Mac mini dilaporkan sebagai "sayang" rancangan itu. Apple juga telah mempromosikan keupayaan untuk memautkan berbilang Mac Studios ke dalam satu sistem yang lebih berkebolehan untuk menjalankan model AI sempadan yang besar — ciri yang ditujukan kepada pelanggan perniagaan dan pembangun berbanding pengguna harian.
Penyegaran Awal Luar Biasa — dan Rantaian Bekalan Tertekan
Lonjakan itu nampaknya telah membengkokkan kalendar produk Apple. Apple biasanya mengeluarkan model Mac baharu lebih hampir kepada Oktober atau November, tetapi minggu lepas ia menyegarkan Mac mini dengan cip M6 dan Mac Studio dengan pemproses M5 Max dan M5 Ultra — pelancaran awal yang luar biasa yang The Information dikaitkan dengan ledakan dipacu AI dalam jualan mini Mac Studio dan Mac.
Mesin-mesin baharu itu dihalakan terus ke arah penonton ini. Sebagai AI Buzz Wire diliputi semasa pelancaran, M6 Mac mini dan M5 Ultra Mac Studio menggandingkan pemproses 2-nanometer pertama Apple dengan seni bina quad-die pertama dan sehingga 512GB memori bersatu — spesifikasi yang bertujuan untuk menjalankan model AI besar secara tempatan dan mengelompokkan mesin bersama-sama.
Bekalan tidak mengikut rentak. Lonjakan permintaan telah bertepatan dengan kekurangan memori global, menyebabkan banyak konfigurasi kelas atas kehabisan stok selama berbulan-bulan. Sesetengah pelanggan perusahaan dilaporkan telah beralih kepada alternatif seperti DGX Spark Nvidia, desktop AI padat dengan faktor bentuk yang serupa, apabila konfigurasi mewah Apple tidak tersedia.
Maksudnya untuk Nombor Apple — dan Parit Nvidia
Terdapat wang sebenar dalam aliran, walaupun atribusi memerlukan penjagaan. Apple menjana kira-kira 10.4 bilion dolar dalam pendapatan Mac pada suku ketiga fiskalnya, meningkat kira-kira 29 peratus tahun ke tahun, tetapi syarikat itu tidak mendedahkan jumlah yang diperoleh daripada Mac minis dan Studios, jadi menyematkan pertumbuhan secara langsung pada makmal AI akan menjadi pramatang, seperti yang dinyatakan oleh 24/7 Wall St.
Perkara yang lebih strategik ialah apa yang dikatakan trend mengenai fasa seterusnya pembinaan AI. Memandangkan latihan inferens dan ejen merebak melangkaui kluster pralatihan gergasi, makmal AI membeli pengiraan di mana-mana keadaan ekonomi yang masuk akal — dan Apple telah tersandung untuk menjual silikon kepada syarikat yang membina model, tanpa membelanjakan satu dolar untuk pusat data AI sendiri.
Itu tidak menjadikan Apple Nvidia baharu. Mac adalah pelengkap kepada kluster GPU untuk beban kerja agen, bukan pengganti kuasa kuda pekat yang diperlukan oleh pralatihan model besar-besaran. Tetapi dengan ejen penggunaan komputer antara sempadan yang paling pantas bergerak dalam AI, idea bahawa bahagian latihan ejen yang bermakna kini berjalan pada mesin sisi meja - bukannya rak pusat data - membentuk semula andaian tentang rupa infrastruktur AI.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
