Apple nampaknya bersedia untuk menjadikan model AI yang dijalankan pada Mac secara dramatik lebih mudah. Pembocor Aaron Perris telah menemui bukti aplikasi Apple baharu yang dipanggil Harbour, yang dilaporkan 9to5Mac pada hari Selasa direka untuk menjadikan Mac sebagai pelayan inferens AI peribadi — mesin yang menjalankan model AI berat terbuka sepenuhnya pada perkakasan tempatan, tanpa data yang pernah meninggalkan bangunan.
Penemuan itu, yang diterbitkan oleh Perris pada X, menawarkan pandangan yang paling jelas tentang cara Apple merancang untuk memformalkan salah satu kes penggunaan Mac yang paling pesat berkembang: peminat dan profesional membeli mesin Mac Studio dan Mac mini khusus untuk menjalankan model AI secara tempatan dan bukannya membayar perkhidmatan awan. For more context on this story, see our ongoing AI industry coverage.
Apa Yang Harbour Sebenarnya Lakukan
Menurut butiran yang diterbitkan oleh Perris, Harbour membenarkan pengguna menjalankan model berat terbuka secara tempatan pada silikon Apple. Nada adalah privasi dahulu: data anda tidak pernah meninggalkan perkakasan anda, dan tiada apa pun yang sampai ke awan. Itu meletakkan apl itu sebagai jawapan langsung kepada alatan AI yang bergantung kepada awan yang menguasai pasaran hari ini, dan ia sejajar dengan penekanan pemasaran Apple yang telah lama wujud pada pemprosesan pada peranti.
Aplikasi ini juga mengendalikan pengurusan model. Pengguna boleh menyemak imbas, memuat turun dan memuatkan model berat terbuka dari dalam apl itu sendiri. Seperti yang dinyatakan oleh ringkasan Perris, Harbour mengendalikan pengurusan model "supaya anda boleh fokus pada kerja, bukan persediaan" — kontras yang ketara dengan alatan baris arahan dan konfigurasi manual yang menjalankan model tempatan pada masa ini.
Mengelompokkan Mac ke atas Thunderbolt 5
Ciri yang paling menarik ialah pengelompokan. Harbour boleh menyambungkan dua atau lebih komputer Mac berkeupayaan Thunderbolt 5 dan mengumpulkan memori bersatu mereka ke dalam satu sumber inferens. Ini bermakna pengguna boleh menjalankan model yang melebihi apa yang boleh disimpan oleh mana-mana komputer dalam memori, atau menyediakan lebih banyak permintaan serentak merentas kluster daripada yang boleh dikendalikan oleh satu mesin secara bersendirian.
Pendekatannya luar biasa. Kebanyakan persediaan inferens AI berbilang mesin bergantung pada sambungan rangkaian berkelajuan tinggi dan perkakasan pusat data khusus. Pelaksanaan Apple bersandar pada Thunderbolt 5, antara muka lebar jalur tinggi kini hadir di seluruh barisan Mac profesionalnya, untuk menggabungkan mesin pengguna dan prosumer menjadi sesuatu yang menyerupai perkakas inferens kecil.
Persediaan dalam Minit, Bukan Jam
Apple jelas menyasarkan pengguna yang tidak pernah menyentuh pelayan. Harbour secara automatik mengesan peranti yang disambungkan melalui Thunderbolt 5 untuk membentuk gugusan — palamkan masuk, mulakan dan anda sedang berjalan, tanpa konfigurasi manual, tiada baris arahan dan tiada kepakaran infrastruktur diperlukan, mengikut perihalan ciri yang bocor.
Kemudahan penggunaan itu adalah pembeza sebenar apl. Menjalankan model AI tempatan hari ini biasanya bermakna memasang masa jalan, memuat turun pemberat daripada hab model dan menala tetapan memori dengan tangan. Harbor membungkus keseluruhan aliran kerja itu dalam antara muka gred pengguna berpandu.
Pratonton Peribadi Di Bawah Jenama Claris
Menurut 9to5Mac, Harbour kini dalam pratonton peribadi di bawah jenama Claris Apple, mencadangkan projek itu terletak dalam salah satu organisasi anak syarikat Apple dan bukannya kumpulan produk utamanya. Laporan itu menyatakan nampaknya aplikasi itu akan dilancarkan kepada umum dalam beberapa minggu dan bulan akan datang, walaupun Apple tidak mengesahkan sebarang rancangan keluaran.
Status pratonton peribadi bermakna ciri dan penjenamaan boleh berubah sebelum sebarang keluaran awam. Tetapi kewujudan aplikasi dalaman yang digilap khusus untuk inferens tempatan — lengkap dengan pengelompokan — menandakan bahawa AI tempatan telah beralih daripada niche penggemar ke kawasan produk strategik di dalam Apple.
Mengapa Mac Menjadi Kuda Kerja AI
9to5Mac menyatakan bahawa Mac telah menjadi semakin popular tahun ini, kedua-duanya kerana pilihan mesra bajet seperti MacBook Neo baharu dan kerana daya tarikan mesin sebagai alat untuk menjalankan model AI secara tempatan pada Mac Studio dan perkakasan mini Mac.
Seni bina memori bersatu silikon Apple adalah sebab asas: kerana CPU dan GPU berkongsi satu kumpulan memori yang pantas, model bahasa besar boleh dimuatkan sepenuhnya dan dihidangkan dengan cekap pada mesin yang menelan belanja sebahagian kecil daripada pelayan GPU yang setanding. Itu telah menjadikan mesin Mac Studio maksimum sebagai pemandangan biasa dalam kalangan pembangun yang menjalankan model berat terbuka yang lebih besar di rumah.
Maksudnya untuk Pembangun dan Pasukan Kecil
Jika Harbour berkapal seperti yang diterangkan, implikasi praktikal melampaui kemudahan. Pasukan kecil yang hari ini menyewa GPU awan untuk menyediakan model berat terbuka boleh mengarahkan alat mereka ke gugusan Mac di atas meja sebaliknya, menyimpan data dalaman dan hanya membayar untuk perkakasan yang telah mereka miliki. Penekanan apl pada melayani permintaan serentak mencadangkan Apple memikirkan tentang beban kerja di mana berbilang orang atau perkhidmatan menggunakan model yang sama, dan bukannya satu pengguna bersembang dengan satu.
Ia juga merendahkan halangan untuk eksperimen. Pembangun yang ingin tahu tentang mengehos sendiri model berat terbuka pada masa ini perlu menggabungkan masa jalan, pemberat terkuantiti dan matematik ingatan sebelum menyampaikan satu permintaan. Apl berpandu yang mengesan perkakasan, memuat turun model dan mengurus kluster mengalih keluar hampir semua kos persediaan itu.
Permainan Privasi Melawan Awan
Jika Harbour menghantar seperti yang diterangkan, ia akan memberikan Apple jawapan yang bersih kepada soalan yang pesaingnya telah bergelut dengan: apakah yang ditawarkan oleh pembuat komputer arus perdana kepada orang yang mahukan AI yang berkebolehan tanpa menghantar data mereka ke pusat data orang lain? Jawapannya, ternyata, mungkin aplikasi yang menjadikan mesin yang sudah ada di meja anda menjadi pusat data.
Buat masa ini, butiran kekal bocor dan bukannya pengumuman, dan Apple tidak mengatakan apa-apa secara terbuka. Tetapi antara penjenamaan, set ciri dan masa, Harbour kelihatan seperti salah satu pelancaran produk AI yang lebih menarik untuk ditonton selama beberapa bulan akan datang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
