ดูเหมือนว่า Apple พร้อมที่จะทำให้การรันโมเดล AI บน Mac ง่ายขึ้นอย่างมาก Aaron Perris ผู้รั่วไหลได้เปิดเผยหลักฐานของแอป Apple ตัวใหม่ที่เรียกว่า Harbor ซึ่ง 9to5Mac รายงานเมื่อวันอังคาร ได้รับการออกแบบมาเพื่อเปลี่ยน Mac ให้เป็นเซิร์ฟเวอร์อนุมาน AI ส่วนตัว ซึ่งเป็นเครื่องที่ใช้โมเดล AI แบบเปิดน้ำหนักทั้งหมดบนฮาร์ดแวร์ในเครื่องโดยไม่มีข้อมูลใดหลุดออกจากอาคาร

การค้นพบนี้เผยแพร่โดย Perris บน X นำเสนอภาพที่ชัดเจนที่สุดว่า Apple วางแผนที่จะจัดระเบียบกรณีการใช้งาน Mac ที่เติบโตเร็วที่สุดกรณีหนึ่งอย่างไร กล่าวคือ ผู้ที่ชื่นชอบและมืออาชีพที่ซื้อเครื่อง Mac Studio และ Mac mini เพื่อใช้งานโมเดล AI ในพื้นที่โดยเฉพาะ แทนที่จะจ่ายเงินสำหรับบริการคลาวด์ For more context on this story, see our ongoing more AI stories.

สิ่งที่ฮาร์เบอร์ทำจริง ๆ

ตามรายละเอียดที่ Perris เผยแพร่ Harbour อนุญาตให้ผู้ใช้เรียกใช้โมเดลน้ำหนักเปิดในเครื่องบน Apple Silicon การเสนอขายคือความเป็นส่วนตัวต้องมาก่อน: ข้อมูลของคุณไม่เคยออกจากฮาร์ดแวร์ของคุณ และไม่มีอะไรเข้าถึงระบบคลาวด์ได้ นั่นทำให้แอปเป็นคำตอบโดยตรงสำหรับเครื่องมือ AI ที่ทำงานบนคลาวด์ซึ่งครองตลาดในปัจจุบัน และสอดคล้องกับการเน้นการตลาดที่มีมายาวนานของ Apple ในเรื่องการประมวลผลบนอุปกรณ์

แอพนี้ยังจัดการการจัดการโมเดลด้วย ผู้ใช้สามารถเรียกดู ดาวน์โหลด และโหลดโมเดล open-weight ได้จากภายในแอป ตามที่สรุปของ Perris ระบุไว้ Harbour จัดการการจัดการโมเดล "เพื่อให้คุณสามารถมุ่งเน้นไปที่งาน ไม่ใช่การตั้งค่า" ซึ่งแตกต่างอย่างเห็นได้ชัดกับเครื่องมือบรรทัดคำสั่งและการกำหนดค่าด้วยตนเองที่เรียกใช้โมเดลในเครื่องที่ต้องการในปัจจุบัน

การทำคลัสเตอร์ Mac บน Thunderbolt 5

คุณลักษณะที่โดดเด่นที่สุดคือการจัดกลุ่ม Harbor สามารถเชื่อมต่อคอมพิวเตอร์ Mac ที่รองรับ Thunderbolt 5 ตั้งแต่สองตัวขึ้นไป และรวบรวมหน่วยความจำแบบรวมไว้ในทรัพยากรการอนุมานเดียว นั่นหมายความว่าผู้ใช้สามารถเรียกใช้โมเดลที่เกินกว่าที่คอมพิวเตอร์เครื่องใด ๆ สามารถเก็บไว้ในหน่วยความจำได้ หรือให้บริการคำขอพร้อมกันทั่วทั้งคลัสเตอร์มากกว่าที่เครื่องหนึ่งจะจัดการได้โดยลำพัง

แนวทางนี้ไม่ธรรมดา การตั้งค่าการอนุมาน AI หลายเครื่องส่วนใหญ่อาศัยการเชื่อมต่อเครือข่ายความเร็วสูงและฮาร์ดแวร์ศูนย์ข้อมูลเฉพาะทาง การใช้งานของ Apple ขึ้นอยู่กับ Thunderbolt 5 ซึ่งเป็นอินเทอร์เฟซแบนด์วิธสูงที่ปัจจุบันมีอยู่ในกลุ่มผลิตภัณฑ์ Mac ระดับมืออาชีพ เพื่อถักเครื่องสำหรับผู้บริโภคและผู้บริโภคให้กลายเป็นอุปกรณ์ที่คล้ายกับอุปกรณ์อนุมานขนาดเล็ก

ติดตั้งในไม่กี่นาที ไม่ใช่ชั่วโมง

Apple กำหนดเป้าหมายผู้ใช้ที่ไม่เคยสัมผัสเซิร์ฟเวอร์อย่างชัดเจน Harbor ตรวจจับอุปกรณ์ที่เชื่อมต่อผ่าน Thunderbolt 5 โดยอัตโนมัติเพื่อสร้างคลัสเตอร์ — เสียบปลั๊ก เริ่มต้น และคุณกำลังใช้งาน โดยไม่ต้องกำหนดค่าด้วยตนเอง ไม่มีบรรทัดคำสั่ง และไม่ต้องใช้ความเชี่ยวชาญด้านโครงสร้างพื้นฐาน ตามคำอธิบายคุณสมบัติที่รั่วไหลออกมา

ความสะดวกในการใช้งานคือสิ่งที่สร้างความแตกต่างให้กับแอปอย่างแท้จริง โดยทั่วไปแล้ว การเรียกใช้โมเดล AI ภายในเครื่องในปัจจุบันหมายถึงการติดตั้งรันไทม์ การดาวน์โหลดน้ำหนักจากฮับโมเดล และการปรับการตั้งค่าหน่วยความจำด้วยตนเอง Harbour ล้อมรอบเวิร์กโฟลว์ทั้งหมดนั้นด้วยอินเทอร์เฟซระดับผู้บริโภคที่แนะนำ

การแสดงตัวอย่างแบบส่วนตัวภายใต้แบรนด์ Claris

จากข้อมูลของ 9to5Mac ขณะนี้ Harbour อยู่ในการแสดงตัวอย่างแบบส่วนตัวภายใต้แบรนด์ Claris ของ Apple โดยแนะนำว่าโครงการนี้อยู่ภายในองค์กรย่อยของ Apple แทนที่จะเป็นกลุ่มผลิตภัณฑ์หลัก รายงานระบุว่าดูเหมือนว่าแอปจะเปิดตัวสู่สาธารณะในอีกไม่กี่สัปดาห์และเดือนข้างหน้า แม้ว่า Apple จะยังไม่ได้ยืนยันแผนการเผยแพร่ใดๆ ก็ตาม

สถานะการแสดงตัวอย่างแบบส่วนตัวหมายความว่าคุณลักษณะและตราสินค้าสามารถเปลี่ยนแปลงได้ก่อนที่จะเผยแพร่สู่สาธารณะ แต่การมีอยู่ของแอปภายในที่สวยงามสำหรับการอนุมานเฉพาะที่ พร้อมด้วยการจัดกลุ่ม เป็นการส่งสัญญาณว่า AI ในพื้นที่ได้ย้ายจากกลุ่มงานอดิเรกไปสู่กลุ่มผลิตภัณฑ์เชิงกลยุทธ์ภายใน Apple

เหตุใด Mac จึงกลายเป็น AI Workhorse

9to5Mac ตั้งข้อสังเกตว่า Mac ได้รับความนิยมมากขึ้นอย่างมากในปีนี้ เนื่องจากตัวเลือกที่เป็นมิตรกับงบประมาณ เช่น MacBook Neo ใหม่ และเนื่องจากความน่าดึงดูดของเครื่องในฐานะเครื่องมือสำหรับการรันโมเดล AI ภายในเครื่องบน Mac Studio และฮาร์ดแวร์ Mac mini

สถาปัตยกรรมหน่วยความจำแบบครบวงจรของ Apple Silicon เป็นสาเหตุสำคัญ เนื่องจาก CPU และ GPU แชร์หน่วยความจำที่รวดเร็วร่วมกัน โมเดลภาษาขนาดใหญ่จึงสามารถโหลดได้เต็มรูปแบบและให้บริการอย่างมีประสิทธิภาพบนเครื่องที่มีราคาเพียงเล็กน้อยของเซิร์ฟเวอร์ GPU ที่เทียบเคียงได้ นั่นทำให้เครื่อง Mac Studio ที่เต็มประสิทธิภาพกลายเป็นสิ่งที่เห็นได้ทั่วไปในหมู่นักพัฒนาที่ใช้โมเดล open-weight ขนาดใหญ่ที่บ้าน

ความหมายสำหรับนักพัฒนาและทีมขนาดเล็ก

หากท่าเรือจัดส่งตามที่อธิบายไว้ ผลกระทบในทางปฏิบัติมีมากกว่าความสะดวกสบาย ทีมขนาดเล็กที่ปัจจุบันเช่า GPU บนคลาวด์เพื่อรองรับโมเดลแบบเปิดสามารถชี้เครื่องมือไปที่คลัสเตอร์ Mac บนโต๊ะแทน โดยเก็บข้อมูลไว้ภายในองค์กรและจ่ายเฉพาะค่าฮาร์ดแวร์ที่พวกเขามีอยู่แล้วเท่านั้น การเน้นย้ำของแอปในการให้บริการคำขอพร้อมกันแสดงให้เห็นว่า Apple กำลังคิดถึงปริมาณงานที่ผู้คนหรือบริการจำนวนมากใช้โมเดลเดียวกัน แทนที่จะเป็นผู้ใช้เพียงคนเดียวที่สนทนาด้วยคนเดียว

นอกจากนี้ยังช่วยลดอุปสรรคในการทดลองอีกด้วย นักพัฒนาที่สงสัยเกี่ยวกับการโฮสต์โมเดล open-weight ด้วยตนเองในปัจจุบันจะต้องรวมรันไทม์ น้ำหนักเชิงปริมาณ และคณิตศาสตร์หน่วยความจำเข้าด้วยกัน ก่อนที่จะให้บริการคำขอเดียว แอปแนะนำที่ตรวจจับฮาร์ดแวร์ ดาวน์โหลดโมเดล และจัดการคลัสเตอร์จะช่วยลดต้นทุนการตั้งค่าเกือบทั้งหมด

ความเป็นส่วนตัวเล่นกับคลาวด์

หาก Harbor จัดส่งตามที่อธิบายไว้ จะทำให้ Apple มีคำตอบที่ชัดเจนสำหรับคำถามที่คู่แข่งต้องเผชิญ: ผู้ผลิตคอมพิวเตอร์กระแสหลักเสนออะไรให้กับผู้ที่ต้องการ AI ที่มีความสามารถโดยไม่ต้องส่งข้อมูลไปยังศูนย์ข้อมูลของผู้อื่น คำตอบก็คืออาจเป็นแอปที่เปลี่ยนเครื่องที่อยู่บนโต๊ะของคุณให้กลายเป็นศูนย์ข้อมูล

สำหรับตอนนี้รายละเอียดยังคงรั่วไหลมากกว่าการประกาศ และ Apple ไม่ได้พูดอะไรต่อสาธารณะ แต่ระหว่างการสร้างแบรนด์ ชุดคุณลักษณะ และเวลา Harbor ดูเหมือนหนึ่งในผลิตภัณฑ์ AI ที่น่าสนใจมากกว่าที่จะเปิดตัวที่น่าจับตามองในอีกไม่กี่เดือนข้างหน้า

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →