ऍपल मॅकवर चालणारे एआय मॉडेल्स नाटकीयरित्या सोपे करण्यासाठी तयार दिसत आहे. लीकर एरॉन पेरिसने हार्बर नावाच्या नवीन Apple ॲपचा पुरावा उघड केला आहे, ज्याचा 9to5Mac ने मंगळवारी अहवाल दिला आहे की ते मॅकला खाजगी AI अनुमान सर्व्हरमध्ये बदलण्यासाठी डिझाइन केलेले आहे - एक मशीन जे ओपन-वेट AI मॉडेल्स पूर्णपणे स्थानिक हार्डवेअरवर चालवते, ज्यामध्ये कधीही डेटा नसतो.

पेरिस ऑन X द्वारे प्रकाशित केलेला शोध, Apple ने Mac च्या सर्वात वेगाने वाढणाऱ्या वापराच्या प्रकरणांपैकी एकाला औपचारिक रूप देण्याची योजना कशी आखली आहे याचे सर्वात स्पष्ट स्वरूप प्रदान करते: उत्साही आणि व्यावसायिक मेक स्टुडिओ आणि मॅक मिनी मशीन्स खरेदी करणारे विशेषतः क्लाउड सेवांसाठी पैसे देण्याऐवजी स्थानिक पातळीवर AI मॉडेल चालवण्यासाठी. For more context on this story, see our ongoing artificial intelligence updates.

हार्बर प्रत्यक्षात काय करतो

पेरिसने प्रकाशित केलेल्या तपशीलांनुसार, हार्बर वापरकर्त्यांना ऍपल सिलिकॉनवर स्थानिक पातळीवर ओपन-वेट मॉडेल चालवू देते. खेळपट्टी प्रथम गोपनीयता आहे: आपला डेटा कधीही आपले हार्डवेअर सोडत नाही आणि काहीही क्लाउडवर पोहोचत नाही. ते ॲपला क्लाउड-आश्रित AI टूल्सचे थेट उत्तर म्हणून स्थान देते जे आज बाजारात वर्चस्व गाजवतात आणि ते ॲपलच्या ऑन-डिव्हाइस प्रक्रियेवर दीर्घकाळ चाललेल्या मार्केटिंगच्या जोराशी संरेखित करते.

ॲप मॉडेल व्यवस्थापन देखील हाताळते. वापरकर्ते ॲपमधूनच ओपन-वेट मॉडेल ब्राउझ, डाउनलोड आणि लोड करू शकतात. पेरिसच्या सारांशानुसार, हार्बर मॉडेल व्यवस्थापन हाताळते "जेणेकरुन तुम्ही कामावर लक्ष केंद्रित करू शकता, सेटअपवर नाही" — कमांड-लाइन टूल्स आणि मॅन्युअल कॉन्फिगरेशनचा एक उल्लेखनीय विरोधाभास जो सध्या स्थानिक मॉडेल्स चालवत आहे.

क्लस्टरिंग मॅक ओव्हर थंडरबोल्ट 5

सर्वात उल्लेखनीय वैशिष्ट्य म्हणजे क्लस्टरिंग. हार्बर दोन किंवा अधिक थंडरबोल्ट 5-सक्षम मॅक संगणकांना जोडू शकतो आणि त्यांची युनिफाइड मेमरी एकाच अनुमान संसाधनामध्ये जोडू शकते. याचा अर्थ वापरकर्ते अशी मॉडेल्स चालवू शकतात जे कोणत्याही एका संगणकाच्या मेमरीमध्ये ठेवू शकतात त्यापेक्षा जास्त आहेत किंवा क्लस्टरमध्ये एका मशीनपेक्षा अधिक समवर्ती विनंत्या देऊ शकतात.

दृष्टीकोन असामान्य आहे. बहुतेक मल्टी-मशीन AI अनुमान सेटअप हाय-स्पीड नेटवर्किंग इंटरकनेक्ट्स आणि विशेष डेटा सेंटर हार्डवेअरवर अवलंबून असतात. ऍपलची अंमलबजावणी थंडरबोल्ट 5 वर झुकते, उच्च-बँडविड्थ इंटरफेस आता त्याच्या व्यावसायिक मॅक लाइनअपमध्ये उपस्थित आहे, ग्राहक आणि प्रोझ्युमर मशीन्सना एका लहान अनुमान उपकरणासारखे काहीतरी बनवण्यासाठी.

काही मिनिटांत सेटअप, तासांत नाही

ऍपल स्पष्टपणे अशा वापरकर्त्यांना लक्ष्य करत आहे ज्यांनी कधीही सर्व्हरला स्पर्श केला नाही. क्लस्टर तयार करण्यासाठी हार्बर आपोआप Thunderbolt 5 वर कनेक्ट केलेली उपकरणे शोधते — प्लग इन करा, सुरू करा आणि तुम्ही चालत आहात, कोणतेही मॅन्युअल कॉन्फिगरेशन, कमांड लाइन आणि कोणत्याही पायाभूत कौशल्याची आवश्यकता नाही, लीक केलेल्या वैशिष्ट्य वर्णनानुसार.

वापरण्याची सोपी ही ॲपची वास्तविक भिन्नता आहे. आज स्थानिक एआय मॉडेल्स चालवणे म्हणजे रनटाइम स्थापित करणे, मॉडेल हबमधून वजन डाउनलोड करणे आणि मेमरी सेटिंग्ज हाताने ट्यून करणे. हार्बर संपूर्ण कार्यप्रवाह एका मार्गदर्शित, ग्राहक-श्रेणी इंटरफेसमध्ये गुंडाळतो.

क्लेरिस ब्रँड अंतर्गत एक खाजगी पूर्वावलोकन

9to5Mac नुसार, हार्बर सध्या Apple च्या Claris ब्रँड अंतर्गत खाजगी पूर्वावलोकनात आहे, हे सुचविते की हा प्रकल्प त्याच्या मुख्य उत्पादन गटांऐवजी Apple च्या उपकंपनी संस्थांपैकी एकामध्ये आहे. अहवालात असे दिसते आहे की ॲप पुढील आठवड्यात आणि महिन्यांत लोकांसाठी लॉन्च होईल, जरी ऍपलने कोणत्याही प्रकाशन योजनांची पुष्टी केलेली नाही.

खाजगी पूर्वावलोकन स्थिती म्हणजे वैशिष्ट्ये आणि ब्रँडिंग कोणत्याही सार्वजनिक प्रकाशनाच्या आधी बदलू शकतात. परंतु स्थानिक अनुमानांना समर्पित पॉलिश अंतर्गत ॲपचे अस्तित्व — क्लस्टरिंगसह पूर्ण — स्थानिक AI हे ॲपलमधील छंदाच्या कोनाड्यातून धोरणात्मक उत्पादन क्षेत्राकडे वळले असल्याचे संकेत देते.

मॅक एआय वर्कहॉर्स का बनत आहे

9to5Mac नोंदवते की, नवीन मॅकबुक निओ सारख्या बजेट-अनुकूल पर्यायांमुळे आणि मॅक स्टुडिओ आणि मॅक मिनी हार्डवेअरवर स्थानिक पातळीवर AI मॉडेल्स चालवण्याच्या साधनांच्या रूपात मशिन्सच्या अपीलमुळे, मॅक यावर्षी अधिक लोकप्रिय होत आहे.

ऍपल सिलिकॉनचे युनिफाइड मेमरी आर्किटेक्चर हे मूळ कारण आहे: CPU आणि GPU जलद मेमरीचा एक पूल सामायिक केल्यामुळे, मोठ्या भाषेचे मॉडेल पूर्ण लोड केले जाऊ शकतात आणि तुलनात्मक GPU सर्व्हरच्या काही अंशांची किंमत असलेल्या मशीनवर कार्यक्षमतेने सर्व्ह केले जाऊ शकतात. त्यामुळे घरामध्ये मोठमोठे ओपन-वेट मॉडेल्स चालवणाऱ्या डेव्हलपर्समध्ये मॅक स्टुडिओ मशिन्स हे एक सामान्य दृश्य बनले आहे.

विकसक आणि लहान संघांसाठी याचा अर्थ काय असेल

वर्णन केल्याप्रमाणे हार्बर जहाजे असल्यास, व्यावहारिक परिणाम सोयीच्या पलीकडे जातात. लहान संघ जे आज क्लाउड GPU ला ओपन-वेट मॉडेल सर्व्ह करण्यासाठी भाड्याने देतात ते त्यांची टूल्स डेस्कवरील Mac क्लस्टरवर दर्शवू शकतात, डेटा घरात ठेवू शकतात आणि फक्त त्यांच्या मालकीच्या हार्डवेअरसाठी पैसे देऊ शकतात. समवर्ती विनंत्यांची सेवा करण्यावर ॲपचा भर सूचित करतो की ॲपल वर्कलोड्सबद्दल विचार करत आहे जेथे एकाच मॉडेलवर अनेक लोक किंवा सेवा येतात, एकच वापरकर्ता एखाद्याशी चॅट करत नाही.

हे प्रयोगासाठी अडथळा देखील कमी करते. ओपन-वेट मॉडेलचे स्व-होस्टिंग करण्याबद्दल उत्सुक असलेल्या विकसकाला सध्या एकच विनंती करण्यापूर्वी रनटाइम्स, क्वांटाइज्ड वेट्स आणि मेमरी गणित एकत्र करावे लागेल. एक मार्गदर्शित ॲप जे हार्डवेअर शोधते, मॉडेल डाउनलोड करते आणि क्लस्टर व्यवस्थापित करते ते जवळजवळ सर्व सेटअप खर्च काढून टाकते.

क्लाउड विरुद्ध एक गोपनीयता खेळ

वर्णन केल्याप्रमाणे हार्बर शिप केल्यास, ते ऍपलला त्यांच्या प्रतिस्पर्ध्यांनी संघर्ष केलेल्या प्रश्नाचे एक स्वच्छ उत्तर देईल: मुख्य प्रवाहातील संगणक निर्माता ज्या लोकांना त्यांचा डेटा इतर कोणाच्या डेटा सेंटरला न पाठवता सक्षम AI पाहिजे आहे त्यांना काय ऑफर करते? उत्तर, असे दिसून आले की, असे ॲप असू शकते जे तुमच्या डेस्कवर आधीपासूनच असलेल्या मशीनला डेटा सेंटरमध्ये बदलते.

आत्तासाठी, घोषणांऐवजी तपशील लीक राहतात आणि Appleपलने सार्वजनिकपणे काहीही सांगितले नाही. परंतु ब्रँडिंग, वैशिष्ट्य संच आणि वेळेच्या दरम्यान, हार्बर येत्या काही महिन्यांसाठी पाहण्यासाठी आणखी मनोरंजक एआय उत्पादनांपैकी एक असल्याचे दिसते.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →