ऐसा प्रतीत होता है कि Apple Mac पर AI मॉडल चलाना नाटकीय रूप से सरल बनाने के लिए तैयार है। लीकर आरोन पेरिस ने हार्बर नामक एक नए ऐप्पल ऐप के साक्ष्य का खुलासा किया है, जिसके बारे में 9to5Mac ने मंगलवार को रिपोर्ट दी है, जो एक मैक को एक निजी एआई अनुमान सर्वर में बदलने के लिए डिज़ाइन किया गया है - एक मशीन जो पूरी तरह से स्थानीय हार्डवेयर पर ओपन-वेट एआई मॉडल चलाती है, जिसमें कोई भी डेटा कभी भी इमारत से बाहर नहीं जाता है।

एक्स पर पेरिस द्वारा प्रकाशित खोज, अभी तक सबसे स्पष्ट रूप प्रदान करती है कि ऐप्पल मैक के सबसे तेजी से बढ़ते उपयोग के मामलों में से एक को औपचारिक रूप देने की योजना कैसे बना रहा है: उत्साही और पेशेवर क्लाउड सेवाओं के लिए भुगतान करने के बजाय विशेष रूप से एआई मॉडल को स्थानीय स्तर पर चलाने के लिए मैक स्टूडियो और मैक मिनी मशीनें खरीद रहे हैं। For more context on this story, see our ongoing AI news.

हार्बर वास्तव में क्या करता है

पेरिस द्वारा प्रकाशित विवरण के अनुसार, हार्बर उपयोगकर्ताओं को ऐप्पल सिलिकॉन पर स्थानीय स्तर पर ओपन-वेट मॉडल चलाने की सुविधा देता है। पिच सबसे पहले गोपनीयता की है: आपका डेटा कभी भी आपके हार्डवेयर को नहीं छोड़ता है, और कुछ भी क्लाउड तक नहीं पहुंचता है। यह ऐप को क्लाउड-निर्भर एआई टूल के सीधे उत्तर के रूप में रखता है जो आज बाजार पर हावी है, और यह ऑन-डिवाइस प्रोसेसिंग पर ऐप्पल के लंबे समय से चले आ रहे मार्केटिंग जोर के साथ संरेखित है।

ऐप मॉडल प्रबंधन भी संभालता है। उपयोगकर्ता ऐप के भीतर से ही ओपन-वेट मॉडल ब्राउज़, डाउनलोड और लोड कर सकते हैं। जैसा कि पेरिस का सारांश कहता है, हार्बर मॉडल प्रबंधन को संभालता है "ताकि आप काम पर ध्यान केंद्रित कर सकें, सेटअप पर नहीं" - कमांड-लाइन टूल और मैन्युअल कॉन्फ़िगरेशन के साथ एक उल्लेखनीय विपरीत जो वर्तमान में स्थानीय मॉडल चलाने की मांग करता है।

थंडरबोल्ट 5 पर मैक को क्लस्टर करना

सबसे खास विशेषता क्लस्टरिंग है। हार्बर दो या दो से अधिक थंडरबोल्ट 5-सक्षम मैक कंप्यूटरों को कनेक्ट कर सकता है और उनकी एकीकृत मेमोरी को एक एकल अनुमान संसाधन में पूल कर सकता है। इसका मतलब है कि उपयोगकर्ता ऐसे मॉडल चला सकते हैं जो किसी भी एक कंप्यूटर की मेमोरी में मौजूद क्षमता से अधिक हो, या क्लस्टर में अधिक समवर्ती अनुरोधों को पूरा कर सकते हैं जो एक मशीन अकेले संभाल सकती है।

दृष्टिकोण असामान्य है. अधिकांश मल्टी-मशीन एआई अनुमान सेटअप हाई-स्पीड नेटवर्किंग इंटरकनेक्ट और विशेष डेटा सेंटर हार्डवेयर पर निर्भर करते हैं। ऐप्पल का कार्यान्वयन थंडरबोल्ट 5 पर निर्भर करता है, जो उच्च-बैंडविड्थ इंटरफ़ेस अब अपने पेशेवर मैक लाइनअप में मौजूद है, जो उपभोक्ता और उपभोक्ता मशीनों को एक छोटे से अनुमान उपकरण जैसा दिखता है।

सेटअप मिनटों में, घंटों में नहीं

Apple स्पष्ट रूप से उन उपयोगकर्ताओं को लक्षित कर रहा है जिन्होंने कभी सर्वर को नहीं छुआ है। लीक हुए फीचर विवरण के अनुसार, हार्बर क्लस्टर बनाने के लिए थंडरबोल्ट 5 पर स्वचालित रूप से कनेक्टेड डिवाइसों का पता लगाता है - प्लग इन करें, शुरू करें और आप चल रहे हैं, बिना किसी मैन्युअल कॉन्फ़िगरेशन, बिना कमांड लाइन और किसी बुनियादी ढांचे की विशेषज्ञता की आवश्यकता के।

उपयोग में आसानी ही ऐप की असली पहचान है। आज स्थानीय एआई मॉडल चलाने का मतलब आम तौर पर रनटाइम स्थापित करना, मॉडल हब से वेट डाउनलोड करना और मेमोरी सेटिंग्स को हाथ से ट्यून करना है। हार्बर उस संपूर्ण वर्कफ़्लो को एक निर्देशित, उपभोक्ता-ग्रेड इंटरफ़ेस में लपेटता है।

क्लैरिस ब्रांड के तहत एक निजी पूर्वावलोकन

9to5Mac के अनुसार, हार्बर वर्तमान में Apple के क्लैरिस ब्रांड के तहत एक निजी पूर्वावलोकन में है, यह सुझाव देता है कि यह परियोजना Apple के मुख्य उत्पाद समूहों के बजाय उसके सहायक संगठनों में से एक के अंतर्गत आती है। रिपोर्ट में कहा गया है कि ऐसा लगता है कि ऐप आने वाले हफ्तों और महीनों में जनता के लिए लॉन्च हो जाएगा, हालांकि ऐप्पल ने किसी भी रिलीज़ योजना की पुष्टि नहीं की है।

निजी पूर्वावलोकन स्थिति का मतलब है कि किसी भी सार्वजनिक रिलीज़ से पहले सुविधाएँ और ब्रांडिंग बदल सकती हैं। लेकिन स्थानीय अनुमान के लिए समर्पित एक परिष्कृत आंतरिक ऐप का अस्तित्व - क्लस्टरिंग के साथ पूरा - संकेत देता है कि स्थानीय एआई ऐप्पल के अंदर शौकिया आला से रणनीतिक उत्पाद क्षेत्र में स्थानांतरित हो गया है।

मैक एआई वर्कहॉर्स क्यों बनता जा रहा है

9to5Mac नोट करता है कि मैक इस साल काफी अधिक लोकप्रिय हो रहा है, नए मैकबुक नियो जैसे बजट-अनुकूल विकल्पों के कारण और मैक स्टूडियो और मैक मिनी हार्डवेयर पर स्थानीय रूप से एआई मॉडल चलाने के लिए मशीनों की अपील के कारण।

ऐप्पल सिलिकॉन की एकीकृत मेमोरी आर्किटेक्चर अंतर्निहित कारण है: क्योंकि सीपीयू और जीपीयू तेज मेमोरी के एक पूल को साझा करते हैं, बड़े भाषा मॉडल को पूर्ण रूप से लोड किया जा सकता है और उन मशीनों पर कुशलतापूर्वक परोसा जा सकता है जिनकी लागत तुलनीय जीपीयू सर्वर का एक अंश है। इसने मैक्स-आउट मैक स्टूडियो मशीनों को घर पर बड़े ओपन-वेट मॉडल चलाने वाले डेवलपर्स के बीच एक आम दृश्य बना दिया है।

डेवलपर्स और छोटी टीमों के लिए इसका क्या मतलब होगा

यदि हार्बर जहाजों का वर्णन किया गया है, तो व्यावहारिक निहितार्थ सुविधा से परे हैं। छोटी टीमें जो आज ओपन-वेट मॉडल की सेवा के लिए क्लाउड जीपीयू किराए पर लेती हैं, वे अपने टूल को डेस्क पर मैक क्लस्टर पर रख सकते हैं, डेटा को घर में रख सकते हैं और केवल उस हार्डवेयर के लिए भुगतान कर सकते हैं जो उनके पास पहले से है। समवर्ती अनुरोधों को पूरा करने पर ऐप के जोर से पता चलता है कि ऐप्पल उन कार्यभार के बारे में सोच रहा है जहां एक ही उपयोगकर्ता के साथ चैट करने के बजाय कई लोग या सेवाएं एक ही मॉडल पर काम करती हैं।

यह प्रयोग की बाधाओं को भी कम करता है। एक ओपन-वेट मॉडल को स्वयं-होस्ट करने के बारे में उत्सुक डेवलपर को वर्तमान में एकल अनुरोध को पूरा करने से पहले रनटाइम, क्वांटाइज्ड वेट और मेमोरी गणित को एक साथ जोड़ना पड़ता है। एक निर्देशित ऐप जो हार्डवेयर का पता लगाता है, मॉडल डाउनलोड करता है, और क्लस्टर का प्रबंधन करता है, वह लगभग सभी सेटअप लागत को हटा देता है।

बादल के विरुद्ध एक गोपनीयता नाटक

यदि हार्बर जहाजों का वर्णन किया गया है, तो यह Apple को उस प्रश्न का स्पष्ट उत्तर देगा जिससे उसके प्रतिद्वंद्वियों को संघर्ष करना पड़ा है: एक मुख्यधारा का कंप्यूटर निर्माता उन लोगों को क्या प्रदान करता है जो अपना डेटा किसी और के डेटा सेंटर में भेजे बिना सक्षम AI चाहते हैं? उत्तर, यह पता चला है, एक ऐसा ऐप हो सकता है जो आपके डेस्क पर पहले से मौजूद मशीन को डेटा सेंटर में बदल देता है।

अभी के लिए, विवरण घोषणाओं के बजाय लीक बने हुए हैं, और Apple ने सार्वजनिक रूप से कुछ भी नहीं कहा है। लेकिन ब्रांडिंग, फीचर सेट और समय के बीच, हार्बर आने वाले महीनों में देखने के लिए अधिक दिलचस्प एआई उत्पाद लॉन्च में से एक जैसा दिखता है।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →