Perplexity ने पोर्टेबल कॉम्प्युटर लाँच केला आहे, जो त्याच्या एजंटिक "संगणक" प्लॅटफॉर्मची आवृत्ती आहे जी संपूर्णपणे आधीपासून मालकीच्या हार्डवेअर वापरकर्त्यांवर चालते - Nvidia च्या DGX Spark डेस्कटॉप सुपरकॉम्प्युटर आणि RTX GPU ने सुसज्ज Linux मशीन्सपासून सुरुवात. Nvidia सोबत घनिष्ठ भागीदारीमध्ये विकसित आणि 25 ऑगस्ट 2026 रोजी घोषित केलेले, गंभीर AI एजंट वर्कलोड्स क्लाउडमधून आणि स्थानिक डिव्हाइसेसवर हलवण्याचा हा सर्वात आक्रमक प्रयत्न आहे.

खेळपट्टी सोपी आहे परंतु परिणामकारक आहे: मॉडेल, वापरकर्त्याच्या फायली आणि कार्य स्वतः मशीनवर राहू शकते. स्थानिक पातळीवर पूर्ण झालेले कार्य कोणतेही बिलिंग क्रेडिट घेत नाही, प्रत्येक कार्य डीफॉल्टनुसार डिव्हाइसवर सुरू होते आणि क्लाउडमधील अधिक शक्तिशाली फ्रंटियर मॉडेलवर कोणतेही वैयक्तिक पाऊल पाठवण्यापूर्वी सिस्टम परवानगी विचारते. For more context on this story, see our ongoing AI trends.

"आम्ही मुळात तंतोतंत समान UI पूर्णपणे स्थानिक ॲपवर आणले आहे," Nate, पायाभूत सुविधा आणि एंटरप्राइझसाठी अभियांत्रिकीचे उपाध्यक्ष, नेट यांनी सोमवारी पत्रकार परिषदेत सांगितले. "यामध्ये एजंट हार्नेस आणि अनुमान आणि स्थानिक पातळीवर काम करण्यासाठी आवश्यक असलेल्या सर्व गोष्टींचा समावेश आहे."

Nvidia साठी, ज्याने गेली दोन वर्षे जगाला ट्रिलियन-डॉलर AI डेटा सेंटर्सवर विकले आहे, या घोषणेमध्ये एक सूक्ष्म संदेश आहे: चिपमेकरचा असा विश्वास आहे की स्थानिक AI ने छंदाच्या उत्सुकतेपासून व्यावहारिक साधनापर्यंतचा उंबरठा ओलांडला आहे. "स्थानिक एआय एक विक्षेपण बिंदूवर पोहोचला," नादेर, विकासक तंत्रज्ञानाचे Nvidia चे संचालक म्हणाले. "सर्वात जास्त काळ, हे शौक आणि उत्साही होते... ही क्वांटाइज्ड मॉडेल्स अतिशय लहान असण्यासाठी क्वांटाइज्ड खाली चालवणे. आणि ते छान असले तरी ते अतिशय व्यावहारिक नाही. परंतु या नवीन ओपन सोर्स मॉडेल्समुळे हे सर्व बदलले."

एका ॲपमध्ये संपूर्ण स्थानिक एआय स्टॅक

पेरप्लेक्सिटी कॉम्प्युटर, क्लाउड उत्पादन, मॉडेल्स, फाईल्स, टूल्स आणि वेब ॲक्सेस विविध-चरण ज्ञान-कार्य पूर्ण करण्यासाठी ऑर्केस्ट्रेट करतो — दस्तऐवजांच्या फोल्डर्सचे पुनरावलोकन करणे, डेटाचे विश्लेषण करणे आणि अहवाल तयार करणे. पोर्टेबल कॉम्प्युटर स्थानिक मॉडेल्स, एजंट हार्नेस, इन्फरन्स इंजिन, टूल्स, ॲप कनेक्टर्स आणि सिक्युरिटी सँडबॉक्स एकाच ऍप्लिकेशनमध्ये एकत्र करून स्थानिक पातळीवर त्याची प्रतिकृती बनवतो. बंडलिंग महत्त्वाचे: आज बहुतेक स्थानिक AI स्टॅकसह, वापरकर्त्यांनी ते तुकडे स्वतः एकत्र केले पाहिजेत - वजन डाउनलोड करणे, अनुमान सर्व्हर उभे करणे आणि वायरिंग साधने एकत्र करणे.

प्रेस डेमोमध्ये, सिस्टीमने किरकोळ गुंतवणूकदार 1099 च्या फोल्डरचे आणि गुंतवणूक दस्तऐवजांचे पुनरावलोकन केले - ज्या प्रकारचे संवेदनशील आर्थिक साहित्य अनेक वापरकर्ते क्लाउड सेवेवर अपलोड करण्यास संकोच करतात. डीजीएक्स स्पार्कवर पूर्ण GPU वापरावर 27-अब्ज-पॅरामीटर क्वेन मॉडेल चालवत, एजंटने गुंतवणूकदार अनावश्यक शुल्क भरत असलेल्या प्रकरणांना फ्लॅग केले. इंटरफेस घटक जो सामान्यत: क्लाउड क्रेडिट्सला उंचावतो, पर्प्लेक्सिटीने नमूद केले, "फक्त शून्यावर पार्क केलेले आहे."

उत्पादन देखील हर्मेटिक ऐवजी संकरित आहे. दुसऱ्या डेमोने वापरकर्ता फनेल डेटाच्या CSV चे स्थानिक पातळीवर विश्लेषण केले, नंतर Perplexity च्या कनेक्टर इकोसिस्टमचा वापर करून पूर्ण झालेले विश्लेषण स्लॅककडे ढकलले. ही सिस्टीम Google Drive, Gmail आणि GitHub शी कनेक्ट होते आणि जेव्हा स्थानिक मॉडेलची मर्यादा गाठते तेव्हा ती फ्रंटियर क्लाउड मॉडेलपर्यंत पोहोचू शकते.

आवश्यकता आणि उपलब्धता

लॉन्चच्या वेळी, वापरकर्ते Qwen 3.8 27B किंवा PPLX 27B चालवू शकतात — Perplexity ने स्वतःच्या हार्नेसवर पोस्ट-ट्रेन केलेली आवृत्ती — Nvidia च्या Nemotron 3.5 Lightning लवकरच येत आहे. ज्या वापरकर्त्यांना त्यांचा स्वतःचा एंडपॉइंट प्लग इन करायचा आहे त्यांच्यासाठी प्रगत मोडसह, खाली अनुमान होस्ट करण्यासाठी सिस्टम vLLM वापरते. किमान 24GB VRAM असलेले कोणतेही RTX GPU, अंदाजे GeForce RTX 3090 किंवा नवीन, बार साफ करते.

पोर्टेबल कॉम्प्युटर आता प्रो, मॅक्स, एंटरप्राइझ प्रो, आणि एंटरप्राइज मॅक्स सदस्यांसाठी Linux वर उपलब्ध आहे, सप्टेंबरमध्ये विंडोज सपोर्टसह.

मॉडेल आणि हार्नेस सह-डिझाइनिंग

लाँचच्या सोबतच, पर्पलेक्सिटीने एक शोधनिबंध प्रकाशित केला ज्यात असा युक्तिवाद केला की प्रभावी स्थानिक एजंटना मॉडेल आणि एजंट हार्नेस - प्रॉम्प्ट्स, टूल्स आणि ऑर्केस्ट्रेशन लॉजिकची मचान - एकत्रितपणे डिझाइन करणे आवश्यक आहे. सामान्य-उद्देशीय हार्नेसेस फ्रंटियर मॉडेल्स गृहीत धरतात जे प्रचंड संदर्भ शोषून घेतात आणि विस्तीर्ण साधनांच्या पृष्ठभागावर नेव्हिगेट करू शकतात; लहान स्थानिक मॉडेल्स त्या मागण्यांच्या अधीन असतात. गोंधळात असे आढळून आले की जरी Qwen 3.8 27B 260,000-टोकन संदर्भ विंडोची जाहिरात करते, तरीही ते 100,000 टोकनच्या पलीकडे संघर्ष करू लागते.

कंपनीचे उत्तर मुद्दाम किमान हार्नेस आहे: एक संक्षिप्त सिस्टम प्रॉम्प्ट, मुख्य साधनांचा एक छोटा संच आणि मागणीनुसार "कौशल्य" म्हणून लोड आणि अनलोड करण्याची क्षमता. याने टोकन-हंग्री MCP सर्व्हरवरून Gmail आणि GitHub सारख्या लोकप्रिय कनेक्टर्सना कॉम्पॅक्ट कमांड-लाइन टूल्समध्ये रूपांतरित केले, सेल्फ-व्हेरिफिकेशन हुक जोडले आणि OS-स्तरीय सँडबॉक्सिंग नेहमी लागू केले — जर सँडबॉक्स अनुपलब्ध असेल, तर हार्नेस टूल्स असुरक्षितपणे चालवण्याऐवजी स्वतःला अक्षम करते.

बेंचमार्क परिणाम पेप्लेक्सिटी अहवाल धक्कादायक आहेत, जरी ते कंपनीच्या स्वतःच्या मूल्यांकनातून आले आहेत. त्याच्या अंतर्गत लोकल नॉलेज वर्क बेंचवर — खोल संशोधन, आर्थिक विश्लेषण आणि दस्तऐवज निर्मितीमध्ये पसरलेली ५३ कार्ये, ज्याची ओपन-सोर्स करण्याची योजना आहे — DGX स्पार्कवर Qwen 3.8 27B चालवणाऱ्या कॉम्प्युटरने 82.6% गुण मिळवले, विरुद्ध ओपन-सोर्ससाठी 77.6% गुण मिळवले. Pi 0% 74 मॉडेल चालवणे. Perplexity च्या प्रशिक्षित PPLX 27B ने स्कोअर 85.4% वर ढकलला. BrowseComp वर, वेब रिसर्च बेंचमार्क, कॉम्प्युटरने 66.7% अचूकता विरुद्ध Pi साठी 50.2% आणि हर्मीससाठी 43.9%, तर 51% कमी वॉल टाइम आणि Pi पेक्षा 70% कमी टोकन वापरत असताना.

टोकन इकॉनॉमिक्स ड्रायव्हिंग एजंट स्थानिक

एआय वर्कलोड्स कसे बदलले आहेत यावरून धोरणात्मक तर्क स्पष्ट होते. गप्पा रंगल्या होत्या - एक प्रश्न, एक उत्तर, पूर्ण झाले. एजंट तासनतास धावतात. "एजंट्ससह, तुम्हाला शक्य असल्यास हे एजंट नेहमी चालू हवे आहेत... आम्ही जे पाहत आहोत ते टोकन्सची अतृप्त मागणी आहे आणि यामुळे स्थानिक AI खूप छान बनते," नाडर म्हणाले. "तुम्हाला टोकनद्वारे मीटर लावले गेले नाही. तुम्ही टोकनसाठी पैसे देत नव्हते."

संकरित मध्यम जमीन सर्वात व्यावसायिकदृष्ट्या मनोरंजक परिणाम असू शकते. टर्मिनल बेंच 2.1 वर, एक आव्हानात्मक कोडिंग बेंचमार्क, पूर्णपणे स्थानिक क्वेन मॉडेलने मूलत: शून्य किरकोळ खर्चावर 59.6% गुण मिळवले. क्लाउडमधील क्लाउड ओपस 5 "सल्लागार" पर्यंत वाढवून स्कोअर प्रति टास्क अंदाजे $0.415 वर 73.0% पर्यंत वाढवला, तर फ्रंटियर मॉडेलने प्रति टास्क $0.65 वर 82.4% स्कोअर केला. एस्केलेशनने सुमारे दोन-तृतियांश किंमतीमध्ये सीमावर्ती कार्यप्रदर्शनातील अंतराचा अंदाजे तीन-पंचमांश भाग वसूल केला — आणि वापरकर्ता निर्णय घेतो की व्यापार केव्हा करणे योग्य आहे. कोणत्याही सल्लागार कॉल करण्यापूर्वी, हार्नेस आउटगोइंग संदर्भावर एक PII वर्गीकरण चालवते आणि वापरकर्त्याला डिव्हाइसमधून नेमके काय सोडेल ते दर्शवते; रिमोट मॉडेल केवळ मजकूर मार्गदर्शन देते आणि स्थानिक फाइल्स किंवा साधनांना कधीही स्पर्श करत नाही.

Nvidia ने यावरही जोर दिला की हार्डवेअर स्केल एका बॉक्सच्या पलीकडे आहे: सामायिक मेमरीवर दोन DGX Sparks कनेक्ट केल्याने DeepSeek च्या लेटेस्ट सारखे फ्रंटियर-क्लास ओपन मॉडेल चालतात, चार GLM 5.2 किंवा Nemotron Ultra चालवू शकतात आणि नाडर म्हणाले की त्याने "आठ स्पार्क कनेक्ट केलेले देखील पाहिले आहेत."

Nvidia आणि Perplexity ने जून 2025 मध्ये युरोपियन प्रकाशक आणि टेलिकॉमसाठी सार्वभौम AI सहयोगाची घोषणा केल्यानंतर, लॉन्चने एका वर्षाहून अधिक काळ निर्माण होत असलेल्या भागीदारीचा विस्तार केला. ओलामा, ओपन हार्नेस आणि सेल्फ-होस्ट केलेले अनुमान, पोर्टेबल कॉम्प्युटरचा DIY स्टॅक, पोर्टेबल कॉम्प्युटरचा ॲप, मॉडेल आणि ॲप सारखा अनुभव आहे. सँडबॉक्स - शेवटी स्थानिक एजंटिक एआय मुख्य प्रवाहात बनवते.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →