पर्प्लेक्सिटी ने पोर्टेबल कंप्यूटर लॉन्च किया है, जो इसके एजेंटिक "कंप्यूटर" प्लेटफ़ॉर्म का एक संस्करण है जो पूरी तरह से हार्डवेयर उपयोगकर्ताओं पर चलता है - जो एनवीडिया के डीजीएक्स स्पार्क डेस्कटॉप सुपरकंप्यूटर और आरटीएक्स जीपीयू से लैस लिनक्स मशीनों से शुरू होता है। एनवीडिया के साथ घनिष्ठ साझेदारी में विकसित और 25 अगस्त, 2026 को घोषित, यह गंभीर एआई एजेंट वर्कलोड को क्लाउड से स्थानीय उपकरणों पर स्थानांतरित करने के लिए अब तक के सबसे आक्रामक प्रयासों में से एक है।
पिच सरल लेकिन परिणामी है: मॉडल, उपयोगकर्ता की फ़ाइलें और कार्य सभी मशीन पर ही रह सकते हैं। स्थानीय रूप से पूरा किया गया कार्य किसी बिलिंग क्रेडिट का उपभोग नहीं करता है, प्रत्येक कार्य डिफ़ॉल्ट रूप से डिवाइस पर शुरू होता है, और सिस्टम किसी भी व्यक्तिगत चरण को क्लाउड में अधिक शक्तिशाली फ्रंटियर मॉडल पर भेजने से पहले अनुमति मांगता है। For more context on this story, see our ongoing artificial intelligence updates.
सोमवार को एक प्रेस ब्रीफिंग के दौरान पर्प्लेक्सिटी के इंफ्रास्ट्रक्चर और एंटरप्राइज इंजीनियरिंग के उपाध्यक्ष नैट ने कहा, "हम मूल रूप से बिल्कुल स्थानीय ऐप में बिल्कुल वही यूआई लाए हैं।" "इसमें एजेंट हार्नेस और अनुमान की संपूर्णता और स्थानीय स्तर पर काम करने के लिए आवश्यक सभी चीजें शामिल हैं।"
एनवीडिया के लिए, जिसने पिछले दो वर्षों में दुनिया को ट्रिलियन-डॉलर एआई डेटा केंद्रों को बेचने में बिताया है, घोषणा में एक सूक्ष्म संदेश दिया गया है: चिप निर्माता का मानना है कि स्थानीय एआई ने शौकिया जिज्ञासा से लेकर व्यावहारिक उपकरण तक की सीमा पार कर ली है। एनवीडिया के डेवलपर प्रौद्योगिकी निदेशक नादेर ने कहा, "स्थानीय एआई एक महत्वपूर्ण मोड़ पर पहुंच गया है।" "सबसे लंबे समय तक, यह शौक़ीन और उत्साही लोग थे... इन क्वांटाइज़्ड मॉडलों को बहुत छोटे आकार में चलाया जाता था। और हालांकि यह अच्छा है, यह सुपर व्यावहारिक नहीं है। लेकिन इन नए ओपन सोर्स मॉडलों के साथ यह सब बदल गया।"
एक ऐप में पूर्ण स्थानीय एआई स्टैक
पर्प्लेक्सिटी कंप्यूटर, क्लाउड उत्पाद, बहु-चरणीय ज्ञान-कार्य कार्यों को पूरा करने के लिए मॉडल, फ़ाइलें, उपकरण और वेब एक्सेस की व्यवस्था करता है - दस्तावेज़ों के फ़ोल्डरों की समीक्षा करना, डेटा का विश्लेषण करना और रिपोर्ट तैयार करना। पोर्टेबल कंप्यूटर स्थानीय मॉडल, एजेंट हार्नेस, इंट्रेंस इंजन, टूल्स, ऐप कनेक्टर और एक सुरक्षा सैंडबॉक्स को एक ही एप्लिकेशन में बंडल करके स्थानीय रूप से इसकी नकल करता है। बंडलिंग मायने रखती है: आज अधिकांश स्थानीय एआई स्टैक के साथ, उपयोगकर्ताओं को उन टुकड़ों को स्वयं इकट्ठा करना होगा - वजन डाउनलोड करना, एक अनुमान सर्वर को खड़ा करना, और वायरिंग टूल को एक साथ जोड़ना।
एक प्रेस डेमो में, सिस्टम ने एक खुदरा निवेशक को 1099 और निवेश दस्तावेजों के एक फ़ोल्डर की समीक्षा करते हुए दिखाया - इस तरह की संवेदनशील वित्तीय सामग्री जिसे कई उपयोगकर्ता क्लाउड सेवा पर अपलोड करने में संकोच करेंगे। डीजीएक्स स्पार्क पर पूर्ण जीपीयू उपयोग पर 27-बिलियन-पैरामीटर क्वेन मॉडल चलाने पर, एजेंट ने ऐसे मामलों को चिह्नित किया जहां निवेशक अनावश्यक शुल्क का भुगतान कर रहा था। पर्प्लेक्सिटी ने कहा, इंटरफ़ेस तत्व जो आम तौर पर क्लाउड क्रेडिट का मिलान करता है, "बस शून्य पर पार्क किया गया है।"
यह उत्पाद भी हर्मेटिक के बजाय हाइब्रिड है। दूसरे डेमो में स्थानीय स्तर पर उपयोगकर्ता फ़नल डेटा के सीएसवी का विश्लेषण किया गया, फिर पर्प्लेक्सिटी के कनेक्टर इकोसिस्टम का उपयोग करके तैयार विश्लेषण को स्लैक में धकेल दिया गया। सिस्टम Google ड्राइव, जीमेल और GitHub से जुड़ता है, और जब स्थानीय मॉडल अपनी सीमा तक पहुंचता है तो फ्रंटियर क्लाउड मॉडल तक बढ़ सकता है।
आवश्यकताएँ और उपलब्धता
लॉन्च के समय, उपयोगकर्ता क्वेन 3.8 27बी या पीपीएलएक्स 27बी चला सकते हैं - एक संस्करण जिसे पर्प्लेक्सिटी ने अपने स्वयं के हार्नेस पर पोस्ट-प्रशिक्षित किया है - एनवीडिया का नेमोट्रॉन 3.5 लाइटनिंग जल्द ही आ रहा है। सिस्टम नीचे दिए गए अनुमान को होस्ट करने के लिए वीएलएलएम का उपयोग करता है, उन उपयोगकर्ताओं के लिए एक उन्नत मोड के साथ जो अपने स्वयं के एंडपॉइंट को प्लग इन करना चाहते हैं। कम से कम 24GB VRAM वाला कोई भी RTX GPU, लगभग GeForce RTX 3090 या नया, बार को साफ़ करता है।
पोर्टेबल कंप्यूटर अब लिनक्स पर प्रो, मैक्स, एंटरप्राइज प्रो और एंटरप्राइज मैक्स ग्राहकों के लिए उपलब्ध है, सितंबर में विंडोज समर्थन के साथ।
मॉडल और हार्नेस को सह-डिज़ाइन करना
लॉन्च के साथ-साथ, पर्प्लेक्सिटी ने एक शोध पत्र प्रकाशित किया जिसमें तर्क दिया गया कि प्रभावी स्थानीय एजेंटों को मॉडल और एजेंट हार्नेस - संकेतों, उपकरणों और ऑर्केस्ट्रेशन तर्क के मचान - को एक साथ डिजाइन करने की आवश्यकता होती है। सामान्य प्रयोजन के हार्नेस सीमांत मॉडल मानते हैं जो विशाल संदर्भों को अवशोषित कर सकते हैं और विशाल उपकरण सतहों को नेविगेट कर सकते हैं; छोटे स्थानीय मॉडल उन मांगों के तहत झुकते हैं। पर्प्लेक्सिटी ने पाया कि यद्यपि क्वेन 3.8 27बी 260,000-टोकन संदर्भ विंडो का विज्ञापन करता है, लेकिन यह 100,000 टोकन से आगे संघर्ष करना शुरू कर देता है।
कंपनी का उत्तर जानबूझकर न्यूनतम उपयोग है: एक संक्षिप्त सिस्टम प्रॉम्प्ट, मुख्य उपकरणों का एक छोटा सेट, और क्षमताएं जो ऑन-डिमांड "कौशल" के रूप में लोड और अनलोड करती हैं। इसने जीमेल और गिटहब जैसे लोकप्रिय कनेक्टर्स को टोकन-भूखे एमसीपी सर्वर से कॉम्पैक्ट कमांड-लाइन टूल में परिवर्तित कर दिया, स्व-सत्यापन हुक जोड़े, और हमेशा-ऑन ओएस-स्तरीय सैंडबॉक्सिंग लागू की - यदि सैंडबॉक्स अनुपलब्ध है, तो उपकरण को असुरक्षित रूप से चलाने के बजाय हार्नेस स्वयं को अक्षम कर देता है।
बेंचमार्क नतीजे पर्प्लेक्सिटी रिपोर्ट चौंकाने वाले हैं, हालांकि वे कंपनी के अपने मूल्यांकन से आते हैं। अपने आंतरिक स्थानीय ज्ञान कार्य बेंच पर - गहन अनुसंधान, वित्तीय विश्लेषण और दस्तावेज़ निर्माण से जुड़े 53 कार्य, जिन्हें पर्प्लेक्सिटी ने ओपन-सोर्स करने की योजना बनाई है - डीजीएक्स स्पार्क पर क्वेन 3.8 27बी चलाने वाले कंप्यूटर ने 82.6% स्कोर किया, जबकि ओपन-सोर्स पाई हार्नेस के लिए 77.6% और समान मॉडल चलाने वाले हर्मीस के लिए 74.0% स्कोर किया। पर्प्लेक्सिटी के प्रशिक्षण के बाद PPLX 27B ने स्कोर को 85.4% तक बढ़ा दिया। ब्राउजकॉम्प, एक वेब अनुसंधान बेंचमार्क पर, कंप्यूटर ने पाई के लिए 50.2% और हर्मीस के लिए 43.9% की तुलना में 66.7% सटीकता हासिल की, जबकि पाई की तुलना में 51% कम वॉल टाइम और 70% कम टोकन का उपयोग किया।
टोकन अर्थशास्त्र ड्राइविंग एजेंट स्थानीय
एआई कार्यभार कैसे बदल गया है, इसमें रणनीतिक तर्क स्पष्ट हो जाता है। चैट धमाकेदार थी - एक सवाल, एक जवाब, हो गया। एजेंट घंटों दौड़ते हैं. "एजेंटों के साथ, यदि आप कर सकते हैं तो आप चाहते हैं कि ये एजेंट हमेशा मौजूद रहें... हम जो देख रहे हैं वह टोकन की एक अतृप्त मांग है, और यह कुछ ऐसा है जो स्थानीय एआई को इतना महान बनाता है," नादेर ने कहा। "आपको टोकन द्वारा मीटर नहीं दिया गया था। आप टोकन के लिए भुगतान नहीं कर रहे थे।"
हाइब्रिड मध्य मार्ग व्यावसायिक रूप से सबसे दिलचस्प परिणाम हो सकता है। टर्मिनल बेंच 2.1 पर, एक चुनौतीपूर्ण कोडिंग बेंचमार्क, पूरी तरह से स्थानीय क्वेन मॉडल ने अनिवार्य रूप से शून्य सीमांत लागत पर 59.6% स्कोर किया। इसे क्लाउड में क्लाउड ओपस 5 "सलाहकार" तक आगे बढ़ाने देने से अनुमानित $0.415 प्रति कार्य पर स्कोर 73.0% तक बढ़ गया, जबकि फ्रंटियर मॉडल चलाने पर अकेले $0.65 प्रति कार्य पर 82.4% स्कोर हुआ। एस्केलेशन ने लागत के लगभग दो-तिहाई पर सीमांत प्रदर्शन के अंतर का लगभग तीन-पांचवां हिस्सा वसूल किया - और उपयोगकर्ता निर्णय लेता है कि व्यापार कब करना उचित है। किसी भी सलाहकार कॉल से पहले, हार्नेस आउटगोइंग संदर्भ पर एक पीआईआई क्लासिफायर चलाता है और उपयोगकर्ता को दिखाता है कि डिवाइस से क्या निकलेगा; रिमोट मॉडल केवल टेक्स्ट मार्गदर्शन लौटाता है और कभी भी स्थानीय फ़ाइलों या टूल को नहीं छूता है।
एनवीडिया ने इस बात पर भी जोर दिया कि हार्डवेयर एक बॉक्स से परे स्केल करता है: साझा मेमोरी पर दो डीजीएक्स स्पार्क्स को जोड़ने से डीपसीक के नवीनतम जैसे फ्रंटियर-क्लास ओपन मॉडल चलते हैं, चार जीएलएम 5.2 या नेमोट्रॉन अल्ट्रा चला सकते हैं, और नादेर ने कहा कि उन्होंने "आठ स्पार्क्स को कनेक्ट होते हुए भी देखा है।"
एनवीडिया और पर्प्लेक्सिटी ने जून 2025 में यूरोपीय प्रकाशकों और टेलीकॉम के लिए एक संप्रभु एआई सहयोग की घोषणा की थी, जिसके बाद यह लॉन्च एक साल से अधिक समय से बन रही साझेदारी का विस्तार करता है। ओलामा, ओपन हार्नेस और सेल्फ-होस्टेड अनुमान के DIY स्टैक का वजन करने वाले डेवलपर्स के लिए, पोर्टेबल कंप्यूटर का दांव यह है कि एक उपकरण जैसा अनुभव - सह-डिज़ाइन किया गया मॉडल, हार्नेस और सैंडबॉक्स - जो अंततः स्थानीय एजेंट एआई को मुख्यधारा बनाता है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
