ਪਰਪਲੇਕਸੀਟੀ ਨੇ ਪੋਰਟੇਬਲ ਕੰਪਿਊਟਰ ਲਾਂਚ ਕੀਤਾ ਹੈ, ਇਸਦੇ ਏਜੰਟ "ਕੰਪਿਊਟਰ" ਪਲੇਟਫਾਰਮ ਦਾ ਇੱਕ ਸੰਸਕਰਣ ਜੋ ਪਹਿਲਾਂ ਤੋਂ ਹੀ ਮਾਲਕੀ ਵਾਲੇ ਹਾਰਡਵੇਅਰ ਉਪਭੋਗਤਾਵਾਂ 'ਤੇ ਚੱਲਦਾ ਹੈ - Nvidia ਦੇ DGX ਸਪਾਰਕ ਡੈਸਕਟਾਪ ਸੁਪਰਕੰਪਿਊਟਰ ਅਤੇ RTX GPUs ਨਾਲ ਲੈਸ ਲੀਨਕਸ ਮਸ਼ੀਨਾਂ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ। ਐਨਵੀਡੀਆ ਦੇ ਨਾਲ ਨਜ਼ਦੀਕੀ ਸਾਂਝੇਦਾਰੀ ਵਿੱਚ ਵਿਕਸਤ ਕੀਤਾ ਗਿਆ ਅਤੇ 25 ਅਗਸਤ, 2026 ਨੂੰ ਘੋਸ਼ਿਤ ਕੀਤਾ ਗਿਆ, ਇਹ ਗੰਭੀਰ AI ਏਜੰਟ ਵਰਕਲੋਡ ਨੂੰ ਕਲਾਉਡ ਤੋਂ ਬਾਹਰ ਅਤੇ ਸਥਾਨਕ ਡਿਵਾਈਸਾਂ ਉੱਤੇ ਲਿਜਾਣ ਲਈ ਅਜੇ ਤੱਕ ਸਭ ਤੋਂ ਵੱਧ ਹਮਲਾਵਰ ਕੋਸ਼ਿਸ਼ਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ।

ਪਿੱਚ ਸਧਾਰਨ ਹੈ ਪਰ ਨਤੀਜਾਕਾਰੀ ਹੈ: ਮਾਡਲ, ਉਪਭੋਗਤਾ ਦੀਆਂ ਫਾਈਲਾਂ, ਅਤੇ ਕੰਮ ਖੁਦ ਮਸ਼ੀਨ 'ਤੇ ਰਹਿ ਸਕਦਾ ਹੈ। ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਪੂਰਾ ਕੀਤਾ ਗਿਆ ਕੰਮ ਕੋਈ ਬਿਲਿੰਗ ਕ੍ਰੈਡਿਟ ਨਹੀਂ ਲੈਂਦਾ, ਹਰ ਕੰਮ ਡਿਫੌਲਟ ਤੌਰ 'ਤੇ ਡਿਵਾਈਸ 'ਤੇ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਸਿਸਟਮ ਕਲਾਉਡ ਵਿੱਚ ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਫਰੰਟੀਅਰ ਮਾਡਲ ਲਈ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀਗਤ ਕਦਮ ਨੂੰ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਇਜਾਜ਼ਤ ਮੰਗਦਾ ਹੈ। For more context on this story, see our ongoing AI news.

ਸੋਮਵਾਰ ਨੂੰ ਇੱਕ ਪ੍ਰੈਸ ਬ੍ਰੀਫਿੰਗ ਦੌਰਾਨ, ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਲਈ ਪਰਪਲੈਕਸਿਟੀ ਦੇ ਇੰਜੀਨੀਅਰਿੰਗ ਦੇ ਉਪ ਪ੍ਰਧਾਨ, ਨੇਟ ਨੇ ਕਿਹਾ, "ਅਸੀਂ ਅਸਲ ਵਿੱਚ ਇੱਕ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਥਾਨਕ ਐਪ ਲਈ ਬਿਲਕੁਲ ਉਹੀ UI ਲਿਆਏ ਹਾਂ।" "ਇਸ ਵਿੱਚ ਏਜੰਟ ਦੀ ਸੰਪੂਰਨਤਾ ਅਤੇ ਅਨੁਮਾਨ ਅਤੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ ਲੋੜੀਂਦੀ ਹਰ ਚੀਜ਼ ਨੂੰ ਸ਼ਾਮਲ ਕੀਤਾ ਗਿਆ ਹੈ।"

ਐਨਵੀਡੀਆ ਲਈ, ਜਿਸਨੇ ਪਿਛਲੇ ਦੋ ਸਾਲਾਂ ਤੋਂ ਦੁਨੀਆ ਨੂੰ ਟ੍ਰਿਲੀਅਨ-ਡਾਲਰ ਏਆਈ ਡੇਟਾ ਸੈਂਟਰਾਂ 'ਤੇ ਵੇਚਣ ਵਿੱਚ ਬਿਤਾਏ ਹਨ, ਘੋਸ਼ਣਾ ਇੱਕ ਸੂਖਮ ਸੰਦੇਸ਼ ਦਿੰਦੀ ਹੈ: ਚਿਪਮੇਕਰ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਸਥਾਨਕ ਏਆਈ ਨੇ ਸ਼ੌਕੀਨ ਉਤਸੁਕਤਾ ਤੋਂ ਵਿਹਾਰਕ ਸਾਧਨ ਤੱਕ ਇੱਕ ਥ੍ਰੈਸ਼ਹੋਲਡ ਪਾਰ ਕਰ ਲਿਆ ਹੈ। "ਸਥਾਨਕ AI ਇੱਕ ਇਨਫੈਕਸ਼ਨ ਪੁਆਇੰਟ 'ਤੇ ਪਹੁੰਚ ਗਿਆ," ਨਾਡੇਰ, ਡਿਵੈਲਪਰ ਤਕਨਾਲੋਜੀ ਦੇ ਐਨਵੀਡੀਆ ਦੇ ਨਿਰਦੇਸ਼ਕ ਨੇ ਕਿਹਾ। "ਸਭ ਤੋਂ ਲੰਬੇ ਸਮੇਂ ਲਈ, ਇਹ ਸ਼ੌਕੀਨ ਅਤੇ ਉਤਸ਼ਾਹੀ ਸਨ... ਇਹਨਾਂ ਕੁਆਂਟਾਈਜ਼ਡ ਮਾਡਲਾਂ ਨੂੰ ਬਹੁਤ ਛੋਟੇ ਹੋਣ ਲਈ ਚਲਾਉਣਾ। ਅਤੇ ਜਦੋਂ ਕਿ ਇਹ ਵਧੀਆ ਹੈ, ਇਹ ਬਹੁਤ ਜ਼ਿਆਦਾ ਵਿਹਾਰਕ ਨਹੀਂ ਹੈ। ਪਰ ਇਹ ਸਭ ਕੁਝ ਇਹਨਾਂ ਨਵੇਂ ਓਪਨ ਸੋਰਸ ਮਾਡਲਾਂ ਨਾਲ ਬਦਲ ਗਿਆ ਹੈ।"

ਇੱਕ ਐਪ ਵਿੱਚ ਇੱਕ ਪੂਰਾ ਸਥਾਨਕ AI ਸਟੈਕ

ਪਰਪਲੇਕਸੀਟੀ ਕੰਪਿਊਟਰ, ਕਲਾਉਡ ਉਤਪਾਦ, ਬਹੁ-ਪੜਾਵੀ ਗਿਆਨ-ਵਰਕ ਕਾਰਜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਮਾਡਲਾਂ, ਫਾਈਲਾਂ, ਟੂਲਸ, ਅਤੇ ਵੈਬ ਐਕਸੈਸ ਨੂੰ ਆਰਕੈਸਟਰੇਟ ਕਰਦਾ ਹੈ — ਦਸਤਾਵੇਜ਼ਾਂ ਦੇ ਫੋਲਡਰਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨਾ, ਡੇਟਾ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨਾ, ਅਤੇ ਰਿਪੋਰਟਾਂ ਤਿਆਰ ਕਰਨਾ। ਪੋਰਟੇਬਲ ਕੰਪਿਊਟਰ ਸਥਾਨਕ ਮਾਡਲਾਂ, ਏਜੰਟ ਹਾਰਨੈੱਸ, ਇਨਫਰੈਂਸ ਇੰਜਣ, ਟੂਲਸ, ਐਪ ਕਨੈਕਟਰ, ਅਤੇ ਇੱਕ ਸੁਰੱਖਿਆ ਸੈਂਡਬੌਕਸ ਨੂੰ ਇੱਕ ਸਿੰਗਲ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਬੰਡਲ ਕਰਦਾ ਹੈ। ਬੰਡਲਿੰਗ ਦੇ ਮਾਮਲੇ: ਅੱਜ ਜ਼ਿਆਦਾਤਰ ਸਥਾਨਕ AI ਸਟੈਕ ਦੇ ਨਾਲ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਟੁਕੜਿਆਂ ਨੂੰ ਆਪਣੇ ਆਪ ਇਕੱਠਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ — ਵਜ਼ਨ ਡਾਊਨਲੋਡ ਕਰਨਾ, ਇੱਕ ਅਨੁਮਾਨ ਸਰਵਰ ਖੜ੍ਹਾ ਕਰਨਾ, ਅਤੇ ਵਾਇਰਿੰਗ ਟੂਲ ਇਕੱਠੇ ਕਰਨਾ।

ਇੱਕ ਪ੍ਰੈਸ ਡੈਮੋ ਵਿੱਚ, ਸਿਸਟਮ ਨੇ ਇੱਕ ਪ੍ਰਚੂਨ ਨਿਵੇਸ਼ਕ ਨੂੰ 1099s ਦੇ ਇੱਕ ਫੋਲਡਰ ਅਤੇ ਨਿਵੇਸ਼ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ - ਜਿਸ ਕਿਸਮ ਦੀ ਸੰਵੇਦਨਸ਼ੀਲ ਵਿੱਤੀ ਸਮੱਗਰੀ ਬਹੁਤ ਸਾਰੇ ਉਪਭੋਗਤਾ ਕਲਾਉਡ ਸੇਵਾ ਵਿੱਚ ਅਪਲੋਡ ਕਰਨ ਤੋਂ ਝਿਜਕਦੇ ਹਨ। ਡੀਜੀਐਕਸ ਸਪਾਰਕ 'ਤੇ ਪੂਰੀ GPU ਉਪਯੋਗਤਾ 'ਤੇ 27-ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਕਵੇਨ ਮਾਡਲ ਨੂੰ ਚਲਾਉਂਦੇ ਹੋਏ, ਏਜੰਟ ਨੇ ਉਨ੍ਹਾਂ ਮਾਮਲਿਆਂ ਨੂੰ ਫਲੈਗ ਕੀਤਾ ਜਿੱਥੇ ਨਿਵੇਸ਼ਕ ਬੇਲੋੜੀ ਫੀਸਾਂ ਦਾ ਭੁਗਤਾਨ ਕਰ ਰਿਹਾ ਸੀ। ਇੰਟਰਫੇਸ ਤੱਤ ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਕਲਾਉਡ ਕ੍ਰੈਡਿਟ ਨੂੰ ਉੱਚਾ ਕਰਦਾ ਹੈ, ਪਰਪਲੈਕਸਿਟੀ ਨੇ ਨੋਟ ਕੀਤਾ, "ਸਿਰਫ਼ ਜ਼ੀਰੋ 'ਤੇ ਪਾਰਕ ਕੀਤਾ ਗਿਆ ਹੈ।"

ਉਤਪਾਦ ਹਰਮੇਟਿਕ ਦੀ ਬਜਾਏ ਹਾਈਬ੍ਰਿਡ ਵੀ ਹੈ। ਇੱਕ ਦੂਜੇ ਡੈਮੋ ਨੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾ ਫਨਲ ਡੇਟਾ ਦੇ ਇੱਕ CSV ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ, ਫਿਰ Perplexity ਦੇ ਕਨੈਕਟਰ ਈਕੋਸਿਸਟਮ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਮੁਕੰਮਲ ਵਿਸ਼ਲੇਸ਼ਣ ਨੂੰ ਸਲੈਕ ਵੱਲ ਧੱਕ ਦਿੱਤਾ। ਸਿਸਟਮ ਗੂਗਲ ਡਰਾਈਵ, ਜੀਮੇਲ, ਅਤੇ ਗਿੱਟਹੱਬ ਨਾਲ ਜੁੜਦਾ ਹੈ, ਅਤੇ ਜਦੋਂ ਸਥਾਨਕ ਮਾਡਲ ਆਪਣੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ ਤਾਂ ਇੱਕ ਫਰੰਟੀਅਰ ਕਲਾਉਡ ਮਾਡਲ ਤੱਕ ਵਧ ਸਕਦਾ ਹੈ।

ਲੋੜਾਂ ਅਤੇ ਉਪਲਬਧਤਾ

ਲਾਂਚ ਹੋਣ 'ਤੇ, ਉਪਭੋਗਤਾ Qwen 3.8 27B ਜਾਂ PPLX 27B ਚਲਾ ਸਕਦੇ ਹਨ - ਇੱਕ ਸੰਸਕਰਣ Perplexity ਨੇ ਆਪਣੇ ਖੁਦ ਦੇ ਹਾਰਨੈਸ 'ਤੇ ਪੋਸਟ-ਟ੍ਰੇਨ ਕੀਤਾ ਹੈ - Nvidia's Nemotron 3.5 Lightning ਦੇ ਨਾਲ ਜਲਦੀ ਹੀ ਆ ਰਿਹਾ ਹੈ। ਸਿਸਟਮ ਉਹਨਾਂ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਇੱਕ ਉੱਨਤ ਮੋਡ ਦੇ ਨਾਲ, ਜੋ ਉਹਨਾਂ ਦੇ ਆਪਣੇ ਅੰਤਮ ਬਿੰਦੂ ਵਿੱਚ ਪਲੱਗ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਨ, ਹੇਠਾਂ ਅਨੁਮਾਨ ਦੀ ਮੇਜ਼ਬਾਨੀ ਕਰਨ ਲਈ vLLM ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਘੱਟੋ-ਘੱਟ 24GB VRAM ਵਾਲਾ ਕੋਈ ਵੀ RTX GPU, ਮੋਟੇ ਤੌਰ 'ਤੇ GeForce RTX 3090 ਜਾਂ ਨਵਾਂ, ਬਾਰ ਨੂੰ ਸਾਫ਼ ਕਰਦਾ ਹੈ।

ਪੋਰਟੇਬਲ ਕੰਪਿਊਟਰ ਹੁਣ ਲੀਨਕਸ 'ਤੇ ਪ੍ਰੋ, ਮੈਕਸ, ਐਂਟਰਪ੍ਰਾਈਜ਼ ਪ੍ਰੋ, ਅਤੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਮੈਕਸ ਗਾਹਕਾਂ ਲਈ ਸਤੰਬਰ ਤੋਂ ਬਾਅਦ ਵਿੰਡੋਜ਼ ਸਪੋਰਟ ਦੇ ਨਾਲ ਉਪਲਬਧ ਹੈ।

ਮਾਡਲ ਅਤੇ ਹਾਰਨੇਸ ਨੂੰ ਸਹਿ-ਡਿਜ਼ਾਈਨ ਕਰਨਾ

ਲਾਂਚ ਦੇ ਨਾਲ, ਪਰਪਲੈਕਸਿਟੀ ਨੇ ਇੱਕ ਖੋਜ ਪੱਤਰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਜਿਸ ਵਿੱਚ ਇਹ ਦਲੀਲ ਦਿੱਤੀ ਗਈ ਸੀ ਕਿ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸਥਾਨਕ ਏਜੰਟਾਂ ਨੂੰ ਮਾਡਲ ਅਤੇ ਏਜੰਟ ਦੀ ਵਰਤੋਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ - ਪ੍ਰੋਂਪਟ, ਟੂਲਸ, ਅਤੇ ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਤਰਕ ਦੀ ਸਕੈਫੋਲਡਿੰਗ - ਨੂੰ ਇਕੱਠੇ ਡਿਜ਼ਾਈਨ ਕਰਨ ਲਈ। ਆਮ-ਉਦੇਸ਼ ਵਾਲੇ ਹਾਰਨੇਸ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਨੂੰ ਮੰਨਦੇ ਹਨ ਜੋ ਵਿਸ਼ਾਲ ਸੰਦਰਭਾਂ ਨੂੰ ਜਜ਼ਬ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਫੈਲੀ ਹੋਈ ਟੂਲ ਸਤਹਾਂ ਨੂੰ ਨੈਵੀਗੇਟ ਕਰ ਸਕਦੇ ਹਨ; ਛੋਟੇ ਸਥਾਨਕ ਮਾਡਲ ਉਹਨਾਂ ਮੰਗਾਂ ਦੇ ਅਧੀਨ ਆਉਂਦੇ ਹਨ. ਪਰੇਸ਼ਾਨੀ ਨੇ ਪਾਇਆ ਕਿ ਭਾਵੇਂ ਕਿ Qwen 3.8 27B ਇੱਕ 260,000-ਟੋਕਨ ਸੰਦਰਭ ਵਿੰਡੋ ਦਾ ਇਸ਼ਤਿਹਾਰ ਦਿੰਦਾ ਹੈ, ਇਹ 100,000 ਟੋਕਨਾਂ ਤੋਂ ਅੱਗੇ ਸੰਘਰਸ਼ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ।

ਕੰਪਨੀ ਦਾ ਜਵਾਬ ਜਾਣਬੁੱਝ ਕੇ ਨਿਊਨਤਮ ਹਾਰਨੈੱਸ ਹੈ: ਇੱਕ ਸੰਖੇਪ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ, ਕੋਰ ਟੂਲਸ ਦਾ ਇੱਕ ਛੋਟਾ ਸੈੱਟ, ਅਤੇ ਸਮਰੱਥਾਵਾਂ ਜੋ ਮੰਗ 'ਤੇ "ਹੁਨਰ" ਵਜੋਂ ਲੋਡ ਅਤੇ ਅਨਲੋਡ ਕਰਦੀਆਂ ਹਨ। ਇਸ ਨੇ ਟੋਕਨ-ਹੰਗਰੀ MCP ਸਰਵਰਾਂ ਤੋਂ Gmail ਅਤੇ GitHub ਵਰਗੇ ਪ੍ਰਸਿੱਧ ਕਨੈਕਟਰਾਂ ਨੂੰ ਸੰਖੇਪ ਕਮਾਂਡ-ਲਾਈਨ ਟੂਲਸ ਵਿੱਚ ਬਦਲਿਆ, ਸਵੈ-ਤਸਦੀਕ ਹੁੱਕ ਸ਼ਾਮਲ ਕੀਤੇ, ਅਤੇ ਹਮੇਸ਼ਾ-ਆਨ OS-ਪੱਧਰ ਸੈਂਡਬਾਕਸਿੰਗ ਨੂੰ ਲਾਗੂ ਕੀਤਾ — ਜੇਕਰ ਸੈਂਡਬੌਕਸ ਉਪਲਬਧ ਨਹੀਂ ਹੈ, ਤਾਂ ਹਾਰਨੈੱਸ ਟੂਲਸ ਨੂੰ ਅਸੁਰੱਖਿਅਤ ਚਲਾਉਣ ਦੀ ਬਜਾਏ ਆਪਣੇ ਆਪ ਨੂੰ ਅਯੋਗ ਕਰ ਦਿੰਦਾ ਹੈ।

ਬੈਂਚਮਾਰਕ ਨਤੀਜੇ ਪਰੇਸ਼ਾਨੀ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਹੈਰਾਨ ਕਰਨ ਵਾਲੀਆਂ ਹਨ, ਹਾਲਾਂਕਿ ਉਹ ਕੰਪਨੀ ਦੇ ਆਪਣੇ ਮੁਲਾਂਕਣਾਂ ਤੋਂ ਆਉਂਦੀਆਂ ਹਨ. ਇਸਦੇ ਅੰਦਰੂਨੀ ਸਥਾਨਕ ਗਿਆਨ ਵਰਕ ਬੈਂਚ 'ਤੇ — ਡੂੰਘੀ ਖੋਜ, ਵਿੱਤੀ ਵਿਸ਼ਲੇਸ਼ਣ, ਅਤੇ ਦਸਤਾਵੇਜ਼ ਬਣਾਉਣ ਲਈ ਫੈਲੇ 53 ਕਾਰਜ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਪਰਪਲੇਕਸੀਟੀ ਓਪਨ-ਸੋਰਸ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੀ ਹੈ — ਡੀਜੀਐਕਸ ਸਪਾਰਕ 'ਤੇ Qwen 3.8 27B ਨੂੰ ਚਲਾਉਣ ਵਾਲੇ ਕੰਪਿਊਟਰ ਨੇ 82.6% ਸਕੋਰ ਪ੍ਰਾਪਤ ਕੀਤੇ, ਬਨਾਮ ਓਪਨ-ਸਰੋਤ ਲਈ 77.6% ਅਤੇ Pi.7 0% ਰਨਿੰਗ ਮਾਡਲ ਪਾਈ.4. Perplexity ਦੇ ਪੋਸਟ-ਟ੍ਰੇਂਡ PPLX 27B ਨੇ ਸਕੋਰ ਨੂੰ 85.4% ਤੱਕ ਧੱਕ ਦਿੱਤਾ। BrowseComp 'ਤੇ, ਇੱਕ ਵੈੱਬ ਖੋਜ ਬੈਂਚਮਾਰਕ, ਕੰਪਿਊਟਰ ਨੇ Pi ਲਈ 50.2% ਅਤੇ ਹਰਮੇਸ ਲਈ 43.9% ਦੇ ਮੁਕਾਬਲੇ 66.7% ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ, ਜਦੋਂ ਕਿ 51% ਘੱਟ ਕੰਧ ਸਮਾਂ ਅਤੇ Pi ਨਾਲੋਂ 70% ਘੱਟ ਟੋਕਨਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ।

ਟੋਕਨ ਇਕਨਾਮਿਕਸ ਡ੍ਰਾਈਵਿੰਗ ਏਜੰਟ ਸਥਾਨਕ

ਰਣਨੀਤਕ ਤਰਕ ਸਪੱਸ਼ਟ ਹੋ ਜਾਂਦਾ ਹੈ ਕਿ ਕਿਵੇਂ ਏਆਈ ਵਰਕਲੋਡ ਬਦਲ ਗਏ ਹਨ। ਚੈਟ ਫਟ ਗਈ ਸੀ — ਇੱਕ ਸਵਾਲ, ਇੱਕ ਜਵਾਬ, ਕੀਤਾ ਗਿਆ। ਏਜੰਟ ਘੰਟਿਆਂ ਬੱਧੀ ਭੱਜਦੇ ਹਨ। "ਏਜੰਟਾਂ ਦੇ ਨਾਲ, ਤੁਸੀਂ ਚਾਹੁੰਦੇ ਹੋ ਕਿ ਇਹ ਏਜੰਟ ਹਮੇਸ਼ਾ ਚਾਲੂ ਹੋਣ ਜੇ ਤੁਸੀਂ ਕਰ ਸਕਦੇ ਹੋ... ਜੋ ਅਸੀਂ ਦੇਖ ਰਹੇ ਹਾਂ ਟੋਕਨਾਂ ਦੀ ਇੱਕ ਅਸੰਤੁਸ਼ਟ ਮੰਗ ਹੈ, ਅਤੇ ਇਹ ਉਹ ਚੀਜ਼ ਹੈ ਜੋ ਸਥਾਨਕ AI ਨੂੰ ਬਹੁਤ ਵਧੀਆ ਬਣਾਉਂਦੀ ਹੈ," ਨਾਦਰ ਨੇ ਕਿਹਾ। "ਤੁਹਾਨੂੰ ਟੋਕਨ ਦੁਆਰਾ ਮੀਟਰ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ। ਤੁਸੀਂ ਟੋਕਨ ਲਈ ਭੁਗਤਾਨ ਨਹੀਂ ਕਰ ਰਹੇ ਸੀ।"

ਹਾਈਬ੍ਰਿਡ ਮੱਧ ਜ਼ਮੀਨ ਸਭ ਤੋਂ ਵਪਾਰਕ ਤੌਰ 'ਤੇ ਦਿਲਚਸਪ ਨਤੀਜਾ ਹੋ ਸਕਦਾ ਹੈ। ਟਰਮੀਨਲ ਬੈਂਚ 2.1 'ਤੇ, ਇੱਕ ਚੁਣੌਤੀਪੂਰਨ ਕੋਡਿੰਗ ਬੈਂਚਮਾਰਕ, ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਥਾਨਕ ਕਵੇਨ ਮਾਡਲ ਨੇ ਜ਼ਰੂਰੀ ਤੌਰ 'ਤੇ ਜ਼ੀਰੋ ਮਾਮੂਲੀ ਲਾਗਤ 'ਤੇ 59.6% ਸਕੋਰ ਕੀਤਾ। ਇਸ ਨੂੰ ਕਲਾਉਡ ਵਿੱਚ ਇੱਕ ਕਲਾਉਡ ਓਪਸ 5 "ਸਲਾਹਕਾਰ" ਵੱਲ ਵਧਣ ਦੇਣ ਨਾਲ ਪ੍ਰਤੀ ਟਾਸਕ ਅੰਦਾਜ਼ਨ $0.415 'ਤੇ ਸਕੋਰ ਨੂੰ 73.0% ਤੱਕ ਵਧਾਇਆ ਗਿਆ, ਜਦੋਂ ਕਿ ਇਕੱਲੇ ਫਰੰਟੀਅਰ ਮਾਡਲ ਨੂੰ ਚਲਾਉਣ ਨੇ ਪ੍ਰਤੀ ਟਾਸਕ $0.65 'ਤੇ 82.4% ਸਕੋਰ ਕੀਤਾ। ਏਸਕੇਲੇਸ਼ਨ ਨੇ ਲਗਭਗ ਦੋ-ਤਿਹਾਈ ਲਾਗਤ 'ਤੇ ਸਰਹੱਦੀ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਪਾੜੇ ਦਾ ਲਗਭਗ ਤਿੰਨ-ਪੰਜਵਾਂ ਹਿੱਸਾ ਮੁੜ ਪ੍ਰਾਪਤ ਕੀਤਾ - ਅਤੇ ਉਪਭੋਗਤਾ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਵਪਾਰ ਕਦੋਂ ਬਣਾਉਣ ਯੋਗ ਹੈ। ਕਿਸੇ ਵੀ ਸਲਾਹਕਾਰ ਕਾਲ ਤੋਂ ਪਹਿਲਾਂ, ਹਾਰਨੇਸ ਬਾਹਰ ਜਾਣ ਵਾਲੇ ਸੰਦਰਭ ਵਿੱਚ ਇੱਕ PII ਵਰਗੀਕਰਣ ਚਲਾਉਂਦਾ ਹੈ ਅਤੇ ਉਪਭੋਗਤਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਡਿਵਾਈਸ ਨੂੰ ਕੀ ਛੱਡਣਾ ਹੈ; ਰਿਮੋਟ ਮਾਡਲ ਸਿਰਫ ਟੈਕਸਟ ਮਾਰਗਦਰਸ਼ਨ ਦਿੰਦਾ ਹੈ ਅਤੇ ਕਦੇ ਵੀ ਸਥਾਨਕ ਫਾਈਲਾਂ ਜਾਂ ਟੂਲਸ ਨੂੰ ਨਹੀਂ ਛੂਹਦਾ ਹੈ।

ਐਨਵੀਡੀਆ ਨੇ ਇਸ ਗੱਲ 'ਤੇ ਵੀ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਹਾਰਡਵੇਅਰ ਇੱਕ ਸਿੰਗਲ ਬਕਸੇ ਤੋਂ ਪਰੇ ਹੈ: ਸ਼ੇਅਰਡ ਮੈਮੋਰੀ ਉੱਤੇ ਦੋ ਡੀਜੀਐਕਸ ਸਪਾਰਕਸ ਨੂੰ ਜੋੜਨਾ ਫਰੰਟੀਅਰ-ਕਲਾਸ ਓਪਨ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ ਜਿਵੇਂ ਕਿ ਡੀਪਸੀਕ ਦੇ ਨਵੀਨਤਮ, ਚਾਰ GLM 5.2 ਜਾਂ ਨੇਮੋਟ੍ਰੋਨ ਅਲਟਰਾ ਨੂੰ ਚਲਾ ਸਕਦੇ ਹਨ, ਅਤੇ ਨਾਦਰ ਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ "ਅੱਠ ਸਪਾਰਕਸ ਨੂੰ ਕਨੈਕਟ ਹੁੰਦੇ ਦੇਖਿਆ ਹੈ।"

ਜੂਨ 2025 ਵਿੱਚ Nvidia ਅਤੇ Perplexity ਦੁਆਰਾ ਯੂਰਪੀ ਪ੍ਰਕਾਸ਼ਕਾਂ ਅਤੇ ਟੈਲੀਕਾਮ ਲਈ ਇੱਕ ਸੰਪੂਰਨ AI ਸਹਿਯੋਗ ਦੀ ਘੋਸ਼ਣਾ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਲਾਂਚ ਇੱਕ ਸਾਂਝੇਦਾਰੀ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ ਜੋ ਇੱਕ ਸਾਲ ਤੋਂ ਵੱਧ ਸਮੇਂ ਤੋਂ ਬਣ ਰਿਹਾ ਹੈ। ਓਲਾਮਾ ਦੇ ਇੱਕ DIY ਸਟੈਕ, ਓਪਨ ਹਾਰਨੇਸ, ਅਤੇ ਸਵੈ-ਹੋਸਟਡ ਇਨਫਰੈਂਸ, ਪੋਰਟੇਬਲ ਕੰਪਿਊਟਰ ਦੀ ਬਾਜ਼ੀ ਅਤੇ ਐਪਲੀਕੇਸ਼ ਦਾ ਤਜਰਬਾ ਹੈ, ਜੋ ਕਿ ਇੱਕ ਮਾਡਲ ਹੈ। ਸੈਂਡਬੌਕਸ — ਉਹ ਹੈ ਜੋ ਆਖਰਕਾਰ ਸਥਾਨਕ ਏਜੰਟ ਏਆਈ ਨੂੰ ਮੁੱਖ ਧਾਰਾ ਬਣਾਉਂਦਾ ਹੈ।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →