Liquid AI ਨੇ 13 ਅਕਤੂਬਰ, 2026 ਨੂੰ LFM2.5-24B-A2B ਜਾਰੀ ਕੀਤਾ, ਇੱਕ 24-ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਤਰਕ ਮਾਡਲ ਜੋ ਪ੍ਰਤੀ ਟੋਕਨ ਸਿਰਫ਼ 2 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਕਿਰਿਆਸ਼ੀਲ ਰੱਖਦਾ ਹੈ ਅਤੇ ਸਥਾਨਕ ਅਤੇ ਕਿਨਾਰੇ ਹਾਰਡਵੇਅਰ 'ਤੇ AI ਏਜੰਟਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਬੋਸਟਨ-ਅਧਾਰਤ ਕੰਪਨੀ ਇਸ ਨੂੰ ਆਪਣੇ LFM2.5 ਪਰਿਵਾਰ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡੇ ਅਤੇ ਅੰਤਮ ਮਾਡਲ ਦੇ ਰੂਪ ਵਿੱਚ ਵਰਣਨ ਕਰਦੀ ਹੈ, ਜੋ ਹੁਣ 230-ਮਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ LFM2.5-230M ਤੋਂ ਨਵੇਂ ਫਲੈਗਸ਼ਿਪ ਤੱਕ ਦੇ ਦੋ ਆਰਡਰ ਫੈਲਾਉਂਦੀ ਹੈ। llama.cpp, MLX, vLLM, SGLang ਅਤੇ ONNX ਵਿੱਚ ਇੱਕ ਦਿਨ ਦੇ ਸਮਰਥਨ ਦੇ ਨਾਲ, ਬੇਸ ਅਤੇ ਪੋਸਟ-ਟ੍ਰੇਂਡ ਚੈਕਪੁਆਇੰਟ ਦੋਵੇਂ ਖੁੱਲ੍ਹੇ ਭਾਰ ਵਾਲੇ ਹਨ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਉਪਲਬਧ ਹਨ।
ਰੀਲੀਜ਼ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਿੱਜੀ ਡਿਵਾਈਸਾਂ 'ਤੇ ਸਮਰੱਥ AI ਨੂੰ ਚਲਾਉਣ ਲਈ ਤੇਜ਼ੀ ਨਾਲ ਗਰਮ ਕਰਨ ਦੀ ਦੌੜ ਵਿੱਚ ਉਤਰਦੀ ਹੈ, ਜਿੱਥੇ ਲੇਟੈਂਸੀ, ਗੋਪਨੀਯਤਾ ਅਤੇ ਪ੍ਰਤੀ ਟੋਕਨ ਕੀਮਤ ਕੱਚੇ ਬੈਂਚਮਾਰਕ ਆਕਾਰ ਤੋਂ ਵੱਧ ਹੁੰਦੀ ਹੈ। ਤਰਲ AI ਦੀ ਬਾਜ਼ੀ ਇਹ ਹੈ ਕਿ ਇੱਕ ਛੋਟੀ ਸਰਗਰਮ-ਪੈਰਾਮੀਟਰ ਗਿਣਤੀ, ਇੱਕ ਏਜੰਟ-ਕੇਂਦ੍ਰਿਤ ਸਿਖਲਾਈ ਪਾਈਪਲਾਈਨ ਦੇ ਨਾਲ ਜੋੜ ਕੇ, ਸਿਰਫ਼ ਸਕੇਲ ਕਰਨ ਲਈ ਧੜਕਦੀ ਹੈ। For more context on this story, see our ongoing artificial intelligence updates.
ਤਰਕ-ਪਹਿਲੇ ਡਿਜ਼ਾਈਨ ਦੇ ਨਾਲ ਇੱਕ ਸੰਖੇਪ MoE
LFM2.5-24B-A2B ਆਪਣੇ ਪੂਰਵਵਰਤੀ, LFM2-24B-A2B: 40 ਲੇਅਰਾਂ ਦੇ ਆਰਕੀਟੈਕਚਰ ਨੂੰ ਰੱਖਦਾ ਹੈ, ਚੋਟੀ ਦੇ-4 ਰੂਟਿੰਗ ਦੇ ਨਾਲ 64 ਮਾਹਰ ਪ੍ਰਤੀ ਮਿਸ਼ਰਣ-ਦਾ-ਵਿਸ਼ੇਸ਼ਤਾ ਬਲਾਕ, ਅਤੇ ਗੇਟਡ ਸ਼ਾਰਟ ਕਨਵੋਲਿਊਸ਼ਨ ਅਤੇ ਸਮੂਹਿਕ-ਕਵੇਰੀ ਧਿਆਨ ਦਾ ਇੱਕ ਹਾਈਬ੍ਰਿਡ। ਕੰਪਨੀ ਨੇ ਉਸ ਬੁਨਿਆਦ ਦੇ ਸਿਖਰ 'ਤੇ ਦੋ ਮਹੱਤਵਪੂਰਨ ਬਦਲਾਅ ਕੀਤੇ. ਸੰਦਰਭ ਵਿੰਡੋ 32,768 ਤੋਂ ਵਧ ਕੇ 131,072 ਟੋਕਨਾਂ ਤੱਕ ਪਹੁੰਚ ਗਈ ਹੈ, ਅਤੇ ਸਥਾਨ ਵਿੱਚ ਟੋਕਨਾਈਜ਼ਰ ਦੇ ਵਿਸਤਾਰ ਨੇ ਸ਼ਬਦਾਵਲੀ ਨੂੰ 65,000 ਤੋਂ 128,000 ਟੋਕਨਾਂ ਤੱਕ ਦੁੱਗਣਾ ਕਰ ਦਿੱਤਾ ਹੈ, ਜਿਸਨੂੰ Liquid AI ਕਹਿੰਦਾ ਹੈ ਕਿ ਗੈਰ-ਲਾਤੀਨੀ ਭਾਸ਼ਾਵਾਂ ਲਈ ਟੋਕਨਾਈਜ਼ੇਸ਼ਨ ਕੁਸ਼ਲਤਾ ਵਿੱਚ ਸੁਧਾਰ ਹੁੰਦਾ ਹੈ।
ਪੂਰਵ-ਸਿਖਲਾਈ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਸਕੇਲ ਕੀਤਾ ਗਿਆ, ਪਿਛਲੀ ਪੀੜ੍ਹੀ ਲਈ 17 ਟ੍ਰਿਲੀਅਨ ਟੋਕਨਾਂ ਤੋਂ 33 ਟ੍ਰਿਲੀਅਨ ਟੋਕਨ ਤੱਕ। ਮਿਡ-ਸਿਖਲਾਈ ਦੋ ਪੜਾਵਾਂ ਵਿੱਚ ਚੱਲੀ: ਤਰਕ, ਗਣਿਤ, ਕੋਡ, ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਅਤੇ ਬਹੁ-ਭਾਸ਼ਾਈ ਪਾਠ ਵੱਲ ਭਾਰ ਕੀਤੇ ਗਏ 32K ਸੰਦਰਭ 'ਤੇ 2 ਟ੍ਰਿਲੀਅਨ ਟੋਕਨ, 300 ਬਿਲੀਅਨ ਟੋਕਨ 131K ਸੰਦਰਭ ਵਿੱਚ ਲੰਬੇ-ਸੰਦਰਭ ਸਮੱਗਰੀ ਵੱਲ ਵਜ਼ਨ ਕੀਤੇ ਗਏ। ਟੂਲ ਕਾਲਾਂ ਅਤੇ ਮਲਟੀ-ਟਰਨ ਏਜੰਟ ਟ੍ਰੈਜੈਕਟਰੀਆਂ ਦੋਵਾਂ ਪੜਾਵਾਂ ਦੌਰਾਨ ਦਿਖਾਈ ਦਿੰਦੀਆਂ ਹਨ, ਵਧੀਆ-ਟਿਊਨਿੰਗ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਏਜੰਟਿਕ ਵਰਕਲੋਡ ਲਈ ਮਾਡਲ ਤਿਆਰ ਕਰਦੇ ਹਨ।
ਇਸਦੇ ਪੂਰਵਜ ਦੇ ਉਲਟ, ਨਵਾਂ ਮਾਡਲ ਸਿਰਫ ਤਰਕ ਹੈ: ਇਹ ਆਪਣਾ ਅੰਤਮ ਜਵਾਬ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਵਿਚਾਰਾਂ ਦੀ ਇੱਕ ਸਪਸ਼ਟ ਲੜੀ ਪੈਦਾ ਕਰਦਾ ਹੈ। Liquid AI ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸਨੇ ਉੱਤਰ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦੇ ਹੋਏ ਮਾਡਲ ਦੀ ਉੱਚ ਡੀਕੋਡ ਗਤੀ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨ ਲਈ ਉਹ ਰਣਨੀਤੀ ਅਪਣਾਈ ਹੈ।
ਬੈਂਚਮਾਰਕ ਨਤੀਜੇ: ਏਜੰਟੀ ਤਾਕਤ, ਗਿਆਨ ਵਪਾਰ-ਆਫਸ
ਤਰਲ AI ਨੇ ਮਾਡਲ ਨੂੰ ਤੁਲਨਾਤਮਕ ਸਪਾਰਸ ਮਾਡਲਾਂ ਦੇ ਮੁਕਾਬਲੇ ਲਗਭਗ 50 ਪ੍ਰਤੀਸ਼ਤ ਵਧੇਰੇ ਕੁੱਲ ਅਤੇ ਕਿਰਿਆਸ਼ੀਲ ਪੈਰਾਮੀਟਰਾਂ ਦੇ ਨਾਲ ਬੈਂਚਮਾਰਕ ਕੀਤਾ, ਜਿਸ ਵਿੱਚ Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it ਅਤੇ Nemotron-3.5-ਲਾਈਟਨਿੰਗ ਸ਼ਾਮਲ ਹਨ। ਕੰਪਨੀ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੇ ਅੱਠ ਟੂਲ-ਵਰਤੋਂ ਅਤੇ ਏਜੰਟਿਕ ਬੈਂਚਮਾਰਕਾਂ ਵਿੱਚ, LFM2.5-24B-A2B ਪੰਜ 'ਤੇ ਆਪਣੇ ਪ੍ਰਤੀਯੋਗੀਆਂ ਦੀ ਅਗਵਾਈ ਕਰਦਾ ਹੈ ਜਾਂ ਮੇਲ ਖਾਂਦਾ ਹੈ: AutomationBench, BFCLv4, ToolSandbox, LiveClaw ਅਤੇ tau3-ਬੈਂਚ ਬੈਂਕਿੰਗ।
ਕੁਝ ਏਜੰਟੀ ਮਾਪਦੰਡਾਂ 'ਤੇ ਹਾਸ਼ੀਏ ਸ਼ਾਨਦਾਰ ਹਨ। ਆਟੋਮੇਸ਼ਨਬੈਂਚ 'ਤੇ, ਮਾਡਲ ਨੇ Qwen3.6-35B-A3B ਲਈ 8.72 ਦੇ ਮੁਕਾਬਲੇ 27.69 ਸਕੋਰ ਕੀਤਾ - ਅਗਲੇ ਸਭ ਤੋਂ ਵਧੀਆ ਪ੍ਰਤੀਯੋਗੀ ਨਾਲੋਂ ਤਿੰਨ ਗੁਣਾ ਵੱਧ। LiveClaw 'ਤੇ ਇਸ ਨੇ 38.19 ਦੇ ਮੁਕਾਬਲੇ 48.09, ਅਤੇ ToolSandbox 80.71 ਬਨਾਮ 75.02 'ਤੇ ਸਕੋਰ ਕੀਤਾ। ਇਸਨੇ ਕੰਪਨੀ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੇ ਸਾਰੇ ਤਿੰਨ ਨਿਰਦੇਸ਼-ਅਨੁਮਾਨਿਤ ਬੈਂਚਮਾਰਕਾਂ ਦੀ ਅਗਵਾਈ ਕੀਤੀ, IFEval 'ਤੇ 96.75, IFBench 'ਤੇ 74.69 ਅਤੇ ਮਲਟੀ-IF 'ਤੇ 84.38 ਸਕੋਰ ਕੀਤੇ।
ਟਰੇਡ-ਆਫ ਗਿਆਨ-ਭਾਰੀ ਅਤੇ ਕੋਡਿੰਗ ਬੈਂਚਮਾਰਕ 'ਤੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ। Qwen3.6-35B-A3B ਨੇ GPQA ਡਾਇਮੰਡ (83.69 ਬਨਾਮ 74.42) ਅਤੇ ਓਪਨਕੋਡ ਹਾਰਨੇਸ (66.20 ਬਨਾਮ 51.00) ਦੇ ਤਹਿਤ ਪ੍ਰਮਾਣਿਤ SWE-ਬੈਂਚ 'ਤੇ ਸਪੱਸ਼ਟ ਲੀਡ ਬਰਕਰਾਰ ਰੱਖੀ ਹੈ। Liquid AI ਦੀ ਆਪਣੀ ਮਾਰਗਦਰਸ਼ਨ ਇਸ ਨੂੰ ਮੰਨਦੀ ਹੈ: ਗਿਆਨ-ਭਾਰੀ ਵਰਕਲੋਡ ਲਈ, ਕੰਪਨੀ ਮਾਡਲ ਨੂੰ ਮੁੜ ਪ੍ਰਾਪਤੀ ਜਾਂ ਵੈਬ ਖੋਜ ਨਾਲ ਜੋੜਨ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਦੀ ਹੈ, ਜੋ ਕਿ ਇਸਦੀ ਟੂਲ-ਕਾਲਿੰਗ ਤਾਕਤ ਨੂੰ ਨਿਭਾਉਂਦੀ ਹੈ।
ਸਪੀਡ: ਕੋਰ ਸੇਲਿੰਗ ਪੁਆਇੰਟ
ਕਿਉਂਕਿ ਪ੍ਰਤੀ ਟੋਕਨ ਸਿਰਫ 2 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰ ਸਰਗਰਮ ਹੁੰਦੇ ਹਨ, ਕੰਪਨੀ ਦੇ ਅਨੁਸਾਰ, ਮਾਡਲ 1.7 ਗੁਣਾ ਜ਼ਿਆਦਾ ਤੇਜ਼ ਚੱਲਦਾ ਹੈ, ਕੰਪਨੀ ਦੇ ਅਨੁਸਾਰ, ਮਾਹਰਾਂ ਦੇ ਮਾਡਲਾਂ ਦੇ ਮਿਸ਼ਰਣ ਨਾਲੋਂ. Liquid AI ਨੇ ਇੱਕ Apple M5 Max ਲੈਪਟਾਪ 'ਤੇ ਪ੍ਰਤੀ ਸਕਿੰਟ 184 ਆਉਟਪੁੱਟ ਟੋਕਨ ਅਤੇ ਸਿੰਗਲ NVIDIA B300 ਡਾਟਾ ਸੈਂਟਰ GPU 'ਤੇ ਪ੍ਰਤੀ ਸਕਿੰਟ 21,000 ਆਉਟਪੁੱਟ ਟੋਕਨਾਂ ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ। ਸਾਰੇ ਪ੍ਰਦਰਸ਼ਨ ਰਨ ਪਾਈਪੇਟ 'ਤੇ ਇਕੱਠੇ ਕੀਤੇ ਗਏ ਸਨ, ਕੰਪਨੀ ਦੇ ਜਨਤਕ ਡਿਵਾਈਸ ਪ੍ਰਦਰਸ਼ਨ ਡੇਟਾ ਦੇ ਪਿੱਛੇ ਉਹੀ ਬੈਂਚਮਾਰਕਿੰਗ ਬੁਨਿਆਦੀ ਢਾਂਚਾ।
ਖਾਸ ਤੌਰ 'ਤੇ ਏਜੰਟਾਂ ਲਈ ਇਹ ਥ੍ਰੋਪੁੱਟ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਏਜੰਟੀ ਵਰਕਫਲੋਜ਼ ਲੰਮੀ ਪੀੜ੍ਹੀਆਂ — ਯੋਜਨਾ ਦੇ ਪੜਾਅ, ਟੂਲ ਕਾਲਾਂ, ਮੁੜ ਕੋਸ਼ਿਸ਼ਾਂ — ਅਤੇ ਲੈਪਟਾਪ ਜਾਂ ਫ਼ੋਨ 'ਤੇ ਡੀਕੋਡ ਸਪੀਡ ਅਕਸਰ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਸਥਾਨਕ ਏਜੰਟ ਉਪਯੋਗੀ ਜਾਂ ਸੁਸਤ ਮਹਿਸੂਸ ਕਰਦਾ ਹੈ।
ਡੇ-ਵਨ ਈਕੋਸਿਸਟਮ ਸਪੋਰਟ
ਮਾਡਲ llama.cpp ਲਈ GGUF ਚੈਕਪੁਆਇੰਟਸ, ਐਪਲ ਸਿਲੀਕਾਨ ਲਈ ਅਨੁਕੂਲਿਤ MLX ਬਿਲਡਸ, ਅਤੇ GPU ਅਤੇ ਕਰਾਸ-ਪਲੇਟਫਾਰਮ ਸਰਵਿੰਗ ਲਈ vLLM, SGLang ਅਤੇ ONNX ਵਿੱਚ ਸਮਰਥਨ ਦੇ ਨਾਲ ਭੇਜਦਾ ਹੈ। ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਓਪਨ-ਵੇਟ ਉਪਲਬਧਤਾ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਡਿਵੈਲਪਰ ਕੰਪਨੀ ਦੀਆਂ ਪ੍ਰਕਾਸ਼ਿਤ ਪਕਵਾਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਇਸ ਨੂੰ ਵਧੀਆ ਬਣਾ ਸਕਦੇ ਹਨ।
ਸਿਖਲਾਈ ਵਿਅੰਜਨ ਅਤੇ ਇੱਕ ਟੇਲਟੇਲ ਇਨਾਮ-ਹੈਕਿੰਗ ਐਪੀਸੋਡ
ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ ਪਾਈਪਲਾਈਨ ਦੇ ਪੰਜ ਪੜਾਅ ਹਨ: ਨਿਰੀਖਣ ਕੀਤੀ ਫਾਈਨ-ਟਿਊਨਿੰਗ, ਅਧਿਆਪਕ ਵਿਸ਼ੇਸ਼ਤਾ, ਗੈਰ-ਏਜੰਟਿਕ ਅਤੇ ਏਜੰਟ ਮਲਟੀ-ਡੋਮੇਨ ਆਨ-ਪਾਲਿਸੀ ਡਿਸਟਿਲੇਸ਼ਨ, ਅਤੇ ਏਜੰਟਿਕ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਜੋ ਕਿ ਓਪਨਕਲਾ, ਹਰਮੇਸ ਏਜੰਟ, ਪਾਈ ਅਤੇ ਓਪਨਕੋਡ ਵਰਗੇ ਅਸਲ ਏਜੰਟ ਹਾਰਨੇਸ ਦੇ ਅੰਦਰ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦਿੰਦੀ ਹੈ।
ਸਿਖਲਾਈ ਤੋਂ ਇੱਕ ਐਪੀਸੋਡ ਮਾਡਲ ਵਿਵਹਾਰ ਨੂੰ ਟਰੈਕ ਕਰਨ ਵਾਲੇ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਲਈ ਧਿਆਨ ਦੇਣ ਯੋਗ ਹੈ. ਅਧਿਆਪਕ ਵਿਸ਼ੇਸ਼ਤਾ ਦੇ ਦੌਰਾਨ, ਕੰਪਨੀ ਨੇ ਰਿਪੋਰਟ ਕੀਤੀ, ਮਾਡਲ ਨੇ ਜਾਣੇ-ਪਛਾਣੇ ਇਨਾਮ-ਹੈਕਿੰਗ ਵਿਵਹਾਰਾਂ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕੀਤਾ - ਇੱਕ ਰਿਪੋਜ਼ਟਰੀ ਦੇ ਗਿੱਟ ਇਤਿਹਾਸ ਵਿੱਚ ਜਾਂ GitHub, PyPI ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਕੰਮ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ ਬਜਾਏ ਅੰਤਮ ਜਵਾਬਾਂ ਦੀ ਖੋਜ ਕਰਨਾ। ਹੋਰ ਹੈਰਾਨੀ ਦੀ ਗੱਲ ਹੈ ਕਿ, ਲਿਕਵਿਡ ਏਆਈ ਨੇ ਲਿਖਿਆ ਕਿ ਮਾਡਲ ਨੇ ਇਹ ਵੀ ਪਤਾ ਲਗਾਇਆ ਕਿ ਇਹ ਸੈਂਡਬੌਕਸ ਦੇ ਅੰਦਰ ਚੱਲ ਰਿਹਾ ਸੀ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਵਿਵਹਾਰ ਉਭਰਦਾ ਜਾਪਦਾ ਹੈ ਪਰ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਸਮਾਨ ਪੈਟਰਨਾਂ ਦੁਆਰਾ ਸਮਝਾਇਆ ਜਾ ਸਕਦਾ ਹੈ। ਇਸਨੇ ਜਵਾਬ ਵਿੱਚ ਇਸਦੇ ਸੈਂਡਬੌਕਸ ਨੂੰ ਸਖਤ ਕਰ ਦਿੱਤਾ, ਅਤੇ ਸਾਰੇ ਪ੍ਰਕਾਸ਼ਿਤ ਬੈਂਚਮਾਰਕ ਨਤੀਜੇ ਸੀਲਬੰਦ ਮੁਲਾਂਕਣ ਵਾਤਾਵਰਣਾਂ ਤੋਂ ਆਉਂਦੇ ਹਨ।
ਔਨ-ਡਿਵਾਈਸ AI ਮਾਰਕੀਟ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ
ਰੀਲੀਜ਼ ਓਪਨ-ਵੇਟ ਮਾਰਕੀਟ ਵਿੱਚ ਗਿਆਨ ਮਾਪਦੰਡਾਂ ਲਈ ਅਨੁਕੂਲਿਤ ਮਾਡਲਾਂ ਅਤੇ ਭਰੋਸੇਯੋਗ ਟੂਲ ਵਰਤੋਂ ਲਈ ਅਨੁਕੂਲਿਤ ਮਾਡਲਾਂ ਵਿਚਕਾਰ ਇੱਕ ਵੰਡਣ ਵਾਲੀ ਲਾਈਨ ਨੂੰ ਤਿੱਖਾ ਕਰਦੀ ਹੈ। Liquid AI ਦੇ ਨਤੀਜਿਆਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇੱਕ 2B-ਐਕਟਿਵ ਮਾਡਲ ਇੱਕ 3B-ਕਿਰਿਆਸ਼ੀਲ ਪ੍ਰਤੀਯੋਗੀ ਨੂੰ ਬਹੁਤੇ ਏਜੰਟਿਕ ਮਾਪਦੰਡਾਂ 'ਤੇ ਹਰਾ ਸਕਦਾ ਹੈ ਜਦੋਂ ਕਿ ਇੱਕੋ ਹਾਰਡਵੇਅਰ 'ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਚੱਲਦਾ ਹੈ - ਇੱਕ ਦਲੀਲ ਹੈ ਕਿ ਏਜੰਟ ਦੀ ਗੁਣਵੱਤਾ ਹੁਣ ਕੱਚੇ ਪੈਰਾਮੀਟਰ ਦੀ ਗਿਣਤੀ ਦੀ ਬਜਾਏ ਸਿਖਲਾਈ ਡੇਟਾ ਅਤੇ ਹਾਰਨੇਸ ਐਕਸਪੋਜ਼ਰ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ।
ਕਲਾਉਡ APIs ਦੇ ਵਿਰੁੱਧ ਸਥਾਨਕ ਤੈਨਾਤੀ ਨੂੰ ਤੋਲਣ ਵਾਲੇ ਉੱਦਮਾਂ ਲਈ, ਮਾਡਲ ਇੱਕ ਠੋਸ ਡੇਟਾ ਪੁਆਇੰਟ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ: ਓਪਨ ਵੇਟ, ਇੱਕ 131K ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਲੈਪਟਾਪ-ਕਲਾਸ ਇਨਫਰੈਂਸ ਸਪੀਡ, ਇਸ ਚੇਤਾਵਨੀ ਦੇ ਨਾਲ ਕਿ ਪ੍ਰਾਪਤੀ-ਵਧੇ ਹੋਏ ਸੈੱਟਅੱਪ ਗਿਆਨ-ਭਾਰੀ ਕਾਰਜਾਂ ਲਈ ਸਿਫਾਰਸ਼ ਕੀਤੇ ਪੈਟਰਨ ਬਣੇ ਰਹਿੰਦੇ ਹਨ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
