MLcommons ਨੇ 16 ਸਤੰਬਰ, 2026 ਨੂੰ MLPerf Inference v6.1 ਬੈਂਚਮਾਰਕ ਨਤੀਜੇ ਜਾਰੀ ਕੀਤੇ, ਅਤੇ ਸਿਰਲੇਖ NVIDIA ਦੇ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦੇ ਪਲੇਟਫਾਰਮ ਨਾਲ ਸਬੰਧਤ ਸੀ। ਇਸਦੀ ਪਹਿਲੀ-ਪਹਿਲੀ ਝਲਕ ਸਬਮਿਸ਼ਨ ਵਿੱਚ, ਵੇਰਾ ਰੂਬਿਨ NVL72 ਸਿਸਟਮ ਨੇ NVIDIA ਦੇ ਮੌਜੂਦਾ GB300 NVL72 ਫਲੈਗਸ਼ਿਪ ਦੇ ਥਰੂਪੁਟ ਤੋਂ 3.7 ਗੁਣਾ ਤੱਕ ਪਹੁੰਚਾਇਆ, NVIDIA ਦੀ ਘੋਸ਼ਣਾ ਦੇ ਅਨੁਸਾਰ, ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਸੰਕੇਤ ਹੈ ਕਿ ਬਲੈਕਵੈਲ ਅਲਟਰਾ ਦੇ ਉੱਤਰਾਧਿਕਾਰੀ ਦਾ AI ਅਨੁਮਾਨ ਅਰਥ ਸ਼ਾਸਤਰ ਲਈ ਕੀ ਅਰਥ ਹੋਵੇਗਾ।
Vera Rubin NVIDIA ਦਾ ਅਗਲਾ ਡਾਟਾ-ਸੈਂਟਰ ਪਲੇਟਫਾਰਮ ਹੈ, ਜਿਸਦਾ ਨਾਮ ਖਗੋਲ-ਭੌਤਿਕ ਵਿਗਿਆਨੀ ਲਈ ਰੱਖਿਆ ਗਿਆ ਹੈ ਜਿਸਨੇ ਹਨੇਰੇ ਪਦਾਰਥ ਲਈ ਮੁੱਖ ਸਬੂਤ ਪ੍ਰਦਾਨ ਕੀਤੇ ਹਨ। MLperf ਪ੍ਰੀਵਿਊ ਨਤੀਜੇ ਸਿਸਟਮ ਲਈ ਪਹਿਲੇ ਜਨਤਕ, ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਸੰਗਠਿਤ ਪ੍ਰਦਰਸ਼ਨ ਡੇਟਾ ਹਨ। For more context on this story, see our ongoing artificial intelligence updates.
ਡੈਬਿਊ ਦੇ ਪਿੱਛੇ ਨੰਬਰ
NVIDIA ਨੇ v6.1 ਸੂਟ ਵਿੱਚ ਦੋ ਸਭ ਤੋਂ ਵੱਧ ਮੰਗ ਵਾਲੇ ਵਰਕਲੋਡਾਂ 'ਤੇ Vera Rubin NVL72 ਪੂਰਵਦਰਸ਼ਨ ਨਤੀਜੇ ਪੇਸ਼ ਕੀਤੇ: DeepSeek-R1 ਤਰਕ ਮਾਡਲ ਅਤੇ Qwen3-VL ਵਿਜ਼ਨ-ਭਾਸ਼ਾ ਮਾਡਲ।
Qwen3-VL 'ਤੇ, Vera Rubin NVL72 ਨੇ NVIDIA ਦੇ ਡਾਇਨਾਮੋ ਓਪਨ-ਸੋਰਸ ਇਨਫਰੈਂਸ ਫਰੇਮਵਰਕ ਦੇ ਨਾਲ vLLM ਨੂੰ ਚਲਾਉਂਦੇ ਹੋਏ, ਔਫਲਾਈਨ, ਸਰਵਰ ਅਤੇ ਇੰਟਰਐਕਟਿਵ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ GB300 NVL72 ਤੋਂ 3.7 ਗੁਣਾ ਜ਼ਿਆਦਾ ਥ੍ਰਰੂਪੁਟ ਪ੍ਰਦਾਨ ਕੀਤਾ। DeepSeek-R1 'ਤੇ, NVIDIA ਦੀ TensorRT-LLM ਲਾਇਬ੍ਰੇਰੀ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਥ੍ਰੋਪੁੱਟ ਪਿਛਲੇ ਫਲੈਗਸ਼ਿਪ ਨਾਲੋਂ 2.5 ਗੁਣਾ ਵੱਧ ਸੀ।
ਦੋਵੇਂ ਅੰਕੜੇ NVIDIA ਦੇ MLCcommons 'ਕਲੋਜ਼ਡ ਡਿਵੀਜ਼ਨ' ਦੇ ਆਪਣੇ ਸਬਮਿਸ਼ਨ ਤੋਂ ਆਉਂਦੇ ਹਨ, ਮਤਲਬ ਕਿ ਉਹ MLPerf ਦੇ ਆਡਿਟ ਕੀਤੇ ਨਿਯਮਾਂ ਦੇ ਤਹਿਤ ਤਿਆਰ ਕੀਤੇ ਗਏ ਸਨ, ਹਾਲਾਂਕਿ ਪ੍ਰੀਵਿਊ ਨਤੀਜੇ ਅਜੇ ਵੀ ਅਨੁਕੂਲਿਤ ਪਲੇਟਫਾਰਮ ਦੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਸ਼ੁਰੂਆਤੀ ਮਾਪ ਹਨ।
ਲਾਭ ਕਿਵੇਂ ਬਣਦੇ ਹਨ
NVIDIA ਕਿਸੇ ਵੀ ਇੱਕ ਹਿੱਸੇ ਦੀ ਬਜਾਏ ਹਾਰਡਵੇਅਰ ਅਤੇ ਸੌਫਟਵੇਅਰ ਵਿੱਚ ਫੁੱਲ-ਸਟੈਕ ਕੋ-ਡਿਜ਼ਾਈਨ ਲਈ ਜੰਪ ਨੂੰ ਵਿਸ਼ੇਸ਼ਤਾ ਦਿੰਦਾ ਹੈ।
ਸਿਲੀਕਾਨ ਸਾਈਡ 'ਤੇ, ਵੇਰਾ ਰੂਬਿਨ ਵਿਸਤ੍ਰਿਤ ਟੈਂਸਰ ਕੋਰ ਅਤੇ ਇੱਕ ਅੱਪਡੇਟ ਕੀਤਾ ਟਰਾਂਸਫਾਰਮਰ ਇੰਜਣ ਲਿਆਉਂਦਾ ਹੈ ਜੋ ਅਨੁਮਾਨ ਦੇ ਦੋਵਾਂ ਪੜਾਵਾਂ ਨੂੰ ਤੇਜ਼ ਕਰਦਾ ਹੈ — ਕੰਪਿਊਟ-ਹੈਵੀ ਪ੍ਰੀਫਿਲ ਪੜਾਅ ਅਤੇ ਮੈਮੋਰੀ-ਬਾਊਂਡ ਡੀਕੋਡ ਪੜਾਅ। ਪਲੇਟਫਾਰਮ NVFP4 ਸ਼ੁੱਧਤਾ 'ਤੇ ਝੁਕਦਾ ਹੈ, ਜੋ ਮਾਡਲ ਵਜ਼ਨ, ਧਿਆਨ ਅਤੇ ਕੇਵੀ ਕੈਸ਼ ਦੇ ਮੈਮੋਰੀ ਫੁਟਪ੍ਰਿੰਟ ਨੂੰ ਸੁੰਗੜਦਾ ਹੈ, ਜਿਸ ਨਾਲ NVIDIA ਆਉਟਪੁੱਟ ਗੁਣਵੱਤਾ ਦੇ ਘੱਟੋ-ਘੱਟ ਨੁਕਸਾਨ ਦੇ ਤੌਰ 'ਤੇ ਵਰਣਨ ਕਰਦਾ ਹੈ।
ਸੌਫਟਵੇਅਰ ਵਾਲੇ ਪਾਸੇ, ਸਬਮਿਸ਼ਨਾਂ ਨੇ ਵੱਖੋ-ਵੱਖਰੇ ਕਾਰਜਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਜੋ ਕਿ ਡੀਪਸੀਕ-ਆਰ1 ਅਤੇ Qwen3-VL ਵਰਗੇ ਮਾਡਲਾਂ ਵਿੱਚ ਮਾਹਰਾਂ ਦੇ ਮਿਸ਼ਰਣ ਨੂੰ ਰੱਖਣ ਲਈ ਵੱਡੇ ਪੈਮਾਨੇ ਦੇ ਮਾਹਰ ਸਮਾਨਤਾ ਦੇ ਨਾਲ ਵੱਖ-ਵੱਖ ਕਾਰਜਾਂ ਲਈ ਪ੍ਰੀਫਿਲ ਅਤੇ ਡੀਕੋਡ ਨੂੰ ਵੱਖ ਕਰਦਾ ਹੈ।
ਇੰਟਰਕਨੈਕਟ ਤੀਜਾ ਥੰਮ੍ਹ ਹੈ। NVL72 ਰੈਕ ਡਿਜ਼ਾਇਨ ਛੇਵੀਂ ਪੀੜ੍ਹੀ ਦੇ NVLink ਅਤੇ NVLink ਸਵਿੱਚ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ 72 GPUs ਨੂੰ ਇੱਕ ਸਿੰਗਲ ਸਕੇਲ-ਅੱਪ ਡੋਮੇਨ ਵਿੱਚ ਜੋੜਦਾ ਹੈ, ਜਿਸਨੂੰ NVIDIA ਕਹਿੰਦਾ ਹੈ ਕਿ 10 ਗੁਣਾ ਵੱਧ ਪੈਕੇਟ ਦਰਾਂ ਅਤੇ ਆਫ-ਦੀ-ਸ਼ੈਲਫ ਈਥਰਨੈੱਟ ਨਾਲੋਂ 3 ਗੁਣਾ ਘੱਟ ਲੇਟੈਂਸੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ - ਉਹ ਫਾਊਂਡੇਸ਼ਨ ਜੋ ਰੈਕ-ਸਕੇਲ ਨੂੰ ਡਿਸਏਰੈਗਟਿਡ ਸਰਵਰਿੰਗ ਕਰਦਾ ਹੈ।
GB300 ਨੇੜੇ-ਸੰਪੂਰਨ ਸਕੇਲਿੰਗ ਦਿਖਾਉਂਦੀ ਹੈ
ਮੌਜੂਦਾ ਫਲੈਗਸ਼ਿਪ ਦੀ v6.1 ਦੌਰ ਵਿੱਚ ਆਪਣੀ ਖੁਦ ਦੀ ਖਬਰ ਸੀ। NVIDIA ਦੀ DeepSeek-R1 ਸਬਮਿਸ਼ਨ ਨੂੰ ਇੱਕ ਸਿੰਗਲ GB300 NVL72 ਰੈਕ — 72 GPUs — ਤੋਂ ਚਾਰ ਰੈਕ, 288 GPUs ਤੱਕ ਸਕੇਲ ਕੀਤਾ ਗਿਆ ਹੈ, ਔਫਲਾਈਨ ਦ੍ਰਿਸ਼ ਵਿੱਚ 99 ਪ੍ਰਤੀਸ਼ਤ ਸਕੇਲਿੰਗ ਕੁਸ਼ਲਤਾ ਨੂੰ ਪ੍ਰਾਪਤ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ ਕਿ ਹਾਰਡਵੇਅਰ ਦੇ ਅਨੁਪਾਤ ਵਿੱਚ ਲਗਭਗ ਵਧ ਰਿਹਾ ਹੈ।
ਸਕੇਲਿੰਗ ਕੁਸ਼ਲਤਾ ਇੱਕ ਮੀਟ੍ਰਿਕ ਡੇਟਾ-ਸੈਂਟਰ ਓਪਰੇਟਰਾਂ ਨੂੰ ਨੇੜਿਓਂ ਦੇਖਦੇ ਹਨ ਕਿਉਂਕਿ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਕੀ ਹੋਰ ਹਾਰਡਵੇਅਰ ਖਰੀਦਣਾ ਅਸਲ ਵਿੱਚ ਅਨੁਪਾਤਕ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਸਮਰੱਥਾ ਖਰੀਦਦਾ ਹੈ। ਰੈਕਾਂ ਦੇ ਪਾਰ ਨੇੜੇ-ਰੇਖਿਕ ਸਕੇਲਿੰਗ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ ਕਿ ਅੰਤਰ-ਰੈਕ ਸੰਚਾਰ ਦੀ ਬਜਾਏ ਇਸ ਪੈਮਾਨੇ 'ਤੇ ਰੁਕਾਵਟ ਪ੍ਰਤੀ-ਜੀਪੀਯੂ ਕਾਰਗੁਜ਼ਾਰੀ ਬਣੀ ਰਹਿੰਦੀ ਹੈ।
ਸੌਫਟਵੇਅਰ ਕੰਪਾਊਂਡਿੰਗ ਰੱਖਦਾ ਹੈ
MLPerf ਰਾਉਂਡਾਂ ਵਿੱਚ ਇੱਕ ਆਵਰਤੀ ਪੈਟਰਨ ਦੁਬਾਰਾ ਆਯੋਜਿਤ ਕੀਤਾ ਗਿਆ: ਇੱਕਲੇ ਸੌਫਟਵੇਅਰ ਸੁਧਾਰਾਂ ਨੇ ਹੀ NVIDIA ਦੇ v6.1 ਸਬਮਿਸ਼ਨ ਵਿੱਚ v6.0 ਦੀ ਤੁਲਨਾ ਵਿੱਚ 1.6 ਗੁਣਾ ਵੱਧ ਪ੍ਰਦਰਸ਼ਨ ਦਿੱਤਾ, ਅਤੇ ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਅਨੁਕੂਲਤਾਵਾਂ v6.1 ਸਬਮਿਸ਼ਨ ਦੀ ਆਖਰੀ ਮਿਤੀ ਤੋਂ ਬਾਅਦ ਆਉਣਾ ਜਾਰੀ ਰੱਖਦੀਆਂ ਹਨ, ਹੋਰ ਲਾਭ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।
ਖਰੀਦਦਾਰਾਂ ਲਈ, ਅਰਥ ਇਹ ਹੈ ਕਿ ਇੱਕ ਦਿੱਤਾ ਗਿਆ ਰੈਕ ਹਾਰਡਵੇਅਰ ਰਿਫਰੈਸ਼ ਤੋਂ ਬਿਨਾਂ ਆਪਣੇ ਜੀਵਨ ਕਾਲ ਵਿੱਚ ਤੇਜ਼ ਹੋ ਜਾਂਦਾ ਹੈ - ਇੱਕ ਗਤੀਸ਼ੀਲ NVIDIA ਨੇ ਇਹ ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਸਾਫਟਵੇਅਰ ਸਟੈਕ ਦੇ ਪਰਿਪੱਕ ਹੋਣ 'ਤੇ ਇਸਦਾ ਸਥਾਪਿਤ ਅਧਾਰ ਘਟਣ ਦੀ ਬਜਾਏ ਕਦਰ ਕਰਦਾ ਹੈ।
ਏਜੰਟਿਕ ਵਰਕਲੋਡ ਬੈਂਚਮਾਰਕਸ ਨੂੰ ਮੁੜ ਆਕਾਰ ਦਿੰਦੇ ਹਨ
v6.1 ਗੇੜ ਨੇ ਇਸ ਵਿੱਚ ਇੱਕ ਤਬਦੀਲੀ ਨੂੰ ਵੀ ਦਰਸਾਇਆ ਕਿ ਕਿਸ ਅਨੁਮਾਨ ਲਈ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ। NVIDIA ਨੇ SemiAnalysis ਦੇ AgentX ਬੈਂਚਮਾਰਕ 'ਤੇ ਪ੍ਰੀਵਿਊ ਟੈਸਟਿੰਗ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ, ਜੋ ਕਿ AI ਏਜੰਟਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ ਕਿ ਕਈ ਪੜਾਵਾਂ 'ਤੇ ਕਾਰਨ, ਯੋਜਨਾ ਬਣਾਉਂਦਾ ਹੈ ਅਤੇ ਕੰਮ ਕਰਦਾ ਹੈ, ਜਿੱਥੇ ਇਹ ਕਹਿੰਦਾ ਹੈ ਕਿ ਵੇਰਾ ਰੂਬਿਨ NVL72 ਨੇ GB300 NVL72 ਦੀ 30 ਗੁਣਾ ਕਾਰਗੁਜ਼ਾਰੀ ਪ੍ਰਦਾਨ ਕੀਤੀ ਹੈ।
MLCcommons ਇਸ ਸ਼ਿਫਟ ਲਈ ਇੱਕ ਸਮਰਪਿਤ ਬੈਂਚਮਾਰਕ ਵੀ ਤਿਆਰ ਕਰ ਰਿਹਾ ਹੈ: ਆਗਾਮੀ MLPerf ਐਂਡਪੁਆਇੰਟ ਬੈਂਚਮਾਰਕ ਦਾ ਉਦੇਸ਼ ਏਜੰਟਿਕ ਅਨੁਮਾਨ ਵਰਕਲੋਡਾਂ ਦੇ ਮਾਪ ਨੂੰ ਮਾਨਕੀਕਰਨ ਕਰਨਾ ਹੈ ਜੋ ਰਵਾਇਤੀ ਥ੍ਰਰੂਪੁਟ ਟੈਸਟ ਮਾੜੇ ਢੰਗ ਨਾਲ ਕੈਪਚਰ ਕਰਦੇ ਹਨ। ਜਿਵੇਂ ਕਿ ਅਨੁਮਾਨ ਸਿੰਗਲ-ਪ੍ਰੋਂਪਟ ਚੈਟ ਤੋਂ ਲੰਬੇ ਮਲਟੀ-ਸਟੈਪ ਏਜੰਟ ਸੈਸ਼ਨਾਂ ਵੱਲ ਵਧਦਾ ਹੈ, ਲੇਟੈਂਸੀ ਅਤੇ ਇੰਟਰਐਕਟਿਵ ਇਕਸਾਰਤਾ ਪ੍ਰਤੀ ਸਕਿੰਟ ਕੱਚੇ ਟੋਕਨਾਂ ਦੇ ਬਰਾਬਰ ਹੈ - ਅਤੇ ਬੈਂਚਮਾਰਕ ਉਸ ਅਨੁਸਾਰ ਦੁਬਾਰਾ ਬਣਾਏ ਜਾ ਰਹੇ ਹਨ।
ਨੇਬੀਅਸ ਅਤੇ ਈਕੋਸਿਸਟਮ ਜਲਦੀ ਪਹੁੰਚਦੇ ਹਨ
ਕਲਾਉਡ ਪ੍ਰਦਾਤਾ ਨੇਬੀਅਸ ਨੇ ਵੇਰਾ ਰੂਬਿਨ NVL72 ਪ੍ਰੀਵਿਊ ਨਤੀਜੇ ਵੀ ਪੇਸ਼ ਕੀਤੇ, ਜਿਨ੍ਹਾਂ ਨੂੰ NVIDIA ਨੇ ਮਜ਼ਬੂਤ ਸ਼ੁਰੂਆਤੀ ਈਕੋਸਿਸਟਮ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਸਬੂਤ ਵਜੋਂ ਉਜਾਗਰ ਕੀਤਾ। ਸ਼ੁਰੂਆਤੀ ਥਰਡ-ਪਾਰਟੀ ਸਬਮਿਸ਼ਨ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਗੱਲ ਦਾ ਸੰਕੇਤ ਹਨ ਕਿ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦੇ ਸਿਸਟਮ ਲੈਬ ਸੈਂਪਲਿੰਗ ਤੋਂ ਵਿਆਪਕ ਉਪਲਬਧਤਾ ਵੱਲ ਵਧ ਰਹੇ ਹਨ, ਹਾਲਾਂਕਿ ਨਾ ਤਾਂ NVIDIA ਦੀ ਪੋਸਟ ਅਤੇ ਨਾ ਹੀ MLCcommons ਦੀ ਰੀਲੀਜ਼ ਆਮ-ਉਪਲਬਧਤਾ ਸਮਾਂ ਨਿਰਧਾਰਤ ਕਰਦੀ ਹੈ।
ਇਹ ਏਆਈ ਅਰਥ ਸ਼ਾਸਤਰ ਲਈ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ
NVIDIA ਆਮਦਨੀ ਦੀਆਂ ਸ਼ਰਤਾਂ ਵਿੱਚ ਨਤੀਜਿਆਂ ਨੂੰ ਫਰੇਮ ਕਰਦਾ ਹੈ: ਹਰੇਕ ਵੇਰਾ ਰੂਬਿਨ NVL72 ਰੈਕ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਟੋਕਨ ਤਿਆਰ ਕਰਦਾ ਹੈ, ਵਧੇਰੇ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਸੇਵਾ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕ GB300 NVL72 ਰੈਕ ਦੇ ਮੁਕਾਬਲੇ ਪ੍ਰਤੀ ਟੋਕਨ ਦੀ ਲਾਗਤ ਘੱਟ ਕਰਦਾ ਹੈ। ਇੱਕ ਉਦਯੋਗ ਵਿੱਚ ਜਿੱਥੇ ਅਨੁਮਾਨ ਦੀ ਮੰਗ ਤਰਕ ਦੇ ਮਾਡਲਾਂ ਅਤੇ ਏਜੰਟ ਵਰਕਲੋਡਾਂ ਦੁਆਰਾ ਚਲਾਈ ਜਾ ਰਹੀ ਹੈ ਜੋ ਸਧਾਰਨ ਚੈਟ ਨਾਲੋਂ ਪ੍ਰਤੀ ਪੁੱਛਗਿੱਛ ਨਾਲੋਂ ਵੱਧ ਗਣਨਾ ਦੇ ਆਦੇਸ਼ਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਪ੍ਰਤੀ-ਰੈਕ ਥ੍ਰਰੂਪੁਟ ਉਹ ਸੰਖਿਆ ਹੈ ਜੋ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦੀ ਹੈ ਕਿ ਇੱਕ ਨਿਸ਼ਚਿਤ ਡੇਟਾ-ਸੈਂਟਰ ਬਜਟ ਕਿੰਨੇ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਸੇਵਾ ਕਰ ਸਕਦਾ ਹੈ।
ਆਮ ਚੇਤਾਵਨੀਆਂ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ: ਇਹ NVIDIA ਦੁਆਰਾ ਚੁਣੇ ਗਏ ਦੋ ਮਾਡਲਾਂ 'ਤੇ, ਇੱਕ ਪੂਰਵਦਰਸ਼ਨ ਦੌਰ ਵਿੱਚ ਵਿਕਰੇਤਾ ਦੀਆਂ ਸਬਮਿਸ਼ਨਾਂ ਹਨ, ਓਪਟੀਮਾਈਜੇਸ਼ਨਾਂ ਅਜੇ ਵੀ ਉਤਰ ਰਹੀਆਂ ਹਨ। ਪਰ ਦਿਸ਼ਾ ਅਸਪਸ਼ਟ ਹੈ. ਵੇਰਾ ਰੂਬਿਨ 'ਤੇ MLPerf ਦੀ ਪਹਿਲੀ ਨਜ਼ਰ 2023 ਤੋਂ AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨ ਵਾਲੇ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਚੜ੍ਹਾਈ ਦਾ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ - ਅਤੇ ਇਹ ਕਿ ਅਗਲਾ ਰੈਕ-ਰਿਫਰੇਸ਼ ਚੱਕਰ AI ਨੂੰ ਸਕੇਲ 'ਤੇ ਸੇਵਾ ਕਰਨ ਦੇ ਅਰਥ ਸ਼ਾਸਤਰ ਨੂੰ ਦੁਬਾਰਾ ਸੈੱਟ ਕਰੇਗਾ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
