ਸੇਰੇਬਰਾਸ ਨੇ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਇੰਜਨੀਅਰਿੰਗ ਬ੍ਰੇਕਡਾਊਨ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਹੈ ਕਿ ਇਹ ਕਿਵੇਂ ਆਪਣੇ ਵੇਫਰ-ਸਕੇਲ ਹਾਰਡਵੇਅਰ 'ਤੇ ਟ੍ਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ AI ਮਾਡਲਾਂ ਨੂੰ ਤੈਨਾਤ ਕਰਦਾ ਹੈ - ਉਹਨਾਂ ਮਾਡਲਾਂ ਲਈ ਅਲਟਰਾਫਾਸਟ ਅਨੁਮਾਨ ਦੇ ਪਿੱਛੇ ਪਲੰਬਿੰਗ 'ਤੇ ਇੱਕ ਦੁਰਲੱਭ ਜਨਤਕ ਨਜ਼ਰ ਜਿਸ ਦੇ ਵਜ਼ਨ ਲਈ ਇਕੱਲੇ ਟੈਰਾਬਾਈਟ ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਸਾਰਾਹ ਚਿਆਂਗ ਦੁਆਰਾ ਲਿਖੀ ਗਈ ਅਤੇ 22 ਅਕਤੂਬਰ 2026 ਨੂੰ ਸੇਰੇਬ੍ਰਾਸ ਬਲੌਗ 'ਤੇ ਪ੍ਰਕਾਸ਼ਤ ਪੋਸਟ, ਹੈਕਰ ਨਿਊਜ਼ ਦੇ ਪਹਿਲੇ ਪੰਨੇ 'ਤੇ ਪਹੁੰਚਣ ਤੋਂ ਬਾਅਦ ਹਫਤੇ ਦੇ ਅੰਤ ਵਿੱਚ ਨਵਾਂ ਧਿਆਨ ਖਿੱਚਿਆ ਗਿਆ। ਇਸਦਾ ਕੇਂਦਰੀ ਸਵਾਲ ਸਧਾਰਨ ਹੈ: ਇੱਕ ਸਿੰਗਲ ਸੇਰੇਬਰਾਸ WSE-3T ਵੇਫਰ ਵਿੱਚ 44 GB ਆਨ-ਚਿੱਪ ਮੈਮੋਰੀ ਹੁੰਦੀ ਹੈ, ਪਰ ਟ੍ਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਵਜ਼ਨ ਨੂੰ ਸਟੋਰ ਕਰਨ ਲਈ ਸਿਰਫ਼ ਟੈਰਾਬਾਈਟ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਤੁਸੀਂ ਉਸ ਪਾੜੇ ਨੂੰ ਕਿਵੇਂ ਭਰਦੇ ਹੋ? For more context on this story, see our ongoing AI news.
ਟ੍ਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਮਾਡਲ ਆਮ ਹਾਰਡਵੇਅਰ ਨੂੰ ਕਿਉਂ ਤੋੜਦੇ ਹਨ
ਜਵਾਬ ਰਵਾਇਤੀ ਐਕਸੀਲੇਟਰਾਂ ਲਈ ਇੱਕ ਅਸੁਵਿਧਾਜਨਕ ਸੱਚਾਈ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ: ਪੂਰੀ ਸ਼ੁੱਧਤਾ 'ਤੇ, ਤਿੰਨ ਟ੍ਰਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲਾ ਇੱਕ ਮਾਡਲ ਮਾਰਕੀਟ ਵਿੱਚ ਕਿਸੇ ਇੱਕ ਚਿੱਪ ਦੀ ਯਾਦ ਵਿੱਚ ਫਿੱਟ ਨਹੀਂ ਹੋ ਸਕਦਾ। GPU ਕਲੱਸਟਰ ਬਹੁਤ ਸਾਰੇ ਡਿਵਾਈਸਾਂ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਵੰਡ ਕੇ ਅਤੇ ਉੱਚ-ਸਪੀਡ ਇੰਟਰਕਨੈਕਟਾਂ 'ਤੇ ਲਗਾਤਾਰ ਵਜ਼ਨ ਅਤੇ ਐਕਟੀਵੇਸ਼ਨ ਭੇਜ ਕੇ ਇਸਦਾ ਹੱਲ ਕਰਦੇ ਹਨ - ਵੱਡੇ ਮਾਡਲਾਂ 'ਤੇ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣਾ ਮਹਿੰਗਾ ਅਤੇ ਹੌਲੀ ਕਿਉਂ ਹੈ ਇਸਦਾ ਇੱਕ ਵੱਡਾ ਹਿੱਸਾ।
ਸੇਰੇਬ੍ਰਾਸ ਇੱਕ ਵੱਖਰੀ ਪਹੁੰਚ ਲੈਂਦਾ ਹੈ। ਇਸ ਦੀਆਂ ਵੇਫਰ-ਸਕੇਲ ਚਿਪਸ ਆਨ-ਚਿੱਪ SRAM - 44 GB ਪ੍ਰਤੀ WSE-3T ਵੇਫਰ ਦੀ ਭਾਰੀ ਮਾਤਰਾ ਵਿੱਚ ਪੈਕ ਕਰਦੀਆਂ ਹਨ - ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕੰਪਨੀ ਦਾ ਟੀਚਾ ਵਜ਼ਨ ਰੈਜ਼ੀਡੈਂਟ ਆਨ-ਚਿੱਪ ਨੂੰ ਰੱਖਣਾ ਹੈ, ਜਿੱਥੇ ਮੈਮੋਰੀ ਐਕਸੈਸ ਕਿਸੇ ਵੀ ਆਫ-ਚਿੱਪ ਲਿੰਕ ਨਾਲੋਂ ਨਾਟਕੀ ਤੌਰ 'ਤੇ ਤੇਜ਼ ਹੁੰਦੀ ਹੈ।
ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਆਰਕੀਟੈਕਚਰ ਇਸਨੂੰ 1,000 ਤੋਂ 2,000+ ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ 'ਤੇ ਮਲਟੀ-ਟਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਦਿੰਦਾ ਹੈ।
ਕਿਮੀ K3 ਕੰਮ ਕੀਤੀ ਉਦਾਹਰਨ ਵਜੋਂ
ਸਪੱਸ਼ਟੀਕਰਨ ਨੂੰ ਠੋਸ ਬਣਾਉਣ ਲਈ, ਸੇਰੇਬਰਾਸ ਲਗਭਗ 3 ਟ੍ਰਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲਾ ਇੱਕ ਓਪਨ-ਸੋਰਸ ਮਾਡਲ, Kimi K3 ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਦੁਆਰਾ ਚੱਲਦਾ ਹੈ। ਮਾਡਲ ਇੱਕ ਹਾਈਬ੍ਰਿਡ ਆਰਕੀਟੈਕਚਰ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ: 69 ਰੇਖਿਕ-ਧਿਆਨ ਦੀਆਂ ਪਰਤਾਂ ਅਤੇ 24 ਸੰਘਣੀ ਪਰਤਾਂ।
ਬੈਂਚਮਾਰਕ ਨਤੀਜਿਆਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਬਲੌਗ ਕਹਿੰਦਾ ਹੈ ਕਿ ਕਿਮੀ ਕੇ3 ਨੇ ਟਰਮੀਨਲ-ਬੈਂਚ 2.1 'ਤੇ 88.3% ਸਕੋਰ - GPT-5.6 ਸੋਲ ਦੇ 88.8% ਤੋਂ ਬਿਲਕੁਲ ਪਿੱਛੇ - ਅਤੇ BrowseComp 'ਤੇ 91.2%, GPT-5.6 Sol ਦੇ 90.4% ਤੋਂ ਅੱਗੇ। ਉਹ ਨੰਬਰ, ਸੇਰੇਬ੍ਰਾਸ ਦਾ ਤਰਕ ਹੈ, ਇੱਕ ਓਪਨ-ਵੇਟ ਮਾਡਲ ਵਿੱਚ ਫਰੰਟੀਅਰ-ਪੱਧਰ ਦੀ ਕੋਡਿੰਗ ਅਤੇ ਏਜੰਟ ਸਮਰੱਥਾ ਦਿਖਾਉਂਦੇ ਹਨ, ਜੋ ਇਸਨੂੰ ਇੱਕ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਦਾ ਟੀਚਾ ਬਣਾਉਂਦਾ ਹੈ।
ਕੰਮ ਕੀਤੀ ਉਦਾਹਰਨ ਇੱਕ 256,000-ਟੋਕਨ ਔਸਤ ਬੇਨਤੀ ਆਕਾਰ, 4-ਬਿੱਟ ਵਜ਼ਨ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ (ਹੱਗਿੰਗ ਫੇਸ ਲਾਗੂ ਕਰਨ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਹੈ) ਅਤੇ ਇੱਕ 8-ਬਿੱਟ ਕੇਵੀ ਕੈਸ਼ ਮੰਨਦੀ ਹੈ।
ਇੱਕ 3T ਮਾਡਲ ਨੂੰ 44 GB ਦੇ ਟੁਕੜਿਆਂ ਵਿੱਚ ਕੱਟਣਾ
ਅੰਕਗਣਿਤ ਪੋਸਟ ਦਾ ਸਭ ਤੋਂ ਰੋਸ਼ਨੀ ਵਾਲਾ ਹਿੱਸਾ ਹੈ। 4 ਬਿੱਟ ਪ੍ਰਤੀ ਪੈਰਾਮੀਟਰ 'ਤੇ, Kimi K3 ਦੇ 3 ਟ੍ਰਿਲੀਅਨ ਪੈਰਾਮੀਟਰ ਕੱਚੇ ਵਜ਼ਨ ਦੇ ਲਗਭਗ 1.5 TB ਦੇ ਬਰਾਬਰ ਹਨ। ਮਾਡਲ ਦੀਆਂ 93 ਲੇਅਰਾਂ ਵਿੱਚ ਵੰਡਿਆ ਹੋਇਆ, ਹਰੇਕ ਲੇਅਰ ਨੂੰ ਲਗਭਗ 16 GB ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਇਹ ਹਰੇਕ ਵੇਫਰ 'ਤੇ ਉਪਲਬਧ 44 GB ਵਿੱਚ ਚੰਗੀ ਤਰ੍ਹਾਂ ਫਿੱਟ ਬੈਠਦਾ ਹੈ, ਪਰ ਦੋ ਲੇਅਰ ਕਿਸਮਾਂ ਵੱਖੋ-ਵੱਖਰੀਆਂ ਵੰਡਦੀਆਂ ਹਨ:
- ਸੰਘਣੀ ਪਰਤਾਂ ਨੂੰ ਇੱਕ KV ਕੈਸ਼ ਲਈ ਕਮਰੇ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਕਿਉਂਕਿ ਪੂਰਾ ਧਿਆਨ ਹਰੇਕ ਕਿਰਿਆਸ਼ੀਲ ਬੇਨਤੀ ਵਿੱਚ ਹਰੇਕ ਟੋਕਨ ਲਈ ਕੁੰਜੀਆਂ ਅਤੇ ਮੁੱਲਾਂ ਨੂੰ ਸਟੋਰ ਕਰਦਾ ਹੈ। ਸੇਰੇਬਰਾਸ ਪ੍ਰਤੀ ਵੇਫਰ ਇੱਕ ਸੰਘਣੀ ਪਰਤ ਰੱਖਦਾ ਹੈ, ਉਸ ਕੈਸ਼ ਲਈ ਬਾਕੀ SRAM ਛੱਡਦਾ ਹੈ।
- ਲੀਨੀਅਰ-ਧਿਆਨ ਦੇਣ ਵਾਲੀਆਂ ਪਰਤਾਂ ਸੰਦਰਭ ਲੰਬਾਈ ਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ ਪ੍ਰਤੀ ਬੇਨਤੀ ਸਿਰਫ ਇੱਕ ਛੋਟੀ, ਸਥਿਰ-ਆਕਾਰ ਦੀ ਸਥਿਤੀ ਰੱਖਦੀਆਂ ਹਨ, ਇਸਲਈ ਕਿਸੇ KV ਕੈਸ਼ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇਹ ਪ੍ਰਤੀ ਵੇਫਰ ਦੋ ਲੀਨੀਅਰ ਲੇਅਰਾਂ ਲਈ ਜਗ੍ਹਾ ਛੱਡਦਾ ਹੈ।
69 ਲੀਨੀਅਰ ਲੇਅਰਾਂ ਅਤੇ 24 ਸੰਘਣੀ ਪਰਤਾਂ ਦੇ ਨਾਲ, ਮਾਡਲ ਰੇਖਿਕ ਪਰਤਾਂ ਲਈ 35 ਵੇਫਰਾਂ ਅਤੇ ਸੰਘਣੀ ਪਰਤਾਂ ਲਈ 24 ਵੇਫਰਾਂ ਦਾ ਨਕਸ਼ਾ ਬਣਾਉਂਦਾ ਹੈ — ਕਿਮੀ K3 ਦੀ ਇੱਕ ਕਾਪੀ ਲਈ ਕੁੱਲ 59 ਵੇਫਰ।
ਵਜ਼ਨ ਕਦੇ ਨਹੀਂ ਹਿੱਲਦਾ — ਸਿਰਫ਼ ਸਰਗਰਮੀਆਂ ਹੀ ਕਰਦੀਆਂ ਹਨ
ਦੂਜਾ ਮੁੱਖ ਵਿਚਾਰ ਇਹ ਹੈ ਕਿ ਸੇਰੇਬਰਾਸ ਕੀ ਕਰਦਾ ਹੈ - ਅਤੇ ਕੀ ਨਹੀਂ - ਉਹਨਾਂ 59 ਵੇਫਰਾਂ ਵਿਚਕਾਰ ਭੇਜਦਾ ਹੈ। ਕੰਪਨੀ ਮਾਡਲਾਂ ਨੂੰ ਇੱਕ ਪਾਈਪਲਾਈਨ ਦੇ ਤੌਰ 'ਤੇ ਚਲਾਉਂਦੀ ਹੈ: ਕੰਪਾਈਲਰ ਵੇਫਰਾਂ ਦੇ ਖੇਤਰਾਂ 'ਤੇ ਪਰਤਾਂ ਨੂੰ ਮੈਪ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਰਨਟਾਈਮ ਚਾਰਟ ਪਾਥ ਟੋਕਨ ਵੇਫਰ ਤੋਂ ਵੇਫਰ ਤੱਕ ਲੈ ਜਾਂਦਾ ਹੈ।
ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ, ਕਿਉਂਕਿ ਹਰੇਕ ਪਰਤ ਇੱਕ ਵੇਫਰ (ਜਾਂ ਦੋ, ਲੀਨੀਅਰ ਲੇਅਰਾਂ ਲਈ) 'ਤੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਫਿੱਟ ਹੁੰਦੀ ਹੈ, ਮਾਡਲ ਵਜ਼ਨ ਨੂੰ ਕਦੇ ਵੀ ਹਿੱਲਣਾ ਨਹੀਂ ਪੈਂਦਾ। ਪਰਤਾਂ ਵੇਫਰਾਂ ਵਿੱਚ ਵੰਡੀਆਂ ਨਹੀਂ ਜਾਂਦੀਆਂ। ਸਿਰਫ਼ ਐਕਟੀਵੇਸ਼ਨ ਹੀ ਇੱਕ ਵੇਫਰ ਤੋਂ ਦੂਜੇ ਤੱਕ ਜਾਂਦੇ ਹਨ, ਲਗਭਗ 2 ਮਾਈਕ੍ਰੋਸਕਿੰਡ ਦੇ ਹੌਪ ਟਾਈਮ ਦੇ ਨਾਲ ਸਟੈਂਡਰਡ ਈਥਰਨੈੱਟ 'ਤੇ RDMA ਉੱਤੇ ਲਿਜਾਇਆ ਜਾਂਦਾ ਹੈ।
ਉਹ ਡਿਜ਼ਾਈਨ ਪੁਆਇੰਟ ਸੇਰੇਬ੍ਰਾਸ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਦਾਅਵਿਆਂ ਬਾਰੇ ਬਹੁਤ ਕੁਝ ਦੱਸਦਾ ਹੈ। GPU ਤੈਨਾਤੀਆਂ ਵਿੱਚ, ਯੰਤਰਾਂ ਵਿਚਕਾਰ ਵਜ਼ਨ ਜਾਂ ਸ਼ਾਰਡਿੰਗ ਸਥਿਤੀ ਅਕਸਰ ਰੁਕਾਵਟ ਹੁੰਦੀ ਹੈ; ਸੇਰੇਬ੍ਰਾਸ ਹਾਰਡਵੇਅਰ 'ਤੇ, ਇੰਟਰਕਨੈਕਟ ਸਿਰਫ ਕਦੇ ਵੀ ਬਹੁਤ ਛੋਟੇ ਐਕਟੀਵੇਸ਼ਨ ਟੈਂਸਰਾਂ ਨੂੰ ਰੱਖਦਾ ਹੈ।
ਇਹ ਇਨਫਰੈਂਸ ਮਾਰਕੀਟ ਲਈ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ
ਪੋਸਟ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਇੱਕ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿਆਖਿਆਕਾਰ ਹੈ ਅਤੇ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਇੱਕ ਦਲੀਲ ਹੈ: ਕਿ ਵੇਫਰ-ਸਕੇਲ SRAM ਉਦਯੋਗ ਦੁਆਰਾ ਭੇਜੇ ਜਾ ਰਹੇ ਵੱਧ ਰਹੇ ਵਿਸ਼ਾਲ ਮਾਡਲਾਂ ਦੀ ਸੇਵਾ ਕਰਨ ਦਾ ਇੱਕ ਭਰੋਸੇਯੋਗ ਤਰੀਕਾ ਹੈ। ਜਿਵੇਂ ਕਿ ਓਪਨ-ਵੇਟ ਰੀਲੀਜ਼ ਜਿਵੇਂ ਕਿ ਕਿਮੀ K3 ਤਿੰਨ ਟ੍ਰਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਤੱਕ ਪਹੁੰਚਦੀ ਹੈ, ਮੈਮੋਰੀ ਵਾਲ ਇਨਫਰੈਂਸ ਅਰਥ ਸ਼ਾਸਤਰ ਦੀ ਪਰਿਭਾਸ਼ਿਤ ਰੁਕਾਵਟ ਬਣ ਜਾਂਦੀ ਹੈ, ਅਤੇ ਉਹ ਪਹੁੰਚ ਜੋ ਵਜ਼ਨ ਨੂੰ ਸਥਿਰ ਰੱਖਦੇ ਹਨ ਪ੍ਰਤੀ-ਟੋਕਨ ਸਪੀਡ 'ਤੇ ਇੱਕ ਢਾਂਚਾਗਤ ਫਾਇਦਾ ਹੁੰਦਾ ਹੈ।
ਇਹ ਇਹ ਵੀ ਰੇਖਾਂਕਿਤ ਕਰਦਾ ਹੈ ਕਿ ਮਾਤਰਾਕਰਨ 'ਤੇ ਕਿੰਨਾ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਸਮੁੱਚੀ ਤੈਨਾਤੀ 4-ਬਿੱਟ ਵਜ਼ਨ ਅਤੇ 8-ਬਿੱਟ ਕੇਵੀ ਕੈਸ਼ 'ਤੇ ਟਿਕੀ ਹੋਈ ਹੈ - ਤਕਨੀਕਾਂ ਜੋ ਬੈਂਚਮਾਰਕ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਦੇ ਹੋਏ 16-ਬਿੱਟ ਬੇਸਲਾਈਨ ਦੇ ਮੁਕਾਬਲੇ ਲਗਭਗ 75% ਜਾਂ ਇਸ ਤੋਂ ਵੱਧ ਮੈਮੋਰੀ ਫੁੱਟਪ੍ਰਿੰਟਸ ਨੂੰ ਘਟਾਉਂਦੀਆਂ ਹਨ। ਉਨ੍ਹਾਂ ਤੋਂ ਬਿਨਾਂ 59 ਵੇਫਰ ਵੀ ਕਾਫੀ ਨਹੀਂ ਹੋਣਗੇ।
ਵਪਾਰ-ਬੰਦ ਵੀ ਅਸਲੀ ਹਨ. ਇੱਕ 59-ਵੇਫਰ ਸਿਸਟਮ ਇੱਕ ਵੱਡੀ, ਵਿਸ਼ੇਸ਼ ਮਸ਼ੀਨ ਹੈ, ਅਤੇ ਪਾਈਪਲਾਈਨ ਪਹੁੰਚ ਇਹ ਮੰਨਦੀ ਹੈ ਕਿ ਬੇਨਤੀਆਂ ਨੂੰ ਪੂਰੇ ਸਿਸਟਮ ਵਿੱਚ ਕੁਸ਼ਲਤਾ ਨਾਲ ਬੈਚ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਸੇਰੇਬਰਾਸ ਦਾ ਬਲੌਗ ਇਸਦੇ ਮੁੱਖ ਵਿਸ਼ਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਦੇ ਰੂਪ ਵਿੱਚ ਸਮਰੂਪਤਾ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਦਾ ਹੈ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ ਆਰਕੀਟੈਕਚਰ ਨੂੰ ਇੱਕੋ ਸਮੇਂ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦੀ ਇੱਕ ਵੱਡੀ ਗਿਣਤੀ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।
ਹੁਣ ਲਈ, ਪੋਸਟ ਇੱਕ ਸਪਸ਼ਟ ਜਨਤਕ ਸਪੱਸ਼ਟੀਕਰਨ ਦੇ ਰੂਪ ਵਿੱਚ ਖੜ੍ਹਾ ਹੈ ਕਿ ਅਸਲ ਵਿੱਚ ਚਾਰ-ਅੰਕੜੇ ਟੋਕਨ ਸਪੀਡਾਂ 'ਤੇ ਇੱਕ ਫਰੰਟੀਅਰ-ਸਕੇਲ ਓਪਨ ਮਾਡਲ ਦੀ ਸੇਵਾ ਕਰਨ ਲਈ ਕੀ ਲੱਗਦਾ ਹੈ - ਅਤੇ ਇੱਕ ਸੰਕੇਤ ਹੈ ਕਿ ਅਨੁਮਾਨ ਹਾਰਡਵੇਅਰ ਬਾਰੇ ਗੱਲਬਾਤ ਚਿਪਸ ਤੋਂ ਹੋਲ-ਵੇਫਰ ਸਿਸਟਮਾਂ ਵਿੱਚ ਬਦਲ ਰਹੀ ਹੈ।
ਸਰੋਤ: ਸੇਰੇਬ੍ਰਾਸ ਬਲੌਗ, “ਅਸੀਂ ਸੇਰੇਬ੍ਰਾਸ ਉੱਤੇ ਟ੍ਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਫਰੰਟੀਅਰ ਮਾਡਲ ਕਿਵੇਂ ਤਾਇਨਾਤ ਕਰਦੇ ਹਾਂ” (22 ਅਕਤੂਬਰ 2026)---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →