ਚੀਨੀ AI ਲੈਬ Z.ai ਨੇ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਤਕਨੀਕੀ ਬਿਰਤਾਂਤ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਹੈ ਕਿ ਕਿਵੇਂ ਇਹ GLM ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਸਿਸਟਮਾਂ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ ਲਈ ਸੈੱਟ ਕਰਦਾ ਹੈ ਜੋ ਉਹਨਾਂ ਨੂੰ ਸੇਵਾ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ, ਇੱਕ "ਇਨਫਰਾ ਏਜੰਟ" ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ ਜੋ ਸੀਮਤ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਨਾਲ ਕੰਪਨੀ ਦੇ ਇਨਫਰੈਂਸ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਕਾਰਗੁਜ਼ਾਰੀ ਰੁਕਾਵਟਾਂ ਨੂੰ ਲੱਭਦਾ ਅਤੇ ਠੀਕ ਕਰਦਾ ਹੈ।
"ਟੂਵਾਰਡ ਰੀਕਰਸਿਵ ਸੈਲਫ-ਇਮਪਰੂਵਮੈਂਟ: ਹਾਉ ਜੀਐਲਐਮ ਨੇ ਆਪਣਾ ਇਨਫਰੈਂਸ ਇਨਫਰਾਸਟਰੱਕਚਰ" ਸਿਰਲੇਖ ਵਾਲਾ ਬਲੌਗ ਪੋਸਟ ਬੁੱਧਵਾਰ ਨੂੰ ਕੰਪਨੀ ਦੀ ਸਾਈਟ 'ਤੇ ਚੜ੍ਹਿਆ ਅਤੇ ਤੇਜ਼ੀ ਨਾਲ ਹੈਕਰ ਨਿਊਜ਼ 'ਤੇ ਸਭ ਤੋਂ ਵੱਧ ਚਰਚਾ ਕੀਤੀ ਤਕਨਾਲੋਜੀ ਕਹਾਣੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣ ਗਿਆ, ਜਿੱਥੇ ਇਸ ਨੇ ਡਿਵੈਲਪਰ ਭਾਈਚਾਰੇ ਤੋਂ 200 ਤੋਂ ਵੱਧ ਅੰਕ ਪ੍ਰਾਪਤ ਕੀਤੇ। For more context on this story, see our ongoing breaking AI news.
"ਜਿਵੇਂ ਕਿ ਅਸੀਂ GLM ਵਿਕਸਿਤ ਕਰਦੇ ਹਾਂ, ਮਾਡਲ ਕਈ ਵਾਰ ਅਜਿਹੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਦਾ ਹੈ ਜੋ ਸਾਨੂੰ ਹੈਰਾਨ ਕਰਦੇ ਹਨ, ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਸਾਨੂੰ ਪਰੇਸ਼ਾਨ ਵੀ ਕਰਦੇ ਹਨ," ਕੰਪਨੀ ਨੇ ਪੋਸਟ ਦੀਆਂ ਸ਼ੁਰੂਆਤੀ ਲਾਈਨਾਂ ਵਿੱਚ ਲਿਖਿਆ।
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਖੋਜ ਤੋਂ ਸਵੈ-ਅਨੁਕੂਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਤੱਕ
ਕੰਮ ਅਕਤੂਬਰ 2025 ਦਾ ਹੈ, ਜਦੋਂ Z.ai ਨੇ GLM ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਬਾਰੇ ਖੋਜ ਕਰਨੀ ਸ਼ੁਰੂ ਕੀਤੀ। ਤਰਕ, ਕੰਪਨੀ ਕਹਿੰਦੀ ਹੈ, ਸਿੱਧਾ ਸੀ: ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕੋਡਿੰਗ ਦਾ ਇੱਕ ਕੁਦਰਤੀ ਵਿਸਥਾਰ ਹੈ, ਅਤੇ ਮਾਡਲ ਜੋ ਵੱਡੇ ਕੋਡਬੇਸ ਨੂੰ ਨੈਵੀਗੇਟ ਕਰ ਸਕਦੇ ਹਨ ਅੰਤ ਵਿੱਚ ਹੇਠਲੇ-ਪੱਧਰ ਦੇ ਸਿਸਟਮ ਕੋਡ ਨੂੰ ਨੈਵੀਗੇਟ ਕਰ ਸਕਦੇ ਹਨ ਜਿਸ ਤੋਂ ਜ਼ਿਆਦਾਤਰ ਇੰਜੀਨੀਅਰ ਬਚਦੇ ਹਨ।
ਉਹ ਬੁਨਿਆਦ ਕਿਸੇ ਹੋਰ ਅਭਿਲਾਸ਼ੀ ਵਿੱਚ ਵਿਕਸਤ ਹੋਈ। ਸਿਰਫ਼ ਕੋਡ ਲਿਖਣ ਲਈ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਬਜਾਏ, Z.ai ਇੱਕ ਸਿਸਟਮ ਇੰਜਨੀਅਰਿੰਗ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦੇਣ ਲਈ ਤਿਆਰ ਹੋਇਆ: ਕੀ ਇੱਕ AI ਏਜੰਟ ਇੱਕ ਪ੍ਰੋਡਕਸ਼ਨ ਇਨਫਰੈਂਸ ਸਟੈਕ, ਸੌਫਟਵੇਅਰ ਅਤੇ ਹਾਰਡਵੇਅਰ ਕੋਆਰਡੀਨੇਸ਼ਨ ਲੇਅਰ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਲਈ ਜ਼ਿੰਮੇਵਾਰੀ ਲੈ ਸਕਦਾ ਹੈ ਜੋ ਮਾਡਲ ਵਜ਼ਨ ਨੂੰ ਤੇਜ਼, ਸਸਤੇ ਜਵਾਬਾਂ ਵਿੱਚ ਬਦਲਦਾ ਹੈ?
ਕੰਪਨੀ ਦੇ ਜਵਾਬ ਵਿੱਚ ਸਮੱਸਿਆ ਨੂੰ ਸੁਧਾਰਨਾ ਸ਼ਾਮਲ ਹੈ। ਇਕੱਲੇ ਐਂਡ-ਟੂ-ਐਂਡ ਮੈਟ੍ਰਿਕਸ, ਪੋਸਟ ਦਲੀਲ ਦਿੰਦੀ ਹੈ, ਇੱਕ ਅਨੁਕੂਲਿਤ ਏਜੰਟ ਦੀ ਅਗਵਾਈ ਨਹੀਂ ਕਰ ਸਕਦੀ। ਇੱਕ ਰਿਪੋਰਟ ਜੋ ਕਿ ਟਾਈਮ-ਟੂ-ਪਹਿਲੇ-ਟੋਕਨ ਵਿੱਚ 30 ਪ੍ਰਤੀਸ਼ਤ ਦਾ ਵਾਧਾ ਹੋਇਆ ਹੈ ਜਾਂ ਆਉਟਪੁੱਟ ਥ੍ਰੋਪੁੱਟ ਵਿੱਚ 20 ਪ੍ਰਤੀਸ਼ਤ ਦੀ ਗਿਰਾਵਟ ਆਈ ਹੈ, ਇੱਕ ਏਜੰਟ ਨੂੰ ਦੱਸਦੀ ਹੈ ਕਿ ਕੁਝ ਵਿਗੜ ਗਿਆ ਹੈ, ਪਰ ਇਹ ਨਹੀਂ ਕਿ ਕਿਹੜੀ ਪਰਤ ਜ਼ਿੰਮੇਵਾਰ ਹੈ, ਇਸਦੀ ਪਰਿਕਲਪਨਾ ਕਿਉਂ ਅਸਫਲ ਹੋਈ, ਜਾਂ ਅੱਗੇ ਕੀ ਟੈਸਟ ਕਰਨਾ ਹੈ।
"ਅਸੀਂ ਸਪਾਰਸ ਐਂਡ-ਟੂ-ਐਂਡ ਨਤੀਜਿਆਂ ਨੂੰ ਵਧੀਆ, ਗੁਣਕਾਰੀ ਇੰਜਨੀਅਰਿੰਗ ਫੀਡਬੈਕ ਵਿੱਚ ਕਿਵੇਂ ਬਦਲ ਸਕਦੇ ਹਾਂ ਜੋ ਅਗਲੀ ਕਾਰਵਾਈ ਨੂੰ ਸਿੱਧਾ ਸੇਧ ਦਿੰਦਾ ਹੈ?" ਕੰਪਨੀ ਪੋਸਟ ਵਿੱਚ ਪੁੱਛਦੀ ਹੈ, ਪ੍ਰਸ਼ਨ ਨੂੰ ਪੂਰੀ ਕੋਸ਼ਿਸ਼ ਦੀ ਕੁੰਜੀ ਦੇ ਰੂਪ ਵਿੱਚ ਬਿਆਨ ਕਰਦੀ ਹੈ।
ਏਜੰਟ-ਪੜ੍ਹਨਯੋਗ ਫੀਡਬੈਕ ਲਈ ਤਿੰਨ ਨਿਯਮ
Z.ai ਦਾ ਜਵਾਬ ਤਿੰਨ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ 'ਤੇ ਬਣਿਆ ਫੀਡਬੈਕ ਅਨੁਸ਼ਾਸਨ ਹੈ। ਪਹਿਲਾਂ, ਫੀਡਬੈਕ ਕਾਫ਼ੀ ਸਥਾਨਕ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਖਾਸ ਇੰਜਣ ਲਾਂਚ ਪੈਰਾਮੀਟਰਾਂ, ਕੋਡ ਤਬਦੀਲੀਆਂ, ਕਰਨਲ, ਇਨਪੁਟ ਸਥਿਤੀਆਂ, ਥ੍ਰੈੱਡਸ, ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਅੰਤਰਾਲ, ਜਾਂ ਕੋਡ ਮਾਰਗਾਂ ਨਾਲ ਜੁੜਿਆ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਇਸਲਈ ਏਜੰਟ ਕਿਸੇ ਵੀ ਸਮੱਸਿਆ ਦੇ ਦਾਇਰੇ ਨੂੰ ਛੋਟਾ ਕਰ ਸਕਦਾ ਹੈ। ਦੂਜਾ, ਇਹ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਸਸਤਾ ਅਤੇ ਸਮੇਂ ਸਿਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ: ਇੱਕ ਕਰਨਲ ਟੈਸਟ ਜਾਂ ਇੱਕ ਸਥਾਨਕ ਮਾਈਕ੍ਰੋਬੈਂਚਮਾਰਕ ਦੁਆਰਾ ਜਵਾਬ ਦੇਣ ਯੋਗ ਪ੍ਰਸ਼ਨ ਲਈ ਇੱਕ ਪੂਰੀ ਸੇਵਾ ਤੈਨਾਤੀ ਦੀ ਲੋੜ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ। ਤੀਜਾ, ਪ੍ਰਮਾਣਿਕਤਾ ਮੌਜੂਦਾ ਪਰਿਕਲਪਨਾ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ, ਹਰੇਕ ਪ੍ਰਯੋਗ ਨੂੰ ਇੱਕ ਨਿਸ਼ਚਿਤ ਕ੍ਰਮ ਦੀ ਪਾਲਣਾ ਕਰਨ ਦੀ ਬਜਾਏ ਇੱਕ ਖਾਸ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦੇਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।
ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਸੰਘਣੀ ਫੀਡਬੈਕ ਲੂਪ ਉਹ ਹੈ ਜੋ ਇਨਫਰਾ ਏਜੰਟ ਨੂੰ ਇੰਜਨੀਅਰਾਂ ਲਈ ਇੱਕ ਸਵੈ-ਸੰਪੂਰਨਤਾ ਵਾਂਗ ਘੱਟ ਅਤੇ ਇੱਕ ਸਹਿਯੋਗੀ ਵਾਂਗ ਵਿਹਾਰ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀ ਹੈ ਜੋ ਰਾਤੋ ਰਾਤ ਪ੍ਰਯੋਗ ਚਲਾ ਸਕਦਾ ਹੈ।
ਤਿੰਨ ਕੇਸ ਸਟੱਡੀਜ਼, ਅੰਕਾਂ ਤੋਂ ਥ੍ਰੈਡਿੰਗ ਬੱਗ ਤੱਕ
ਪੋਸਟ GLM-5.3-ਫਲੈਸ਼ ਲਈ ਕੰਪਨੀ ਦੇ ਸਰਵਿੰਗ ਸਟੈਕ ਦੇ ਅਨੁਕੂਲਨ ਤੋਂ ਤਿੰਨ ਠੋਸ ਐਪੀਸੋਡਾਂ ਵਿੱਚੋਂ ਲੰਘਦਾ ਹੈ, ਅਗਸਤ ਵਿੱਚ MIT ਲਾਇਸੈਂਸ ਦੇ ਤਹਿਤ ਜਾਰੀ ਕੀਤੇ ਗਏ ਓਪਨ-ਵੇਟ ਮਾਡਲ Z.ai.
ਪਹਿਲੇ ਵਿੱਚ ਸ਼ੁੱਧਤਾ ਸ਼ਾਮਲ ਹੈ। ਕਿਉਂਕਿ ਇਨਫਰੈਂਸ ਓਪਟੀਮਾਈਜੇਸ਼ਨ ਰਿਸ਼ਫਲ ਕਰਦੇ ਹਨ ਕਿ ਕਿਵੇਂ ਕੰਪਿਊਟੇਸ਼ਨਾਂ ਨੂੰ ਸਮਾਨਾਂਤਰ ਬਣਾਇਆ ਜਾਂਦਾ ਹੈ, ਏਜੰਟ ਨੂੰ ਇਹ ਪੁਸ਼ਟੀ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿ ਕਰਨਲ ਵੰਡੀਆਂ ਅਤੇ ਗੈਰ-ਵਿਭਾਜਨਿਤ ਸਥਿਤੀਆਂ ਵਿੱਚ ਇੱਕੋ ਜਿਹੇ ਨਤੀਜੇ ਦਿੰਦੇ ਹਨ। ਇੱਕ ਮਾਮਲੇ ਵਿੱਚ, ਟੀਮ ਨੇ ਇੱਕ ਉੱਚ-ਸ਼ੁੱਧਤਾ ਨਤੀਜਾ ਪੈਦਾ ਕਰਨ ਲਈ ਤਿੰਨ TF32 ਟੈਂਸਰ ਕੋਰ ਓਪਰੇਸ਼ਨਾਂ ਨੂੰ ਜੋੜਿਆ, ਟੈਂਸਰ ਕੋਰ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਜ਼ਿਆਦਾਤਰ ਲਾਭਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਦੇ ਹੋਏ ਸੰਚਿਤ ਸੰਖਿਆਤਮਕ ਗਲਤੀ ਨੂੰ ਘਟਾਉਂਦੇ ਹੋਏ। ਵਿਭਾਜਨ ਦੀਆਂ ਰਣਨੀਤੀਆਂ ਵਿਚਕਾਰ ਤੁਲਨਾਤਮਕ ਜਾਂਚ ਨੇ ਉਹਨਾਂ ਅੰਤਰਾਂ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ ਜੋ ਫਿਕਸ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰਦੇ ਸਨ।
ਦੂਜੀ ਇੱਕ ਸਿਸਟਮ-ਡੀਬਗਿੰਗ ਕਹਾਣੀ ਹੈ ਜੋ ਕਿਸੇ ਵੀ ਪ੍ਰਦਰਸ਼ਨ ਇੰਜੀਨੀਅਰ ਨੂੰ ਜਾਣੂ ਮਹਿਸੂਸ ਕਰੇਗੀ। ਸਵੀਕ੍ਰਿਤੀ ਦੇ ਮਾਪਦੰਡ ਦੀ ਲੋੜ ਹੈ ਕਿ ਸਰਵਿੰਗ ਮਾਰਗ ਵਿੱਚ ਕੇਵੀ ਕੈਸ਼ ਟ੍ਰਾਂਸਫਰ ਨੂੰ ਜੋੜਨ ਨਾਲ ਸਮਾਨ ਵਰਕਲੋਡਾਂ ਦੇ ਅਧੀਨ ਪ੍ਰੀਫਿਲ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ 5 ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਵੱਧ ਨਹੀਂ ਘਟਾਉਣਾ ਚਾਹੀਦਾ ਹੈ। ਏਜੰਟ ਨੇ ਪਾਇਆ ਕਿ ਕੁਝ ਸਥਿਤੀਆਂ ਵਿੱਚ ਅੰਤਰ 20 ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਵੱਧ ਗਿਆ ਹੈ, ਜਿਸ ਨੇ ਜਾਂਚ ਨੂੰ ਖੁਦ ਕੇਵੀ ਟ੍ਰਾਂਸਫਰ ਦੇ ਸਮਕਾਲੀ ਵਿਵਹਾਰ ਤੱਕ ਸੀਮਤ ਕਰ ਦਿੱਤਾ ਹੈ। ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਟਾਈਮਲਾਈਨਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹੋਏ, ਏਜੰਟ ਨੇ ਇੱਕ ਅਸੰਗਤਤਾ ਦੀ ਪਛਾਣ ਕੀਤੀ: ਸਮੱਸਿਆ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਪਾਈਥਨ-ਸਾਈਡ ਕੇਵੀ ਟ੍ਰਾਂਸਫਰ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਕਦੇ ਵੀ ਡੀਪਈਪੀ ਸੰਚਾਰ ਲਾਇਬ੍ਰੇਰੀ ਦੇ ਡਿਸਪੈਚ ਅਤੇ ਜੋੜ ਅੰਤਰਾਲਾਂ ਨਾਲ ਓਵਰਲੈਪ ਨਹੀਂ ਹੋਇਆ। ਫਿਕਸ Python ਦੇ ਗਲੋਬਲ ਇੰਟਰਪ੍ਰੇਟਰ ਲੌਕ ਨੂੰ ਸੰਬੰਧਿਤ C++ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਅੰਤਰਾਲਾਂ ਦੌਰਾਨ ਜਾਰੀ ਕਰਨਾ ਸੀ, ਜਿਸ ਨਾਲ ਮੂਨਕੇਕ, ਕੇਵੀ ਕੈਸ਼ ਸਟੋਰ, ਨੂੰ ਕੰਪਿਊਟੇਸ਼ਨ ਦੇ ਸਮਾਨਾਂਤਰ ਅੱਗੇ ਵਧਣ ਲਈ ਟਰਾਂਸਫਰ ਥਰਿੱਡ ਦੀ ਆਗਿਆ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ। ਪ੍ਰਦਰਸ਼ਨ ਦਾ ਅੰਤਰ ਬਾਅਦ ਵਿੱਚ ਸਵੀਕ੍ਰਿਤੀ ਥ੍ਰੈਸ਼ਹੋਲਡ ਦੇ ਅੰਦਰ ਆ ਗਿਆ।
ਤੀਜਾ ਐਪੀਸੋਡ ਦੁਹਰਾਉਣ ਵਾਲਾ ਕਰਨਲ ਟਿਊਨਿੰਗ ਦਿਖਾਉਂਦਾ ਹੈ। ReplaySSM ਨੂੰ ਪੇਸ਼ ਕਰਨਾ, ਇੱਕ ਤਕਨੀਕ ਜੋ ਮੈਮੋਰੀ ਲਈ ਗਣਨਾ ਦਾ ਵਪਾਰ ਕਰਦੀ ਹੈ, ਸ਼ੁਰੂ ਵਿੱਚ ਇੱਕ KDA ਡੀਕੋਡ ਕਰਨਲ ਦੇ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਟਾਈਮ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ। ਏਜੰਟ ਦੇ ਡਿਵੀਜ਼ਨ ਓਪਟੀਮਾਈਜੇਸ਼ਨ ਨੇ ਫਿਰ ਕਰਨਲ ਦੇ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਟਾਈਮ ਨੂੰ 9.6 ਪ੍ਰਤੀਸ਼ਤ ਘਟਾ ਦਿੱਤਾ। ਫੀਡਬੈਕ ਪ੍ਰਾਪਤ ਕਰਨ ਤੋਂ ਬਾਅਦ ਕਿ ਗਣਨਾ ਪ੍ਰਾਇਮਰੀ ਅੜਚਨ ਬਣੀ ਰਹੀ, ਏਜੰਟ ਨੇ V ਮਾਪ ਦੇ ਨਾਲ ਟਾਇਲ ਕੀਤੇ ਮੂਲ ਲਾਗੂਕਰਨ ਦੀ ਖੋਜ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਸਮਾਨ FP32 ਸਧਾਰਣਕਰਨ ਅਤੇ ਗੇਟਿੰਗ ਗਣਨਾਵਾਂ ਨੂੰ ਬੇਲੋੜੀ ਦੁਹਰਾਇਆ ਗਿਆ।
GLM-5.3-ਫਲੈਸ਼ ਦੇ ਪਿੱਛੇ ਸਟੈਕ
ਅਨੁਕੂਲਤਾ ਇੱਕ ਹਮਲਾਵਰ ਸੇਵਾ ਕਰਨ ਵਾਲੇ ਢਾਂਚੇ ਦੇ ਸਿਖਰ 'ਤੇ ਬੈਠਦੀ ਹੈ ਜਿਸਦਾ Z.ai ਪੋਸਟ ਵਿੱਚ ਵਰਣਨ ਕਰਦਾ ਹੈ: ਲੀਨੀਅਰ ਧਿਆਨ ਅਤੇ ਭਾਸ਼ਾ ਮਾਡਲ ਹੈੱਡ ਲਈ ਇੰਟਰਾ-ਨੋਡ ਟੈਂਸਰ ਸਮਾਨਤਾ, ਰੀਪਲੇਐਸਐਸਐਮ ਕੰਪਿਊਟ-ਫੋਰ-ਮੈਮੋਰੀ ਟ੍ਰੇਡ, W8A8 ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, ਮਿਸ਼ਰਤ-ਸ਼ੁੱਧ-ਸ਼ੁੱਧਤਾ ਕੈਸ਼ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, INT8, BF6, ਐੱਫ. ਸਕੀਮ, ਅਤੇ ਇੱਕ ਏਨਕੋਡ-ਪ੍ਰੀਫਿਲ-ਡੀਕੋਡ ਵਿਸਤ੍ਰਿਤ ਆਰਕੀਟੈਕਚਰ ਜੋ ਵੱਖਰੇ ਸਰੋਤਾਂ 'ਤੇ ਸਰਵਿੰਗ ਪੜਾਵਾਂ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ।
ਕੰਪਨੀ ਇਹਨਾਂ ਤਕਨੀਕਾਂ ਦੇ ਸੰਗ੍ਰਹਿ ਨੂੰ ਫਰੇਮ ਕਰਦੀ ਹੈ, ਜੋ ਏਜੰਟ ਦੁਆਰਾ ਖੁਦ ਖੋਜੀਆਂ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਕੀਤੀਆਂ ਗਈਆਂ ਹਨ, ਆਵਰਤੀ ਸਵੈ-ਸੁਧਾਰ ਵੱਲ ਇੱਕ ਕਦਮ ਵਜੋਂ: AI ਪ੍ਰਣਾਲੀਆਂ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦੀਆਂ ਹਨ ਜੋ ਉਹਨਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਤੇਜ਼ ਅਤੇ ਸਸਤਾ ਬਣਾਉਂਦੀਆਂ ਹਨ, ਜੋ ਬਦਲੇ ਵਿੱਚ ਏਜੰਟ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਸੁਧਾਰ ਦੇ ਅਗਲੇ ਦੌਰ ਨੂੰ ਵਧੇਰੇ ਕਿਫਾਇਤੀ ਬਣਾਉਂਦੀਆਂ ਹਨ।
ਇਹ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ
ਅਨੁਮਾਨ ਲਾਗਤ ਏਆਈ ਉਦਯੋਗ ਦੇ ਨਿਰਣਾਇਕ ਅਰਥ ਸ਼ਾਸਤਰ ਵਿੱਚੋਂ ਇੱਕ ਹੈ। ਲੈਬ ਜੋ ਪ੍ਰਤੀ ਟੋਕਨ ਪ੍ਰਤੀ ਘੱਟ ਕੀਮਤ 'ਤੇ ਫਰੰਟੀਅਰ-ਸ਼੍ਰੇਣੀ ਦੇ ਮਾਡਲਾਂ ਦੀ ਸੇਵਾ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਹਮਲਾਵਰ ਤੌਰ 'ਤੇ ਕੀਮਤ ਦੇ ਸਕਦੀਆਂ ਹਨ, ਏਜੰਟਾਂ ਨੂੰ ਸਬਸਿਡੀ ਦੇ ਸਕਦੀਆਂ ਹਨ ਜੋ ਪ੍ਰਤੀ ਕੰਮ ਹਜ਼ਾਰਾਂ ਕਾਲਾਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਮਾਲੀਏ ਦੀ ਸੇਵਾ ਤੋਂ ਅੱਗੇ ਸਿਖਲਾਈ ਲਈ ਫੰਡ ਦਿੰਦੇ ਹਨ। Z.ai ਸਾਰੇ ਤਿੰਨ ਮੋਰਚਿਆਂ 'ਤੇ ਖਾਸ ਤੌਰ 'ਤੇ ਹਮਲਾਵਰ ਰਿਹਾ ਹੈ, ਅਤੇ ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਕੰਪਨੀ ਦੇ ਅੰਤਰਿਮ ਵਿੱਤੀ ਖੁਲਾਸੇ ਨੇ ਘਾਟੇ ਦੇ ਘੱਟ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਮਾਲੀਆ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦਾ ਦਿਖਾਇਆ ਹੈ।
ਪੋਸਟ ਇਹ ਵੀ ਇੱਕ ਸੰਕੇਤ ਹੈ ਕਿ ਲੈਬ-ਸਾਈਡ ਇੰਜੀਨੀਅਰਿੰਗ ਕਿੱਥੇ ਜਾ ਰਹੀ ਹੈ। ਕਿਰਤ ਦੀ ਪਰੰਪਰਾਗਤ ਵੰਡ, ਮਨੁੱਖੀ ਪ੍ਰਦਰਸ਼ਨ ਇੰਜੀਨੀਅਰ ਕਰਨਲ ਅਤੇ ਸ਼ਡਿਊਲਰ ਨੂੰ ਟਿਊਨਿੰਗ ਕਰਨ ਦੇ ਨਾਲ ਜਦੋਂ ਮਾਡਲ ਉਪਭੋਗਤਾ ਬੇਨਤੀਆਂ ਨੂੰ ਸੰਭਾਲਦੇ ਹਨ, ਨੂੰ Z.ai ਵਿਖੇ ਇੱਕ ਲੂਪ ਦੁਆਰਾ ਬਦਲਿਆ ਜਾ ਰਿਹਾ ਹੈ ਜਿਸ ਵਿੱਚ ਮਾਡਲ ਤਬਦੀਲੀਆਂ ਦਾ ਪ੍ਰਸਤਾਵ ਕਰਦਾ ਹੈ, ਸਸਤੇ ਪ੍ਰਯੋਗ ਉਹਨਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰਦਾ ਹੈ, ਅਤੇ ਸੰਘਣੀ ਫੀਡਬੈਕ ਅਗਲੀ ਕੋਸ਼ਿਸ਼ ਨੂੰ ਨਿਰਦੇਸ਼ਤ ਕਰਦੀ ਹੈ।
ਪੂਰੀ ਤਰ੍ਹਾਂ ਖੁਦਮੁਖਤਿਆਰ ਸਵੈ-ਸੁਧਾਰ ਦੇ ਦਾਅਵਿਆਂ ਨੂੰ ਧਿਆਨ ਨਾਲ ਪੜ੍ਹਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਪੋਸਟ ਖੁਦ ਸਪੱਸ਼ਟ ਕਰਦੀ ਹੈ ਕਿ ਮਨੁੱਖੀ ਇੰਜੀਨੀਅਰਾਂ ਨੇ ਟੈਸਟ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ, ਸਵੀਕ੍ਰਿਤੀ ਦੇ ਮਾਪਦੰਡ ਨਿਰਧਾਰਤ ਕੀਤੇ, ਅਤੇ ਫੀਡਬੈਕ ਵਾਤਾਵਰਣਾਂ ਨੂੰ ਬਣਾਇਆ ਜਿਸ ਵਿੱਚ ਏਜੰਟ ਕੰਮ ਕਰਦਾ ਹੈ। ਕੰਪਨੀ ਜੋ ਵਰਣਨ ਕਰਦੀ ਹੈ ਉਹ ਇੱਕ ਚੰਗੀ-ਇੰਸਟ੍ਰੂਮੈਂਟਡ ਓਪਟੀਮਾਈਜੇਸ਼ਨ ਲੂਪ ਦਾ ਆਟੋਮੇਸ਼ਨ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਨਿਰੀਖਣ ਕੀਤੇ ਸਿਸਟਮ ਨੂੰ ਆਪਣੇ ਆਪ ਨੂੰ ਮੁੜ ਡਿਜ਼ਾਈਨ ਕਰਨ ਵਾਲਾ।
ਫਿਰ ਵੀ, ਦਿਸ਼ਾ ਸਪਸ਼ਟ ਹੈ. ਜੇਕਰ ਅਗਲੇ ਕੁਝ ਸਾਲਾਂ ਵਿੱਚ AI ਦੇ ਅਰਥ ਸ਼ਾਸਤਰ ਦਾ ਫੈਸਲਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਕਿ ਕੌਣ ਸਭ ਤੋਂ ਸਸਤੀ ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ ਲੈਬਾਂ ਜੋ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਆਪਣੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ ਸਿਖਾਉਂਦੀਆਂ ਹਨ, ਉਹ ਰਫ਼ਤਾਰ ਤੈਅ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਅਤੇ Z.ai ਚਾਹੁੰਦਾ ਹੈ ਕਿ ਉਦਯੋਗ ਇਹ ਜਾਣੇ ਕਿ ਇਹ ਉਹਨਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੋਣਾ ਚਾਹੁੰਦਾ ਹੈ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
