ਚੀਨੀ AI ਲੈਬ StepFun ਨੇ ਸਟੈਪ 5 ਪ੍ਰੀਵਿਊ ਲਾਂਚ ਕੀਤਾ ਹੈ, ਇੱਕ ਨਵਾਂ ਫਲੈਗਸ਼ਿਪ ਭਾਸ਼ਾ ਮਾਡਲ ਜੋ ਕੱਚੇ ਬੈਂਚਮਾਰਕ ਦੇ ਦਬਦਬੇ ਲਈ ਘੱਟ ਧਿਆਨ ਖਿੱਚ ਰਿਹਾ ਹੈ ਅਤੇ ਜਿੱਥੇ ਇਹ ਕੀਮਤ-ਪ੍ਰਦਰਸ਼ਨ ਕਰਵ 'ਤੇ ਉਤਰਦਾ ਹੈ, ਉਸ ਲਈ ਜ਼ਿਆਦਾ ਧਿਆਨ ਖਿੱਚ ਰਿਹਾ ਹੈ। ਮਾਡਲ, 1 ਮਿਲੀਅਨ ਟੋਕਨ ਸੰਦਰਭ ਵਿੰਡੋ ਦੇ ਨਾਲ ਇੱਕ 600-ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਸਪਾਰਸ ਮਿਸ਼ਰਣ-ਆਫ-ਐਕਸਪਰਟਸ (MoE) ਸਿਸਟਮ, ਰੀਲੀਜ਼ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲੀ ਤਕਨਾਲੋਜੀ ਪ੍ਰੈਸ ਦੁਆਰਾ ਅਜੇ ਤੱਕ ਚੀਨ ਦਾ ਸਭ ਤੋਂ ਸਸਤਾ ਫਰੰਟੀਅਰ-ਕਲਾਸ ਮਾਡਲ ਕਿਹਾ ਜਾ ਰਿਹਾ ਹੈ।
ਸਪੈਕਸ: ਵੱਡਾ ਮਾਡਲ, ਵੱਡਾ ਸੰਦਰਭ
ਪਾਂਡੇਲੀ ਦੇ ਅਨੁਸਾਰ, ਜਿਸ ਨੇ ਲਾਂਚ ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ, ਸਟੈਪ 5 ਪ੍ਰੀਵਿਊ ਇੱਕ 600B ਸਪਾਰਸ MoE ਆਰਕੀਟੈਕਚਰ 'ਤੇ ਬਣਾਇਆ ਗਿਆ ਹੈ - ਇੱਕ ਡਿਜ਼ਾਇਨ ਜਿਸ ਵਿੱਚ ਕਿਸੇ ਵੀ ਦਿੱਤੇ ਗਏ ਟੋਕਨ ਲਈ ਮਾਡਲ ਦੇ ਮਾਪਦੰਡਾਂ ਦਾ ਸਿਰਫ ਇੱਕ ਹਿੱਸਾ ਕਿਰਿਆਸ਼ੀਲ ਹੁੰਦਾ ਹੈ, ਕੁੱਲ ਪੈਰਾਮੀਟਰ ਗਿਣਤੀ ਦੇ ਬਾਵਜੂਦ ਅਨੁਮਾਨ ਲਾਗਤਾਂ ਨੂੰ ਪ੍ਰਬੰਧਨ ਯੋਗ ਰੱਖਦੇ ਹੋਏ। ਆਰਕੀਟੈਕਚਰ ਪਰਿਵਾਰ ਫਰੰਟੀਅਰ-ਸਕੇਲ ਮਾਡਲਾਂ ਲਈ ਪ੍ਰਮੁੱਖ ਪੈਰਾਡਾਈਮ ਬਣ ਗਿਆ ਹੈ, ਜਿਸਦੀ ਵਰਤੋਂ ਡੀਪਸੀਕ ਤੋਂ ਮਿਸਟ੍ਰਾਲ ਤੱਕ ਹਰ ਕਿਸੇ ਦੁਆਰਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਸੰਦਰਭ ਵਿੰਡੋ ਬਰਾਬਰ ਧਿਆਨ ਦੇਣ ਯੋਗ ਹੈ: 1 ਮਿਲੀਅਨ ਟੋਕਨ, ਜੋ ਕਿ ਨਕਲੀ ਵਿਸ਼ਲੇਸ਼ਣ ਲਗਭਗ 1,500 A4 ਪੰਨਿਆਂ ਦੇ ਟੈਕਸਟ ਦੇ ਰੂਪ ਵਿੱਚ ਵਰਣਨ ਕਰਦਾ ਹੈ। ਇਹ ਸਮਰੱਥਾ ਮਾਡਲ ਨੂੰ ਇੱਕ ਸਿੰਗਲ ਪਾਸ ਵਿੱਚ ਪੂਰੇ ਕੋਡਬੇਸ, ਲੰਬੇ ਕਾਨੂੰਨੀ ਦਸਤਾਵੇਜ਼ਾਂ, ਜਾਂ ਵਿਸਤ੍ਰਿਤ ਬਹੁ-ਦਸਤਾਵੇਜ਼ ਵਿਸ਼ਲੇਸ਼ਣ ਨੂੰ ਲੈਣ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ। ਮਾਡਲ ਟੈਕਸਟ ਅਤੇ ਚਿੱਤਰ ਇਨਪੁਟਸ ਅਤੇ ਆਉਟਪੁੱਟ ਟੈਕਸਟ ਦੋਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਹ ਤਰਕ ਮੋਡ ਵਿੱਚ ਚੱਲਦਾ ਹੈ, ਅੰਤਮ ਜਵਾਬ ਪੈਦਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਵਿਚਕਾਰਲੀ ਸੋਚ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਸ਼ਾਇਦ ਡਿਵੈਲਪਰਾਂ ਲਈ ਸਭ ਤੋਂ ਨੇੜਿਓਂ ਦੇਖਿਆ ਗਿਆ ਵੇਰਵਾ: ਪਾਂਡੇਲੀ ਦੇ ਅਨੁਸਾਰ, ਸਟੈਪਫਨ ਨੇ 15 ਅਕਤੂਬਰ ਨੂੰ ਮਾਡਲ ਦੇ ਖੁੱਲ੍ਹੇ ਵਜ਼ਨ ਨੂੰ ਜਾਰੀ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ। ਇੱਕ API ਦੇ ਪਿੱਛੇ ਇੱਕ ਪੂਰਵਦਰਸ਼ਨ ਪੀਰੀਅਡ ਓਪਨ ਵੇਟ ਦੇ ਬਾਅਦ ਚੀਨੀ ਲੈਬਾਂ ਲਈ ਇੱਕ ਜਾਣੀ-ਪਛਾਣੀ ਲੈਬ ਬਣ ਰਿਹਾ ਹੈ, ਜਿਸ ਨਾਲ ਕਮਿਊਨਿਟੀ ਨੂੰ ਸਥਾਨਕ ਹਾਰਡਵੇਅਰ 'ਤੇ ਆਉਣ ਤੋਂ ਪਹਿਲਾਂ ਮਾਡਲ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਸਮਾਂ ਮਿਲਦਾ ਹੈ।
ਬੈਂਚਮਾਰਕ ਸਥਿਤੀ: ਮਜ਼ਬੂਤ, ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਹੀਂ
ਸੁਤੰਤਰ ਨਕਲੀ ਵਿਸ਼ਲੇਸ਼ਣ ਇੰਟੈਲੀਜੈਂਸ ਸੂਚਕਾਂਕ 'ਤੇ, ਸਟੈਪ 5 ਪੂਰਵਦਰਸ਼ਨ ਨੇ 44 ਸਕੋਰ ਕੀਤੇ, ਪਲੇਟਫਾਰਮ 'ਤੇ ਟਰੈਕ ਕੀਤੇ 200 ਮਾਡਲਾਂ ਵਿੱਚੋਂ 24ਵੇਂ ਸਥਾਨ 'ਤੇ ਹੈ - ਇਸਦੀ ਸ਼੍ਰੇਣੀ ਲਈ 24 ਦੇ ਮੱਧਮਾਨ ਤੋਂ ਬਹੁਤ ਉੱਪਰ, ਹਾਲਾਂਕਿ ਸਰਹੱਦ ਦੇ ਬਿਲਕੁਲ ਸਿਖਰ 'ਤੇ ਨਹੀਂ ਹੈ। ਨਕਲੀ ਵਿਸ਼ਲੇਸ਼ਣ ਮਾਡਲ ਨੂੰ "ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਦੇ ਮੋਹਰੀ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਅਤੇ ਸਮਾਨ ਕੀਮਤ ਦੇ ਦੂਜੇ ਮਾਡਲਾਂ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਚੰਗੀ ਕੀਮਤ" ਵਜੋਂ ਦਰਸਾਉਂਦਾ ਹੈ।
ਸਪੀਡ ਮੈਟ੍ਰਿਕਸ ਵੀ ਠੋਸ ਹਨ। ਪਲੇਟਫਾਰਮ ਦੇ ਮੁਲਾਂਕਣ 'ਤੇ ਮਾਡਲ ਲਗਭਗ 99.8 ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ 'ਤੇ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਟਰੈਕ ਕੀਤੇ ਮਾਡਲਾਂ ਵਿੱਚ ਪ੍ਰਤੀ ਸਕਿੰਟ ਲਗਭਗ 70 ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ ਦੀ ਔਸਤ ਨਾਲੋਂ ਤੇਜ਼।
ਧਿਆਨ ਦੇਣ ਯੋਗ ਇੱਕ ਚੇਤਾਵਨੀ: ਕਦਮ 5 ਪੂਰਵਦਰਸ਼ਨ ਅਸਧਾਰਨ ਤੌਰ 'ਤੇ ਵਰਬੋਸ ਹੈ। ਨਕਲੀ ਵਿਸ਼ਲੇਸ਼ਣ ਨੇ ਆਪਣੇ ਖੁਫੀਆ ਸੂਚਕਾਂਕ ਮੁਲਾਂਕਣ ਵਿੱਚ ਲਗਭਗ 160 ਮਿਲੀਅਨ ਟੋਕਨਾਂ ਨੂੰ ਮਾਪਿਆ, ਤੁਲਨਾਤਮਕ ਮਾਡਲਾਂ ਲਈ 92 ਮਿਲੀਅਨ ਦੇ ਮੱਧਮਾਨ ਦੇ ਮੁਕਾਬਲੇ। ਅਭਿਆਸ ਵਿੱਚ ਵਰਬੋਸਿਟੀ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ — ਵਧੇਰੇ ਤਿਆਰ ਕੀਤੇ ਟੋਕਨਾਂ ਦਾ ਅਰਥ ਹੈ ਹੌਲੀ ਸਮਝੇ ਗਏ ਜਵਾਬ ਅਤੇ ਉੱਚ ਆਉਟਪੁੱਟ-ਟੋਕਨ ਬਿੱਲ, ਜੋ ਕਿ ਕੰਮ ਦੇ ਆਧਾਰ 'ਤੇ ਕੁਝ ਹੈੱਡਲਾਈਨ ਕੀਮਤ ਲਾਭ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦੇ ਹਨ।
ਕੀਮਤ ਦੀ ਕਹਾਣੀ
ਕੀਮਤ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਕਦਮ 5 ਪ੍ਰੀਵਿਊ ਆਪਣੀ ਸਭ ਤੋਂ ਵੱਧ ਹਮਲਾਵਰ ਪਿੱਚ ਬਣਾ ਰਿਹਾ ਹੈ। ਮਾਡਲ ਦੀ ਕੀਮਤ $1.00 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਇਨਪੁਟ ਟੋਕਨ ਅਤੇ $2.70 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਆਉਟਪੁੱਟ ਟੋਕਨ API ਦੁਆਰਾ, ਨਕਲੀ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਨੁਸਾਰ - ਇਸਦੇ ਕਲਾਸ ਵਿੱਚ ਮਾਡਲਾਂ ਲਈ ਕ੍ਰਮਵਾਰ $1.88 ਅਤੇ $10.00 ਦੇ ਮੱਧਮਾਨਾਂ ਦੇ ਮੁਕਾਬਲੇ। ਈਸਟਰਨ ਹੇਰਾਲਡ ਦੀ ਹੈੱਡਲਾਈਨ ਨੇ ਇਸਨੂੰ ਸਾਫ਼-ਸਾਫ਼ ਬਣਾਇਆ: ਚੀਨ ਦਾ 600B AI ਮਾਡਲ $1 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਟੋਕਨਾਂ 'ਤੇ।
ਲਾਗਤ-ਸੰਵੇਦਨਸ਼ੀਲ ਵਰਕਲੋਡਾਂ ਲਈ — ਉੱਚ-ਆਵਾਜ਼ ਦਸਤਾਵੇਜ਼ ਪ੍ਰੋਸੈਸਿੰਗ, ਬੈਚ ਸੰਖੇਪ, ਏਜੰਟਿਕ ਪ੍ਰਣਾਲੀਆਂ ਜੋ ਪ੍ਰਤੀ ਦਿਨ ਲੱਖਾਂ ਟੋਕਨਾਂ ਦੁਆਰਾ ਬਰਨ ਹੁੰਦੀਆਂ ਹਨ — ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁੱਟ ਦੋਵਾਂ 'ਤੇ ਕਲਾਸ ਮੱਧਮਾਨ ਤੋਂ ਹੇਠਾਂ ਕੀਮਤ ਵਾਲਾ ਇੱਕ ਫਰੰਟੀਅਰ-ਨਾਲ ਲੱਗਦੇ ਮਾਡਲ ਇੱਕ ਵਪਾਰਕ ਤੌਰ 'ਤੇ ਮਹੱਤਵਪੂਰਨ ਵਿਕਲਪ ਹੈ। ਅਕਤੂਬਰ ਲਈ ਯੋਜਨਾਬੱਧ ਓਪਨ-ਵੇਟ ਰੀਲੀਜ਼ ਸਵੈ-ਮੇਜ਼ਬਾਨੀ ਕਰਨ ਦੇ ਯੋਗ ਸੰਸਥਾਵਾਂ ਲਈ ਅਜੇ ਵੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਲਾਗਤਾਂ ਨੂੰ ਘੱਟ ਕਰ ਸਕਦੀ ਹੈ।
ਇੱਕ ਭੀੜ ਵਾਲਾ ਚੀਨੀ ਸਰਹੱਦ
ਅਲੀਬਾਬਾ ਦੇ ਕਵੇਨ ਪਰਿਵਾਰ, ਡੀਪਸੀਕ, ਜ਼ੈਈ, ਅਤੇ ਹੋਰਾਂ ਦੇ ਨਾਲ, ਚੀਨੀ AI ਲੈਬਾਂ ਤੋਂ ਰੀਲੀਜ਼ਾਂ ਦੀ ਇੱਕ ਤੀਬਰ ਖਿੱਚ ਦੇ ਵਿਚਕਾਰ ਪੜਾਅ 5 ਪੂਰਵਦਰਸ਼ਨ ਇੱਕ ਤੇਜ਼ ਕਲਿੱਪ 'ਤੇ ਨਵੇਂ ਮਾਡਲਾਂ ਨੂੰ ਸ਼ਿਪਿੰਗ ਕਰਦੇ ਹਨ। ਚੀਨ ਵਿੱਚ ਟੈਕਨਾਲੋਜੀ ਆਉਟਲੈਟਸ ਨੇ ਮੌਜੂਦਾ ਸਮੇਂ ਨੂੰ ਇੱਕ ਫੁੱਲ-ਸਪ੍ਰਿੰਟ ਫਾਊਂਡੇਸ਼ਨਲ ਮਾਡਲ ਸ਼ੋਅਡਾਉਨ ਵਜੋਂ ਦਰਸਾਇਆ ਹੈ, ਲੈਬਾਂ ਕਥਿਤ ਤੌਰ 'ਤੇ ਵਿਰੋਧੀਆਂ ਨਾਲ ਤਾਲਮੇਲ ਰੱਖਣ ਲਈ ਆਮ ਤੌਰ 'ਤੇ ਛੁੱਟੀਆਂ ਦੇ ਸਮੇਂ ਵਿੱਚ ਕੰਮ ਕਰਦੀਆਂ ਹਨ।
StepFun ਲਈ ਖਾਸ ਤੌਰ 'ਤੇ, ਸ਼ਰਤ ਇਹ ਹੈ ਕਿ ਸਰਹੱਦੀ-ਨਾਲ ਲੱਗਦੀ ਖੁਫੀਆ ਜਾਣਕਾਰੀ, ਇੱਕ 1M ਟੋਕਨ ਸੰਦਰਭ ਵਿੰਡੋ, ਮਲਟੀਮੋਡਲ ਇਨਪੁਟ, ਅਤੇ ਹਮਲਾਵਰ ਕੀਮਤ ਦਾ ਸੁਮੇਲ ਅਕਤੂਬਰ ਦੇ ਓਪਨ-ਵੇਟ ਰੀਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ ਡਿਵੈਲਪਰ ਦੇ ਮਨ ਨੂੰ ਜਿੱਤ ਦੇਵੇਗਾ। ਹੈਕਰ ਨਿਊਜ਼ 'ਤੇ ਚਰਚਾ, ਜਿੱਥੇ ਮਾਡਲ ਦੇ ਲਾਂਚ ਨੇ ਸੌ ਤੋਂ ਵੱਧ ਅੰਕ ਪ੍ਰਾਪਤ ਕੀਤੇ, ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ ਡਿਵੈਲਪਰ ਕਮਿਊਨਿਟੀ ਧਿਆਨ ਦੇ ਰਿਹਾ ਹੈ।
ਕੀ ਦੇਖਣਾ ਹੈ
ਤਿੰਨ ਸਵਾਲ ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਸਟੈਪ 5 ਪ੍ਰੀਵਿਊ ਦੇ ਰਿਸੈਪਸ਼ਨ ਨੂੰ ਆਕਾਰ ਦੇਣਗੇ। ਪਹਿਲਾਂ, ਇਹ ਪ੍ਰਮਾਣਿਤ ਸੂਚਕਾਂਕ ਮੁਲਾਂਕਣਾਂ ਤੋਂ ਬਾਹਰ ਅਸਲ-ਸੰਸਾਰ ਕੋਡਿੰਗ, ਤਰਕ, ਅਤੇ ਏਜੰਟੀ ਮਾਪਦੰਡਾਂ ਵਿੱਚ ਕਿਵੇਂ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦਾ ਹੈ? ਦੂਜਾ, ਕੀ ਓਪਨ-ਵੇਟ ਰੀਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ ਵਰਬੋਸਿਟੀ ਮੁੱਦੇ ਨੂੰ ਟਿਊਨ ਕੀਤਾ ਜਾਵੇਗਾ, ਅਤੇ ਸਥਾਨਕ ਤੈਨਾਤੀ ਲਈ ਸਿਸਟਮ ਲੋੜਾਂ ਕਿਹੋ ਜਿਹੀਆਂ ਦਿਖਾਈ ਦੇਣਗੀਆਂ? ਤੀਜਾ, ਕੀ StepFun ਦਾ API ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪੈਮਾਨੇ 'ਤੇ ਮੰਗ ਨੂੰ ਸੰਭਾਲ ਸਕਦਾ ਹੈ - ਇੱਕ ਚੁਣੌਤੀ ਜਿਸ ਨੇ ਪਹਿਲਾਂ ਸਸਤੇ ਪ੍ਰਵੇਸ਼ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਰੋਕਿਆ ਹੈ?
ਜਵਾਬ ਇੱਕ ਮਾਰਕੀਟ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਪਹੁੰਚਣਗੇ ਜੋ ਦਿਨਾਂ ਵਿੱਚ ਤਰੱਕੀ ਨੂੰ ਮਾਪਦਾ ਹੈ। StepFun, ਚੀਨੀ AI ਈਕੋਸਿਸਟਮ, ਅਤੇ ਮਾਡਲ ਕੀਮਤ 'ਤੇ ਗਲੋਬਲ ਮੁਕਾਬਲੇ ਦੀ ਨਿਰੰਤਰ ਕਵਰੇਜ ਲਈ, ਨਵੀਨਤਮ AI ਵਿਕਾਸ ਦੀ ਪਾਲਣਾ ਕਰੋ ਜਿਵੇਂ ਉਹ ਵਾਪਰਦੇ ਹਨ।
AI ਤੋਂ ਅੱਗੇ ਰਹੋ
ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਮਾਡਲ ਲਾਂਚ AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਲਾਗਤ ਨੂੰ ਮੁੜ ਆਕਾਰ ਦੇ ਰਹੇ ਹਨ। AI Buzz Wire 'ਤੇ ਹਰ ਰੀਲੀਜ਼ ਬਾਰੇ ਜਾਣਕਾਰੀ ਰੱਖੋ, ਮਾਡਲਾਂ, ਖੋਜਾਂ ਅਤੇ ਕਾਰੋਬਾਰ ਲਈ AI ਖਬਰਾਂ ਲਈ ਤੁਹਾਡਾ ਸਰੋਤ।
ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →
