ਮਾਹਰਾਂ ਦੇ ਡਿਜ਼ਾਈਨ ਦਾ ਮਿਸ਼ਰਣ
TestingCatalog AI News ਦੇ ਅਨੁਸਾਰ, Inkling-Small ਇੱਕ ਮਿਕਸਚਰ-ਆਫ-ਐਕਸਪਰਟਸ (MoE) ਟ੍ਰਾਂਸਫਾਰਮਰ ਹੈ ਜਿਸ ਵਿੱਚ 276 ਬਿਲੀਅਨ ਕੁੱਲ ਪੈਰਾਮੀਟਰ ਹੁੰਦੇ ਹਨ, ਕਿਸੇ ਵੀ ਦਿੱਤੇ ਗਏ ਅਨੁਮਾਨ ਦੇ ਦੌਰਾਨ 12 ਬਿਲੀਅਨ ਕਿਰਿਆਸ਼ੀਲ ਹੁੰਦੇ ਹਨ। ਉਹ ਆਰਕੀਟੈਕਚਰ - ਜਿੱਥੇ ਹਰੇਕ ਟੋਕਨ ਲਈ ਮਾਡਲ ਦਾ ਸਿਰਫ ਇੱਕ ਛੋਟਾ ਜਿਹਾ ਟੁਕੜਾ "ਜਾਗਦਾ ਹੈ" - ਉਹੀ ਕੁਸ਼ਲਤਾ ਚਾਲ ਹੈ ਜਿਸ ਨੇ ਡੀਪਸੀਕ ਵਰਗੇ ਚੀਨੀ ਓਪਨ-ਵੇਟ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਇੰਨਾ ਸਸਤਾ ਬਣਾ ਦਿੱਤਾ ਹੈ। ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਪੂਰੇ ਵਜ਼ਨ ਜਾਰੀ ਕੀਤੇ ਜਾ ਰਹੇ ਹਨ।ਇਹ ਮਾਡਲ ਇੱਕ ਮਿਲੀਅਨ ਟੋਕਨਾਂ ਤੱਕ ਦੀ ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਜਿਸ ਨੂੰ ਲੈਬ "ਵੇਰੀਏਬਲ ਸੋਚਣ ਦੀ ਕੋਸ਼ਿਸ਼" ਕਹਿੰਦੀ ਹੈ, ਘੱਟੋ-ਘੱਟ ਤੋਂ ਲੈ ਕੇ "xhigh" ਦੇ ਨਾਲ ਵੀ ਭੇਜਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਵਿਕਾਸਕਾਰਾਂ ਨੂੰ ਕੰਮ ਦੇ ਆਧਾਰ 'ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਲਈ ਗਣਨਾ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲਦੀ ਹੈ। ਫਾਈਨ-ਟਿਊਨਿੰਗ ਕੰਪਨੀ ਦੇ ਟਿੰਕਰ ਪਲੇਟਫਾਰਮ ਰਾਹੀਂ ਉਪਲਬਧ ਹੈ, ਅਤੇ ਟਿੰਕਰ ਪਲੇਗ੍ਰਾਉਂਡ ਵਿੱਚ ਟੈਕਸਟ, ਚਿੱਤਰ ਅਤੇ ਆਡੀਓ ਚੈਟ ਪਹੁੰਚਯੋਗ ਹਨ।
NVIDIA GB300 ਸਿਸਟਮਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ
ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਨੇ ਕਿਹਾ ਕਿ Inkling-Small ਨੂੰ NVIDIA GB300 NVL72 ਸਿਸਟਮਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ ਅਤੇ 15 ਜੁਲਾਈ, 2026 ਨੂੰ ਲਾਂਚ ਕੀਤੇ ਗਏ ਮੂਲ ਇਨਕਲਿੰਗ ਮਾਡਲ ਨਾਲੋਂ "ਕਾਫ਼ੀ ਤੌਰ 'ਤੇ ਘੱਟ ਗਣਨਾ" ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਗਈ ਸੀ। ਉਹ ਪਹਿਲਾ ਮਾਡਲ — ਜਿਸ ਨੂੰ WIRED ਅਤੇ TechCrunch ਦੁਆਰਾ ਕਵਰ ਕੀਤਾ ਗਿਆ ਸੀ — ਲਗਭਗ ਇੱਕ ਸੰਜੀਦਾ ਕੰਪਲੇਟ ਜਾਂ ਥਿੰਕਿੰਗ ਮਸ਼ੀਨ ਦੇ ਰੂਪ ਵਿੱਚ ਰਿਲੀਜ਼ ਕੀਤਾ ਗਿਆ ਸੀ। ਰਾਤੋ ਰਾਤ.
ਇਨਕਲਿੰਗ-ਸਮਾਲ ਦਾ ਮਾਰਗ ਇੱਕ ਜਾਣਬੁੱਝ ਕੇ ਕੁਸ਼ਲਤਾ ਦੀ ਰਣਨੀਤੀ ਨੂੰ ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ. ਲੈਬ ਨੇ ਆਪਣੇ ਪ੍ਰੀ-ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਮਿਕਸ ਅਤੇ ਮਸ਼ੀਨ-ਲਰਨਿੰਗ ਰੈਸਿਪੀ ਨੂੰ ਸੋਧਣ ਲਈ ਸਾਹ ਲੈਣ ਵਾਲੇ ਕਮਰੇ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਇੰਕਲਿੰਗ ਦੀ ਸਿਖਲਾਈ ਤੋਂ ਬਾਅਦ ਹੀ ਛੋਟੇ ਮਾਡਲ 'ਤੇ ਕੰਮ ਸ਼ੁਰੂ ਕੀਤਾ। ਇੱਕ ਪਹਿਲਾਂ ਦੀ ਪੂਰਵਦਰਸ਼ਨ ਜਾਂਚ ਪੁਆਇੰਟ ਨੂੰ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਪਾਲਿਸੀ ਡਿਸਟਿਲੇਸ਼ਨ ਦੁਆਰਾ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ, ਜਿਸ ਵਿੱਚ ਇੰਕਲਿੰਗ ਅਧਿਆਪਕ ਵਜੋਂ ਸੇਵਾ ਕਰ ਰਿਹਾ ਸੀ, ਇਸਦੇ ਬਾਅਦ ਲਗਭਗ ਦੋ ਹਫ਼ਤਿਆਂ ਦੀ ਸਕੇਲ ਕੀਤੀ ਏਜੰਟ-ਕੋਡਿੰਗ ਰੀਨਫੋਰਸਮੈਂਟ ਸਿਖਲਾਈ ਦੇ ਬਾਅਦ।
ਇਹ ਕਿੱਥੇ ਜਿੱਤਦਾ ਹੈ — ਅਤੇ ਕਿੱਥੇ ਨਹੀਂ
ਉਸ ਨੁਸਖੇ ਦੇ ਨਤੀਜੇ ਜ਼ਿਕਰਯੋਗ ਹਨ। ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇੰਕਲਿੰਗ-ਸਮਾਲ ਤਰਕ ਅਤੇ ਏਜੰਟਿਕ-ਕੋਡਿੰਗ ਬੈਂਚਮਾਰਕਾਂ 'ਤੇ ਮੂਲ ਇੰਕਲਿੰਗ ਨੂੰ ਪਛਾੜਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਇੰਕਲਿੰਗ ਗਿਆਨ ਦੇ ਕਵਰੇਜ ਅਤੇ ਤੱਥਾਂ ਵਿੱਚ ਮਜ਼ਬੂਤ ਰਹਿੰਦੀ ਹੈ। ਸਿਰਫ਼-ਟੈਕਸਟ ਹਿਊਮੈਨਿਟੀਜ਼ ਲਾਸਟ ਐਗਜ਼ਾਮ 'ਤੇ, ਇੱਕ ਬਦਨਾਮ ਮੁਸ਼ਕਲ ਮੁਲਾਂਕਣ, ਛੋਟੇ ਮਾਡਲ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ 31.6% ਸਕੋਰ ਕੀਤੇ, ਇਨਕਲਿੰਗ ਲਈ 29.7% ਦੇ ਮੁਕਾਬਲੇ - ਸਰਗਰਮ ਪੈਰਾਮੀਟਰਾਂ ਵਿੱਚ ਨਾਟਕੀ ਕਮੀ ਦੇ ਬਾਵਜੂਦ ਇੱਕ ਅਸਲ ਸੁਧਾਰ।
ਵਪਾਰ-ਬੰਦ ਸਪੱਸ਼ਟ ਹੈ: ਇੰਕਲਿੰਗ-ਸਮਾਲ ਤਿੱਖਾ ਕੋਡਰ ਅਤੇ ਤਰਕ ਕਰਨ ਵਾਲਾ ਹੈ, ਜਦੋਂ ਕਿ ਇਸਦਾ ਵੱਡਾ ਭਰਾ ਵਿਆਪਕ ਗਿਆਨ ਅਧਾਰ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਦਾ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਲਈ, ਇਹ ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ, ਇੱਕ ਬੱਗ ਨਹੀਂ - ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਹਰੇਕ ਕੰਮ 'ਤੇ ਇੱਕ ਵਿਸ਼ਾਲ ਮਾਡਲ ਲਈ ਭੁਗਤਾਨ ਕਰਨ ਦੀ ਬਜਾਏ ਨੌਕਰੀ ਲਈ ਸਹੀ ਟੂਲ ਦੀ ਚੋਣ ਕਰਨਾ।
ਚੀਨ ਦੀ ਅਗਵਾਈ ਵਿੱਚ ਇੱਕ ਓਪਨ-ਵੇਟ ਫੀਲਡ ਵਿੱਚ ਇੱਕ ਅਮਰੀਕੀ ਖਿਡਾਰੀ
ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਵੱਡਾ ਪ੍ਰਭਾਵ ਭੂ-ਰਾਜਨੀਤਿਕ ਹੈ। ਜਿਵੇਂ ਕਿ CNBC ਅਤੇ ਹੋਰਾਂ ਨੇ ਨੋਟ ਕੀਤਾ ਹੈ, ਓਪਨ-ਵੇਟ ਫਰੰਟੀਅਰ ਮਾਡਲ ਯੂ.ਐੱਸ.-ਚੀਨ ਫਲੈਸ਼ਪੁਆਇੰਟ ਬਣ ਗਏ ਹਨ, ਜਿਸ ਵਿੱਚ ਚੀਨੀ ਲੈਬਾਂ ਜਿਵੇਂ ਡੀਪਸੀਕ ਅਤੇ ਅਲੀਬਾਬਾ ਦੇ ਕਵੇਨ ਨੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲ ਦਿੱਤੇ ਹਨ ਅਤੇ ਪੱਛਮੀ ਕੀਮਤਾਂ ਨੂੰ ਘੱਟ ਕੀਤਾ ਹੈ। ਫੋਰਕਾਸਟ ਨੇ ਇੰਕਲਿੰਗ-ਸਮਾਲ ਰੀਲੀਜ਼ ਨੂੰ ਸਾਫ਼-ਸਾਫ਼ ਤਿਆਰ ਕੀਤਾ: "ਓਪਨ-ਵੇਟਸ ਮੁਕਾਬਲੇ ਵਿੱਚ ਹੁਣ ਇੱਕ ਯੂਐਸ ਪ੍ਰਵੇਸ਼ਕਰਤਾ ਹੈ।"
ਹੁਣ ਤੱਕ, ਪ੍ਰਮੁੱਖ ਓਪਨ-ਵੇਟ ਮਾਡਲ ਚੀਨ ਤੋਂ ਲਗਭਗ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਆਏ ਹਨ, ਵਾਸ਼ਿੰਗਟਨ ਵਿੱਚ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰਦੇ ਹਨ ਕਿ ਅਮਰੀਕੀ ਲੈਬਾਂ ਮਾਰਕੀਟ ਦੀ ਇੱਕ ਪੂਰੀ ਸ਼੍ਰੇਣੀ ਨੂੰ ਸੌਂਪ ਰਹੀਆਂ ਹਨ। Thinking Machines — AI ਵਿੱਚ ਸਭ ਤੋਂ ਪ੍ਰਮੁੱਖ ਸ਼ਖਸੀਅਤਾਂ ਵਿੱਚੋਂ ਇੱਕ ਦੀ ਅਗਵਾਈ ਵਿੱਚ ਇੱਕ ਚੰਗੀ ਤਰ੍ਹਾਂ ਫੰਡ ਪ੍ਰਾਪਤ ਯੂ.ਐੱਸ. ਸਟਾਰਟਅੱਪ — ਉਸ ਕੈਲਕੂਲਸ ਨੂੰ ਬਦਲਦਾ ਹੈ। ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਪੂਰਾ ਵਜ਼ਨ ਜਾਰੀ ਕਰਕੇ ਅਤੇ ਓਪਨ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਦਾ ਸਮਰਥਨ ਕਰਕੇ, ਲੈਬ ਡਿਵੈਲਪਰ ਕਮਿਊਨਿਟੀ ਲਈ ਸਿੱਧੀ ਖੇਡ ਬਣਾ ਰਹੀ ਹੈ ਜਿਸ ਨੂੰ ਚੀਨੀ ਓਪਨ-ਵੇਟ ਮਾਡਲਾਂ ਨੇ ਪੈਦਾ ਕੀਤਾ ਹੈ।
ਡਿਵੈਲਪਰਾਂ ਲਈ ਬਣਾਇਆ ਗਿਆ, ਸਿਰਫ਼ ਬੈਂਚਮਾਰਕਾਂ ਲਈ ਨਹੀਂ
ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਨੇ ਡਿਵੈਲਪਰਾਂ ਦੇ ਉਦੇਸ਼ ਨਾਲ ਰੀਲੀਜ਼ ਨੂੰ ਟੂਲਿੰਗ ਨਾਲ ਜੋੜਿਆ ਹੈ। ਓਪਨ ਹੱਗਿੰਗ ਫੇਸ ਵੇਟ ਤੋਂ ਪਰੇ, ਡੇਟਾਬ੍ਰਿਕਸ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਇਨਕਲਿੰਗ ਪਰਿਵਾਰ ਇਸਦੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਉਪਲਬਧ ਹੈ, ਅਤੇ ਟਿੰਕਰ ਪਲੇਗ੍ਰਾਉਂਡ ਬਾਕਸ ਦੇ ਬਾਹਰ ਮਲਟੀਮੋਡਲ ਟੈਕਸਟ, ਚਿੱਤਰ ਅਤੇ ਆਡੀਓ ਚੈਟ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਪਰਿਵਰਤਨਸ਼ੀਲ "ਸੋਚਣ ਦੀ ਕੋਸ਼ਿਸ਼" ਸੈਟਿੰਗ — ਨਿਊਨਤਮ ਤੋਂ "xhigh" ਤੱਕ — ਅਸਲ ਇੰਜੀਨੀਅਰਿੰਗ ਟ੍ਰੇਡ-ਆਫ ਲਈ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ: ਜਦੋਂ ਕੋਈ ਕੰਮ ਸਧਾਰਨ ਹੋਵੇ ਤਾਂ ਸਸਤਾ ਚਲਾਓ, ਜਦੋਂ ਕੋਈ ਸਮੱਸਿਆ ਡੂੰਘੇ ਤਰਕ ਦੀ ਮੰਗ ਕਰਦੀ ਹੈ ਤਾਂ ਵਧੇਰੇ ਗਣਨਾ ਕਰੋ। ਇਹ ਲਚਕਤਾ ਸਟਾਰਟਅੱਪਸ ਲਈ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ ਜੋ ਉਹਨਾਂ ਦੇ ਅਨੁਮਾਨ ਬਿੱਲਾਂ ਨੂੰ ਦੇਖਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਬਹੁਤ ਸਾਰੇ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰੀਮੀਅਮ API ਦਰਾਂ ਦਾ ਭੁਗਤਾਨ ਕਰਨ ਦੀ ਬਜਾਏ ਸਸਤੇ ਓਪਨ-ਵੇਟ ਵਿਕਲਪਾਂ ਵੱਲ ਪਰਵਾਸ ਕਰ ਚੁੱਕੇ ਹਨ।
ਉਦਯੋਗ ਭਰ ਵਿੱਚ ਕੁਸ਼ਲਤਾ ਦਾ ਰੁਝਾਨ
ਇੰਕਲਿੰਗ-ਸਮਾਲ ਇੱਕ ਵਿਸ਼ਾਲ ਪੈਟਰਨ ਨੂੰ ਵੀ ਫਿੱਟ ਕਰਦਾ ਹੈ। ਪੂਰੇ ਉਦਯੋਗ ਵਿੱਚ, ਕੱਟਣ ਵਾਲਾ ਕਿਨਾਰਾ ਕਦੇ-ਵੱਡੇ ਮੋਨੋਲੀਥਿਕ ਮਾਡਲਾਂ ਤੋਂ ਛੋਟੇ, ਚੁਸਤ ਸਿਸਟਮਾਂ ਵੱਲ ਬਦਲ ਰਿਹਾ ਹੈ ਜੋ ਉਹਨਾਂ ਦੇ ਭਾਰ ਤੋਂ ਉੱਪਰ ਹਨ। ਡੀਪਸੀਕ ਦੇ ਪ੍ਰਾਈਸ-ਵਾਰ ਮਾਡਲਾਂ ਤੋਂ ਲੈ ਕੇ ਸੰਕੁਚਿਤ ਆਰਕੀਟੈਕਚਰ ਤੱਕ, ਸੁਨੇਹਾ ਇਕਸਾਰ ਹੈ: ਕੱਚੇ ਪੈਰਾਮੀਟਰ ਦੀ ਗਿਣਤੀ ਇਸ ਤੋਂ ਘੱਟ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ ਕਿ ਕੋਈ ਮਾਡਲ ਆਪਣੀ ਸਮਰੱਥਾ ਦੀ ਵਰਤੋਂ ਕਿੰਨੀ ਕੁ ਕੁਸ਼ਲਤਾ ਨਾਲ ਕਰਦਾ ਹੈ।
ਸੋਚਣ ਵਾਲੀਆਂ ਮਸ਼ੀਨਾਂ ਲਈ, ਆਕਾਰ ਤੋਂ ਵੱਧ ਕੁਸ਼ਲਤਾ 'ਤੇ ਸੱਟਾ ਹੁਣ ਦੋ ਮਾਡਲ ਡੂੰਘੇ ਹਨ - ਅਤੇ ਸ਼ੁਰੂਆਤੀ ਬੈਂਚਮਾਰਕ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਰਣਨੀਤੀ ਕੰਮ ਕਰ ਰਹੀ ਹੈ। ਇੰਕਲਿੰਗ-ਸਮਾਲ ਅੱਜ ਡਾਊਨਲੋਡ ਕਰਨ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਉਪਲਬਧ ਹੈ, ਡਿਵੈਲਪਰ ਆਪਣੇ ਲਈ ਉਸ ਦਾਅਵੇ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਨ।
AI ਤੋਂ ਅੱਗੇ ਰਹੋ
ਨਵੇਂ ਓਪਨ-ਵੇਟ ਮਾਡਲ ਹਰ ਹਫ਼ਤੇ ਉਤਰ ਰਹੇ ਹਨ, ਅਤੇ ਮੁਕਾਬਲਾ ਸਿਰਫ ਤੇਜ਼ ਹੋ ਰਿਹਾ ਹੈ. ਸਾਡੇ [AI ਉਦਯੋਗ ਕਵਰੇਜ] (https://aibuzzwire.news) ਰਾਹੀਂ ਹਰ ਰੀਲੀਜ਼ ਨਾਲ ਜੁੜੇ ਰਹੋ।
ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →
