ਓਪਨਏਆਈ ਦੀ ਸਾਬਕਾ ਮੁੱਖ ਟੈਕਨਾਲੋਜੀ ਅਧਿਕਾਰੀ ਮੀਰਾ ਮੂਰਤੀ ਦੁਆਰਾ ਸਥਾਪਿਤ ਕੀਤੀ ਗਈ AI ਸਟਾਰਟਅਪ ਥਿੰਕਿੰਗ ਮਸ਼ੀਨ ਲੈਬ, ਨੇ 20 ਨਵੰਬਰ 2026 ਨੂੰ ਇੱਕ ਨਵਾਂ ਓਪਨ-ਵੇਟ ਮਾਡਲ ਜਾਰੀ ਕੀਤਾ: ਇੰਕਲਿੰਗ 2 ਮਿਨੀ, ਇੱਕ ਅਸਾਧਾਰਨ ਆਰਕੀਟੈਕਚਰ ਦੇ ਆਲੇ ਦੁਆਲੇ ਬਣਾਇਆ ਗਿਆ ਇੱਕ ਸੰਖੇਪ ਮਾਡਲ ਜਿਸ ਬਾਰੇ ਕੰਪਨੀ ਕਹਿੰਦੀ ਹੈ ਕਿ ਇਸਨੂੰ ਇਸਦੇ ਮਾਪਦੰਡਾਂ ਦੀ ਗਿਣਤੀ ਤੋਂ ਉੱਪਰ ਪੰਚ ਕਰਨ ਦਿੰਦਾ ਹੈ। ਮਾਡਲ ਲਗਭਗ 20GB ਦੀ ਕੁੱਲ ਮੈਮੋਰੀ ਫੁੱਟਪ੍ਰਿੰਟ ਦੇ ਨਾਲ, ਇੱਕ ਖਪਤਕਾਰ ਲੈਪਟਾਪ 'ਤੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚਲਾਉਣ ਲਈ ਕਾਫ਼ੀ ਛੋਟਾ ਹੈ।

ਸਿਰਲੇਖ ਨੰਬਰ ਆਕਾਰ ਵਰਗ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹਨ। ਕੰਪਨੀ ਦੀ ਘੋਸ਼ਣਾ ਦੇ ਅਨੁਸਾਰ, Inkling 2 Mini DeepSWE v1.1 'ਤੇ 100 ਬਿਲੀਅਨ ਤੋਂ ਘੱਟ ਕੁੱਲ ਮਾਪਦੰਡਾਂ ਦੇ ਨਾਲ ਹਰੇਕ ਓਪਨ-ਵੇਟ ਮਾਡਲ ਦੀ ਅਗਵਾਈ ਕਰਦਾ ਹੈ, 48.2 ਪ੍ਰਤੀਸ਼ਤ ਕਾਰਜਾਂ ਨੂੰ ਹੱਲ ਕਰਦਾ ਹੈ, ਅਤੇ Vals Index v2.2 'ਤੇ, 46.5 ਪ੍ਰਤੀਸ਼ਤ ਸਕੋਰ ਕਰਦਾ ਹੈ। ਦੋਵੇਂ ਮਾਪਦੰਡ ਏਜੰਟਿਕ ਕੋਡਿੰਗ ਯੋਗਤਾ ਨੂੰ ਮਾਪਦੇ ਹਨ, ਜੋ ਕਿ ਇਸ ਸਮੇਂ ਉਦਯੋਗ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਧ ਵਪਾਰਕ ਤੌਰ 'ਤੇ ਮੁਕਾਬਲਾ ਕਰਨ ਵਾਲੀ ਸਮਰੱਥਾ ਸੀਮਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ। For more context on this story, see our ongoing artificial intelligence updates.

ਲੂਪਡ ਟ੍ਰਾਂਸਫਾਰਮਰ ਨੂੰ ਕੀ ਵੱਖਰਾ ਬਣਾਉਂਦਾ ਹੈ

ਇੰਕਲਿੰਗ 2 ਮਿੰਨੀ ਇੱਕ ਲੂਪਡ ਟ੍ਰਾਂਸਫਾਰਮਰ ਹੈ। ਹਰ ਇੱਕ ਟੋਕਨ ਨੂੰ ਹਰ ਲੇਅਰ ਵਿੱਚੋਂ ਇੱਕ ਵਾਰ ਪਾਸ ਕਰਨ ਦੀ ਬਜਾਏ, ਮਾਡਲ ਪ੍ਰਤੀ ਟੋਕਨ ਤਿੰਨ ਵਾਰ ਆਪਣੀਆਂ ਮੱਧ ਪਰਤਾਂ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ। ਅਸਲ ਵਿੱਚ, ਮਾਡਲ ਵਧੇਰੇ ਆਉਟਪੁੱਟ ਟੋਕਨ ਪੈਦਾ ਕੀਤੇ ਬਿਨਾਂ ਕਿਸੇ ਸਮੱਸਿਆ ਲਈ ਵਧੇਰੇ ਕ੍ਰਮਵਾਰ ਗਣਨਾ ਲਾਗੂ ਕਰ ਸਕਦਾ ਹੈ।

ਕੰਪਨੀ ਦੀ ਫਰੇਮਿੰਗ ਇਹ ਹੈ ਕਿ ਲੂਪਿੰਗ ਮਾਡਲ ਨੂੰ ਇਸਦੇ ਤਰਕ ਨੂੰ ਹੇਠਾਂ ਲਿਖੇ ਬਿਨਾਂ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਤਰਕ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ। ਰਵਾਇਤੀ ਚੇਨ-ਆਫ-ਥੌਟ ਤਰਕ ਦ੍ਰਿਸ਼ਮਾਨ ਵਿਚਕਾਰਲੇ ਕਦਮਾਂ 'ਤੇ ਟੋਕਨ ਖਰਚ ਕਰਦਾ ਹੈ; ਲੂਪਿੰਗ ਇਸ ਦੀ ਬਜਾਏ ਗਣਨਾ ਖਰਚ ਕਰਦੀ ਹੈ। ਇਸ ਦੇ ਕੰਮਾਂ 'ਤੇ ਗਤੀ ਦੇ ਅਸਲ ਨਤੀਜੇ ਹਨ ਜਿੱਥੇ ਤਰਕ ਦੀ ਗੁਣਵੱਤਾ ਟੋਕਨ ਗਿਣਤੀ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਮਹੱਤਵ ਰੱਖਦੀ ਹੈ, ਅਤੇ ਏਜੰਟ ਕੋਡਿੰਗ ਬਿਲਕੁਲ ਉਸੇ ਤਰ੍ਹਾਂ ਦਾ ਕੰਮ ਹੈ।

ਹੁੱਡ ਦੇ ਹੇਠਾਂ, ਇਨਕਲਿੰਗ 2 ਮਿੰਨੀ 26.4 ਬਿਲੀਅਨ ਕੁੱਲ ਮਾਪਦੰਡਾਂ ਅਤੇ ਸਿਰਫ਼ 3.4 ਬਿਲੀਅਨ ਸਰਗਰਮ ਪ੍ਰਤੀ ਟੋਕਨ, 5.4 ਬਿਲੀਅਨ ਵੇਟ ਐਕਟੀਵੇਸ਼ਨਾਂ ਦੇ ਨਾਲ ਇੱਕ ਵਾਰ ਲੂਪਿੰਗ ਦੇ ਹਿਸਾਬ ਨਾਲ ਪ੍ਰਤੀ ਟੋਕਨ ਦੇ ਨਾਲ ਮਾਹਿਰਾਂ ਦਾ ਮਿਸ਼ਰਣ ਮਾਡਲ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਵਜ਼ਨਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ ਅਤੇ NVFP4 ਵਿੱਚ ਮੂਲ ਰੂਪ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤੇ ਗਏ ਹਨ, ਘੱਟ-ਸ਼ੁੱਧਤਾ ਵਾਲਾ ਫਾਰਮੈਟ ਐਨਵੀਡੀਆ ਆਪਣੇ ਡੇਟਾ ਸੈਂਟਰ ਲਾਈਨਅੱਪ ਵਿੱਚ ਅੱਗੇ ਵਧ ਰਿਹਾ ਹੈ, ਅੰਤਿਮ ਚਾਰ ਲੇਅਰਾਂ ਨੂੰ MXFP8 ਵਿੱਚ ਰੱਖਿਆ ਗਿਆ ਹੈ। ਹਮਲਾਵਰ ਮਾਤਰਾਕਰਣ ਅਤੇ ਇੱਕ ਛੋਟੀ ਸਰਗਰਮ ਪੈਰਾਮੀਟਰ ਗਿਣਤੀ ਦਾ ਸੁਮੇਲ ਉਹ ਹੈ ਜੋ ਮਾਡਲ ਨੂੰ ਲਗਭਗ 20GB ਫੁੱਟਪ੍ਰਿੰਟ ਵਿੱਚ ਨਿਚੋੜਦਾ ਹੈ ਜੋ ਲੈਪਟਾਪਾਂ ਅਤੇ ਡੈਸਕਟਾਪ AI ਮਸ਼ੀਨਾਂ 'ਤੇ ਫਿੱਟ ਹੁੰਦਾ ਹੈ।

ਲੈਬ ਨੇ ਇੱਕ M5 ਪ੍ਰੋ ਚਿੱਪ ਅਤੇ 48GB ਮੈਮੋਰੀ ਦੇ ਨਾਲ ਮੈਕਬੁੱਕ ਪ੍ਰੋ 'ਤੇ, ਏਅਰਪਲੇਨ ਮੋਡ ਵਿੱਚ ਔਫਲਾਈਨ ਚੱਲਣ ਵਾਲੇ ਮਾਡਲ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ, ਜਿੱਥੇ ਇਸ ਨੇ ਕੁਝ ਮਿੰਟਾਂ ਵਿੱਚ ਇੱਕ ਚਲਾਉਣ ਯੋਗ ਫਲਾਈਟ ਸਿਮੂਲੇਟਰ ਬਣਾਇਆ।

ਮਾਨੀਟਰੇਬਿਲਟੀ ਟ੍ਰੇਡ-ਆਫ

ਰੀਲੀਜ਼ ਖੋਜ ਦੇ ਨਾਲ ਹੈ ਜੋ ਬੈਂਚਮਾਰਕ ਤੋਂ ਵੱਧ ਮਾਇਨੇ ਰੱਖ ਸਕਦੀ ਹੈ। ਜੇਕਰ ਕੋਈ ਮਾਡਲ ਟੋਕਨਾਂ ਵਿੱਚ ਆਪਣੇ ਵਿਚਾਰਾਂ ਦੀ ਲੜੀ ਨੂੰ ਪ੍ਰਗਟ ਕਰਨ ਦੀ ਬਜਾਏ ਲੂਪਾਂ ਰਾਹੀਂ ਅੰਦਰੂਨੀ ਤਰਕ ਕਰਦਾ ਹੈ, ਤਾਂ ਦ੍ਰਿਸ਼ਮਾਨ ਤਰਕ ਪਾਠ ਮਾਡਲ ਅਸਲ ਵਿੱਚ ਕੀ ਕਰ ਰਿਹਾ ਹੈ ਇਸ ਵਿੱਚ ਇੱਕ ਵਫ਼ਾਦਾਰ ਵਿੰਡੋ ਬਣਨਾ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ। ਇਸਦੇ AI ਸੁਰੱਖਿਆ ਖੋਜ ਲਈ ਪ੍ਰਭਾਵ ਹਨ, ਜਿੱਥੇ ਨਿਗਰਾਨੀ ਚੇਨ-ਆਫ-ਥੌਟ ਉਪਲਬਧ ਕੁਝ ਵਿਹਾਰਕ ਨਿਗਰਾਨੀ ਸਾਧਨਾਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣ ਗਿਆ ਹੈ।

ਇਨਕਲਿੰਗ 2 ਮਿੰਨੀ ਦੇ ਨਾਲ, ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਨੇ ਪ੍ਰਭਾਵ ਨੂੰ ਮਾਪਣ ਲਈ ਇੱਕ ਖੋਜ-ਵਿਸ਼ੇਸ਼ ਵੇਰੀਏਬਲ-ਲੂਪ ਵੇਰੀਐਂਟ ਜਾਰੀ ਕੀਤਾ। ਨਤੀਜੇ ਸਮਰੱਥਾ ਲਈ ਇੱਕ ਉਤਸ਼ਾਹਜਨਕ ਦਿਸ਼ਾ ਵਿੱਚ ਕੱਟਦੇ ਹਨ, ਨਿਗਰਾਨੀ ਲਈ ਇੱਕ ਗੁੰਝਲਦਾਰ। ਵੇਰੀਏਬਲ-ਲੂਪ ਮਾਡਲ ਦਾ ਬਿਨਾਂ ਕਿਸੇ ਵਿਚਾਰ ਦੀ ਲੜੀ ਦੇ ਪੂਰੇ ਕੀਤੇ ਗਏ ਕਾਰਜਾਂ 'ਤੇ ਸਮਾਂ ਦੂਰੀ ਇੱਕ ਸਿੰਗਲ ਪਾਸ 'ਤੇ 16 ਸਕਿੰਟਾਂ ਤੋਂ ਤਿੰਨ ਲੂਪਾਂ 'ਤੇ 37 ਸਕਿੰਟਾਂ ਤੱਕ ਸੁਧਰ ਗਈ ਹੈ, ਅਤੇ ਲੜੀਵਾਰ ਤਰਕ ਦੇ ਬੈਂਚਮਾਰਕ 'ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਦਸ ਲੂਪਸ ਤੱਕ ਸੁਧਾਰਿਆ ਗਿਆ ਹੈ - ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ ਨਾਲੋਂ ਦੁੱਗਣਾ।

ਇਸ ਦੌਰਾਨ, ਵਿਚਾਰਾਂ ਦੀ ਦਿੱਖ ਲੜੀ ਛੋਟੀ ਹੋ ​​ਗਈ ਕਿਉਂਕਿ ਲੂਪਾਂ ਨੂੰ ਜੋੜਿਆ ਗਿਆ ਸੀ, ਪਰ ਕੰਪਨੀ ਰਿਪੋਰਟ ਕਰਦੀ ਹੈ ਕਿ ਇਹ ਪੂਰੇ ਸਮੇਂ ਵਿੱਚ ਪੜ੍ਹਨਯੋਗ ਰਿਹਾ, ਅਤੇ ਲੂਪਿੰਗ ਡੂੰਘਾਈ ਵਿੱਚ ਵਾਧਾ ਹੋਣ ਦੇ ਕਾਰਨ ਏਜੰਟੀ ਤੋੜ-ਭੰਨ ਦੇ ਟੈਸਟਾਂ ਵਿੱਚ ਮਾਡਲ ਉੱਚਾ ਨਹੀਂ ਚੱਲਿਆ। ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਇਹਨਾਂ ਨੂੰ ਖੋਜਕਰਤਾਵਾਂ ਲਈ ਉਪਲਬਧ ਕੁਝ ਪਹਿਲੇ ਲੂਪਡ-ਆਰਕੀਟੈਕਚਰ ਮਾਡਲਾਂ ਦੇ ਰੂਪ ਵਿੱਚ ਵਰਣਨ ਕਰਦੀਆਂ ਹਨ, ਰੀਲੀਜ਼ ਨੂੰ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਸੁਰੱਖਿਆ ਭਾਈਚਾਰੇ ਲਈ ਸਿਮੂਲੇਟਡ ਸੈੱਟਅੱਪਾਂ ਦੀ ਬਜਾਏ ਅਸਲ ਵਜ਼ਨਾਂ 'ਤੇ ਨਿਗਰਾਨੀਯੋਗਤਾ ਦਾ ਅਧਿਐਨ ਕਰਨ ਲਈ ਇੱਕ ਸੱਦਾ ਦੇ ਰੂਪ ਵਿੱਚ ਸਥਿਤੀ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ।

ਸਬ-100B ਕਲਾਸ ਵਿੱਚ ਇੱਕ ਪ੍ਰਤੀਯੋਗੀ ਖੇਡ

ਬੈਂਚਮਾਰਕ ਇਨਕਲਿੰਗ 2 ਮਿੰਨੀ ਨੂੰ ਭੀੜ-ਭੜੱਕੇ ਵਾਲੇ ਸਬ-100B ਫੀਲਡ ਦੇ ਵਿਰੁੱਧ ਰੱਖਦੇ ਹਨ ਜਿਸ ਵਿੱਚ 26B–31B ਰੇਂਜ ਵਿੱਚ Gemma 4 ਮਾਡਲ, Qwen3.8-27B, ਮਿਊਜ਼ ਗਲਿਮਰ, ਅਤੇ ਰਿਪਲ ਨਾਮਕ ਇੱਕ 65B ਪ੍ਰੀਵਿਊ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ। ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇਸਦਾ ਮਾਡਲ ਬੈਚ ਸਾਈਜ਼ ਇੱਕ 'ਤੇ ਸਿਧਾਂਤਕ ਟੋਕਨ ਥ੍ਰੁਪੁੱਟ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਉਸੇ ਤਰ੍ਹਾਂ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਕਰਨ ਵਾਲੇ ਪ੍ਰਤੀਯੋਗੀਆਂ ਨਾਲੋਂ ਤੇਜ਼ੀ ਨਾਲ ਚੱਲਦਾ ਹੈ।

ਉਪ-100B ਖੰਡ ਦੋ ਕਾਰਨਾਂ ਕਰਕੇ ਰਣਨੀਤਕ ਤੌਰ 'ਤੇ ਮਹੱਤਵਪੂਰਨ ਬਣ ਗਿਆ ਹੈ। ਸਭ ਤੋਂ ਪਹਿਲਾਂ, ਔਨ-ਡਿਵਾਈਸ ਅਤੇ ਪ੍ਰਾਈਵੇਟ ਤੈਨਾਤੀ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਹੀ ਹੈ ਕਿਉਂਕਿ ਉੱਦਮ ਹੋਸਟ ਕੀਤੇ API ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਭੇਜਣ ਤੋਂ ਪਿੱਛੇ ਹਟਦੇ ਹਨ। ਦੂਜਾ, ਸਥਾਨਕ ਅਨੁਮਾਨਾਂ ਲਈ ਪ੍ਰਤੀ-ਟੋਕਨ ਅਰਥ ਸ਼ਾਸਤਰ ਵੱਡੀਆਂ ਦੀ ਡਿਸਟਿਲਡ ਕਾਪੀਆਂ ਨਾਲੋਂ ਛੋਟੇ, ਹਮਲਾਵਰ ਤੌਰ 'ਤੇ ਮਾਤਰਾ ਵਾਲੇ ਮਾਡਲਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਇੱਕ 26.4B MoE ਜੋ NVFP4 ਵਿੱਚ ਮੂਲ ਰੂਪ ਵਿੱਚ ਲੂਪਿੰਗ ਕੰਪਿਊਟ ਨਾਲ ਚੱਲਦਾ ਹੈ, ਉਸ ਮਾਰਕੀਟ ਦਾ ਸਿੱਧਾ ਜਵਾਬ ਹੈ।

ਮਾਡਲ ਪ੍ਰਕਾਸ਼ਿਤ ਮਾਡਲ ਕਾਰਡ ਦੇ ਨਾਲ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਉਪਲਬਧ ਹੈ, ਅਤੇ ਥਿੰਕਿੰਗ ਮਸ਼ੀਨਾਂ ਇਸਦੇ ਟਿੰਕਰ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਪਲੇਟਫਾਰਮ ਦੁਆਰਾ ਪਹੁੰਚ ਨੂੰ ਵਧਾਵਾ ਦੇ ਰਹੀ ਹੈ। ਇਸ ਰੀਲੀਜ਼ ਅਤੇ ਲੈਬ ਦੇ ਪੁਰਾਣੇ ਇਨਕਲਿੰਗ ਫੈਮਿਲੀ ਮਾਡਲਾਂ ਦੇ ਵਿਚਕਾਰ, ਸਟਾਰਟਅਪ ਇੱਕ ਅਜਿਹੇ ਸਮੇਂ ਵਿੱਚ ਆਵਰਤੀ-ਸ਼ੈਲੀ ਕੰਪਿਊਟ ਸਕੇਲਿੰਗ ਦੇ ਆਲੇ ਦੁਆਲੇ ਇੱਕ ਵੱਖਰੀ ਤਕਨੀਕੀ ਪਛਾਣ ਬਣਾ ਰਿਹਾ ਹੈ ਜਦੋਂ ਜ਼ਿਆਦਾਤਰ ਫਰੰਟੀਅਰ ਲੈਬਾਂ ਸਕੇਲਿੰਗ ਪੈਰਾਮੀਟਰਾਂ ਅਤੇ ਡੇਟਾ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਰਹਿੰਦੀਆਂ ਹਨ।

ਭਾਵੇਂ ਲੂਪਿੰਗ ਇੱਕ ਮੁੱਖ ਧਾਰਾ ਬਣਤਰ ਬਣ ਜਾਂਦੀ ਹੈ ਜਾਂ ਇੱਕ ਸਥਾਨ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ, ਰੀਲੀਜ਼ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਪਲ ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਕਰਦੀ ਹੈ: ਸਭ ਤੋਂ ਨੇੜਿਓਂ ਦੇਖੇ ਜਾਣ ਵਾਲੇ AI ਸਟਾਰਟਅੱਪਾਂ ਵਿੱਚੋਂ ਇੱਕ ਇਹ ਸੱਟੇਬਾਜ਼ੀ ਕਰ ਰਿਹਾ ਹੈ ਕਿ ਪ੍ਰਤੀ ਟੋਕਨ ਚੁਸਤ ਗਣਨਾ - ਹੋਰ ਟੋਕਨ ਨਹੀਂ, ਅਤੇ ਹੋਰ ਪੈਰਾਮੀਟਰ ਨਹੀਂ - ਜਿੱਥੇ ਅਗਲੇ ਲਾਭ ਰਹਿੰਦੇ ਹਨ।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →