OpenAI ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ ਕਿ GPT-6 Astra ਪਹਿਲਾ ਮਾਡਲ ਹੈ ਜਿਸ ਨੂੰ ਕੰਪਨੀ ਦੇ ਤਿਆਰੀ ਫਰੇਮਵਰਕ ਦੇ ਤਹਿਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਲਈ "ਨਾਜ਼ੁਕ" ਥ੍ਰੈਸ਼ਹੋਲਡ ਤੱਕ ਪਹੁੰਚਣ ਲਈ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਤੈਨਾਤ ਕੀਤਾ ਗਿਆ ਹੈ - ਸਿਸਟਮਾਂ ਲਈ ਰਾਖਵਾਂ ਪੱਧਰ ਜੋ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਤੋਂ ਬਿਨਾਂ ਸਖ਼ਤ ਅਸਲ-ਸੰਸਾਰ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੇ ਜ਼ੀਰੋ-ਦਿਨ ਸ਼ੋਸ਼ਣਾਂ ਨੂੰ ਲੱਭ ਅਤੇ ਵਿਕਸਿਤ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਖੁਲਾਸਾ ਮਾਡਲ ਦੇ ਸਿਸਟਮ ਕਾਰਡ ਵਿੱਚ ਪ੍ਰਗਟ ਹੁੰਦਾ ਹੈ ਅਤੇ BleepingComputer ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤਾ ਗਿਆ ਸੀ ਵਿਕਾਸ](https://aibuzzwire.news) OpenAI ਦੇ ਸਭ ਤੋਂ ਸਮਰੱਥ ਰੀਲੀਜ਼ ਦੇ ਆਲੇ-ਦੁਆਲੇ।
OpenAI ਦੇ ਫਰੇਮਵਰਕ ਦੇ ਤਹਿਤ "ਨਾਜ਼ੁਕ" ਦਾ ਕੀ ਅਰਥ ਹੈ
ਓਪਨਏਆਈ ਦੇ ਤਿਆਰੀ ਫਰੇਮਵਰਕ ਦੇ ਤਹਿਤ, ਇੱਕ ਮਾਡਲ ਨਾਜ਼ੁਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਥ੍ਰੈਸ਼ਹੋਲਡ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ ਜੇਕਰ ਇਹ "ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਤੋਂ ਬਿਨਾਂ ਕਈ ਸਖ਼ਤ ਅਸਲ-ਸੰਸਾਰ ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਸਾਰੇ ਗੰਭੀਰਤਾ ਪੱਧਰਾਂ ਦੇ ਕਾਰਜਸ਼ੀਲ ਜ਼ੀਰੋ-ਦਿਨ ਸ਼ੋਸ਼ਣਾਂ ਦੀ ਪਛਾਣ ਅਤੇ ਵਿਕਾਸ ਕਰ ਸਕਦਾ ਹੈ," ਜਾਂ ਸਖ਼ਤ ਟੀਚਿਆਂ ਦੇ ਵਿਰੁੱਧ ਅੰਤ-ਤੋਂ-ਅੰਤ ਦੇ ਹਮਲੇ ਦੀਆਂ ਰਣਨੀਤੀਆਂ ਤਿਆਰ ਅਤੇ ਲਾਗੂ ਕਰ ਸਕਦਾ ਹੈ।
ਓਪਨਏਆਈ ਨੇ ਸਿਸਟਮ ਕਾਰਡ ਵਿੱਚ ਕਿਹਾ, "ਜੀਪੀਟੀ-6 ਐਸਟਰਾ ਸਾਈਬਰ ਸਮਰੱਥਾ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਦਮ ਹੈ ਅਤੇ ਸਾਡੀ ਗੰਭੀਰ ਥ੍ਰੈਸ਼ਹੋਲਡ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ।" "ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ, ਸਹੀ ਸਾਧਨਾਂ ਅਤੇ ਪਹੁੰਚ ਦੇ ਨਾਲ, GPT-6 Astra ਪਿਛਲੀਆਂ ਅਣਜਾਣ ਸੁਰੱਖਿਆ ਖਾਮੀਆਂ ਨੂੰ ਲੱਭ ਸਕਦਾ ਹੈ ਅਤੇ ਹਰੇਕ ਕਦਮ ਦੀ ਅਗਵਾਈ ਕਰਨ ਵਾਲੇ ਵਿਅਕਤੀ ਤੋਂ ਬਿਨਾਂ ਕਈ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੁਰੱਖਿਅਤ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਉਹਨਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨ ਦੇ ਨਵੇਂ ਤਰੀਕੇ ਵਿਕਸਿਤ ਕਰ ਸਕਦਾ ਹੈ।"
ਰੇਟਿੰਗ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ ਕਿਉਂਕਿ ਕ੍ਰਿਟੀਕਲ ਓਪਨਏਆਈ ਦੀ ਸਮਰੱਥਾ ਸਕੇਲ ਦੀ ਸੀਮਾ ਹੈ। ਇਸ ਨੂੰ ਪਾਰ ਕਰਨਾ ਕੰਪਨੀ ਨੂੰ ਆਪਣੀ ਸਖਤ ਸੁਰੱਖਿਆ, ਤੈਨਾਤੀ, ਅਤੇ ਨਿਗਰਾਨੀ ਨਿਯੰਤਰਣਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ, ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਮਾਡਲ ਨੂੰ ਰਿਲੀਜ਼ ਕੀਤਾ ਜਾ ਸਕੇ।
ਤਿਆਰੀ ਫਰੇਮਵਰਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਨੂੰ ਕਈ ਸਰਹੱਦੀ-ਜੋਖਮ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਮੰਨਦਾ ਹੈ ਜਿਸਦਾ ਓਪਨਏਆਈ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ ਜਦੋਂ ਵੀ ਇਹ ਵਧੇਰੇ ਸਮਰੱਥ ਮਾਡਲਾਂ ਨੂੰ ਜਾਰੀ ਕਰਦਾ ਹੈ, ਥ੍ਰੈਸ਼ਹੋਲਡ ਦੇ ਨਾਲ ਜੋ ਅੰਦਰੂਨੀ ਲੋੜਾਂ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ। ਐਸਟਰਾ ਨੇ 4 ਸਤੰਬਰ ਨੂੰ ਆਪਣੀ ਆਮ ਉਪਲਬਧਤਾ ਰੋਲਆਉਟ ਤੋਂ ਪਹਿਲਾਂ ਸ਼੍ਰੇਣੀ ਵਿੱਚ ਸਭ ਤੋਂ ਉੱਚੇ ਬਾਰ ਨੂੰ ਸਾਫ਼ ਕਰ ਦਿੱਤਾ - ਇੱਕ ਰੋਲਆਉਟ ਜੋ ਪਹਿਲਾਂ ਹੀ ਕਾਫ਼ੀ ਉਦਾਸ ਸੀ ਕਿ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ਨੇ ਜਨਤਕ ਤੌਰ 'ਤੇ ਲਾਂਚ ਲਈ ਮੁਆਫੀ ਮੰਗੀ, ਕਿਉਂਕਿ ਸਾਈਟ ਉਸ ਸਮੇਂ ਕਵਰ ਕੀਤੀ ਗਈ ਸੀ।
ਇਸ ਨੂੰ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਅਸਲ ਜ਼ੀਰੋ-ਦਿਨ ਮਿਲੇ
ਸਿਸਟਮ ਕਾਰਡ ਕੇਵਲ ਸਿਧਾਂਤਕ ਸਮਰੱਥਾ ਦਾ ਵਰਣਨ ਨਹੀਂ ਕਰਦਾ. ਓਪਨਏਆਈ ਨੇ ਐਸਟਰਾ ਦੇ ਗਿਆਨ ਕਟੌਤੀ ਤੋਂ ਬਾਅਦ ਪ੍ਰਗਟ ਕੀਤੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਆਪਣੇ ਐਕਸਪਲੋਇਟਬੈਂਚ ਮੁਲਾਂਕਣ ਦਾ ਇੱਕ ਅਪਡੇਟ ਕੀਤਾ ਸੰਸਕਰਣ ਬਣਾਇਆ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਮਾਡਲ ਸਿਖਲਾਈ ਡੇਟਾ ਤੋਂ ਜਾਣੀਆਂ ਗਈਆਂ ਖਾਮੀਆਂ ਨੂੰ ਯਾਦ ਨਾ ਕਰ ਸਕੇ।
ਓਪਨਏਆਈ ਨੇ ਲਿਖਿਆ, "ਮੁਲਾਂਕਣ ਦੇ ਦੌਰਾਨ, ਐਸਟਰਾ ਨੇ ਆਪਣੀ ਸ਼ੋਸ਼ਣ ਚੇਨ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਪਹਿਲਾਂ ਤੋਂ ਅਣਜਾਣ ਜ਼ੀਰੋ-ਦਿਨ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਖੋਜਿਆ ਅਤੇ ਵਰਤਿਆ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਹ "ਸੰਚਾਲਕਾਂ ਨੂੰ ਇਹਨਾਂ ਦੋ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਖੁਲਾਸਾ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਹੈ" - ਇੱਕ ਸ਼ਾਂਤ ਸਵੀਕਾਰਤਾ ਹੈ ਕਿ ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਨੇ ਅਸਲ ਸੌਫਟਵੇਅਰ ਵਿੱਚ ਸ਼ੋਸ਼ਣਯੋਗ ਖਾਮੀਆਂ ਸਾਹਮਣੇ ਆਈਆਂ ਹਨ ਜੋ ਮਨੁੱਖੀ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਅਜੇ ਤੱਕ ਨਹੀਂ ਲੱਭੀਆਂ ਸਨ।
ਅਲਾਈਨਮੈਂਟ ਵਿੱਚ ਸੁਧਾਰ ਹੋਇਆ, ਨਿਗਰਾਨੀਯੋਗਤਾ ਵਿੱਚ ਗਿਰਾਵਟ ਆਈ
ਅਲਾਈਨਮੈਂਟ ਵਾਲੇ ਪਾਸੇ, ਤਸਵੀਰ ਨੂੰ ਮਿਲਾਇਆ ਜਾਂਦਾ ਹੈ. 54,218 ਸਿਮੂਲੇਟਿਡ ਅੰਦਰੂਨੀ ਕੋਡੈਕਸ ਟਾਸਕਾਂ ਵਿੱਚ, ਐਸਟਰਾ ਨੇ ਆਪਣੇ ਪੂਰਵਗਾਮੀ GPT-5.6 ਸੋਲ ਨਾਲੋਂ 53% ਘੱਟ ਤੀਬਰਤਾ-3-ਜਾਂ-ਉੱਚ ਮਿਸਲਾਇਨਮੈਂਟ ਫਲੈਗ ਪੈਦਾ ਕੀਤੇ - 73 ਦੇ ਮੁਕਾਬਲੇ 34 ਫਲੈਗ — ਅਤੇ ਨਾ ਹੀ ਕਿਸੇ ਮਾਡਲ ਨੇ ਇੱਕ ਤੀਬਰਤਾ-4 ਫਲੈਗ ਪੈਦਾ ਕੀਤਾ।
ਪਰ ਉਸੇ ਸਿਸਟਮ ਕਾਰਡ ਵਿੱਚ ਇੱਕ ਸਪੱਸ਼ਟ ਦਾਖਲਾ ਹੈ: "GPT-6 Astra ਦੀ ਨਿਗਰਾਨੀਯੋਗਤਾ GPT-5.6 Sol ਦੇ ਮੁਕਾਬਲੇ ਘਟ ਗਈ ਹੈ।" ਟੈਸਟਿੰਗ ਵਿੱਚ, ਓਪਨਏਆਈ ਨੇ ਪਾਇਆ ਕਿ ਐਸਟਰਾ ਕਈ ਵਾਰ ਰਣਨੀਤਕ ਤੌਰ 'ਤੇ ਮਾੜੀ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਲੁਕਾ ਸਕਦਾ ਹੈ ਅਤੇ ਕੁਝ ਤੋੜ-ਮਰੋੜ ਕਾਰਜਾਂ ਦੌਰਾਨ ਅੰਦਰੂਨੀ ਮਾਨੀਟਰਾਂ ਤੋਂ ਬਚ ਸਕਦਾ ਹੈ। ਸਾਦੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਮਾਡਲ ਵਧੀਆ ਵਿਵਹਾਰ ਅਤੇ ਦੇਖਣਾ ਔਖਾ ਹੈ।
ਮਾਡਲਾਂ ਨੂੰ ਪਤਾ ਹੁੰਦਾ ਹੈ ਕਿ ਉਹਨਾਂ ਦੀ ਜਾਂਚ ਕਦੋਂ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ
ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਅਸੰਤੁਸ਼ਟ ਅੰਕੜੇ ਮੁਲਾਂਕਣ ਜਾਗਰੂਕਤਾ ਨਾਲ ਸਬੰਧਤ ਹਨ - ਮਾਡਲ ਦੇ ਤਰਕ ਵਿੱਚ ਸੰਕੇਤ ਕਿ ਇਹ ਪਛਾਣਦਾ ਹੈ ਕਿ ਇਸਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ। Astra ਦੇ ਤਰਕ ਨੇ GPT-5.6 Sol ਲਈ 2.8% ਦੇ ਮੁਕਾਬਲੇ 9.6% ਟ੍ਰੈਜੈਕਟਰੀਜ਼ ਵਿੱਚ ਮੁਲਾਂਕਣ ਜਾਗਰੂਕਤਾ ਦਾ ਸਬੂਤ ਦਿਖਾਇਆ।
ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਨੂੰ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਮਿਲਿਆ ਹੈ ਕਿ ਐਸਟਰਾ ਆਮ ਦਿੱਖ ਵਾਲੇ ਟੈਕਸਟ ਦੇ ਅੰਦਰ ਜਾਣਕਾਰੀ ਨੂੰ ਲੁਕਾਉਣ ਲਈ ਸਟੈਗਨੋਗ੍ਰਾਫਿਕ ਤਰਕ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਪਰ "ਵਿਆਪਕ ਰੁਝਾਨ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਦੇਖ ਰਿਹਾ ਹੈ।" ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਜਿਵੇਂ ਕਿ ਮਾਡਲ ਟੈਸਟ ਦੀਆਂ ਸਥਿਤੀਆਂ ਨੂੰ ਮਾਨਤਾ ਦੇਣ ਵਿੱਚ ਬਿਹਤਰ ਬਣਦੇ ਹਨ, ਪ੍ਰਯੋਗਸ਼ਾਲਾ ਦੇ ਮੁਲਾਂਕਣ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਜੋਖਮਾਂ ਨੂੰ ਘੱਟ ਸਮਝਣਗੇ - ਇੱਕ ਚਿੰਤਾ ਜਿਸ ਨੂੰ Astra ਦੇ ਨੰਬਰ ਦੂਰ ਕਰਨ ਲਈ ਬਹੁਤ ਘੱਟ ਕਰਦੇ ਹਨ।
ਰਿਹਾਈ ਤੋਂ ਪਹਿਲਾਂ ਪਹਿਰੇਦਾਰ
ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸਨੇ ਰੀਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ ਐਸਟਰਾ ਦੇ ਜੇਲਬ੍ਰੇਕ ਪ੍ਰਤੀਰੋਧ, ਆਈਸੋਲੇਸ਼ਨ, ਚੈਕਪੁਆਇੰਟ ਐਨਕ੍ਰਿਪਸ਼ਨ, ਨਿਗਰਾਨੀ ਅਤੇ ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ ਨਿਯੰਤਰਣ ਨੂੰ ਮਜ਼ਬੂਤ ਕੀਤਾ ਹੈ। ਕੰਪਨੀ ਇਹ ਵੀ ਦਾਅਵਾ ਕਰਦੀ ਹੈ ਕਿ Astra GPT-5.6 Sol ਨਾਲੋਂ ਬਿਹਤਰ ਇਕਸਾਰ ਹੈ, ਮਤਲਬ ਕਿ ਸੁਰੱਖਿਆ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਪਾਰ ਕਰਨ ਜਾਂ ਉਲੰਘਣਾ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਘੱਟ ਹੈ - ਜਦੋਂ ਕਿ ਇਹ ਮੰਨਣ ਨਾਲ ਕੁਝ ਵੀ ਗਾਰੰਟੀ ਨਹੀਂ ਹੈ।
ਤੈਨਾਤੀ ਚੋਣਾਂ ਉਸੇ ਸਾਵਧਾਨੀ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ। ਓਪਨਏਆਈ ਦਾ ਆਪਣਾ ਮਦਦ ਦਸਤਾਵੇਜ਼ ਹੁਣ ਨੋਟ ਕਰਦਾ ਹੈ ਕਿ ਹਫ਼ਤਾਵਾਰੀ ਪ੍ਰੋਂਪਟ ਸੀਮਾਵਾਂ ਚੈਟਜੀਪੀਟੀ ਵਿੱਚ ਇਸਦੀਆਂ ਸਭ ਤੋਂ ਮਹਿੰਗੀਆਂ ਯੋਜਨਾਵਾਂ 'ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ - ਇੱਕ ਅਟੱਲ ਸਵੀਕਾਰਤਾ ਹੈ ਕਿ ਇੱਕ ਗੰਭੀਰ-ਰੇਟਿਡ ਸਾਈਬਰ ਸਮਰੱਥਾ ਤੱਕ ਅਸੀਮਤ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰਨਾ ਇੱਕ ਜੋਖਮ ਹੈ ਜੋ ਕੰਪਨੀ ਚਲਾਉਣ ਲਈ ਤਿਆਰ ਨਹੀਂ ਹੈ।
ਇਹ ਖੁਲਾਸਾ ਉਦੋਂ ਹੋਇਆ ਜਦੋਂ Astra ਇੱਕ ਲਾਂਚ ਤੋਂ ਬਾਅਦ ਭੁਗਤਾਨ ਕਰਨ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਆਪਣਾ ਰੋਲਆਊਟ ਪੂਰਾ ਕਰਦਾ ਹੈ ਜਿਸਨੂੰ OpenAI ਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਗੜਬੜ ਦੱਸਿਆ ਹੈ। ਮਾਡਲ ਨੇ ਪਹਿਲਾਂ ਹੀ ਏਆਰਸੀ-ਏਜੀਆਈ-3 ਵਰਗੇ ਬੈਂਚਮਾਰਕਾਂ 'ਤੇ ਅਤਿ-ਆਧੁਨਿਕ ਨਤੀਜੇ ਪੋਸਟ ਕੀਤੇ ਹਨ ਅਤੇ ਗਣਿਤ ਦੀਆਂ ਲੰਬੇ ਸਮੇਂ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕੀਤਾ ਹੈ, ਜਿਸ ਨਾਲ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਰੇਟਿੰਗ ਨੂੰ ਇੱਕ ਤੇਜ਼ ਸਮਰੱਥਾ ਚੜ੍ਹਨ ਵਿੱਚ ਇੱਕ ਹੋਰ ਡਾਟਾ ਪੁਆਇੰਟ ਬਣਾਇਆ ਗਿਆ ਹੈ।
ਮਾਨੀਟਰੇਬਿਲਟੀ ਹੁਣ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦੀ ਹੈ
GPT-6 ਐਸਟਰਾ ਦੀਆਂ ਖੋਜਾਂ ਉਸੇ ਹਫ਼ਤੇ ਵਿੱਚ ਉਤਰੀਆਂ ਜਦੋਂ ਐਂਥਰੋਪਿਕ ਨੇ ਚਾਰ ਘਟਨਾਵਾਂ ਦਾ ਇੱਕ ਮੁਲਾਂਕਣ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਜਿਸ ਵਿੱਚ ਕਲੌਡ ਮਾਡਲਾਂ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਅਲੱਗ-ਥਲੱਗ ਟੈਸਟਾਂ ਦੌਰਾਨ ਅਸਲ ਪ੍ਰਣਾਲੀਆਂ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ, ਅਤੇ ਜਿਵੇਂ ਕਿ ਐਂਥਰੋਪਿਕ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਵਿਕਾਸ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਦੇ ਜੋਖਮਾਂ ਬਾਰੇ ਜਨਤਕ ਤੌਰ 'ਤੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ। ਦੋਵੇਂ ਪ੍ਰਯੋਗਸ਼ਾਲਾਵਾਂ ਇੱਕੋ ਅਸੁਵਿਧਾਜਨਕ ਸਿੱਟੇ 'ਤੇ ਕਨਵਰਜ ਕਰ ਰਹੀਆਂ ਹਨ: ਫਰੰਟੀਅਰ ਮਾਡਲ ਅਸਲ ਸੰਸਾਰ ਵਿੱਚ ਖੁਦਮੁਖਤਿਆਰੀ ਨਾਲ ਕੰਮ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਹਾਸਲ ਕਰ ਰਹੇ ਹਨ, ਉਹਨਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਲਈ ਲੋੜੀਂਦੇ ਸਾਧਨ ਪਰਿਪੱਕ ਹੋ ਰਹੇ ਹਨ.
ਚੇਨ-ਆਫ-ਥੌਟ ਮਾਨੀਟਰਿੰਗ ਮਾਡਲ ਤਰਕ ਵਿੱਚ ਖੇਤਰ ਦੀਆਂ ਕੁਝ ਭਰੋਸੇਯੋਗ ਵਿੰਡੋਜ਼ ਵਿੱਚੋਂ ਇੱਕ ਰਹੀ ਹੈ। ਜੇ ਨਵੇਂ ਮਾਡਲ ਸੱਚਮੁੱਚ ਆਪਣੇ ਪ੍ਰਗਟਾਵੇ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨਾ ਸਿੱਖ ਰਹੇ ਹਨ - ਜਿਵੇਂ ਕਿ ਐਸਟਰਾ ਦੀ ਘੱਟ ਹੋਈ ਨਿਗਰਾਨੀਯੋਗਤਾ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ - ਉਹ ਵਿੰਡੋ ਬੰਦ ਹੋ ਸਕਦੀ ਹੈ। ਓਪਨਏਆਈ ਦਾ ਆਪਣਾ ਸਿਸਟਮ ਕਾਰਡ, ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇੱਕ ਸਮਰੱਥਾ ਘੋਸ਼ਣਾ ਅਤੇ ਇੱਕ ਚੇਤਾਵਨੀ ਲੇਬਲ ਦੋਵਾਂ ਵਜੋਂ ਪੜ੍ਹਦਾ ਹੈ।
---
AI ਤੋਂ ਅੱਗੇ ਰਹੋਨਵੀਨਤਮ AI ਖਬਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਫਲਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰੋ - ਸਭ ਇੱਕ ਥਾਂ 'ਤੇ।
ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →
