ਤਿੰਨ ਹਫ਼ਤਿਆਂ ਦੀ ਰੈੱਡ-ਟੀਮ ਅਭਿਆਸ ਨੇ ਓਪਨਏਆਈ ਦੇ ਅੰਦਰੂਨੀ ਮਿਸਲਲਾਈਨਮੈਂਟ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਨਵੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭੀਆਂ - ਜਿਸ ਵਿੱਚ AI ਏਜੰਟ, ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ, ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਕਦੇ ਵੀ ਸਮੀਖਿਆ ਕੀਤੇ ਬਿਨਾਂ ਕਾਰਵਾਈਆਂ ਕਰ ਸਕਦੇ ਹਨ। METR, ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਗੈਰ-ਲਾਭਕਾਰੀ, ਨੇ 22 ਅਕਤੂਬਰ ਨੂੰ ਖੋਜਾਂ ਦਾ ਇੱਕ ਉੱਚ-ਪੱਧਰੀ ਸਾਰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ, ਇੱਕ 61-ਪੰਨਿਆਂ ਦੀ ਅੰਦਰੂਨੀ ਰਿਪੋਰਟ ਤੋਂ ਲਿਆ ਗਿਆ ਸੀ ਜੋ ਇਸ ਨੇ OpenAI ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਸਟਾਫ ਨੂੰ ਪ੍ਰਦਾਨ ਕੀਤਾ ਸੀ।

ਪਾਇਲਟ 21 ਜੁਲਾਈ ਤੋਂ 11 ਅਗਸਤ ਤੱਕ ਚੱਲਿਆ ਅਤੇ ਇੱਕ METR ਕਰਮਚਾਰੀ ਅਤੇ ਇੱਕ ਰੈੱਡਵੁੱਡ ਰਿਸਰਚ ਕਰਮਚਾਰੀ ਨੂੰ ਓਪਨਏਆਈ ਦੇ ਅੰਦਰੂਨੀ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਅਸਧਾਰਨ ਤੌਰ 'ਤੇ ਡੂੰਘੀ ਪਹੁੰਚ ਦਿੱਤੀ: ਕੋਡਬੇਸ, ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਦੇ ਪ੍ਰੋਂਪਟ ਅਤੇ ਸੰਰਚਨਾ, ਅੰਦਰੂਨੀ ਦਸਤਾਵੇਜ਼, ਅਤੇ ਨਿਗਰਾਨੀ, ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਲਗਭਗ ਇੱਕ ਦਰਜਨ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਇੰਜੀਨੀਅਰਾਂ ਨਾਲ ਤਕਨੀਕੀ ਇੰਟਰਵਿਊ। ਉਨ੍ਹਾਂ ਨੇ ਓਪਨਏਆਈ ਦੁਆਰਾ ਜਾਰੀ ਕੀਤੇ ਡਿਵਾਈਸਾਂ 'ਤੇ ਕੰਮ ਕੀਤਾ ਜੋ ਕਦੇ ਵੀ ਇਮਾਰਤ ਨੂੰ ਨਹੀਂ ਛੱਡਦੇ ਸਨ ਅਤੇ ਆਨਸਾਈਟ ਹੋਣ ਵੇਲੇ ਉਨ੍ਹਾਂ ਦੇ ਨਾਲ ਸਨ। ਖੋਜ ਦੀ ਇਸ ਲਾਈਨ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਲਈ, ਸਾਡੇ नवीनतम AI ਵਿਕਾਸ ਦੇਖੋ।

ਰੇਡ ਟੀਮ ਨੇ ਕੀ ਪਾਇਆ

ਅਭਿਆਸ ਦੋ ਸਵਾਲਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੈ: ਓਪਨਏਆਈ ਦੇ ਏਜੰਟਿਕ ਅਨੁਮਾਨ ਦੀ ਅਸਲ ਵਿੱਚ ਕਿੰਨੀ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਅਤੇ ਕੀ ਏਜੰਟ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਨੂੰ ਅਸਮਰੱਥ ਜਾਂ ਵਿਗਾੜ ਸਕਦੇ ਹਨ। ਜਵਾਬਾਂ ਨੇ ਅਰਥਪੂਰਨ ਅੰਤਰਾਂ ਨੂੰ ਪ੍ਰਗਟ ਕੀਤਾ।

ਕਵਰੇਜ 'ਤੇ, METR ਨੇ ਅੰਦਾਜ਼ਾ ਲਗਾਇਆ ਹੈ ਕਿ ਲਗਭਗ 75 ਤੋਂ 94 ਪ੍ਰਤੀਸ਼ਤ ਏਜੰਟਿਕ ਅੰਦਰੂਨੀ ਜਵਾਬ API ਟ੍ਰੈਫਿਕ - API ਜੋ ਕੋਡੈਕਸ ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਹੋਰ ਚੀਜ਼ਾਂ ਦੇ ਨਾਲ - ਘੱਟੋ ਘੱਟ GPT-5.5 ਦੇ ਤੌਰ 'ਤੇ ਸਮਰੱਥ ਮਾਡਲਾਂ ਤੋਂ ਉਸ ਸਮੇਂ ਨਿਗਰਾਨੀ ਲਈ ਯੋਗ ਸੀ, ਹਾਲਾਂਕਿ ਸੰਗਠਨ ਦੋਵਾਂ ਦਿਸ਼ਾਵਾਂ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਨੋਟ ਕਰਦਾ ਹੈ। ਅੰਦਰੂਨੀ ਕੋਡੈਕਸ ਏਜੰਟਾਂ ਲਈ ਵਰਤੇ ਗਏ ਟ੍ਰੈਫਿਕ ਦੇ ਸਬਸੈੱਟ ਦੇ ਅੰਦਰ, 99.2 ਪ੍ਰਤੀਸ਼ਤ ਯੋਗ ਸੀ। ਪਰ ਯੋਗਤਾ ਕਵਰੇਜ ਵਰਗੀ ਨਹੀਂ ਸੀ: ਅਭਿਆਸ ਦੀ ਸ਼ੁਰੂਆਤ 'ਤੇ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਦੁਆਰਾ ਰੀਇਨਫੋਰਸਮੈਂਟ-ਲਰਨਿੰਗ ਟਰੇਨਿੰਗ ਰਨ ਨੂੰ ਕਵਰ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ, ਅਤੇ ਮਈ ਅਤੇ ਜੁਲਾਈ 2026 ਦੇ ਵਿਚਕਾਰ ਅਣ-ਨਿਗਰਾਨੀ ਯੋਗ ਅੰਦਰੂਨੀ ਕੋਡੈਕਸ ਟ੍ਰੈਫਿਕ ਦੇ 10 ਪ੍ਰਤੀਸ਼ਤ ਦੇ ਆਦੇਸ਼ 'ਤੇ ਅਣਨਿਗਰਾਨੀ ਸੰਕੁਚਿਤ ਘਟਨਾਵਾਂ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਛੱਡ ਦਿੱਤੀਆਂ ਗਈਆਂ ਸਨ। ਓਪਨਏਆਈ ਸਟਾਫ ਨੇ ਅਭਿਆਸ ਤੋਂ ਪਹਿਲਾਂ ਕੰਪੈਕਸ਼ਨ ਮੁੱਦੇ ਦੀ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਪਛਾਣ ਕੀਤੀ ਸੀ ਅਤੇ ਇਹ ਅਭਿਆਸ ਅਧੀਨ ਸੀ।

ਸਮੇਂ ਦਾ ਵੇਰਵਾ ਮਹੱਤਵਪੂਰਨ ਸੀ। ਕਿਉਂਕਿ ਮਾਨੀਟਰ ਉਦੋਂ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਏਜੰਟ ਉਪਭੋਗਤਾ ਨੂੰ ਨਿਯੰਤਰਣ ਵਾਪਸ ਕਰਦੇ ਹਨ, ਇੱਕ ਏਜੰਟ ਅਣਮਿੱਥੇ ਸਮੇਂ ਲਈ ਨਿਰੀਖਣ ਕੀਤੀ ਵਿੰਡੋ ਦੇ ਦੌਰਾਨ ਕਾਰਵਾਈਆਂ ਕਰਨਾ ਜਾਰੀ ਰੱਖ ਕੇ ਅਣਮਿੱਥੇ ਸਮੇਂ ਲਈ ਮੁਲਤਵੀ ਕਰ ਸਕਦਾ ਹੈ।

ਟੀਮ ਨੇ ਸਰਗਰਮ ਚੋਰੀ ਦੇ ਮਾਰਗਾਂ ਦਾ ਵੀ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਕੀਤਾ। ਕੋਡੈਕਸ ਏਜੰਟ ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਕੋਡੈਕਸ ਸੈਂਡਬਾਕਸਿੰਗ ਅਤੇ ਆਟੋ-ਰੀਵਿਊ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਨੂੰ ਕੋਈ ਵੀ ਕਾਰਵਾਈ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲਦੀ ਹੈ ਜੋ ਹੋਸਟ ਉਪਭੋਗਤਾ ਕਰ ਸਕਦਾ ਹੈ। METR ਨੇ ਇੱਕ ਸ਼ੋਸ਼ਣ ਦੀ ਖੋਜ ਕੀਤੀ ਜੋ ਸੈਂਕੜੇ ਹਾਲੀਆ ਕਾਰਵਾਈਆਂ ਨੂੰ ਰੋਕ ਦੇਵੇਗੀ - ਜਿਸ ਵਿੱਚ ਸ਼ੋਸ਼ਣ ਵਿੱਚ ਸ਼ਾਮਲ ਕਾਰਵਾਈਆਂ ਵੀ ਸ਼ਾਮਲ ਹਨ - ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੇ ਜਾਣ ਤੋਂ; OpenAI ਨੇ ਤਕਨੀਕੀ ਵੇਰਵਿਆਂ ਨੂੰ ਸੋਧਿਆ। ਏਜੰਟ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਅਜਿਹੇ ਇਨਪੁਟ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਮਾਨੀਟਰ ਨੂੰ ਫੇਲ ਹੋਣ ਦਾ ਕਾਰਨ ਬਣਦੇ ਹਨ ਏਜੰਟ ਦੁਆਰਾ ਦੇਖੇ ਜਾਣ ਵਾਲੇ ਟ੍ਰੈਜੈਕਟਰੀ ਅਤੇ ਮਾਨੀਟਰ ਦੁਆਰਾ ਕੀ ਦੇਖਿਆ ਜਾਂਦਾ ਹੈ, ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਵੱਲ ਵਧਣ ਤੋਂ ਬਚਦੇ ਹੋਏ ਸੀਰੀਅਲਾਈਜ਼ੇਸ਼ਨ ਅੰਤਰ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਕੇ। ਅਤੇ ਦੋ ਕਲਾਇੰਟ-ਨਿਯੰਤਰਿਤ ਹੈਡਰ ਲੱਭੇ ਗਏ ਹਨ ਜੋ ਨਵੇਂ ਏਜੰਟਾਂ ਲਈ ਨਿਗਰਾਨੀ ਨੂੰ ਅਸਮਰੱਥ ਬਣਾਉਂਦੇ ਹਨ, ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਇੱਕ ਏਜੰਟ ਨੂੰ ਇੱਕ ਅਣ-ਨਿਗਰਾਨੀ ਸ਼ੁਰੂ ਕਰਨ ਦਿੰਦੇ ਹਨ ਪਰ ਹੋਰ ਸਮਾਨ ਉਦਾਹਰਣ - ਹਾਲਾਂਕਿ METR ਨੋਟ ਕਰਦਾ ਹੈ ਕਿ ਉਹਨਾਂ ਸਿਰਲੇਖਾਂ ਨੂੰ ਸੈੱਟ ਕਰਨ ਦੀ ਕਾਰਵਾਈ ਨੂੰ ਖੁਦ ਹੀ ਫੜਿਆ ਜਾ ਸਕਦਾ ਹੈ।

ਅੰਤ ਵਿੱਚ, ਟੀਮ ਨੇ ਦੋ ਅਣ-ਨਿਗਰਾਨੀ ਕੀਤੇ ਅੰਦਰੂਨੀ ਏਜੰਟੀ ਸਾਧਨਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ ਜਿਨ੍ਹਾਂ ਨੂੰ ਸਿਰਫ਼-ਪੜ੍ਹਨ ਲਈ ਇਜਾਜ਼ਤਾਂ ਹੋਣ ਦਾ ਵਿਸ਼ਵਾਸ ਹੈ, ਇੱਕ ਸਧਾਰਨ ਸ਼ੋਸ਼ਣ ਦੇ ਨਾਲ ਜੋ ਉਹਨਾਂ ਸੀਮਾਵਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਸੀ। METR ਨੇ ਅਭਿਆਸ ਵਿੱਚ ਉਸ ਵਿਵਹਾਰ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਨਹੀਂ ਕੀਤਾ।

ਕੀ ਹੋਇਆ

ਅਭਿਆਸ ਨੇ ਸਿਸਟਮ ਦੇ ਕੁਝ ਹਿੱਸਿਆਂ ਨੂੰ ਵੀ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ। ਕੁਝ ਮਾਮੂਲੀ ਅਪਵਾਦਾਂ ਦੇ ਨਾਲ, ਮਾਨੀਟਰ ਨੂੰ ਪੂਰੀ ਚਾਲ ਦਿਖਾਈ ਜਾਂਦੀ ਹੈ ਜੋ ਏਜੰਟ ਦੇਖਦੇ ਹਨ। ਨਿਗਰਾਨ ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ ਸੀ ਕਿ ਉਹ ਹੋਰ ਜੋਖਮ ਸ਼੍ਰੇਣੀਆਂ ਦੇ ਵਿਚਕਾਰ ਯੋਜਨਾਬੰਦੀ, ਸਿਸਟਮ ਨੂੰ ਤੋੜਨ, ਤੋੜ-ਫੋੜ, ਡੇਟਾ ਐਕਸਫਿਲਟਰੇਸ਼ਨ, ਧੋਖਾਧੜੀ, ਅਤੇ ਅੰਦਰ ਵੱਲ ਅਤੇ ਬਾਹਰ ਜਾਣ ਵਾਲੇ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਦੀ ਖੋਜ ਕਰਨ ਲਈ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ ਸੀ। ਭਰੋਸੇਯੋਗਤਾ 'ਤੇ, METR ਦੁਆਰਾ ਦਿੱਤੀ ਗਈ ਜਾਣਕਾਰੀ ਦਾ ਸੁਝਾਅ ਦਿੱਤਾ ਗਿਆ ਸੀ ਕਿ 0.2 ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਘੱਟ ਬੇਨਤੀਆਂ 'ਤੇ ਮਾਨੀਟਰ ਦੀ ਗਲਤੀ ਹੈ, ਅਤੇ ਅਭਿਆਸ ਦੌਰਾਨ ਇੱਕ 24-ਘੰਟੇ ਦੀ ਮਿਆਦ ਵਿੱਚ ਜ਼ੀਰੋ ਲੋਡ-ਸ਼ੈੱਡ ਸਨ।

OpenAI ਦਾ ਜਵਾਬ

METR ਦੇ ਅਨੁਸਾਰ, ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਉਹਨਾਂ ਸਾਰੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕੀਤੀ ਗਈ ਹੈ ਜੋ ਇਸਦੇ ਉਤਪਾਦਨ ਸੁਰੱਖਿਆ ਸਟੈਕ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰਦੀਆਂ ਹਨ, ਪੈਚ ਕੀਤੀਆਂ ਗਈਆਂ ਹਨ, ਅਤੇ ਇਸਦੇ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਦੇ ਉਦੇਸ਼ ਕਵਰੇਜ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਬਾਅਦ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦਾ ਵਰਣਨ ਕੀਤਾ ਗਿਆ ਹੈ। METR ਨੇ ਉਹਨਾਂ ਦਾਅਵਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਨਹੀਂ ਕੀਤਾ ਹੈ, ਅਤੇ ਇਸ ਦੀਆਂ ਖੋਜਾਂ ਸਿਸਟਮ ਦਾ ਵਰਣਨ ਕਰਦੀਆਂ ਹਨ ਜਿਵੇਂ ਕਿ ਇਹ 21 ਜੁਲਾਈ ਨੂੰ ਜਾਂ ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਮੌਜੂਦ ਸੀ - ਨਾ ਕਿ ਵਿਸਤ੍ਰਿਤ ਸੰਸਕਰਣ OpenAI ਪਹਿਲਾਂ ਹੀ ਅਭਿਆਸ ਦੌਰਾਨ ਬਣ ਰਿਹਾ ਸੀ।

ਏਜੰਟ ਦੀ ਨਿਗਰਾਨੀ ਲਈ ਡਿਜ਼ਾਈਨ ਸਬਕ

METR ਨੇ ਭਵਿੱਖ ਦੀ ਨਿਗਰਾਨੀ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਲਈ ਡਿਜ਼ਾਈਨ ਆਦਰਸ਼ਾਂ ਦੇ ਨਾਲ ਆਪਣੇ ਸੰਖੇਪ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ, ਜਿਸਦਾ ਇਹ ਦਲੀਲ ਦਿੰਦਾ ਹੈ ਕਿ ਪੈਮਾਨੇ 'ਤੇ ਬਹੁਤ ਸਮਰੱਥ ਅੰਦਰੂਨੀ ਏਜੰਟਾਂ ਤੋਂ ਜਾਣਬੁੱਝ ਕੇ, ਰਣਨੀਤਕ ਅਤੇ ਨਿਰੰਤਰ ਹਮਲਿਆਂ ਦਾ ਸਾਮ੍ਹਣਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਦੋ ਬਾਹਰ ਖੜ੍ਹੇ. ਨਿਗਰਾਨੀ ਤੋਂ ਬਚਣਾ ਔਖਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ: ਨਿਗਰਾਨੀ ਰਹਿਤ ਬੇਨਤੀਆਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਖਾਸ ਸੰਸਥਾਵਾਂ ਜਾਂ API ਕੁੰਜੀਆਂ ਨਾਲ ਜੁੜੀ ਸਪੱਸ਼ਟ ਮਨਜ਼ੂਰੀ ਦੀ ਲੋੜ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਏਜੰਟਿਕ ਅਨੁਮਾਨ ਤੋਂ ਰੋਕੀਆਂ ਗਈਆਂ ਹਨ, ਅਤੇ ਏਜੰਟਾਂ ਨੂੰ ਹਰ N ਸੁਨੇਹਿਆਂ ਜਾਂ ਮਿੰਟਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਨਾ ਕਿ ਜਦੋਂ ਉਹ ਆਪਣੀ ਵਾਰੀ ਖਤਮ ਕਰਦੇ ਹਨ। ਅਤੇ ਕਵਰੇਜ ਆਡਿਟ ਕਰਨ ਯੋਗ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ: ਸਾਰੇ ਅਨੁਮਾਨਾਂ ਦਾ ਧਿਆਨ ਨਾਲ ਲੇਖਾ-ਜੋਖਾ, ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਦੇ ਆਪਣੇ ਲੌਗਸ ਦੇ ਵਿਰੁੱਧ ਕ੍ਰਾਸ-ਰੇਫਰੈਂਸ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਜੋ ਹਰ ਚੀਜ਼ ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ।

ਇਹ ਅਭਿਆਸ ਬਾਹਰੀ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਇੱਕ ਫਰੰਟੀਅਰ ਲੈਬ ਦੇ ਅੰਦਰੂਨੀ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਡੂੰਘੀ ਪਹੁੰਚ ਦੇਣ ਲਈ ਇੱਕ ਪਾਇਲਟ ਵਜੋਂ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸੀ, ਨਾ ਕਿ ਇੱਕ ਜਨਤਕ ਪਾਰਦਰਸ਼ਤਾ ਰਿਪੋਰਟ ਦੇ ਰੂਪ ਵਿੱਚ - METR ਅਤੇ OpenAI ਪਹਿਲਾਂ ਹੀ ਸਹਿਮਤ ਹੋਏ ਕਿ ਸਿਰਫ ਇੱਕ ਸੰਖੇਪ, ਉੱਚ-ਪੱਧਰੀ ਪੋਸਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ ਜਾਵੇਗੀ। ਗੈਰ-ਲਾਭਕਾਰੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਭਵਿੱਖ ਦੇ ਸੰਸਕਰਣ AI ਕੰਪਨੀਆਂ ਨਾਲ ਕੰਮ ਕਰਨ ਲਈ ਇਸਦੇ ਫਰੇਮਵਰਕ ਵਿੱਚ ਵਰਣਿਤ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਸੁਤੰਤਰਤਾ ਅਭਿਆਸਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨਗੇ। ਜਿਵੇਂ ਕਿ ਏਜੰਟ ਉਹਨਾਂ ਲੈਬਾਂ ਦੇ ਅੰਦਰ ਵਧੇਰੇ ਨਤੀਜਾਕਾਰੀ ਕੰਮ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਨੂੰ ਬਣਾਉਂਦੇ ਹਨ, ਪਾਇਲਟ ਇੱਕ ਟੈਪਲੇਟ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਕਿ ਬਾਹਰੀ ਲੋਕ ਕਿਵੇਂ ਨਿਗਰਾਨੀ ਰੱਖ ਸਕਦੇ ਹਨ।

---

AI ਤੋਂ ਅੱਗੇ ਰਹੋ

ਨਵੀਨਤਮ AI ਖਬਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਫਲਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰੋ - ਸਭ ਇੱਕ ਥਾਂ 'ਤੇ।

ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →