ਓਪਨਏਆਈ ਨੇ ਆਪਣੇ ਖੋਜ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਕੰਟਰੋਲ ਰੂਮ ਨਾਮਕ ਇੱਕ ਕੇਂਦਰੀਕ੍ਰਿਤ ਨਿਯੰਤਰਣ ਪ੍ਰਣਾਲੀ ਤਾਇਨਾਤ ਕੀਤੀ ਹੈ, ਜੋ ਕਿ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਖਤਰਨਾਕ AI ਮਾਡਲ ਵਰਕਲੋਡ ਨੂੰ ਦਖਲ ਦੇਣ ਦੇ ਫੈਸਲੇ ਦੇ 35 ਸਕਿੰਟਾਂ ਦੇ ਅੰਦਰ ਹੋਰ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਜਿਵੇਂ ਕਿ ਦਿਲਚਸਪ ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਹੈ, ਸਿਸਟਮ ਉਹਨਾਂ ਵਰਕਲੋਡਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ ਜੋ ਕੰਪਨੀ ਦੀ ਸਭ ਤੋਂ ਉੱਨਤ ਖੋਜ - ਏਜੰਟਿਕ ਮਾਡਲ ਸਿਖਲਾਈ, ਮੁਲਾਂਕਣ, ਅਤੇ ਡਾਟਾ-ਪ੍ਰੋਸੈਸਿੰਗ ਨੌਕਰੀਆਂ ਸਮੇਤ - ਨੂੰ ਇੱਕ ਕੇਂਦਰੀ ਸੇਵਾ ਨਾਲ ਜੋੜਦਾ ਹੈ ਜੋ ਇਹ ਨਿਯੰਤਰਿਤ ਕਰਦੀ ਹੈ ਕਿ ਉਹ ਚੱਲਣਾ ਜਾਰੀ ਰੱਖ ਸਕਦੇ ਹਨ ਜਾਂ ਨਹੀਂ।
ਕੰਪਨੀ ਨੇ 9 ਨਵੰਬਰ ਨੂੰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਸਿਸਟਮ ਦੀ ਘੋਸ਼ਣਾ ਕਰਦੇ ਹੋਏ ਲਿਖਿਆ: "ਅਸੀਂ ਆਪਣੇ ਖੋਜ ਢਾਂਚੇ ਵਿੱਚ ਮਾਡਲ ਵਰਕਲੋਡ ਨੂੰ ਟ੍ਰੈਕ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਆ ਜਾਂ ਸੁਰੱਖਿਆ ਸੰਬੰਧੀ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਹੋਣ 'ਤੇ ਉਹਨਾਂ ਨੂੰ ਤੁਰੰਤ ਬੰਦ ਕਰਨ ਲਈ ਕੰਟਰੋਲ ਰੂਮ, ਇੱਕ ਕੇਂਦਰੀ ਸਿਸਟਮ ਬਣਾਇਆ ਹੈ। ਇਹ ਮਾਡਲ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ, ਡੇਟਾ ਲਈ ਏਜੰਟਿਕ ਨਮੂਨੇ ਸਮੇਤ ਹਰੇਕ ਖੋਜ ਅਨੁਮਾਨ ਵਰਕਲੋਡ ਨੂੰ ਜੋੜਦਾ ਹੈ..." For more context on this story, see our ongoing AI trends.
ਸਮਾਂ ਧਿਆਨ ਦੇਣ ਯੋਗ ਹੈ। ਜਿਵੇਂ ਕਿ AI ਮਾਡਲ ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੇ ਹਨ ਅਤੇ ਸਿਖਲਾਈ ਪਾਈਪਲਾਈਨਾਂ ਦੇ ਅੰਦਰ ਵਧੇਰੇ ਖੁਦਮੁਖਤਿਆਰੀ, ਏਜੰਟ ਵਰਗੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦਿੱਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਖੋਜ ਦੇ ਦੌਰਾਨ ਅਚਾਨਕ ਢੰਗ ਨਾਲ ਵਿਵਹਾਰ ਕਰਨ ਵਾਲੇ ਮਾਡਲ ਦਾ ਜੋਖਮ ਉਹਨਾਂ ਨਾਲ ਵਧਦਾ ਹੈ। ਕੰਟਰੋਲ ਰੂਮ ਓਪਨਏਆਈ ਦਾ ਢਾਂਚਾਗਤ ਜਵਾਬ ਹੈ: ਨਾ ਸਿਰਫ਼ ਮੁਸੀਬਤ ਨੂੰ ਦੇਖਣਾ, ਸਗੋਂ ਸਰੀਰਕ ਤੌਰ 'ਤੇ ਇਸ ਨੂੰ ਕੱਟਣ ਦੇ ਯੋਗ ਹੋਣਾ।
ਕੰਟਰੋਲ ਰੂਮ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ
ਕੰਟਰੋਲ ਰੂਮ ਤਿੰਨ ਮੁੱਖ ਭਾਗਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ: ਖੋਜ ਕਾਰਜ ਭਾਰ, ਅਨੁਮਾਨ ਇੰਜਣ, ਅਤੇ ਕੇਂਦਰੀ ਕੰਟਰੋਲ ਰੂਮ ਸੇਵਾ। ਇੱਕ ਵਰਕਲੋਡ, OpenAI ਦੀ ਸ਼ਬਦਾਵਲੀ ਵਿੱਚ, ਇੱਕ ਖੋਜ ਕਾਰਜ ਹੈ ਜਿਵੇਂ ਕਿ ਇੱਕ ਰੀਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਪ੍ਰਯੋਗ, ਇੱਕ ਮੁਲਾਂਕਣ, ਜਾਂ ਇੱਕ ਉੱਚ-ਵਾਲੀਅਮ ਡੇਟਾ-ਪ੍ਰੋਸੈਸਿੰਗ ਕਾਰਜ। ਹਰੇਕ ਖੋਜ ਵਰਕਲੋਡ ਜੋ ਏਜੰਟਿਕ ਅਨੁਮਾਨ ਕਰਦਾ ਹੈ, ਉਸ ਨੂੰ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਪ੍ਰਵਾਨਿਤ ਸੁਰੱਖਿਆ ਕੇਸ ਨਾਲ ਜੋੜਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਜਦੋਂ ਕੋਈ ਖੋਜਕਰਤਾ ਨੌਕਰੀ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਸਦਾ ਕੋਡ ਕੰਟਰੋਲ ਰੂਮ ਤੋਂ ਇੱਕ ਵਿਲੱਖਣ ਨੌਕਰੀ ID ਦੀ ਬੇਨਤੀ ਕਰਦਾ ਹੈ। ਉਹ ਪਛਾਣਕਰਤਾ ਫਿਰ ਹਰੇਕ ਬੇਨਤੀ ਨਾਲ ਜੁੜਿਆ ਹੁੰਦਾ ਹੈ ਜੋ ਵਰਕਲੋਡ ਅਨੁਮਾਨ ਇੰਜਣਾਂ ਨੂੰ ਭੇਜਦਾ ਹੈ - GPU-ਬੈਕਡ ਸਿਸਟਮ ਜੋ ਅਸਲ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਂਦੇ ਹਨ ਅਤੇ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰਦੇ ਹਨ।
ਕਿਸੇ ਵੀ ਅਨੁਮਾਨ ਦੀ ਬੇਨਤੀ ਨੂੰ ਪੂਰਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਇੰਜਣ ਇਹ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਕੰਟਰੋਲ ਰੂਮ ਨਾਲ ਜਾਂਚ ਕਰਦਾ ਹੈ ਕਿ ਸੰਬੰਧਿਤ ਨੌਕਰੀ ਅਜੇ ਵੀ ਚੱਲਣ ਲਈ ਅਧਿਕਾਰਤ ਹੈ। ਜੇ ਇੱਕ ਖੋਜਕਰਤਾ ਜਾਂ ਇੱਕ ਸਵੈਚਾਲਤ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਨੇ ਕੰਟਰੋਲ ਰੂਮ ਨੂੰ ਕੰਮ ਨੂੰ ਰੋਕਣ ਲਈ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ ਹੈ, ਤਾਂ ਸੇਵਾ ਅਗਲੀ ਅਨੁਮਾਨ ਦੀ ਬੇਨਤੀ ਨੂੰ ਅਸਵੀਕਾਰ ਕਰਦੀ ਹੈ, ਅਤੇ ਇੰਜਣ ਉਸ ਵਰਕਲੋਡ ਲਈ ਹੋਰ ਮਾਡਲ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ।
ਆਉਟਪੁੱਟ ਨੂੰ ਰੋਕਣਾ, ਜ਼ਰੂਰੀ ਨਹੀਂ ਕਿ ਨੌਕਰੀ
ਇੱਕ ਡਿਜ਼ਾਇਨ ਵੇਰਵਾ ਵੱਖਰਾ ਹੈ: ਇੱਕ ਕੰਮ ਦੇ ਬੋਝ ਨੂੰ ਰੋਕਣਾ ਜ਼ਰੂਰੀ ਤੌਰ 'ਤੇ ਇਸਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦਾ। ਖੋਜ ਪ੍ਰਕਿਰਿਆ ਆਪਣੇ ਆਪ ਚੱਲਦੀ ਰਹਿ ਸਕਦੀ ਹੈ - ਇਸਦਾ ਕੋਡ ਲਾਗੂ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦਾ ਹੈ - ਪਰ ਇਹ ਹੁਣ ਅਧਿਕਾਰਤ ਅਨੁਮਾਨ ਇੰਜਣਾਂ ਦੁਆਰਾ ਵਾਧੂ ਮਾਡਲ ਆਉਟਪੁੱਟ ਪ੍ਰਾਪਤ ਨਹੀਂ ਕਰ ਸਕਦਾ ਹੈ। ਇੱਕ ਦੁਰਵਿਵਹਾਰ ਵਾਲੀ ਸਿਖਲਾਈ ਲਈ, ਇਹ ਕਾਫ਼ੀ ਹੈ: ਹੋਰ ਮਾਡਲ ਪੀੜ੍ਹੀਆਂ ਤੱਕ ਪਹੁੰਚ ਤੋਂ ਬਿਨਾਂ, ਇਹ ਹੋਰ ਤਰੱਕੀ ਨਹੀਂ ਕਰ ਸਕਦਾ।
ਇਹ ਪਹੁੰਚ ਸੁਰੱਖਿਆ ਜਾਂਚਾਂ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਲਾਗੂ ਕਰਨ ਲਈ ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਆਪਣੇ ਵਰਕਲੋਡ ਕੋਡ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਵੀ ਬਚਦੀ ਹੈ। ਓਪਨਏਆਈ ਇਸ ਦੀ ਬਜਾਏ ਇਨਫਰੈਂਸ ਲੇਅਰ ਵਿੱਚ ਨਾਜ਼ੁਕ ਪ੍ਰਮਾਣੀਕਰਨ ਵਿਧੀ ਰੱਖਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਘੱਟ ਅਤੇ ਵਧੇਰੇ ਕੇਂਦਰੀ ਤੌਰ 'ਤੇ ਪ੍ਰਬੰਧਿਤ ਕੋਡ ਮਾਰਗ ਹਨ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਕਿੱਲ ਸਵਿੱਚ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਰਹਿੰਦਾ ਹੈ ਜੋ ਕੰਪਨੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕੰਟਰੋਲ ਕਰਦੀ ਹੈ, ਵਿਅਕਤੀਗਤ ਟੀਮਾਂ ਦੁਆਰਾ ਲਿਖੇ ਪ੍ਰਯੋਗ ਕੋਡ ਵਿੱਚ ਨਹੀਂ।
ਫੇਲ ਬੰਦ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ
ਕੰਟਰੋਲ ਰੂਮ ਨੂੰ ਪ੍ਰਭਾਵੀ ਰਹਿਣ ਲਈ ਬਣਾਇਆ ਗਿਆ ਹੈ ਭਾਵੇਂ ਦੂਜੇ ਹਿੱਸੇ ਖਰਾਬ ਹੋਣ ਦੇ ਬਾਵਜੂਦ. ਜੇਕਰ ਕੰਟਰੋਲ ਰੂਮ ਸੇਵਾ ਖੁਦ ਉਪਲਬਧ ਨਹੀਂ ਹੋ ਜਾਂਦੀ ਹੈ ਤਾਂ ਇਸਦਾ ਫੇਲ-ਬੰਦ ਮਕੈਨਿਜ਼ਮ ਅਨੁਮਾਨ ਬੇਨਤੀਆਂ ਨੂੰ ਰੋਕਦਾ ਹੈ - ਭਾਵ ਇੱਕ ਤਕਨੀਕੀ ਅਸਫਲਤਾ, ਇੱਕ ਜਾਣਬੁੱਝ ਕੇ ਅਯੋਗ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼, ਜਾਂ ਕੇਂਦਰੀ ਸੇਵਾ ਨਾਲ ਸੰਭਾਵੀ ਛੇੜਛਾੜ, ਸਿਸਟਮ ਦੇ ਆਮ ਸੰਚਾਲਨ 'ਤੇ ਵਾਪਸ ਆਉਣ ਤੱਕ ਅਨੁਮਾਨ ਇੰਜਣਾਂ ਨੂੰ ਸਾਰੀਆਂ ਬੇਨਤੀਆਂ ਨੂੰ ਅਸਵੀਕਾਰ ਕਰਨ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ।
35-ਸਕਿੰਟ ਦਾ ਅੰਕੜਾ ਸਟਾਪ ਹਿਦਾਇਤ ਪ੍ਰਾਪਤ ਕਰਨ ਅਤੇ ਹੋਰ ਤਰੱਕੀ ਨੂੰ ਰੋਕਣ ਦੇ ਵਿਚਕਾਰ ਵੱਧ ਤੋਂ ਵੱਧ ਦੇਰੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਦੇਰੀ ਇੱਕ ਕੈਚਿੰਗ ਲੇਅਰ ਤੋਂ ਆਉਂਦੀ ਹੈ ਜੋ ਅਨੁਮਾਨ ਪ੍ਰਮਾਣਿਕਤਾ ਬੇਨਤੀਆਂ ਦੀ ਪੂਰੀ ਮਾਤਰਾ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਵਰਤੀ ਜਾਂਦੀ ਹੈ, ਅਤੇ ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਅੰਤਰਾਲ ਨੂੰ ਜ਼ੀਰੋ ਤੱਕ ਘਟਾਉਣ ਲਈ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ।
ਆਟੋਮੇਟਿਡ ਮਾਨੀਟਰ ਹਰ ਫਰੰਟੀਅਰ ਰਨ ਨੂੰ ਦੇਖਦੇ ਹਨ
ਸਵੈਚਲਿਤ ਨਿਗਰਾਨੀ ਦੇ ਨਾਲ ਕਿੱਲ ਸਵਿੱਚ ਜੋੜੇ। ਓਪਨਏਆਈ ਦੇ ਅਨੁਸਾਰ, ਇਸਦੇ ਸਾਰੇ ਫਰੰਟੀਅਰ ਰੀਨਫੋਰਸਮੈਂਟ ਸਿੱਖਣ ਦੀਆਂ ਨੌਕਰੀਆਂ ਇੱਕ ਵੱਖਰੇ ਮਾਡਲ-ਆਧਾਰਿਤ ਮਾਨੀਟਰ ਨਾਲ ਚਲਦੀਆਂ ਹਨ ਜੋ ਮਾਡਲ ਵਿਵਹਾਰ ਦੀ ਜਾਂਚ ਕਰਦੀ ਹੈ ਅਤੇ ਜਦੋਂ ਇਹ ਸੰਭਾਵੀ ਸਮੱਸਿਆਵਾਂ ਦਾ ਪਤਾ ਲਗਾਉਂਦੀ ਹੈ ਤਾਂ ਚੇਤਾਵਨੀਆਂ ਵਧਾਉਂਦੀ ਹੈ। ਜੇਕਰ ਕੋਈ ਚੇਤਾਵਨੀ ਦਖਲ ਦੀ ਵਾਰੰਟੀ ਦਿੰਦੀ ਹੈ, ਤਾਂ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਕੰਟਰੋਲ ਰੂਮ ਨੂੰ ਸੰਬੰਧਿਤ ਨੌਕਰੀ ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ ਨਿਰਦੇਸ਼ ਦੇ ਸਕਦੀ ਹੈ, ਜੋ ਕਿ ਵਰਕਲੋਡ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਕਿਸੇ ਵੀ ਮਾਡਲ ਜਾਂ ਇੰਜਣ ਵਿੱਚ ਬਾਅਦ ਦੇ ਅਨੁਮਾਨਾਂ ਦੀਆਂ ਬੇਨਤੀਆਂ ਨੂੰ ਰੋਕਦਾ ਹੈ।
ਕੰਪਨੀ ਨੇ ਇੱਕ ਤਾਜ਼ਾ DNS-ਸੰਬੰਧੀ ਘਟਨਾ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ - ਜਿਸ ਵਿੱਚ ਇੱਕ ਮਾਨੀਟਰ ਨੇ ਇੱਕ ਏਜੰਟ ਦਾ ਪਤਾ ਲਗਾਇਆ ਜੋ ਇੱਕ ਬਾਹਰੀ ਚੈਟਬੋਟ ਤੱਕ ਪਹੁੰਚਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਹੈ - ਇੱਕ ਉਦਾਹਰਨ ਦੇ ਤੌਰ 'ਤੇ ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਸੁਰੱਖਿਆ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਉਸ ਸਥਿਤੀ ਵਿੱਚ, ਵਿਗਾੜ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕ ਦੀ ਬਜਾਏ ਸਵੈਚਲਿਤ ਨਿਗਰਾਨੀ ਦੁਆਰਾ ਫੜਿਆ ਗਿਆ ਸੀ।
ਇੱਕ ਵਿਆਪਕ ਸੁਰੱਖਿਆ ਪੁਸ਼ ਦਾ ਹਿੱਸਾ
ਓਪਨਏਆਈ ਨੋਟ ਕਰਦਾ ਹੈ ਕਿ ਕੰਟਰੋਲ ਰੂਮ ਪਹਿਲਾਂ ਹੀ ਇਸ ਦੇ ਖੋਜ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਤਾਇਨਾਤ ਹੈ, ਜਿੱਥੇ ਦਖਲਅੰਦਾਜ਼ੀ ਦੀ ਸਭ ਤੋਂ ਵੱਧ ਲੋੜ ਹੈ। ਇਸ ਦਾ ਬਾਹਰੀ ਮਾਡਲ-ਸਰਵਿੰਗ ਬੁਨਿਆਦੀ ਢਾਂਚਾ, ਜੋ ਕਿ ChatGPT ਵਰਗੇ ਉਤਪਾਦਾਂ ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਵਧੇਰੇ ਕੇਂਦਰੀਕ੍ਰਿਤ ਹੈ ਅਤੇ ਲੋੜ ਪੈਣ 'ਤੇ ਮਾਡਲ ਤੈਨਾਤੀਆਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਪਹਿਲਾਂ ਹੀ ਕਾਰਜਸ਼ੀਲ ਵਿਧੀ ਹੈ - ਕੰਟਰੋਲ ਰੂਮ ਖੋਜ ਵਾਲੇ ਪਾਸੇ ਦੇ ਪਾੜੇ ਨੂੰ ਬੰਦ ਕਰਦਾ ਹੈ।
ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹ ਫਰੰਟੀਅਰ ਮਾਡਲ ਵਿਕਾਸ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਨ ਲਈ ਆਪਣੀ ਵਿਆਪਕ ਪਹੁੰਚ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਗਲਤ ਵਿਵਹਾਰ ਅਤੇ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾਵਾਂ ਦੇ ਵਿਰੁੱਧ ਆਪਣੀ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨਾ ਜਾਰੀ ਰੱਖੇਗੀ।
ਖੁਦਮੁਖਤਿਆਰੀ ਏਜੰਟਾਂ ਦੁਆਰਾ ਵਧਦੀ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤੇ ਗਏ ਉਦਯੋਗ ਲਈ, ਕੰਟਰੋਲ ਰੂਮ ਇਸ ਗੱਲ ਦਾ ਸੰਕੇਤ ਹੈ ਕਿ ਸਰਹੱਦੀ ਲੈਬਾਂ ਕਿੱਥੇ ਜਾ ਰਹੀਆਂ ਹਨ: ਸੁਰੱਖਿਆ ਵਿਧੀ ਜੋ ਮੰਨਦੀ ਹੈ ਕਿ ਮਾਡਲਾਂ ਨੂੰ ਕਈ ਵਾਰ ਮਾਪਦੰਡਾਂ 'ਤੇ ਦੁਰਵਿਵਹਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਇਹ ਉਹਨਾਂ ਨੂੰ ਰੋਕਣਾ ਇੱਕ ਉਮੀਦ ਦੀ ਬਜਾਏ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਗਰੰਟੀ ਬਣਾਉਂਦਾ ਹੈ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
