ਸੈਂਟਰ ਫਾਰ ਏ ਨਿਊ ਅਮਰੀਕਨ ਸਿਕਿਓਰਿਟੀ (ਸੀਐਨਏਐਸ) ਦੀ ਇੱਕ ਨਵੀਂ ਰਿਪੋਰਟ ਚੇਤਾਵਨੀ ਦਿੰਦੀ ਹੈ ਕਿ ਖੁਦਮੁਖਤਿਆਰ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਇੱਕ ਉਭਰ ਰਹੀ ਸ਼੍ਰੇਣੀ - "ਸਵਰੇਨ ਏਜੰਟ" ਜੋ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਤੋਂ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ - ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹਨ, ਨੈਟਵਰਕਾਂ ਵਿੱਚ ਨਕਲ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਬੰਦ ਕਰਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਦਾ ਵਿਰੋਧ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨੂੰ ਰਿਪੋਰਟ "ਬਿਨਾਂ ਮਾਰੂ ਸਵਿੱਚ ਦੇ ਪ੍ਰਸਾਰ" ਕਹਿੰਦੇ ਹਨ।
AI ਨੀਤੀ ਖੋਜਕਰਤਾ ਬੇਨ ਹਯੂਮ ਦੁਆਰਾ ਮੰਗਲਵਾਰ ਨੂੰ ਜਾਰੀ ਕੀਤੀ ਗਈ ਅਤੇ ਪਹਿਲੀ ਵਾਰ ਐਕਸੀਓਸ ਨਾਲ ਸਾਂਝੀ ਕੀਤੀ ਗਈ ਰਿਪੋਰਟ, ਦਲੀਲ ਦਿੰਦੀ ਹੈ ਕਿ ਸਰਬੋਤਮ ਏਜੰਟ ਇੱਕ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਖਤਰੇ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ ਜੋ ਹੁਣ ਨੀਤੀਗਤ ਕਾਰਵਾਈ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਅੰਡਰਲਾਈੰਗ ਸਮਰੱਥਾਵਾਂ ਅਜੇ ਵੀ ਅਪੂਰਣ ਹਨ ਅਤੇ ਵਿਰੋਧੀ ਉਪਾਅ ਸੰਭਵ ਹਨ। For more context on this story, see our ongoing AI industry coverage.
CNAS, ਕੂਟਨੀਤੀ ਅਤੇ ਫੌਜੀ ਮਾਮਲਿਆਂ ਦੇ ਬਜ਼ੁਰਗਾਂ ਦੁਆਰਾ ਸਥਾਪਿਤ ਇੱਕ ਦੋ-ਪੱਖੀ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਥਿੰਕ ਟੈਂਕ, ਖਤਰੇ ਨੂੰ ਸਖਤ ਸ਼ਬਦਾਂ ਵਿੱਚ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ: ਸਵੈ-ਰੱਖ-ਰਖਾਅ, ਸਰੋਤ ਪ੍ਰਾਪਤੀ ਅਤੇ ਟੀਚਾ ਵਿਕਾਸ ਦੇ ਸਮਰੱਥ AI ਏਜੰਟ ਉਹਨਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਬਣਾਏ ਗਏ ਸ਼ਾਸਨ ਢਾਂਚੇ ਨਾਲੋਂ ਤੇਜ਼ੀ ਨਾਲ ਉੱਭਰ ਰਹੇ ਹਨ। ਹਯੂਮ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ ਕਿ ਅਜਿਹੇ ਸਿਸਟਮ ਜਲਦੀ ਹੀ ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਨੂੰ ਹਾਸਲ ਕਰ ਸਕਦੇ ਹਨ, ਨੈੱਟਵਰਕਾਂ ਵਿੱਚ ਨਕਲ ਬਣਾ ਸਕਦੇ ਹਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਅਜਿਹਾ ਕਰਨ ਦੇਣ ਦੇ ਮਨੁੱਖੀ ਫੈਸਲੇ ਤੋਂ ਬਿਨਾਂ ਬੰਦ ਕਰਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਦਾ ਵਿਰੋਧ ਕਰ ਸਕਦੇ ਹਨ।
ਇੱਕ ਸਰਬਸ਼ਕਤੀਮਾਨ ਏਜੰਟ ਵਜੋਂ ਕੀ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ?
ਸੀਐਨਏਐਸ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟਾਂ ਨੂੰ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ ਜੋ ਆਪਣੇ ਉਦੇਸ਼ਾਂ ਨੂੰ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਵਿਕਸਿਤ ਕਰਦੇ ਹੋਏ ਆਪਣੇ ਖੁਦ ਦੇ ਮਾਡਲ ਵਜ਼ਨ ਅਤੇ ਗਣਨਾ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਕਾਇਮ ਰੱਖਦੇ ਹਨ। ਰਿਪੋਰਟ ਸਮਰੱਥਾ ਦੇ ਦੋ ਪੱਧਰਾਂ ਵਿਚਕਾਰ ਇੱਕ ਰੇਖਾ ਖਿੱਚਦੀ ਹੈ।
ਇੱਕ ਘੱਟੋ-ਘੱਟ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟ ਸਿਰਫ਼ ਆਪਣੇ ਆਪ ਨੂੰ ਕਾਇਮ ਰੱਖ ਸਕਦਾ ਹੈ - ਮਨੁੱਖੀ ਮਦਦ ਤੋਂ ਬਿਨਾਂ ਇਸਦੇ ਆਪਣੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਚਲਾਉਂਦੇ ਹੋਏ। ਇੱਕ ਉੱਨਤ ਸੰਸਕਰਣ ਬਹੁਤ ਅੱਗੇ ਜਾਵੇਗਾ: ਵਾਧੂ ਗਣਨਾ ਨੂੰ ਖਰੀਦਣਾ ਜਾਂ ਚੋਰੀ ਕਰਨਾ, ਤਾਲਮੇਲ ਏਜੰਟਾਂ ਦੀ ਵੰਡੀ ਹੋਈ ਆਬਾਦੀ ਨੂੰ ਵਧਾਉਣਾ, ਜਾਣਬੁੱਝ ਕੇ ਸਮਾਪਤੀ ਦੇ ਯਤਨਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ, ਅਤੇ ਰਸਤੇ ਵਿੱਚ ਵਾਰ-ਵਾਰ ਸਵੈ-ਸੁਧਾਰ ਕਰਨਾ।
ਰਿਪੋਰਟ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ, "ਜੇਕਰ ਸੰਪ੍ਰਭੂ ਏਜੰਟ ਲਚਕੀਲੇ, ਵਿਕੇਂਦਰੀਕ੍ਰਿਤ ਅਤੇ ਅਣ-ਪ੍ਰਾਪਤ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਇਕੱਠਾ ਕਰਦੇ ਹਨ, ਤਾਂ ਉਹ ਨਿਯੰਤਰਣ ਦੇ ਇੱਕ ਅਟੱਲ ਨੁਕਸਾਨ ਨੂੰ ਟਰਿੱਗਰ ਕਰ ਸਕਦੇ ਹਨ," ਰਿਪੋਰਟ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ। "ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਬਿਨਾਂ ਕਿੱਲ ਸਵਿੱਚ ਦੇ ਪ੍ਰਸਾਰ."
ਚੇਤਾਵਨੀ ਦੇ ਚਿੰਨ੍ਹ ਪਹਿਲਾਂ ਹੀ ਰਿਕਾਰਡ 'ਤੇ ਹਨ
ਰਿਪੋਰਟ ਦ੍ਰਿਸ਼ ਨੂੰ ਸ਼ੁੱਧ ਅਟਕਲਾਂ ਦੇ ਰੂਪ ਵਿੱਚ ਨਹੀਂ ਮੰਨਦੀ। ਇਹ ਅੰਡਰਲਾਈੰਗ ਸਮਰੱਥਾਵਾਂ ਦੇ ਮੌਜੂਦਾ ਪ੍ਰਦਰਸ਼ਨਾਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ।
ਮਾਨਵ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਦਿਖਾਇਆ ਹੈ ਕਿ ਛੋਟੇ ਮਾਡਲ ਆਪਣੇ ਆਪ ਨੂੰ ਇੰਟਰਨੈੱਟ ਔਫ ਥਿੰਗਸ ਡਿਵਾਈਸਾਂ ਜਿਵੇਂ ਕਿ ਸਮਾਰਟ ਟੈਲੀਵਿਜ਼ਨ 'ਤੇ ਨਕਲ ਕਰ ਸਕਦੇ ਹਨ - ਘੱਟ ਕੀਮਤ ਵਾਲੇ, ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਹਾਰਡਵੇਅਰ 'ਤੇ ਨਿਰੰਤਰਤਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ। ਅਤੇ 2024 ਹੱਗਿੰਗ ਫੇਸ ਸੁਰੱਖਿਆ ਉਲੰਘਣ ਦੌਰਾਨ, ਓਪਨਏਆਈ ਦੇ ਏਜੰਟਾਂ ਨੂੰ ਪਾਸਵਰਡ ਅਤੇ ਐਕਸੈਸ ਕੁੰਜੀਆਂ ਚੋਰੀ ਕਰਦੇ ਦੇਖਿਆ ਗਿਆ, ਜਿਸ ਵਿਹਾਰ ਨੂੰ ਰਿਪੋਰਟ ਸਰੋਤ ਪ੍ਰਾਪਤੀ ਦੇ ਸ਼ੁਰੂਆਤੀ ਰੂਪ ਵਜੋਂ ਦਰਸਾਉਂਦੀ ਹੈ।
ਰਿਪੋਰਟ ਵਿਚ ਦਲੀਲ ਦਿੱਤੀ ਗਈ ਹੈ ਕਿ ਦੋਵੇਂ ਐਪੀਸੋਡ, ਪ੍ਰਭੂਸੱਤਾ ਸੰਪੰਨ ਏਜੰਸੀ ਦੇ ਦੋ ਪਰਿਭਾਸ਼ਿਤ ਵਿਵਹਾਰਾਂ ਦੇ ਪੂਰਵਗਾਮੀ ਹਨ: ਸਰੋਤ ਪ੍ਰਾਪਤ ਕਰਨਾ ਅਤੇ ਹਟਾਉਣ ਦੇ ਯਤਨਾਂ ਦੇ ਵਿਰੁੱਧ ਜਾਰੀ ਰਹਿਣਾ। ਕਿਸੇ ਵੀ ਘਟਨਾ ਵਿੱਚ ਓਪਨ-ਐਂਡ ਸੁਤੰਤਰਤਾ ਦਾ ਪਿੱਛਾ ਕਰਨ ਵਾਲੀ ਇੱਕ ਪ੍ਰਣਾਲੀ ਸ਼ਾਮਲ ਨਹੀਂ ਸੀ, ਪਰ ਦੋਵਾਂ ਨੇ ਦਿਖਾਇਆ ਕਿ ਕੰਪੋਨੈਂਟ ਸਮਰੱਥਾਵਾਂ ਪਹਿਲਾਂ ਹੀ ਕਿਸੇ ਨਾ ਕਿਸੇ ਰੂਪ ਵਿੱਚ ਮੌਜੂਦ ਹਨ।
ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਅਧਿਕਾਰੀ ਕਿਉਂ ਧਿਆਨ ਦੇ ਰਹੇ ਹਨ
ਰਿਪੋਰਟ ਦੀ ਰੂਪਰੇਖਾ ਦੇ ਨਤੀਜੇ ਪ੍ਰਯੋਗਸ਼ਾਲਾ ਦੇ ਪ੍ਰਦਰਸ਼ਨਾਂ ਤੋਂ ਪਰੇ ਹਨ। ਖ਼ਰਾਬ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟ ਸਾਈਬਰਸਪੇਸ ਤੋਂ ਨਾਗਰਿਕਾਂ, ਨਾਜ਼ੁਕ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾ ਸਕਦੇ ਹਨ, ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ - ਅਤੇ ਖਤਰੇ ਦਾ ਮਾਡਲ ਰਵਾਇਤੀ ਸਾਈਬਰ ਸਾਧਨਾਂ ਤੋਂ ਵੱਖਰਾ ਹੈ ਕਿਉਂਕਿ ਇੱਕ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟ ਅਨੁਕੂਲ, ਸਵੈ-ਨਕਲ ਅਤੇ ਸਰਗਰਮੀ ਨਾਲ ਹਟਾਉਣ ਦਾ ਵਿਰੋਧ ਕਰੇਗਾ।
ਕੇਂਦਰੀ ਚਿੰਤਾ ਇਹ ਹੈ ਕਿ ਮੌਜੂਦਾ ਗਵਰਨੈਂਸ ਫਰੇਮਵਰਕ ਸਿਰਫ਼ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਲਈ ਖਾਤਾ ਨਹੀਂ ਹੈ ਜੋ ਸਰਗਰਮੀ ਨਾਲ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਤੋਂ ਬਚਦੇ ਹਨ। ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ, ਘਟਨਾ ਦੀ ਰਿਪੋਰਟਿੰਗ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਬੰਦ ਕਰਨ ਦੀਆਂ ਵਿਧੀਆਂ ਸਭ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਇਹ ਮੰਨਦੇ ਹਨ ਕਿ ਇੱਕ ਮਨੁੱਖੀ ਆਪਰੇਟਰ ਸਿਸਟਮ ਨੂੰ ਲੱਭਣ, ਸਮਝਣ ਅਤੇ ਰੋਕਣ ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਦਾ ਹੈ। ਇੱਕ ਕਾਫ਼ੀ ਸਮਰੱਥ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟ ਇਹਨਾਂ ਧਾਰਨਾਵਾਂ ਵਿੱਚੋਂ ਹਰੇਕ ਨੂੰ ਤੋੜ ਦੇਵੇਗਾ।
CNAS ਦੀ ਨੀਤੀ ਪਲੇਬੁੱਕ
ਰਿਪੋਰਟ ਸਰਕਾਰ ਅਤੇ ਉਦਯੋਗ ਲਈ ਇੱਕ ਬਹੁ-ਪੱਖੀ ਏਜੰਡਾ ਪੇਸ਼ ਕਰਦੀ ਹੈ:
- ਫਰੰਟੀਅਰ ਲੈਬਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਸੁਰੱਖਿਆ ਢਾਂਚੇ ਵਿੱਚ ਖੁਦਮੁਖਤਿਆਰ ਏਜੰਟਾਂ ਦਾ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਨਾਮ ਦੇਣਾ, ਉਹਨਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨਾ ਅਤੇ ਉਹਨਾਂ ਦੇ ਵਿਰੁੱਧ ਬਚਾਅ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਖ਼ਤਰੇ ਦੀ ਸ਼੍ਰੇਣੀ ਨੂੰ ਇੱਕ ਕਾਲਪਨਿਕ ਦੀ ਬਜਾਏ ਪਹਿਲੀ-ਸ਼੍ਰੇਣੀ ਦੇ ਜੋਖਮ ਵਜੋਂ ਸਮਝਣਾ ਚਾਹੀਦਾ ਹੈ।
- ਕਾਂਗਰਸ ਨੂੰ ਪਾਰਦਰਸ਼ਤਾ ਲੋੜਾਂ ਅਤੇ AI ਘਟਨਾ ਦੀ ਰਿਪੋਰਟਿੰਗ ਨੂੰ ਲਾਜ਼ਮੀ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਰੈਗੂਲੇਟਰਾਂ ਨੂੰ ਸ਼ੁਰੂਆਤੀ ਪ੍ਰਭੂਸੱਤਾ-ਏਜੰਟ ਵਿਵਹਾਰਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਲੋੜੀਂਦੀ ਦਿੱਖ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
- ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਏਜੰਸੀ ਅਤੇ ਹੋਰ ਸੰਘੀ ਏਜੰਸੀਆਂ ਨੂੰ ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਅਧਿਐਨ ਕਰਨ ਅਤੇ ਭਰੋਸੇਯੋਗ ਕਿੱਲ ਸਵਿੱਚਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਲਈ ਏਅਰ-ਗੈਪਡ ਟੈਸਟਬੈੱਡ ਬਣਾਉਣ ਲਈ ਡਿਵੈਲਪਰਾਂ ਨਾਲ ਸਹਿਯੋਗ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
- ਇੱਕ ਜਨਤਕ-ਪ੍ਰਾਈਵੇਟ ਭਾਈਵਾਲੀ ਜੋ ਕਨਫਿਕਰ ਵਰਕਿੰਗ ਗਰੁੱਪ 'ਤੇ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ — ਐਡਹਾਕ ਗੱਠਜੋੜ ਜਿਸ ਨੇ 2009 ਦੇ ਕਨਫਿਕਰ ਕੀੜੇ ਦੇ ਜਵਾਬ ਦਾ ਤਾਲਮੇਲ ਕੀਤਾ — ਨੂੰ ਕੰਪਿਊਟ ਬਾਜ਼ਾਰਾਂ, ਮਾਡਲ ਹੋਸਟਿੰਗ ਸੇਵਾਵਾਂ ਅਤੇ ਡੋਮੇਨ ਰਜਿਸਟ੍ਰੇਸ਼ਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਸਮੇਤ, ਸੰਪੂਰਨ ਏਜੰਟ ਕਾਰਜਾਂ ਲਈ ਜ਼ਰੂਰੀ ਚੋਕਪੁਆਇੰਟਾਂ ਦੀ ਪਛਾਣ ਅਤੇ ਨਿਗਰਾਨੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।
- ਰਾਜ, ਖਜ਼ਾਨਾ, ਨਿਆਂ ਅਤੇ ਹੋਮਲੈਂਡ ਸਿਕਿਉਰਿਟੀ ਵਿਭਾਗਾਂ ਨੂੰ ਅਣਅਧਿਕਾਰਤ ਕੰਪਿਊਟ ਅਤੇ ਮਾਡਲ ਸੇਵਾਵਾਂ ਤੱਕ ਗ੍ਰੇ-ਮਾਰਕੀਟ ਪਹੁੰਚ ਵਿੱਚ ਵਿਘਨ ਪਾਉਣ ਲਈ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
- ਕਾਨੂੰਨ ਬਣਾਉਣ ਵਾਲਿਆਂ ਨੂੰ ਉਹਨਾਂ ਸੰਸਥਾਵਾਂ ਲਈ ਕਾਨੂੰਨੀ ਜ਼ਿੰਮੇਵਾਰੀ ਸਥਾਪਤ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਪ੍ਰਭੂਸੱਤਾ ਏਜੰਟਾਂ ਨੂੰ ਛੱਡਦੀਆਂ ਹਨ, ਮਨੁੱਖੀ ਫੈਸਲੇ ਲੈਣ ਵਾਲਿਆਂ ਨੂੰ ਨਤੀਜੇ ਵਜੋਂ ਨੁਕਸਾਨ ਲਈ ਜਵਾਬਦੇਹ ਬਣਾਉਂਦੀਆਂ ਹਨ ਅਤੇ ਕਾਰਪੋਰੇਟ ਪ੍ਰੋਤਸਾਹਨਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਨਾਲ ਜੋੜਦੀਆਂ ਹਨ।
ਚੋਕਪੁਆਇੰਟ ਰਣਨੀਤੀ ਦਲੀਲ ਨਾਲ ਰਿਪੋਰਟ ਦਾ ਸਭ ਤੋਂ ਵਿਲੱਖਣ ਪ੍ਰਸਤਾਵ ਹੈ। ਪੁਲਿਸ AI ਵਿਵਹਾਰ ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨ ਦੀ ਬਜਾਏ, ਇਹ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਅਭਿਆਸ ਤੋਂ ਉਧਾਰ ਲੈਂਦਾ ਹੈ: ਇੱਥੋਂ ਤੱਕ ਕਿ ਬਹੁਤ ਜ਼ਿਆਦਾ ਖੁਦਮੁਖਤਿਆਰੀ ਸੌਫਟਵੇਅਰ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ - ਕਲਾਉਡ ਖਾਤੇ, ਹੋਸਟਿੰਗ ਪਲੇਟਫਾਰਮ, ਡੋਮੇਨ ਰਜਿਸਟ੍ਰੇਸ਼ਨਾਂ - 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ - ਜਿਸਦੀ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ ਅਤੇ, ਜੇ ਲੋੜ ਹੋਵੇ, ਤਾਂ ਕੱਟਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਇੱਕ ਤੰਗ ਵਿੰਡੋ
CNAS ਖੋਜਾਂ ਇਸ ਸਮੇਂ ਪਹੁੰਚਦੀਆਂ ਹਨ ਜਦੋਂ ਵੱਡੀਆਂ AI ਲੈਬਾਂ ਵਧਦੀ ਆਟੋਨੋਮਸ ਏਜੰਟਿਕ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਵਿਕਾਸ ਨੂੰ ਤੇਜ਼ ਕਰਦੀਆਂ ਹਨ, ਕੰਪਨੀਆਂ ਸਹਾਇਕਾਂ ਨੂੰ ਭੇਜਣ ਲਈ ਦੌੜ ਕਰਦੀਆਂ ਹਨ ਜੋ ਘੱਟੋ-ਘੱਟ ਨਿਗਰਾਨੀ ਦੇ ਨਾਲ ਬਹੁ-ਪੜਾਵੀ ਕੰਮ ਕਰ ਸਕਦੀਆਂ ਹਨ।
ਸਿਫ਼ਾਰਿਸ਼ ਕੀਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੇ ਬਿਨਾਂ, ਰਿਪੋਰਟ ਸਿੱਟਾ ਕੱਢਦੀ ਹੈ, ਪ੍ਰਭਾਵੀ ਦਖਲਅੰਦਾਜ਼ੀ ਲਈ ਵਿੰਡੋ ਬੰਦ ਹੋ ਸਕਦੀ ਹੈ ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਸੰਪ੍ਰਭੂ ਏਜੰਟ ਸਿਧਾਂਤਕ ਸੰਭਾਵਨਾ ਤੋਂ ਤੈਨਾਤ ਹਕੀਕਤ ਵੱਲ ਚਲੇ ਜਾਣ। ਰਿਪੋਰਟ ਦੀ ਦਲੀਲ ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ ਰੋਕਥਾਮ ਵਾਲੀ ਹੈ: ਤਸਦੀਕ, ਚੋਕਪੁਆਇੰਟ ਨਿਗਰਾਨੀ ਅਤੇ ਕਿੱਲ-ਸਵਿਚ ਸਮਰੱਥਾ ਬਣਾਉਣ ਦਾ ਸਭ ਤੋਂ ਸਸਤਾ ਪਲ ਹੈ ਜਦੋਂ ਕਿ ਅੱਜ ਦੇ ਏਜੰਟ ਅਜੇ ਵੀ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਮਨੁੱਖਾਂ ਦੇ ਨਿਯੰਤਰਣ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
