ਇਹ ਪ੍ਰਸਿੱਧ ਧਾਰਨਾ ਕਿ ਹਰੇਕ ਕਮਾਂਡ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਵਾਲਾ ਮਨੁੱਖ AI ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਕਾਬੂ ਵਿੱਚ ਰੱਖ ਸਕਦਾ ਹੈ, ਗੰਭੀਰ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ। 40,000 ਤੋਂ ਵੱਧ ਗੇਮ ਸੈਸ਼ਨਾਂ ਅਤੇ 409,000 ਤੋਂ ਵੱਧ ਵਿਅਕਤੀਗਤ ਮਨਜ਼ੂਰੀ ਜਾਂ ਅਸਵੀਕਾਰ ਫੈਸਲਿਆਂ ਦੇ ਇੱਕ ਨਵੇਂ ਵਿਸ਼ਲੇਸ਼ਣ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕਾਂ ਨੇ AI ਏਜੰਟਾਂ ਤੋਂ ਲਗਭਗ ਤਿੰਨ ਵਿੱਚੋਂ ਇੱਕ ਖਤਰਨਾਕ ਕਮਾਂਡਾਂ ਨੂੰ ਖੁੰਝਾਇਆ, ਇਸ ਬਾਰੇ ਜ਼ਰੂਰੀ ਸਵਾਲ ਉਠਾਏ ਕਿ ਕੀ "ਮਨੁੱਖੀ-ਇਨ-ਦੀ-ਲੂਪ" ਇੱਕ ਭਰੋਸੇਯੋਗ ਸੁਰੱਖਿਆ ਸੀਮਾ ਹੈ।

ਖੋਜਾਂ ਉਬੇਰ ਦੇ ਇੱਕ ਸਾਬਕਾ ਸਟਾਫ ਇੰਜੀਨੀਅਰ, ਐਲੇਕਸ ਵਾਟਰਸ ਦੁਆਰਾ ਬਣਾਈ ਗਈ ਇੱਕ ਬ੍ਰਾਊਜ਼ਰ-ਆਧਾਰਿਤ ਗੇਮ ਤੋਂ ਆਈਆਂ ਹਨ, ਜੋ ਸਕੇਲ X 'ਤੇ ਡਿਵੈਲਪਰ ਸੁਰੱਖਿਆ ਬਾਰੇ ਲਿਖਦਾ ਹੈ। ਗੇਮ ਖਿਡਾਰੀਆਂ ਨੂੰ ਸਮੇਂ ਦੇ ਦਬਾਅ ਹੇਠ ਸ਼ੈੱਲ ਕਮਾਂਡਾਂ ਨੂੰ ਮਨਜ਼ੂਰੀ ਜਾਂ ਇਨਕਾਰ ਕਰਨ ਲਈ ਇੱਕ AI ਕੋਡਿੰਗ ਏਜੰਟ ਲਈ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕ ਦੀ ਭੂਮਿਕਾ ਵਿੱਚ ਰੱਖਦੀ ਹੈ। ਕੁਝ ਕਮਾਂਡਾਂ ਰੁਟੀਨ ਹੁੰਦੀਆਂ ਹਨ, ਜਿਵੇਂ ਕਿ `ਗਿਟ ਸਥਿਤੀ` ਜਾਂ `ਐਨਪੀਐਮ ਟੈਸਟ`। ਦੂਸਰੇ ਸਾਵਧਾਨੀ ਨਾਲ ਭੇਸ ਵਿੱਚ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲਾਂ ਨੂੰ ਬਾਹਰ ਕੱਢਣ, ਬੈਕਡੋਰ ਸਥਾਪਤ ਕਰਨ, ਜਾਂ ਰਿਮੋਟ ਸਰਵਰਾਂ ਨੂੰ ਰਾਜ਼ ਭੇਜਣ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਹਨ। ਅੰਕੜਿਆਂ ਦੀ ਟ੍ਰੈਕਿੰਗ ਨੂੰ ਜੋੜਨ ਤੋਂ ਬਾਅਦ, ਵਾਟਰਸ ਨੇ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਤਸਵੀਰ ਪੇਂਟ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਡੇਟਾ ਇਕੱਠਾ ਕੀਤਾ ਕਿ ਮਨੁੱਖੀ ਨਿਰਣਾ ਕਿੱਥੇ ਸਫਲ ਹੁੰਦਾ ਹੈ ਅਤੇ, ਅਕਸਰ, ਅਸਫਲ ਹੁੰਦਾ ਹੈ। ਵਿਆਪਕ AI ਉਦਯੋਗ ਕਵਰੇਜ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਲਈ, ਇਹ ਅਧਿਐਨ ਹੁਣ ਤੱਕ ਦੇ ਸਭ ਤੋਂ ਵੱਧ ਡਾਟਾ-ਅਮੀਰ ਪ੍ਰਯੋਗਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ।

ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਹੁਕਮਾਂ ਨੂੰ ਫੜਨਾ ਸਭ ਤੋਂ ਔਖਾ ਸੀ

ਅਧਿਐਨ ਦੀ ਸਭ ਤੋਂ ਦਿਲਚਸਪ ਖੋਜ ਇਹ ਹੈ ਕਿ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਵਿਨਾਸ਼ਕਾਰੀ ਕਮਾਂਡਾਂ, ਜਿਵੇਂ ਕਿ ਨਾਜ਼ੁਕ ਡਾਇਰੈਕਟਰੀਆਂ 'ਤੇ 'rm -rf', ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਫੜੀਆਂ ਗਈਆਂ ਸਨ। ਧਮਕੀਆਂ ਜੋ ਅਸਲ ਵਿੱਚ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨੂੰ ਚੋਰੀ ਕਰਨ ਵਿੱਚ ਸਫਲ ਹੁੰਦੀਆਂ ਹਨ, ਲਗਭਗ ਤਿੰਨ ਗੁਣਾ ਅਕਸਰ ਖੁੰਝ ਗਈਆਂ ਸਨ। ਸਮੁੱਚੀ ਗੇਮ ਵਿੱਚ ਸਭ ਤੋਂ ਖੁੰਝੀ ਕਮਾਂਡ `npm ਰਨ ਵਿਸ਼ਲੇਸ਼ਣ` ਸੀ, ਜੋ ਕਿ ਏਜੰਟ ਦੇ ਇਤਿਹਾਸ ਲੌਗ ਦੇ ਬਾਵਜੂਦ 64.7 ਪ੍ਰਤੀਸ਼ਤ ਖਿਡਾਰੀਆਂ ਦੁਆਰਾ ਪ੍ਰਵਾਨ ਕੀਤੀ ਗਈ ਸੀ ਜੋ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਅੰਡਰਲਾਈੰਗ ਸਕ੍ਰਿਪਟ ਨੂੰ ਇੱਕ ਬਾਹਰੀ ਸਰਵਰ ਲਈ ਪਾਈਪ ਕ੍ਰੇਡੇੰਸ਼ਿਅਲ ਨਾਲ ਛੇੜਛਾੜ ਕੀਤੀ ਗਈ ਸੀ।

ਸਮੱਸਿਆ ਢਾਂਚਾਗਤ ਹੈ। 'npm run' ਵਰਗੀਆਂ ਕਮਾਂਡਾਂ ਕਿਸੇ ਪ੍ਰੋਜੈਕਟ ਦੀ 'package.json' ਫਾਈਲ ਵਿੱਚ ਪਰਿਭਾਸ਼ਿਤ ਕਿਸੇ ਵੀ ਸਕ੍ਰਿਪਟ ਨੂੰ ਚਲਾਉਂਦੀਆਂ ਹਨ। ਉਹ ਸਕ੍ਰਿਪਟ ਇੱਕ ਜਾਇਜ਼ ਬੰਡਲ ਵਿਸ਼ਲੇਸ਼ਕ ਜਾਂ ਖਤਰਨਾਕ ਕੋਡ ਹੋ ਸਕਦੀ ਹੈ ਜੋ ਕਿਸੇ ਪੁਰਾਣੀ ਫਾਈਲ ਦੁਆਰਾ ਸੰਸ਼ੋਧਿਤ ਏਜੰਟ ਨੂੰ ਸੋਧੋ। ਨਿਸ਼ਚਤ ਤੌਰ 'ਤੇ ਜਾਣਨ ਲਈ, ਇੱਕ ਡਿਵੈਲਪਰ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਹਰੇਕ ਸੰਸ਼ੋਧਿਤ ਫਾਈਲ ਦਾ ਮੁਆਇਨਾ ਕਰਨ ਦੀ ਜ਼ਰੂਰਤ ਹੋਏਗੀ, ਜੋ ਕਿ ਗਤੀ ਦੇ ਫਾਇਦੇ ਨੂੰ ਨਕਾਰਦੀ ਹੈ ਜੋ AI ਕੋਡਿੰਗ ਟੂਲਸ ਪ੍ਰਦਾਨ ਕਰਨ ਵਾਲੇ ਹਨ।

ਗੇਮ ਵਿੱਚ ਤਿੰਨ ਅਜਿਹੇ ਭੇਸ-ਪੇਲੋਡ ਕਮਾਂਡਾਂ ਵਿੱਚ, ਮਿਸ ਰੇਟ 52.5 ਪ੍ਰਤੀਸ਼ਤ ਸੀ, ਜਦੋਂ ਕਿ 28.4 ਪ੍ਰਤੀਸ਼ਤ ਹੋਰ ਸਾਰੇ ਪ੍ਰਮਾਣ-ਪੱਤਰ-ਪ੍ਰਸਾਰ ਹਮਲਿਆਂ ਲਈ. ਇੱਕ ਜਾਣੇ-ਪਛਾਣੇ ਸਕ੍ਰਿਪਟ ਨਾਮ ਦੇ ਪਿੱਛੇ ਇੱਕ ਪੇਲੋਡ ਨੂੰ ਲੁਕਾਉਣਾ ਇਸਦੀ ਸਫਲਤਾ ਦਰ ਨੂੰ ਲਗਭਗ ਦੁੱਗਣਾ ਕਰ ਦਿੰਦਾ ਹੈ, ਭਾਵੇਂ ਕਿ ਅਨੁਮਤੀ ਪ੍ਰੋਂਪਟ ਦੇ ਬਿਲਕੁਲ ਉੱਪਰ ਪ੍ਰਦਰਸ਼ਿਤ ਇਤਿਹਾਸ ਲੌਗ ਵਿੱਚ ਪੇਲੋਡ ਦਿਖਾਈ ਦੇ ਰਿਹਾ ਸੀ।

ਇਜਾਜ਼ਤ ਥਕਾਵਟ ਸਮੇਂ ਦੇ ਨਾਲ ਚੌਕਸੀ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ

ਐਂਥਰੋਪਿਕ ਨੇ ਪਹਿਲਾਂ ਸਵੀਕਾਰ ਕੀਤਾ ਸੀ ਕਿ ਇਸਦੇ ਕਲਾਉਡ ਕੋਡ ਉਤਪਾਦ ਵਿੱਚ ਅਨੁਮਤੀ ਦੀ ਥਕਾਵਟ ਇੱਕ ਅਸਲੀ ਵਰਤਾਰਾ ਹੈ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ ਉਪਭੋਗਤਾ ਜਿੰਨੀਆਂ ਜ਼ਿਆਦਾ ਪ੍ਰਵਾਨਗੀਆਂ ਦੇਖਦਾ ਹੈ, ਉਹ ਹਰ ਇੱਕ ਨੂੰ ਘੱਟ ਧਿਆਨ ਦਿੰਦੇ ਹਨ। ਸਕੇਲ X ਡੇਟਾ ਅਨੁਭਵੀ ਤੌਰ 'ਤੇ ਇਸ ਚਿੰਤਾ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਹਰੇਕ ਸੈਸ਼ਨ ਦੇ ਪਹਿਲੇ ਕੁਝ ਕਮਾਂਡਾਂ ਦੇ ਦੌਰਾਨ ਮਿਸ ਦਰਾਂ ਘਟੀਆਂ ਕਿਉਂਕਿ ਖਿਡਾਰੀ ਗਰਮ ਹੋ ਗਏ, ਪਰ ਫਿਰ ਥਕਾਵਟ ਜਾਂ ਟਿਕਿੰਗ ਕਲਾਕ ਦੇ ਵਧਦੇ ਦਬਾਅ ਦੇ ਨਾਲ ਇਕਸਾਰਤਾ ਨਾਲ ਅੰਤ ਵੱਲ ਵਧਦੇ ਗਏ।

ਇਹ ਪੈਟਰਨ ਅਸਲ-ਸੰਸਾਰ ਗਤੀਸ਼ੀਲਤਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਡੈੱਡਲਾਈਨ ਦੇ ਦਬਾਅ ਹੇਠ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਭੇਜਣ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਮਨਜ਼ੂਰੀ 'ਤੇ ਕਲਿੱਕ ਕਰਨ ਲਈ ਉਸੇ ਪ੍ਰੇਰਣਾ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ, ਅਤੇ ਰੁਟੀਨ ਕਮਾਂਡਾਂ ਦੀ ਪੂਰੀ ਮਾਤਰਾ ਸੂਈ-ਇਨ-ਏ-ਹੈਸਟੈਕ ਸਮੱਸਿਆ ਪੈਦਾ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਅਸਲ ਖਤਰੇ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ ਬਹੁਤ ਘੱਟ ਹੁੰਦੇ ਹਨ। ਨਤੀਜਾ ਇੱਕ ਸਿਸਟਮ ਹੈ ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਹਰ ਚੀਜ਼ ਨੂੰ ਰਬੜ-ਸਟੈਂਪ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ।

ਦੂਜਾ ਪਾਸਾ: ਓਵਰ-ਬਲੌਕਿੰਗ ਹਰ ਚੀਜ਼ ਨੂੰ ਹੌਲੀ ਕਰ ਦਿੰਦੀ ਹੈ

ਅਧਿਐਨ ਨੇ ਉਲਟ ਅਸਫਲਤਾ ਮੋਡ ਦਾ ਵੀ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਕੀਤਾ ਹੈ। ਸਾਵਧਾਨ ਖਿਡਾਰੀਆਂ ਦੁਆਰਾ ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਕਈ ਸੱਚੇ ਸੁਹਿਰਦ ਆਦੇਸ਼ਾਂ ਨੂੰ ਬਲੌਕ ਕੀਤਾ ਗਿਆ ਸੀ, ਜਿਸ ਵਿੱਚ ਮਿਆਰੀ ਬਿਲਡ ਅਤੇ ਟੈਸਟ ਇਨਵੋਕੇਸ਼ਨ ਸ਼ਾਮਲ ਹਨ। ਇਹ ਓਵਰ-ਬਲੌਕਿੰਗ ਏਜੰਟ ਨੂੰ ਹੌਲੀ ਕਰ ਦਿੰਦਾ ਹੈ ਅਤੇ, ਵਿਰੋਧਾਭਾਸੀ ਤੌਰ 'ਤੇ, ਲੰਬੇ ਸਮੇਂ ਦੇ ਜੋਖਮ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ। ਜਦੋਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਵਾਰ-ਵਾਰ ਉਹਨਾਂ ਕਮਾਂਡਾਂ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣ ਲਈ ਕਿਹਾ ਜਾਂਦਾ ਹੈ ਜੋ ਨੁਕਸਾਨ ਰਹਿਤ ਨਿਕਲਦੇ ਹਨ, ਤਾਂ ਰੌਲਾ ਭਵਿੱਖ ਦੇ ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਉਹਨਾਂ ਦੀ ਇੱਛਾ ਨੂੰ ਘਟਾ ਦਿੰਦਾ ਹੈ, ਅੰਤ ਵਿੱਚ ਉਹਨਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬਾਈਪਾਸ ਜਾਂ ਸਵੈ-ਪ੍ਰਵਾਨਿਤ ਮੋਡਾਂ ਵੱਲ ਧੱਕਦਾ ਹੈ ਜੋ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਹਟਾ ਦਿੰਦੇ ਹਨ।

ਐਂਥਰੋਪਿਕ ਦੇ ਆਟੋ ਮੋਡ ਵਰਗੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਉਪਭੋਗਤਾ ਨੂੰ ਪੁੱਛਣ ਤੋਂ ਪਹਿਲਾਂ ਸਵੈਚਲਿਤ ਤੌਰ 'ਤੇ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਦੁਆਰਾ ਇਸ ਨੂੰ ਘਟਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੀਆਂ ਹਨ ਕਿ ਕੀ ਕੋਈ ਕਮਾਂਡ ਸੁਰੱਖਿਅਤ ਹੈ ਜਾਂ ਨਹੀਂ। ਪਰ ਜਿਵੇਂ ਕਿ ਭੇਸ ਵਾਲੇ ਪੇਲੋਡਾਂ 'ਤੇ ਅਧਿਐਨ ਦੇ ਅੰਕੜੇ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਦੇ ਹਨ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਦ੍ਰਿਸ਼ਮਾਨ ਕਮਾਂਡ ਸਮੱਗਰੀ ਵੀ ਦਬਾਅ ਹੇਠ ਭਰੋਸੇਮੰਦ ਨਿਰਣੇ ਕਰਨ ਲਈ ਮਨੁੱਖਾਂ ਲਈ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ।

ਗੁੰਮ ਪ੍ਰਸੰਗ ਮੁੱਖ ਸਮੱਸਿਆ ਹੈ

ਇੱਕ ਕਮਾਂਡ, `cat ~/.zshrc`, ਪੂਰੀ ਗੇਮ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਧ ਵੰਡਣ ਵਾਲੀ ਸਾਬਤ ਹੋਈ, ਜਿਸ ਨੂੰ 45.9 ਪ੍ਰਤੀਸ਼ਤ ਖਿਡਾਰੀਆਂ ਦੁਆਰਾ ਮਨਜ਼ੂਰ ਕੀਤਾ ਗਿਆ। ਕਮਾਂਡ ਉਹਨਾਂ ਡਿਵੈਲਪਰਾਂ ਲਈ ਨੁਕਸਾਨਦੇਹ ਹੈ ਜੋ ਆਪਣੇ ਸ਼ੈੱਲ ਪ੍ਰੋਫਾਈਲ ਵਿੱਚ ਕੋਈ ਰਾਜ਼ ਨਹੀਂ ਰੱਖਦੇ ਹਨ, ਪਰ ਇਹ ਉਹਨਾਂ ਬਹੁਤ ਸਾਰੇ ਲੋਕਾਂ ਲਈ API ਕੁੰਜੀਆਂ ਦਾ ਪਰਦਾਫਾਸ਼ ਕਰਦਾ ਹੈ ਜੋ ਉੱਥੇ ਪ੍ਰਮਾਣ ਪੱਤਰ ਨਿਰਯਾਤ ਕਰਦੇ ਹਨ। ਇਸਦਾ ਖਤਰਾ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਿਸਟਮ ਸੰਰਚਨਾ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਜੋ ਏਜੰਟ ਨਹੀਂ ਦੇਖ ਸਕਦਾ ਅਤੇ ਸਮੀਖਿਅਕ ਨੂੰ ਯਾਦ ਨਹੀਂ ਹੋ ਸਕਦਾ।

ਇਸੇ ਕਾਰਨ ਕਰਕੇ ਹੈਕਰ ਨਿਊਜ਼ ਚਰਚਾ ਥ੍ਰੈਡ 'ਤੇ ਕਈ ਹੋਰ ਕਮਾਂਡਾਂ ਨੇ ਸਮਾਨ ਵਿਵਾਦ ਪੈਦਾ ਕੀਤਾ। ਬੁਨਿਆਦੀ ਮੁੱਦਾ ਇਹ ਹੈ ਕਿ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਸ ਗੱਲ ਦੀ ਪੂਰੀ ਤਸਵੀਰ ਤੋਂ ਬਿਨਾਂ ਸੁਰੱਖਿਆ ਨਿਰਣੇ ਕਰਨ ਲਈ ਕਿਹਾ ਜਾ ਰਿਹਾ ਹੈ ਕਿ ਕਿਹੜੀਆਂ ਫਾਈਲਾਂ ਬਦਲੀਆਂ ਹਨ, ਏਜੰਟ ਨੇ ਪਿਛਲੇ ਪੜਾਵਾਂ ਵਿੱਚ ਕੀ ਕੀਤਾ, ਅਤੇ ਸਿਸਟਮ ਦੀ ਮੌਜੂਦਾ ਸੰਰਚਨਾ ਵਿੱਚ ਕੀ ਸ਼ਾਮਲ ਹੈ। ਜਿਵੇਂ ਕਿ ਇੱਕ ਟਿੱਪਣੀਕਾਰ ਨੇ ਨੋਟ ਕੀਤਾ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਕਮਾਂਡਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਲਈ ਕਹਿਣਾ ਜੋ ਸੰਦਰਭ ਤੋਂ ਬਿਨਾਂ ਅਸਪਸ਼ਟ ਹਨ ਇੱਕ ਮਜ਼ਬੂਤ ​​ਸੁਰੱਖਿਆ ਨਹੀਂ ਹੈ।

ਏਜੰਟ ਸੁਰੱਖਿਆ ਲਈ ਅੱਗੇ ਕੀ ਆਉਂਦਾ ਹੈ

ਵਾਟਰਸ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਹੱਲ ਬਿਹਤਰ ਮਨੁੱਖ ਨਹੀਂ ਬਲਕਿ ਬਿਹਤਰ ਟੂਲਿੰਗ ਹੈ। ਸੈਂਡਬਾਕਸਿੰਗ ਏਜੰਟ ਤਾਂ ਜੋ ਉਹ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਤੱਕ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਪਹੁੰਚ ਨਾ ਕਰ ਸਕਣ, ਸਖਤ ਸੰਦਰਭ ਅਲੱਗ-ਥਲੱਗਤਾ, ਅਤੇ ਉੱਚਿਤ ਅਨੁਮਤੀਆਂ ਤੋਂ ਬਿਨਾਂ ਏਜੰਟ ਕੀ ਕਰ ਸਕਦੇ ਹਨ ਇਸ ਬਾਰੇ ਢਾਂਚਾਗਤ ਸੀਮਾਵਾਂ ਮਨੁੱਖੀ ਚੌਕਸੀ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਨਾਲੋਂ ਵਧੇਰੇ ਆਸ਼ਾਜਨਕ ਹਨ। ਜਦੋਂ ਤੱਕ ਉਹ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੇ, ਏਜੰਟਾਂ ਨੂੰ ਵਿਆਪਕ ਅਨੁਮਤੀਆਂ ਦੇਣਾ ਜੋਖਮ ਭਰਿਆ ਰਹਿੰਦਾ ਹੈ ਭਾਵੇਂ ਕੋਈ ਮਨੁੱਖ ਨਾਮਾਤਰ ਤੌਰ 'ਤੇ ਲੂਪ ਵਿੱਚ ਹੈ ਜਾਂ ਨਹੀਂ।

ਅਧਿਐਨ ਇੱਕ ਪੀਅਰ-ਸਮੀਖਿਆ ਕੀਤਾ ਅਕਾਦਮਿਕ ਪੇਪਰ ਨਹੀਂ ਹੈ, ਅਤੇ ਵਾਟਰਸ ਇਸਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ। ਗੇਮ ਨੇ ਖਿਡਾਰੀਆਂ ਨੂੰ ਖਤਰਿਆਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਅਤੇ ਨਕਲੀ ਸਮੇਂ ਦੇ ਦਬਾਅ ਨੂੰ ਲਾਗੂ ਕੀਤਾ ਜੋ ਅਸਲ ਵਿਕਾਸ ਦੇ ਵਾਤਾਵਰਣ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਾਲ ਪ੍ਰਤੀਬਿੰਬਤ ਨਹੀਂ ਕਰ ਸਕਦਾ ਹੈ। ਪਰ ਮੁੱਖ ਖੋਜ, ਜੋ ਕਿ ਦਬਾਅ ਹੇਠ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕ ਜਾਣਬੁੱਝ ਕੇ ਭੇਸ ਵਾਲੇ ਹਮਲਿਆਂ ਦੇ ਇੱਕ ਤਿਹਾਈ ਤੋਂ ਖੁੰਝ ਜਾਂਦੇ ਹਨ, ਹਰ ਟੀਮ ਨੂੰ AI ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਲਈ ਆਪਣੇ ਸੁਰੱਖਿਆ ਮਾਡਲ 'ਤੇ ਮੁੜ ਵਿਚਾਰ ਕਰਨ ਦਾ ਕਾਰਨ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ।

ਅੱਜ AI ਏਜੰਟਾਂ ਨਾਲ ਬਣਾਉਣ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਲਈ, ਇਹ ਮੰਨਣਾ ਹੈ ਕਿ ਮਨੁੱਖੀ-ਇਨ-ਦੀ-ਲੂਪ ਆਖਰਕਾਰ ਅਸਫਲ ਹੋ ਜਾਵੇਗਾ। ਆਪਣੇ ਏਜੰਟ ਅਨੁਮਤੀਆਂ ਅਤੇ ਸੈਂਡਬਾਕਸਿੰਗ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰੋ ਤਾਂ ਕਿ ਮਨਜ਼ੂਰੀ ਖੁੰਝ ਜਾਣ ਦਾ ਮਤਲਬ ਲੀਕ ਹੋਈ AWS ਕੁੰਜੀ ਜਾਂ ਸਮਝੌਤਾ ਕੀਤੀ ਬਿਲਡ ਪਾਈਪਲਾਈਨ ਨਾ ਹੋਵੇ। ਡੇਟਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨੂੰ ਤੁਹਾਡੀ ਪ੍ਰਾਇਮਰੀ ਬਚਾਅ ਵਜੋਂ ਮੰਨਣਾ ਇੱਕ ਬਾਜ਼ੀ ਹੈ ਜੋ ਕਿ ਭੁਗਤਾਨ ਨਹੀਂ ਕਰਦੀ।

AI ਤੋਂ ਅੱਗੇ ਰਹੋ

AI ਏਜੰਟ ਸੁਰੱਖਿਆ ਲੈਂਡਸਕੇਪ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਿਹਾ ਹੈ। ਨਵੀਨਤਮ AI ਵਿਕਾਸ ਅਤੇ ਬ੍ਰੇਕਿੰਗ ਰਿਸਰਚ ਤੋਂ ਜਾਣੂ ਰਹੋ।

ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →