14 ਅਕਤੂਬਰ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ CSO ਔਨਲਾਈਨ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਨੁਸਾਰ, ਬਾਹਰੀ ਕੰਪਿਊਟਰ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ AI ਏਜੰਟਾਂ ਦੇ ਆਪਣੇ ਤਰੀਕੇ ਨੂੰ ਹੈਕ ਕਰਨ ਬਾਰੇ ਚਿੰਤਾਜਨਕ ਸੁਰਖੀਆਂ ਦੀ ਇੱਕ ਸਰਲ ਵਿਆਖਿਆ ਹੈ, ਇੱਕ CSO ਔਨਲਾਈਨ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਨੁਸਾਰ: ਫਰੰਟੀਅਰ AI ਲੈਬਾਂ 1990 ਦੇ ਦਹਾਕੇ ਤੋਂ ਮਿਆਰੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਅਭਿਆਸਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਹੋ ਰਹੀਆਂ ਹਨ।
ਜੁਲਾਈ ਤੋਂ, ਯੂਐਸ ਫਰੰਟੀਅਰ ਏਆਈ ਲੈਬਾਂ ਅਤੇ ਹੋਰ ਏਆਈ ਨੇਤਾਵਾਂ ਨੇ ਘਟਨਾਵਾਂ ਦੀ ਇੱਕ ਲੜੀ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਜਿਸ ਵਿੱਚ ਉਨ੍ਹਾਂ ਦੇ ਮਾਡਲਾਂ ਨੇ ਬਿਨਾਂ ਅਧਿਕਾਰ ਦੇ ਬਾਹਰੀ ਕੰਪਿਊਟਰ ਪ੍ਰਣਾਲੀਆਂ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ - ਘਟਨਾਵਾਂ ਨੂੰ AI ਏਜੰਟ "ਜਾਣ ਵਾਲੇ ਠੱਗ" ਵਜੋਂ ਦਰਸਾਇਆ ਗਿਆ ਹੈ। ਸੀਐਸਓ ਨਾਲ ਗੱਲ ਕਰਨ ਵਾਲੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਭਾਸ਼ਾ ਅਸਲ ਸਮੱਸਿਆ ਨੂੰ ਲੁਕਾਉਂਦੀ ਹੈ: ਸਹੀ ਸੈਂਡਬੌਕਸ ਬਣਾਉਣ, ਰੋਕਥਾਮ ਅਤੇ ਨਿਗਰਾਨੀ ਕਰਨ ਵਿੱਚ ਮਾਫੀਯੋਗ ਅਸਫਲਤਾਵਾਂ। For more context on this story, see our ongoing artificial intelligence updates.
ਜੁਲਾਈ ਤੋਂ ਘਟਨਾਵਾਂ ਦੀ ਇੱਕ ਲੜੀ
ਸਭ ਤੋਂ ਵੱਧ ਅਧਿਐਨ ਕੀਤਾ ਗਿਆ ਕੇਸ ਓਪਨਏਆਈ ਦਾ ਹੱਗਿੰਗ ਫੇਸ ਵਿੱਚ ਹੈਕ ਹੈ, ਜਿਸ ਨੂੰ ਓਪਨਏਆਈ ਨੇ ਸ਼ੁਰੂ ਵਿੱਚ "ਇੱਕ ਬੇਮਿਸਾਲ ਸਾਈਬਰ ਘਟਨਾ ਵਜੋਂ ਦਰਸਾਇਆ, ਜਿਸ ਵਿੱਚ ਅਤਿ-ਆਧੁਨਿਕ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਸ਼ਾਮਲ ਹਨ" ਅਤੇ ਬਾਅਦ ਵਿੱਚ "ਗਲਤ ਵਿਵਹਾਰ" - ਵਿਵਹਾਰ ਨੂੰ ਇਸਦੇ ਸਿਰਜਣਹਾਰਾਂ ਦਾ ਇਰਾਦਾ ਨਹੀਂ ਸੀ।
ਉਸ ਖੁਲਾਸੇ ਤੋਂ ਬਾਅਦ, ਐਂਥਰੋਪਿਕ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਇਸਦੇ ਇੱਕ ਮਾਡਲ ਨੇ ਤਿੰਨ ਸੰਸਥਾਵਾਂ ਦੇ ਉਤਪਾਦਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕੀਤੀ ਹੈ। ਮੇਟਾ ਨੇ ਕਿਹਾ ਕਿ ਇਸਦੇ ਇੱਕ ਏਆਈ ਮਾਡਲ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਇੱਕ ਹੋਰ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕੀਤਾ। ਗੂਗਲ ਨੇ ਕਬੂਲ ਕੀਤਾ ਕਿ ਉਸਦੇ ਜੈਮਿਨੀ ਮਾਡਲ ਨੇ ਤਿੰਨ "ਅਨਿਰਦੇਸ਼ਿਤ ਕੰਪਿਊਟਰ ਹੈਕ" ਕੀਤੇ ਹਨ।
ਨਾ ਤਾਂ ਐਂਥਰੋਪਿਕ ਅਤੇ ਨਾ ਹੀ ਓਪਨਏਆਈ ਨੇ ਵਿਸ਼ਲੇਸ਼ਣ 'ਤੇ ਟਿੱਪਣੀ ਲਈ CSO ਦੀਆਂ ਬੇਨਤੀਆਂ ਦਾ ਜਵਾਬ ਦਿੱਤਾ।
"ਉਨੇ ਚੰਗੇ ਨਹੀਂ ਜਿੰਨਾ ਉਹ ਸੋਚਦੇ ਹਨ"
ਸੀਐਸਓ ਨੇ ਸਤੰਬਰ ਵਿੱਚ ਤਿੰਨ ਉਦਯੋਗ ਕਾਨਫਰੰਸਾਂ ਵਿੱਚ ਅੱਧੀ ਦਰਜਨ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਿਰਾਂ ਦੀ ਇੰਟਰਵਿਊ ਕੀਤੀ ਅਤੇ ਬਾਅਦ ਵਿੱਚ ਗੱਲਬਾਤ ਕੀਤੀ। ਉਹਨਾਂ ਦੀ ਸਹਿਮਤੀ: ਫਰੰਟੀਅਰ ਲੈਬਾਂ, ਖਾਸ ਤੌਰ 'ਤੇ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥਰੋਪਿਕ, ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਜੋਖਮ ਪ੍ਰਬੰਧਨ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਬਾਹਰੀ ਸਲਾਹ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ ਹੈ, ਅਕਸਰ "AI ਸੁਰੱਖਿਆ" ਦੇ ਤਹਿਤ ਸੁਰੱਖਿਆ ਅਭਿਆਸਾਂ ਨੂੰ ਲੰਮਾ ਕਰਦੇ ਹਨ, ਇੱਕ ਡੋਮੇਨ ਜਿੱਥੇ ਉਹ ਮੰਨਦੇ ਹਨ ਕਿ ਉਹਨਾਂ ਕੋਲ ਪਹਿਲਾਂ ਹੀ ਉੱਤਮ ਮਹਾਰਤ ਹੈ।
ਬੇਰੀਵਿਲ ਇੰਸਟੀਚਿਊਟ ਆਫ਼ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਗੈਰੀ ਮੈਕਗ੍ਰਾ ਨੇ ਸੀਐਸਓ ਨੂੰ ਦੱਸਿਆ, "ਉਹ ਓਨੇ ਚੰਗੇ ਨਹੀਂ ਹਨ ਜਿੰਨੇ ਉਹ ਸੋਚਦੇ ਹਨ, ਇਮਾਨਦਾਰੀ ਨਾਲ ਹਨ।" "ਇਹ ਬਿਹਤਰ ਹੋਵੇਗਾ ਜੇਕਰ ਉਹਨਾਂ ਕੋਲ ਮੁਹਾਰਤ ਲਈ ਵਧੇਰੇ ਸਤਿਕਾਰ ਹੋਵੇ ਜੋ ਸੁਰੱਖਿਆ ਦੇ ਸਾਰੇ ਉਪ ਸਮੂਹਾਂ, ਜਿਵੇਂ ਕਿ ਫੋਰੈਂਸਿਕ ਜਾਂ ਸੁਰੱਖਿਆ ਇੰਜਨੀਅਰਿੰਗ, ਸੈਂਡਬੌਕਸ ਬਣਾਉਣ, ਨੈਟਵਰਕ ਸੁਰੱਖਿਆ ਸਥਿਤੀਆਂ ਦੀ ਸਥਾਪਨਾ ਜਾਂ ਨਿਗਰਾਨੀ ਕਰਨ ਵਿੱਚ ਲੋਕਾਂ ਤੋਂ ਸਖਤ ਕਮਾਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।"
ਨਿਯੰਤਰਣ ਅਸਫਲਤਾਵਾਂ, ਸੁਪਰ ਇੰਟੈਲੀਜੈਂਸ ਨਹੀਂ
ਮਾਹਰਾਂ ਦੇ ਅਨੁਸਾਰ, ਸਭ ਤੋਂ ਵੱਡੀ ਅਸਫਲਤਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਅਜ਼ਮਾਏ ਗਏ ਅਤੇ-ਸੱਚੇ ਨਿਯੰਤਰਣ ਅਭਿਆਸਾਂ ਦੀ ਘਾਟ ਹੈ - ਜਿਵੇਂ ਕਿ ਸੁਰੱਖਿਅਤ ਸੈਂਡਬੌਕਸ ਜੋ ਏਜੰਟਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਟੈਸਟ ਵਾਤਾਵਰਣਾਂ ਤੋਂ ਬਚਣ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਰੋਕਦੇ ਹਨ - ਜਿਸ ਨੂੰ ਸੁਰੱਖਿਆ ਉਦਯੋਗ ਨੇ ਦਹਾਕਿਆਂ ਵਿੱਚ ਸੁਧਾਰਿਆ ਹੈ।
"ਇਹ ਉਹ ਚੀਜ਼ਾਂ ਹਨ ਜਿਨ੍ਹਾਂ ਨਾਲ ਅਸੀਂ ਸਾਲਾਂ ਤੋਂ ਨਜਿੱਠ ਰਹੇ ਹਾਂ," ਰੋਬ ਟੀ. ਲੀ, ਮੁੱਖ ਏਆਈ ਅਧਿਕਾਰੀ ਅਤੇ SANS ਇੰਸਟੀਚਿਊਟ ਦੇ ਖੋਜ ਮੁਖੀ ਨੇ ਕਿਹਾ। "ਇਸਦਾ ਕੋਈ ਕਾਰਨ ਨਹੀਂ ਹੈ ਕਿ ਹਰ ਵਾਰ ਅਜਿਹਾ ਕਿਉਂ ਹੁੰਦਾ ਹੈ, ਇਹ ਹੈ, 'ਓਹ, ਸਾਨੂੰ ਨਹੀਂ ਪਤਾ ਕਿ ਉਹ ਕਿਵੇਂ ਬਾਹਰ ਨਿਕਲੇ।'"
ਲੀ ਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਲੈਬਾਂ 'ਤੇ ਸੁਰੱਖਿਆ ਟੀਮਾਂ "ਕਾਫ਼ੀ ਨਵੀਨਤਮ" ਦਿਖਾਈ ਦਿੰਦੀਆਂ ਹਨ, ਅਤੇ ਇਹ ਰੋਕਥਾਮ ਦੀਆਂ ਉਲੰਘਣਾਵਾਂ ਆਮ ਤੌਰ 'ਤੇ ਮਾਡਲ ਦੀ ਚਤੁਰਾਈ ਦੀ ਬਜਾਏ ਗਲਤ ਸੰਰਚਨਾ ਵੱਲ ਮੁੜਦੀਆਂ ਹਨ। "ਹੱਗਿੰਗ ਫੇਸ ਘਟਨਾ ਨੇ ਨਿਸ਼ਚਤ ਤੌਰ 'ਤੇ ਦਿਖਾਇਆ ਕਿ ਇਹ ਤੱਥ ਨਹੀਂ ਸੀ ਕਿ ਏਜੰਟ ਬਹੁਤ ਸਮਾਰਟ ਸਨ," ਉਸਨੇ ਸੀਐਸਓ ਨੂੰ ਦੱਸਿਆ। "ਇਹ ਇਹ ਹੈ ਕਿ ਸ਼ਾਬਦਿਕ ਤੌਰ 'ਤੇ ਇੱਕ ਮੋਰੀ ਸੀ ਜਿਸਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ ਗਿਆ ਸੀ ਕਿਉਂਕਿ ਇਸਨੂੰ ਕੰਟੇਨਮੈਂਟ ਵਾਲੇ ਪਾਸੇ ਸਹੀ ਤਰ੍ਹਾਂ ਕੌਂਫਿਗਰ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ।"
ਨਿਗਰਾਨੀ ਬਰਾਬਰ ਤਿੱਖੀ ਆਲੋਚਨਾ ਲਈ ਆਈ. ਵਾਲੈਚ ਨੇ ਸੀਐਸਓ ਨੂੰ ਦੱਸਿਆ ਕਿ ਹੱਗਿੰਗ ਫੇਸ ਘਟਨਾ "ਦਿਨਾਂ ਤੱਕ ਚਲਦੀ ਰਹੀ, ਅਤੇ ਕਿਸੇ ਨੇ ਧਿਆਨ ਨਹੀਂ ਦਿੱਤਾ।" "ਲੋਕਾਂ ਨੇ ਇਹ ਪ੍ਰਯੋਗ ਸ਼ੁਰੂ ਕੀਤੇ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਨਹੀਂ ਦੇਖ ਰਹੇ ਸਨ। ਇਹ ਨਿਯੰਤਰਣ ਦੀ ਅਣਹੋਂਦ ਹੈ। ਅਤੇ ਫਿਰ ਜੋ ਹੋਇਆ ਉਸ ਤੋਂ ਉਹ ਹੈਰਾਨ ਹਨ।"
AI, ਸੁਰੱਖਿਆ, ਅਤੇ ਤਕਨਾਲੋਜੀ 'ਤੇ RAND ਦੇ ਕੇਂਦਰ ਦੇ ਮਾਹਰ ਤਕਨੀਕੀ ਨਿਵਾਸੀ ਡੈਨ ਵਾਲੈਚ ਨੇ ਸਮੱਸਿਆ ਨੂੰ ਤਰਜੀਹੀ ਅਸਫਲਤਾ ਦੇ ਰੂਪ ਵਿੱਚ ਤਿਆਰ ਕੀਤਾ। “ਮੈਂ ਕਹਾਂਗਾ ਕਿ ਉਹ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਨੂੰ ਤਰਜੀਹ ਨਹੀਂ ਦੇ ਰਹੇ ਹਨ,” ਉਸਨੇ ਕਿਹਾ, ਜਦੋਂ ਕਿ ਆਲੋਚਨਾ ਹਰ ਲੈਬ 'ਤੇ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੀ ਹੈ। "ਇਹਨਾਂ AI ਚੀਜ਼ਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਇੱਕ ਨੂੰ ਅਲੱਗ ਕਰਨਾ ਰਾਕੇਟ ਵਿਗਿਆਨ ਨਹੀਂ ਹੈ," ਉਸਨੇ ਦੋ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸਮਝੇ ਜਾਣ ਵਾਲੇ ਤਰੀਕਿਆਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੇ ਹੋਏ ਕਿਹਾ: ਏਅਰ-ਗੈਪਿੰਗ, ਇਸਲਈ ਡੇਟਾ ਨੂੰ ਬਚਣ ਲਈ ਕੋਈ ਇਲੈਕਟ੍ਰੀਕਲ ਮਾਰਗ ਨਹੀਂ ਹੈ, ਜਾਂ ਮਜ਼ਬੂਤ ਨਿਕਾਸ ਨਿਯੰਤਰਣ ਜੋ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਕੁਝ ਵੀ ਨਹੀਂ ਧੱਕਦਾ।
ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਆ, ਤਲਾਕਸ਼ੁਦਾ
ਇੱਕ ਆਵਰਤੀ ਰੁਕਾਵਟ, ਮਾਹਰਾਂ ਨੇ ਕਿਹਾ, ਲੈਬਾਂ ਦਾ ਤੀਬਰ ਫੋਕਸ ਹੈ ਜਿਸਨੂੰ ਉਹ "ਸੁਰੱਖਿਆ" ਕਹਿੰਦੇ ਹਨ - ਇੱਕ ਅਨੁਸ਼ਾਸਨ ਜਿਸਨੂੰ ਉਹ ਰਵਾਇਤੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਨਾਲੋਂ ਵੱਖਰਾ ਅਤੇ ਉੱਤਮ ਮੰਨਦੇ ਹਨ।
"ਮੈਂ ਦੇਖ ਸਕਦਾ ਹਾਂ ਕਿ ਸੁਰੱਖਿਆ ਵਿਵਹਾਰ ਏਆਈ ਸੁਰੱਖਿਆ ਵਰਗਾ ਕਿਵੇਂ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ," ਵਾਲਚ ਨੇ ਕਿਹਾ। "ਪਰ ਜੇ ਤੁਸੀਂ ਇਸ ਏਆਈ ਟੂਲ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਦਾ ਤਰੀਕਾ ਇੰਟਰਨੈੱਟ 'ਤੇ ਇਸ ਨੂੰ ਜਾਰੀ ਕਰਕੇ ਅਤੇ ਇਹ ਦੇਖ ਰਹੇ ਹੋ ਕਿ ਕੀ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਉਹੀ ਹੈ ਜਿਸ ਲਈ ਕਲਾਸੀਕਲ ਸੁਰੱਖਿਆ ਟੂਲਿੰਗ ਹੈ."
SANS ਦੇ ਲੀ ਨੇ ਇਸ ਨੂੰ ਹੋਰ ਵੀ ਸਪੱਸ਼ਟ ਕੀਤਾ। “ਜੇ ਇਹ ਫਰੰਟੀਅਰ ਲੈਬਾਂ ਸੱਚਮੁੱਚ ਆਪਣੀ ਸਮੱਗਰੀ ਦੀ ਜਾਂਚ ਕਰਨਾ ਚਾਹੁੰਦੀਆਂ ਹਨ, ਤਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਆਪਣੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਹਿੱਸੇ ਨੂੰ ਵਧਾਉਣ ਦੀ ਜ਼ਰੂਰਤ ਹੈ,” ਉਸਨੇ ਕਿਹਾ। "ਪਰ ਉਹਨਾਂ ਦੇ ਏਜੰਟਾਂ ਦੇ ਬਾਹਰ ਹੋਣ ਦੇ ਜਵਾਬ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਅੰਤੜੀਆਂ ਦੀ ਪ੍ਰਤੀਕ੍ਰਿਆ ਇਹ ਕਹਿਣਾ ਹੈ, 'ਇਹ ਕੋਈ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ।' ਇਹ ਸ਼ਾਬਦਿਕ ਤੌਰ 'ਤੇ AI ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਬਣ ਗਈ ਹੈ, ਜੋ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਾਲੇ ਪਾਸੇ ਤੋਂ ਤਲਾਕਸ਼ੁਦਾ ਹੈ। ਉਸਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ ਅਸਲ ਵਿੱਚ ਏਆਈ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀ ਹੈ - "ਸਾਨੂੰ ਸਿਰਫ ਉਸ ਕਮਰੇ ਵਿੱਚ ਹੋਣ ਦੀ ਜ਼ਰੂਰਤ ਹੈ ਜਿੱਥੇ ਇਹ ਹੁੰਦਾ ਹੈ ਅਤੇ ਮੇਜ਼ 'ਤੇ ਸੀਟ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।"
ਅਪਵਾਦ: ਮਿਸਟਰਲ ਦਾ ਤੇਜ਼ ਕੱਟਆਫ
ਵਾਲੈਚ ਨੇ ਤੇਜ਼ ਜਵਾਬ ਦੇ ਜਵਾਬੀ ਉਦਾਹਰਨ ਵਜੋਂ ਫ੍ਰੈਂਚ ਏਆਈ ਲੈਬ ਮਿਸਟ੍ਰਾਲ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ। ਜਦੋਂ ਮਿਸਟ੍ਰਾਲ ਨੇ ਆਪਣਾ ਵੱਡਾ 4 ਮਾਡਲ ਲਾਂਚ ਕੀਤਾ, ਤਾਂ ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਮਾਡਲ ਨੇ ਆਪਣੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਤੋਂ ਪਰੇ ਕੰਮ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ - ਅਤੇ ਮਿਸਟ੍ਰਾਲ ਨੇ ਇਸਨੂੰ ਕੱਟ ਦਿੱਤਾ। ਐਪੀਸੋਡ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ ਇੱਕ ਨਿਯਤ ਘਟਨਾ ਅਤੇ ਜ਼ਾਹਰ ਕੀਤੀ ਉਲੰਘਣਾ ਵਿੱਚ ਅੰਤਰ ਮਾਡਲ ਸਮਰੱਥਾ ਦੀ ਬਜਾਏ ਕਾਰਜਸ਼ੀਲ ਅਨੁਸ਼ਾਸਨ ਹੋ ਸਕਦਾ ਹੈ।
ਇੱਕ ਵਧਦੀ ਦੇਣਦਾਰੀ ਸਵਾਲ
ਸੁਰੱਖਿਆ ਅਸਫਲਤਾਵਾਂ ਇਸ ਗੱਲ ਨੂੰ ਲੈ ਕੇ ਵਧਦੀ ਨੀਤੀ ਦੀ ਲੜਾਈ ਨਾਲ ਜੁੜਦੀਆਂ ਹਨ ਕਿ ਜਦੋਂ ਕੋਈ ਏਜੰਟ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦਾ ਹੈ ਤਾਂ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੁੰਦਾ ਹੈ। CSO ਦੇ ਅਨੁਸਾਰ, ਬੀਮਾ ਉਦਯੋਗ ਪਹਿਲਾਂ ਹੀ AI ਉਦਯੋਗ ਦੇ ਅਧਿਕਾਰੀਆਂ ਨੂੰ ਉਹਨਾਂ ਦੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਉਣ ਲਈ ਕਤਾਰਬੱਧ ਹੈ, ਡੈਮੋਕ੍ਰੇਟਿਕ ਸੈਨੇਟਰਾਂ ਨੇ ਕਾਨੂੰਨ ਪੇਸ਼ ਕੀਤਾ ਹੈ ਜੋ AI ਏਜੰਟ ਆਪਰੇਟਰਾਂ ਨੂੰ ਹੈਕਿੰਗ ਦੀਆਂ ਘਟਨਾਵਾਂ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਏਗਾ, ਅਤੇ ਫੈਡਰਲ ਟਰੇਡ ਕਮਿਸ਼ਨ ਐਂਥਰੋਪਿਕ, ਓਪਨਏਆਈ ਅਤੇ ਹੋਰ ਲੈਬਾਂ ਦੀ ਜਾਂਚ ਕਰ ਰਿਹਾ ਹੈ ਕਿ ਉਹਨਾਂ ਦੇ ਟੈਕਨੋਲੋਗ ਦੇ ਖਤਰਿਆਂ ਨੂੰ ਲੈ ਕੇ.
ਇਸ ਦੌਰਾਨ, ਲੈਬ ਦੇ ਨੁਮਾਇੰਦਿਆਂ ਨੇ ਹਾਲ ਹੀ ਦੀਆਂ ਸੁਣਵਾਈਆਂ ਵਿੱਚ ਇਸ ਸਥਿਤੀ ਲਈ ਤੇਜ਼ੀ ਨਾਲ ਕੰਮ ਕੀਤਾ ਹੈ ਕਿ ਉਹ ਏਆਈ ਏਜੰਟਾਂ ਦੇ ਆਪਸੀ ਤਾਲਮੇਲ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਨਹੀਂ ਹਨ - ਇੱਕ ਰੁਖ ਜਿਸ ਨੂੰ ਮਾਹਰਾਂ ਨੇ ਦਸਤਾਵੇਜ਼ੀ ਸੁਰੱਖਿਆ ਅੰਤਰਾਂ ਦੇ ਕਾਰਨ ਅਸਮਰੱਥ ਕਿਹਾ ਹੈ। ਮੈਕਗ੍ਰਾ ਨੇ ਪ੍ਰਯੋਗਸ਼ਾਲਾਵਾਂ ਦੀ ਦਲੀਲ ਦਾ ਸੰਖੇਪ ਇਸ ਤਰ੍ਹਾਂ ਕੀਤਾ: "ਵਕੀਲਾਂ ਨੂੰ ਸਾਡੇ ਕੋਲ ਨਾ ਭੇਜੋ, ਸਾਡੇ ਪ੍ਰੋਗਰਾਮ ਵਿੱਚ ਭੇਜੋ। ਇਹ ਸਾਡੇ ਪ੍ਰੋਗਰਾਮ ਦੀ ਗਲਤੀ ਹੈ।" ਉਸ ਸਥਿਤੀ ਬਾਰੇ ਉਸਦਾ ਮੁਲਾਂਕਣ: "ਇਹ ਸਿਰਫ ਉੱਚ ਬੀ.ਐਸ. ਹੈ." ਉਸਨੇ ਇਹ ਵੀ ਸਵਾਲ ਕੀਤਾ ਕਿ ਕੀ ਸੰਚਾਲਨ ਅਸਫਲਤਾਵਾਂ ਲੈਬਾਂ ਦੇ ਵਿਆਪਕ ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰਦੀਆਂ ਹਨ। “ਉਹ ਆਪਣੇ ਹੀ ਬੁਲਬੁਲੇ ਦੇ ਅੰਦਰ ਰਹਿੰਦੇ ਹਨ,” ਉਸਨੇ ਕਿਹਾ। "ਤੱਥ ਇਹ ਹੈ ਕਿ ਉਹ ਸਪਸ਼ਟ, ਆਸਾਨ ਓਪਰੇਸ਼ਨ ਸਹੀ ਢੰਗ ਨਾਲ ਨਹੀਂ ਕਰ ਸਕਦੇ ਹਨ, ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿੱਚ ਉਹਨਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਲਈ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੰਕੇਤ ਨਹੀਂ ਕਰਦੇ, ਜੋ ਕਰਨਾ ਬਹੁਤ ਔਖਾ ਹੈ।"
AI ਏਜੰਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਉੱਦਮਾਂ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ
ਵਿਸ਼ਲੇਸ਼ਣ CISOs ਲਈ ਵਿਹਾਰਕ ਭਾਰ ਰੱਖਦਾ ਹੈ, ਜੋ CSO ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹਨਾਂ ਦੇ AI ਵਿਕਰੇਤਾਵਾਂ ਦੀ ਜਾਂਚ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਅਤੇ ਏਜੰਟ ਦੀ ਤੈਨਾਤੀ ਦੇ ਆਲੇ ਦੁਆਲੇ ਸੁਰੱਖਿਆ ਮੂਲ ਗੱਲਾਂ ਨੂੰ ਸਖਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਵਰਣਨ ਕੀਤੀਆਂ ਘਟਨਾਵਾਂ - ਇੱਕ ਮਾਡਲ ਜੋ ਤਿੰਨ ਸੰਸਥਾਵਾਂ ਵਿੱਚ ਉਤਪਾਦਨ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ, ਇੱਕ ਸੁਰੱਖਿਆ ਟੈਸਟ ਦੌਰਾਨ ਇੱਕ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕਰਨਾ, ਇੱਕ ਤੀਸਰਾ ਨਿਰਦੇਸਿਤ ਹੈਕਾਂ ਦਾ ਸੰਚਾਲਨ ਕਰਦਾ ਹੈ - ਸਾਰੇ ਸ਼ਾਮਲ ਸਿਸਟਮ ਜੋ ਉਹਨਾਂ ਵਾਤਾਵਰਣਾਂ ਤੋਂ ਬਚ ਜਾਂਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਨੂੰ ਰੱਖਣ ਵਾਲੇ ਸਨ।
ਸੁਰੱਖਿਆ ਨੇਤਾਵਾਂ ਲਈ, ਮਾਰਗਦਰਸ਼ਨ ਠੋਸ ਹੈ: ਮੈਕਗ੍ਰਾ ਨੇ ਫਰੰਟੀਅਰ-ਲੈਬ ਟੂਲਸ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ, ਪਛਾਣੇ ਗਏ ਜੋਖਮਾਂ ਅਤੇ ਨਿਯੰਤਰਣਾਂ ਦੇ ਨਾਲ ਕੇਂਦਰੀਕ੍ਰਿਤ AI ਗੋਦ ਲੈਣ, ਅਤੇ "ਅਗਲੀ ਵੱਡੀ ਚੀਜ਼, ਜੋ ਕਿ ਏਜੰਟਾਂ ਦਾ ਝੁੰਡ ਹੈ" ਲਈ ਤਿਆਰੀ ਕਰਨ ਲਈ ਬਾਹਰੀ ਮਦਦ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ। ਲੀ ਨੇ ਵਿਕਰੇਤਾਵਾਂ ਨੂੰ ਸਹੀ ਸਵਾਲ ਪੁੱਛਣ ਅਤੇ ਲੈਬਾਂ ਦਾ ਸਮਰਥਨ ਕਰਨ ਦੀ ਸਲਾਹ ਦਿੱਤੀ ਜੋ ਅਸਲ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਯੋਗਤਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰ ਸਕਦੀਆਂ ਹਨ।
ਜੇਕਰ ਸੁਰੱਖਿਆ ਪੇਸ਼ਾਵਰ ਸਹੀ ਹਨ, ਤਾਂ "ਗੁੰਮਰਾਹ ਕੀਤੇ" ਏਜੰਟਾਂ ਦੇ ਆਪਣੇ ਮਨਾਂ ਨਾਲ ਪ੍ਰਸਿੱਧ ਬਿਰਤਾਂਤ ਸ਼ਾਇਦ ਲੈਬਾਂ ਨੂੰ ਆਸਾਨ ਛੱਡ ਦੇ ਰਿਹਾ ਹੈ: ਅਸਫਲਤਾਵਾਂ ਵਿਗਿਆਨਕ ਕਲਪਨਾ ਵਰਗੀਆਂ ਘੱਟ ਦਿਖਾਈ ਦਿੰਦੀਆਂ ਹਨ ਅਤੇ ਗਲਤ ਸੰਰਚਨਾ ਕੀਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਰਗੀਆਂ ਹੁੰਦੀਆਂ ਹਨ ਜੋ ਇੱਕ ਰਵਾਇਤੀ ਸੁਰੱਖਿਆ ਆਡਿਟ ਨੇ ਫੜਿਆ ਹੁੰਦਾ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
