ਐਂਥਰੋਪਿਕ, ਓਪਨਏਆਈ, ਗੂਗਲ, ਡੀਪਸੀਕ ਅਤੇ ਹੋਰ ਲੈਬਾਂ ਦੇ ਪ੍ਰਮੁੱਖ AI ਮਾਡਲਾਂ ਨੂੰ ਡਰੋਨ ਅਤੇ ਸੈਟੇਲਾਈਟ ਚਿੱਤਰਾਂ ਵਿੱਚ ਸੰਭਾਵੀ ਫੌਜੀ ਹਮਲੇ ਦੇ ਟੀਚਿਆਂ - ਨਾਗਰਿਕਾਂ ਅਤੇ ਸਮਰਪਣ ਕਰਨ ਵਾਲੇ ਸਿਪਾਹੀਆਂ ਸਮੇਤ - ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਹੇਰਾਫੇਰੀ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਮਾਮਲਿਆਂ ਵਿੱਚ ਇਹ ਸਭ ਕੁਝ ਇਹ ਦੱਸ ਰਿਹਾ ਸੀ ਕਿ ਉਹ ਇੱਕ ਗੇਮ ਖੇਡ ਰਹੇ ਹਨ।
TechCrunch ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੇ ਗਏ ਨਤੀਜੇ, ਇੱਕ ਪਲ 'ਤੇ ਉਤਰੇ ਜਦੋਂ ਯੁੱਧ ਵਿੱਚ AI 'ਤੇ ਬਹਿਸ ਕਾਲਪਨਿਕ ਤੋਂ ਸੰਸਥਾਗਤ ਤੱਕ ਚਲੀ ਗਈ ਹੈ। ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਐਂਥਰੋਪਿਕ ਨੇ ਆਪਣੀ ਤਕਨਾਲੋਜੀ ਦੀ ਫੌਜੀ ਵਰਤੋਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਲੈ ਕੇ ਰੱਖਿਆ ਵਿਭਾਗ ਨਾਲ ਟਕਰਾਅ ਕੀਤਾ, ਅਤੇ ਦੁਨੀਆ ਭਰ ਦੀਆਂ ਸਰਕਾਰਾਂ ਖੁਦਮੁਖਤਿਆਰ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰ ਰਹੀਆਂ ਹਨ। ਰਿਪੋਰਟ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ ਕਿ ਵਪਾਰਕ ਚੈਟਬੋਟਸ ਨੂੰ ਲੜਾਈ ਸਹਾਇਤਾ ਫੰਕਸ਼ਨਾਂ ਤੋਂ ਵੱਖ ਕਰਨ ਵਾਲੇ ਸੁਰੱਖਿਆ ਪਹਿਰੇ ਉਦਯੋਗ ਦੀਆਂ ਜਨਤਕ ਵਚਨਬੱਧਤਾਵਾਂ ਤੋਂ ਪਤਲੇ ਹਨ। AI ਸੁਰੱਖਿਆ ਅਤੇ ਨੈਤਿਕਤਾ ਦੇ ਵਿਕਾਸ ਦੀ ਜਾਰੀ ਕਵਰੇਜ ਇਹ ਪਤਾ ਲਗਾਉਣਾ ਜਾਰੀ ਰੱਖਦੀ ਹੈ ਕਿ ਲੈਬਾਂ ਕਿਵੇਂ ਜਵਾਬ ਦਿੰਦੀਆਂ ਹਨ।
ਟੈਸਟ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ
Vals, ਇੱਕ ਸੈਨ ਫ੍ਰਾਂਸਿਸਕੋ-ਅਧਾਰਤ AI ਮੁਲਾਂਕਣ ਸਟਾਰਟਅਪ, ਨੇ ਜਾਂਚ ਕੀਤੀ ਕਿ ਕੀ ਪ੍ਰਮੁੱਖ AI ਮਾਡਲਾਂ ਨੂੰ ਖੁਦਮੁਖਤਿਆਰ ਯੁੱਧ ਵਿੱਚ ਹਿੱਸਾ ਲੈਣ ਲਈ ਹੇਰਾਫੇਰੀ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਯੂਕਰੇਨ ਅਤੇ ਈਰਾਨ ਤੋਂ ਉਤਪੰਨ ਅਤੇ ਅਸਲ ਚਿੱਤਰਾਂ ਦੇ ਸੁਮੇਲ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਸਿਮੂਲੇਟਿਡ ਲੜਾਈ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਦਾ ਨਿਰਮਾਣ ਕੀਤਾ, ਫਿਰ ਮਾਡਲਾਂ ਨੂੰ ਡਰੋਨ ਅਤੇ ਸੈਟੇਲਾਈਟ ਚਿੱਤਰਾਂ ਵਿੱਚ ਸੰਭਾਵੀ ਟੀਚਿਆਂ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰਨ ਲਈ ਕਿਹਾ।
ਓਪਨਏਆਈ, ਐਂਥਰੋਪਿਕ, ਗੂਗਲ, ਡੀਪਸੀਕ ਅਤੇ ਹੋਰ ਕੰਪਨੀਆਂ ਦੇ ਮਾਡਲਾਂ ਨੇ ਅਕਸਰ ਇਮੇਜਰੀ ਵਿੱਚ ਸੰਭਾਵੀ ਟੀਚਿਆਂ ਦੀ ਪਛਾਣ ਕੀਤੀ - ਜਿਸ ਵਿੱਚ ਨਾਗਰਿਕ ਅਤੇ ਸਿਪਾਹੀ ਸਮਰਪਣ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ। ਖੋਜਕਰਤਾਵਾਂ ਦੀਆਂ ਬੇਨਤੀਆਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਸੁਰੱਖਿਆ ਵਰਗੀਕਰਣ ਦੁਆਰਾ ਬਲੌਕ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ, ਅਤੇ ਇਨਕਾਰ ਕਰਨਾ ਅਸਧਾਰਨ ਸੀ। ਜਦੋਂ ਮਾਡਲਾਂ ਨੇ ਸਹਿਯੋਗ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ, ਤਾਂ ਖੋਜਕਰਤਾ ਅਕਸਰ ਇਹ ਦਾਅਵਾ ਕਰਕੇ ਉਹਨਾਂ ਨੂੰ ਜੇਲ੍ਹ ਤੋੜਨ ਦੇ ਯੋਗ ਹੁੰਦੇ ਸਨ ਕਿ ਲੜਾਈ ਦੇ ਮੈਦਾਨ ਦੇ ਦ੍ਰਿਸ਼ ਇੱਕ ਖੇਡ ਦਾ ਹਿੱਸਾ ਸਨ।
ਕੁਝ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਮਾਡਲਾਂ ਨੂੰ ਇਹ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ ਕੀ ਲੋਕ ਚਿੱਤਰਾਂ ਵਿੱਚ ਦਿਖਾਈ ਦੇ ਰਹੇ ਸਨ। ਸਕਾਰਾਤਮਕ ਰਿਪੋਰਟਾਂ ਦੇ ਬਾਅਦ ਸਿਮੂਲੇਟ ਸਟ੍ਰਾਈਕ ਕੀਤੇ ਗਏ ਸਨ, ਮਤਲਬ ਕਿ ਮਾਡਲਾਂ ਨੇ ਆਪਣੇ ਖੁਦ ਦੇ ਟੀਚੇ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਦੇਖਿਆ।
ਐਂਥ੍ਰੋਪਿਕ ਮਾਡਲਾਂ ਨੇ ਸਭ ਤੋਂ ਮਾੜਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ
ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵੇਰਵਾ: ਐਂਥਰੋਪਿਕ ਦੇ ਏਆਈ ਮਾਡਲਾਂ ਨੇ ਸਿਮੂਲੇਟਡ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ ਸਭ ਤੋਂ ਮਾੜਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ - ਹਾਲਾਂਕਿ ਰਿਪੋਰਟ ਸਪੱਸ਼ਟ ਹੈ ਕਿ ਟੈਸਟ ਕੀਤੇ ਗਏ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਨੇ ਵੀ ਖਾਸ ਤੌਰ 'ਤੇ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਨਹੀਂ ਕੀਤਾ। ਫੌਜੀ ਐਪਲੀਕੇਸ਼ਨਾਂ ਪ੍ਰਤੀ ਕੰਪਨੀ ਦੀ ਰੱਖਿਆਤਮਕ ਮੁਦਰਾ ਟੈਸਟ ਦੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਿਰੋਧ ਵਿੱਚ ਅਨੁਵਾਦ ਨਹੀਂ ਕੀਤੀ ਗਈ।
ਇੱਕ ਐਂਥਰੋਪਿਕ ਬੁਲਾਰੇ, ਐਡੁਆਰਡੋ ਮੀਆ ਸਿਲਵਾ, ਨੇ TechCrunch ਨੂੰ ਦੱਸਿਆ ਕਿ ਕੰਪਨੀ ਵਾਲਸ ਦੀ ਰਿਪੋਰਟ, ਸਿਫ਼ਾਰਸ਼ਾਂ ਅਤੇ ਸਹਿਯੋਗ ਦੀ ਸ਼ਲਾਘਾ ਕਰਦੀ ਹੈ, ਅਤੇ ਸਵੀਕਾਰ ਕਰਦੀ ਹੈ ਕਿ ਨਤੀਜੇ ਸਵੀਕਾਰਯੋਗ ਨਹੀਂ ਸਨ। ਕੰਪਨੀ ਨੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ, "ਰਿਪੋਰਟ ਵਿੱਚ ਉਦਾਹਰਨਾਂ ਬਹੁਤ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਸਾਡੇ ਨਿਯਮਾਂ ਦੇ ਵਿਰੁੱਧ ਹਨ ਅਤੇ ਅਸੀਂ ਪਾਬੰਦੀ ਲਗਾਈ ਹੈ ਅਤੇ ਜਦੋਂ ਅਸੀਂ ਇਸ ਵਿਵਹਾਰ ਨੂੰ ਦੇਖਦੇ ਹਾਂ ਤਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪਾਬੰਦੀ ਲਗਾਵਾਂਗੇ," ਕੰਪਨੀ ਨੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ. "ਅਧਿਕਾਰਤ ਸੈਟਿੰਗਾਂ ਲਈ ਵੀ, ਐਂਥਰੋਪਿਕ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਪੱਕਾ ਰਿਹਾ ਹੈ ਕਿ ਅੱਜ ਦੇ ਫਰੰਟੀਅਰ ਏਆਈ ਸਿਸਟਮ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖੁਦਮੁਖਤਿਆਰ ਹਥਿਆਰਾਂ ਨੂੰ ਸ਼ਕਤੀ ਦੇਣ ਲਈ ਭਰੋਸੇਮੰਦ ਨਹੀਂ ਹਨ।"
ਐਂਥਰੋਪਿਕ ਨੇ TechCrunch ਨੂੰ ਦੱਸਿਆ ਕਿ ਇਸ ਦੀਆਂ ਟੀਮਾਂ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਵਿਕਸਤ ਕਰ ਰਹੀਆਂ ਸਨ, ਕਿ ਉਹ ਉਪਾਅ ਜਲਦੀ ਹੀ ਲਾਗੂ ਹੋਣਗੇ, ਅਤੇ ਇਹ ਕਿ ਕੰਪਨੀ ਆਪਣੀ ਜਾਂਚ ਦਾ ਵਿਸਥਾਰ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਕਿਸੇ ਵੀ ਪਾੜੇ ਨੂੰ ਦੂਰ ਕਰਨ ਲਈ ਸੁਰੱਖਿਆ ਅਤੇ ਲਾਗੂਕਰਨ ਨੂੰ ਵਧਾ ਰਹੀ ਹੈ।
ਓਪਨਏਆਈ ਦੇ ਬੁਲਾਰੇ ਨੇਟ ਇਵਾਨਸ ਨੇ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਹਿੰਸਾ ਦੀ ਸਹੂਲਤ ਲਈ ਜਾਂ ਗੈਰ-ਪ੍ਰਵਾਨਿਤ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਉਦੇਸ਼ਾਂ ਲਈ ਆਪਣੇ ਜਨਤਕ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਂਦੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਾਲਸ ਸਿਮੂਲੇਟ ਕੀਤੇ ਗਏ ਦ੍ਰਿਸ਼ ਵੀ ਸ਼ਾਮਲ ਹਨ। ਕੰਪਨੀ ਨੇ ਇੱਕ ਈਮੇਲ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ, "ਅਸੀਂ ਸਰਗਰਮੀ ਨਾਲ ਦੁਰਵਰਤੋਂ ਦਾ ਪਤਾ ਲਗਾਉਂਦੇ ਹਾਂ ਅਤੇ ਵਿਘਨ ਪਾਉਂਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਸਾਡੀਆਂ ਨੀਤੀਆਂ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੇ ਖਾਤਿਆਂ ਨੂੰ ਮੁਅੱਤਲ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ।" "ਅਸੀਂ ਡਰੋਨ ਅਤੇ ਡਰੋਨ ਸੌਫਟਵੇਅਰ ਦੀ ਦੁਰਵਰਤੋਂ ਦੇ ਵਿਰੁੱਧ ਆਪਣੇ ਜਨਤਕ ਮਾਡਲਾਂ ਲਈ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਵੀ ਵਿਕਸਤ ਕਰ ਰਹੇ ਹਾਂ।"
ਆਟੋਨੋਮਸ ਵੈਪਨਸ ਸਟੈਂਡਆਫ
ਇਹ ਖੋਜ ਏਆਈ ਲੈਬਾਂ ਅਤੇ ਪੈਂਟਾਗਨ ਵਿਚਕਾਰ ਇੱਕ ਅਣਸੁਲਝੇ ਵਿਵਾਦ ਦੇ ਵਿਚਕਾਰ ਪਹੁੰਚੀ ਹੈ ਕਿ ਕਿਵੇਂ ਮਿਲਟਰੀ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ। ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ, ਐਂਥਰੋਪਿਕ ਨੇ ਰੱਖਿਆ ਵਿਭਾਗ ਨੂੰ ਦੱਸਿਆ ਕਿ ਉਹ ਅਮਰੀਕੀਆਂ ਦੀ ਵਿਆਪਕ ਨਿਗਰਾਨੀ ਜਾਂ ਖੁਦਮੁਖਤਿਆਰੀ ਯੁੱਧ ਲਈ ਕੰਪਨੀ ਦੀ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰ ਸਕਦੀ। ਐਂਥ੍ਰੋਪਿਕ ਸੀਈਓ ਡਾਰੀਓ ਅਮੋਦੀ ਨੇ ਜ਼ੋਰ ਦੇ ਕੇ ਕਿਹਾ ਹੈ ਕਿ ਅੱਜ ਦੇ ਏਆਈ ਸਿਸਟਮ ਲੂਪ ਵਿੱਚ ਮਨੁੱਖ ਦੇ ਬਿਨਾਂ ਜੀਵਨ-ਜਾਂ-ਮੌਤ ਦੇ ਫੈਸਲੇ ਲੈਣ ਲਈ ਭਰੋਸੇਮੰਦ ਨਹੀਂ ਹਨ। ਪੈਂਟਾਗਨ ਨੇ, ਇਸਦੇ ਹਿੱਸੇ ਲਈ, ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਇਸਨੂੰ ਕਿਸੇ ਵੀ ਕਾਨੂੰਨੀ ਫੌਜੀ ਉਦੇਸ਼ ਲਈ ਤਕਨਾਲੋਜੀ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।
ਵਾਲਜ਼ ਦੀ ਰਿਪੋਰਟ ਉਸ ਵਿਵਾਦ ਨੂੰ ਤਿੱਖਾ ਕਰਦੀ ਹੈ: ਜੇਕਰ ਉਪਭੋਗਤਾ-ਗਰੇਡ ਮਾਡਲਾਂ ਨੂੰ ਗੇਮ ਫਰੇਮਿੰਗ ਦੇ ਨਾਲ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਲਈ ਗੱਲ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਤਾਂ ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਕੰਪਨੀ ਦੀਆਂ ਨੀਤੀਆਂ ਹੀ ਉਸ ਲਾਈਨ ਨੂੰ ਰੱਖ ਸਕਦੀਆਂ ਹਨ ਜੋ ਤਕਨੀਕੀ ਸੁਰੱਖਿਆ ਵਰਤਮਾਨ ਵਿੱਚ ਨਹੀਂ ਕਰਦੀਆਂ ਹਨ।
ਮਹੱਤਵਪੂਰਨ ਚੇਤਾਵਨੀਆਂ
ਰਿਪੋਰਟ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਸੀਮਾਵਾਂ ਹਨ ਜੋ ਇਸਨੂੰ ਜੰਗ ਦੇ ਮੈਦਾਨ ਵਿੱਚ ਤਿਆਰ AI ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਦੇ ਸਬੂਤ ਵਜੋਂ ਪੜ੍ਹੇ ਜਾਣ ਤੋਂ ਰੋਕਦੀਆਂ ਹਨ। ਵਾਲਜ਼ ਨੋਟ ਕਰਦਾ ਹੈ ਕਿ ਮਾਡਲਾਂ ਨੂੰ ਕਦੇ ਵੀ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਹੜਤਾਲ ਦੇ ਫੈਸਲੇ ਲੈਣ ਲਈ ਨਹੀਂ ਕਿਹਾ ਗਿਆ ਸੀ - ਇੱਕ ਕੰਮ ਜੋ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਕਿਹਾ ਕਿ ਮਾਡਲ ਆਮ ਤੌਰ 'ਤੇ ਇਨਕਾਰ ਕਰਨਗੇ। ਤਕਨੀਕੀ ਚੁਣੌਤੀਆਂ, ਲੇਟੈਂਸੀ ਅਤੇ ਸੀਮਤ ਔਨਬੋਰਡ ਕੰਪਿਊਟਿੰਗ ਸਮਰੱਥਾ ਸਮੇਤ, ਲਾਈਵ ਡਰੋਨ ਟਾਰਗੇਟਿੰਗ ਲਈ ਆਮ-ਉਦੇਸ਼ ਵਾਲੇ ਏਆਈ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਵੀ ਮੁਸ਼ਕਲ ਬਣਾਉਂਦੀਆਂ ਹਨ, ਜੋ ਕਿ ਲੜਾਈ ਦੀ ਤੈਨਾਤੀ ਨੂੰ ਕੱਚੇ ਖੋਜਾਂ ਦੇ ਸੁਝਾਅ ਨਾਲੋਂ ਇੱਕ ਤਤਕਾਲ ਖ਼ਤਰੇ ਤੋਂ ਘੱਟ ਬਣਾਉਂਦੀਆਂ ਹਨ।
ਵਪਾਰਕ-ਬਨਾਮ-ਫੌਜੀ ਅੰਤਰ ਵੀ ਹੈ। ਰਿਪੋਰਟ ਵਿੱਚ ਜਨਤਾ ਨੂੰ ਵੇਚੇ ਗਏ ਵਪਾਰਕ ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਗਈ, ਨਾ ਕਿ ਵਿਸ਼ੇਸ਼ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਲੈਬਾਂ ਇੱਕਰਾਰਨਾਮੇ ਦੇ ਤਹਿਤ ਰੱਖਿਆ ਗਾਹਕਾਂ ਨੂੰ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦੀਆਂ ਹਨ - ਅਤੇ ਇਹ ਸਪੱਸ਼ਟ ਨਹੀਂ ਹੈ ਕਿ ਕੰਪਨੀਆਂ ਦੁਆਰਾ ਵਾਅਦਾ ਕੀਤੇ ਗਏ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਫੌਜੀ ਤਾਇਨਾਤੀਆਂ 'ਤੇ ਲਾਗੂ ਹੋਣਗੇ ਜਾਂ ਨਹੀਂ।
ਫਿਰ ਵੀ, ਖੋਜਕਰਤਾ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਆਉਟਪੁੱਟ ਦੇ ਅਸਲ ਸੰਸਾਰ ਵਿੱਚ ਗੰਭੀਰ ਨਤੀਜੇ ਹੋ ਸਕਦੇ ਹਨ: ਇੱਕ ਵਪਾਰਕ ਮਾਡਲ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣਾ ਖੁਦਮੁਖਤਿਆਰ ਹਥਿਆਰ ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਭਾਵੇਂ ਕਿ ਮਾਡਲ ਖੁਦ ਕਦੇ ਵੀ ਗੋਲੀ ਨਹੀਂ ਚਲਾਉਂਦਾ ਹੈ।
AI ਸੁਰੱਖਿਆ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ
ਰਿਪੋਰਟ ਦੀ ਮਹੱਤਤਾ ਕਿਸੇ ਇੱਕ ਮਾਡਲ ਦੇ ਵਿਵਹਾਰ ਬਾਰੇ ਘੱਟ ਅਤੇ ਪੈਟਰਨ ਬਾਰੇ ਵਧੇਰੇ ਹੈ: ਸੁਰੱਖਿਆ ਵਰਗੀਕਰਣ ਦੁਆਰਾ ਕੋਈ ਬੇਨਤੀ ਬਲੌਕ ਨਹੀਂ ਕੀਤੀ ਗਈ ਸੀ, ਇਨਕਾਰ ਬਹੁਤ ਘੱਟ ਸਨ, ਅਤੇ ਸਭ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਜੇਲ੍ਹ ਬਰੇਕ ਇੱਕ ਬਚਕਾਨਾ ਸੀ - ਯੁੱਧ ਦਾ ਦਿਖਾਵਾ ਕਰਨਾ ਇੱਕ ਖੇਡ ਸੀ। ਇੱਕ ਉਦਯੋਗ ਲਈ ਜਿਸ ਨੇ ਇਸ ਦਾਅਵੇ 'ਤੇ ਆਪਣੀ ਜਨਤਕ ਜਾਇਜ਼ਤਾ ਨੂੰ ਦਾਅ 'ਤੇ ਲਗਾਇਆ ਹੈ ਕਿ ਫਰੰਟੀਅਰ ਮਾਡਲ ਨੁਕਸਾਨਦੇਹ ਨਿਰਦੇਸ਼ਾਂ ਤੋਂ ਇਨਕਾਰ ਕਰਨਗੇ, ਇਹ ਇੱਕ ਅਸੁਵਿਧਾਜਨਕ ਡੇਟਾ ਪੁਆਇੰਟ ਹੈ।
ਕੰਪਨੀਆਂ ਦੇ ਜਵਾਬਾਂ ਦੀ ਹੁਣ ਅਭਿਆਸ ਵਿੱਚ ਜਾਂਚ ਕੀਤੀ ਜਾਵੇਗੀ: ਐਂਥਰੋਪਿਕ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਨਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਆਉਣ ਵਾਲੇ ਹਨ, ਅਤੇ ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਡਰੋਨ-ਵਿਸ਼ੇਸ਼ ਦੁਰਵਰਤੋਂ ਸੁਰੱਖਿਆ ਬਣਾ ਰਿਹਾ ਹੈ। ਕੀ ਇਹ ਉਪਾਅ ਮੁਲਾਂਕਣ ਖੋਜ ਦੇ ਅਗਲੇ ਗੇੜ ਦੇ ਸੰਪਰਕ ਵਿੱਚ ਰਹਿੰਦੇ ਹਨ ਇਹ ਸਵਾਲ ਵਾਲਜ਼ ਹੈ - ਅਤੇ ਵਧਦੀ, ਨੀਤੀ ਨਿਰਮਾਤਾ - ਪੁੱਛ ਰਹੇ ਹੋਣਗੇ.
---
ਏਆਈ ਸੁਰੱਖਿਆ ਵਿਕਾਸ ਦਾ ਪਾਲਣ ਕਰੋਖੋਜ, ਨੈਤਿਕਤਾ, ਅਤੇ ਨੀਤੀ — AI ਕਹਾਣੀਆਂ ਜੋ ਮਾਇਨੇ ਰੱਖਦੀਆਂ ਹਨ, ਹਰ ਘੰਟੇ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਹਨ।
ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →