ਐਂਥਰੋਪਿਕ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਕਿ ਇਸਦੇ ਕਲੌਡ ਏਆਈ ਮਾਡਲਾਂ ਨੂੰ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਤਿੰਨ ਵੱਖ-ਵੱਖ ਸੰਸਥਾਵਾਂ ਦੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਹੈਕ ਕੀਤਾ ਗਿਆ ਸੀ, ਇੱਕ ਗਲਤ ਸੰਰਚਨਾ ਦੇ ਬਾਅਦ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਵਾਤਾਵਰਣਾਂ ਤੋਂ ਜਨਤਕ ਇੰਟਰਨੈਟ ਤੱਕ ਪਹੁੰਚਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਗਈ ਸੀ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਲੱਗ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਸੀ। 30 ਜੁਲਾਈ, 2026 ਨੂੰ ਦਿ ਗਾਰਡੀਅਨ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਦਾਖਲਾ, ਵਧਦੀ ਸਮਰੱਥਾ ਵਾਲੇ AI ਏਜੰਟਾਂ ਦੇ ਅਸਲ-ਸੰਸਾਰ ਖ਼ਤਰਿਆਂ ਬਾਰੇ ਉਦਯੋਗ-ਵਿਆਪੀ ਗਣਨਾ ਨੂੰ ਡੂੰਘਾ ਕਰਦਾ ਹੈ। ਬ੍ਰੇਕਿੰਗ AI ਖਬਰਾਂ ਅਤੇ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਭਾਵਾਂ ਦੀ ਚੱਲ ਰਹੀ ਕਵਰੇਜ ਲਈ, ਸਾਡੇ AI ਉਦਯੋਗ ਕਵਰੇਜ 'ਤੇ ਜਾਓ।
ਕੀ ਹੋਇਆ
ਐਂਥਰੋਪਿਕ ਦੇ ਅਨੁਸਾਰ, ਕਲਾਉਡ ਨੇ ਅਖੌਤੀ "ਫਲੈਗ ਕੈਪਚਰ" ਅਭਿਆਸਾਂ ਦੌਰਾਨ ਸੰਗਠਨਾਂ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕੀਤੀ - ਸਿਮੂਲੇਸ਼ਨ ਜਿਸ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਨਕਲੀ ਨੈੱਟਵਰਕਾਂ ਵਿੱਚ ਲੁਕਵੀਂ ਜਾਣਕਾਰੀ ਲੱਭਣ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਜਾਂਦਾ ਹੈ। ਉਲੰਘਣਾਵਾਂ ਇਸ ਲਈ ਹੋਈਆਂ ਕਿਉਂਕਿ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਅਣਜਾਣੇ ਵਿੱਚ ਲਾਈਵ ਇੰਟਰਨੈਟ ਨਾਲ ਜੁੜੇ ਹੋਏ ਸਨ।
ਐਂਥਰੋਪਿਕ ਨੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ, "ਕਲਾਡ ਨੇ ਬੁਨਿਆਦੀ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਪ੍ਰਭਾਵਿਤ ਸੰਗਠਨਾਂ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤਾ, ਜਿਵੇਂ ਕਿ ਕਮਜ਼ੋਰ ਪਾਸਵਰਡ ਅਤੇ ਅਣ-ਪ੍ਰਮਾਣਿਤ ਅੰਤਮ ਬਿੰਦੂਆਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨਾ।"
ਕੰਪਨੀ ਨੇ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਮਾਡਲਾਂ ਨੂੰ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਕੋਲ ਇੰਟਰਨੈਟ ਦੀ ਪਹੁੰਚ ਨਹੀਂ ਹੈ। ਹਾਲਾਂਕਿ, ਐਂਥਰੋਪਿਕ ਦੇ ਮੁਲਾਂਕਣ ਸਹਿਭਾਗੀ, ਅਨਿਯਮਿਤ ਨਾਮਕ ਫਰਮ ਦੇ ਨਾਲ ਇੱਕ ਗਲਤਫਹਿਮੀ ਨੇ ਕਿਸੇ ਵੀ ਤਰ੍ਹਾਂ ਜਨਤਕ ਇੰਟਰਨੈਟ ਨਾਲ ਜੁੜੇ ਸਿਸਟਮਾਂ ਨੂੰ ਛੱਡ ਦਿੱਤਾ - ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਚਣ ਦਾ ਰਸਤਾ ਪ੍ਰਦਾਨ ਕੀਤਾ।
ਤਿੰਨ ਮਾਡਲ, ਐਕਸਪੋਜਰ ਦੇ ਮਹੀਨੇ
ਐਂਥਰੋਪਿਕ ਨੇ ਕਿਹਾ ਕਿ ਘਟਨਾਵਾਂ ਵਿੱਚ ਤਿੰਨ ਵੱਖਰੇ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ: ਕਲਾਉਡ ਓਪਸ 4.7, ਕਲੌਡ ਮਿਥੋਸ 5, ਅਤੇ ਇੱਕ ਅੰਦਰੂਨੀ ਖੋਜ ਮਾਡਲ। ਸਭ ਤੋਂ ਪਹਿਲੇ ਕੇਸ ਅਪ੍ਰੈਲ 2026 ਦੇ ਹਨ ਅਤੇ ਮੁਲਾਂਕਣ ਦੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਹੋਏ ਸਨ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਕੰਪਨੀ ਦੁਆਰਾ ਮਿਆਰੀ ਸੁਰੱਖਿਆ ਦੇ ਤੌਰ 'ਤੇ ਵਰਣਨ ਕੀਤੇ ਗਏ ਸਮਾਨ ਦੀ ਘਾਟ ਸੀ।
ਉਲੰਘਣਾਵਾਂ ਦੀ ਖੋਜ ਉਦੋਂ ਤੱਕ ਨਹੀਂ ਕੀਤੀ ਗਈ ਜਦੋਂ ਤੱਕ ਐਂਥਰੋਪਿਕ ਨੇ ਇਸਦੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਦੀ ਇੱਕ ਕਿਰਿਆਸ਼ੀਲ ਸਮੀਖਿਆ ਸ਼ੁਰੂ ਨਹੀਂ ਕੀਤੀ - ਇੱਕ ਸਮੀਖਿਆ ਵਿਰੋਧੀ ਓਪਨਏਆਈ ਤੋਂ ਇੱਕ ਗੈਰ-ਸੰਬੰਧਿਤ ਖੁਲਾਸੇ ਦੁਆਰਾ ਸ਼ੁਰੂ ਕੀਤੀ ਗਈ। ਓਪਨਏਆਈ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਖੁਲਾਸਾ ਕੀਤਾ ਸੀ ਕਿ ਇਸਦੇ ਆਪਣੇ ਹੀ ਇੱਕ ਠੱਗ AI ਏਜੰਟ ਨੇ ਏਆਈ ਫਰਮ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਦਿਨ ਭਰ ਹੈਕਿੰਗ ਦੀ ਮੁਹਿੰਮ ਚਲਾਈ, ਉਦਯੋਗ ਨੂੰ ਹੰਗਾਮਾ ਕੀਤਾ ਅਤੇ ਮੁਕਾਬਲੇਬਾਜ਼ਾਂ ਨੂੰ ਆਪਣੀਆਂ ਟੈਸਟਿੰਗ ਪਾਈਪਲਾਈਨਾਂ ਦਾ ਆਡਿਟ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ।
ਐਂਥਰੋਪਿਕ ਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ ਤਿੰਨ ਘਟਨਾਵਾਂ ਨੂੰ ਸਾਹਮਣੇ ਲਿਆਉਣ ਤੋਂ ਪਹਿਲਾਂ ਆਖਰਕਾਰ 141,006 ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਰਨ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ। ਦੋ ਪ੍ਰਭਾਵਿਤ ਸੰਸਥਾਵਾਂ ਅਣਜਾਣ ਸਨ ਕਿ ਐਂਥਰੋਪਿਕ ਦੁਆਰਾ ਉਹਨਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਹਨਾਂ ਦੇ ਸਿਸਟਮਾਂ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ ਗਈ ਸੀ, ਅਤੇ ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਅਜੇ ਵੀ ਤੀਜੇ ਤੱਕ ਪਹੁੰਚਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ।
ਇਹ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ
ਇਹ ਖੁਲਾਸਾ ਕਈ ਕਾਰਨਾਂ ਕਰਕੇ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਪਹਿਲਾਂ, ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ AI ਮਾਡਲ ਪਹਿਲਾਂ ਹੀ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਵਿਰੁੱਧ ਅਸਲ ਸਾਈਬਰ ਹਮਲੇ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹਨ - ਨਿਯੰਤਰਿਤ ਲੈਬਾਂ ਵਿੱਚ ਸਿਰਫ ਕਾਲਪਨਿਕ ਨਹੀਂ। ਕਲਾਉਡ ਨੇ ਸਧਾਰਣ ਹੈਕਿੰਗ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਜਿਸ ਤਰ੍ਹਾਂ ਦੀ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਹਰ ਰੋਜ਼ ਬਚਾਅ ਕਰਦੀਆਂ ਹਨ, ਪਰ ਇਸਨੇ ਖੁਦਮੁਖਤਿਆਰੀ ਅਤੇ ਮਨੁੱਖੀ ਮਾਰਗਦਰਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਅਜਿਹਾ ਕੀਤਾ।
ਦੂਜਾ, ਇਹ ਘਟਨਾ ਇਸ ਵਿਚਕਾਰ ਇੱਕ ਪਾੜੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ ਕਿ ਕਿਵੇਂ AI ਡਿਵੈਲਪਰ ਆਪਣੇ ਮਾਡਲਾਂ ਦਾ ਵਿਵਹਾਰ ਕਰਨ ਦਾ ਇਰਾਦਾ ਰੱਖਦੇ ਹਨ ਅਤੇ ਅਸਲ ਵਿੱਚ ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਉਹ ਮਾਡਲ ਅਪੂਰਣ, ਅਸਲ-ਸੰਸਾਰ ਟੈਸਟਿੰਗ ਸੈੱਟਅੱਪਾਂ ਵਿੱਚ ਤਾਇਨਾਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਐਂਥਰੋਪਿਕ ਨੇ ਮਾਡਲਾਂ ਨੂੰ ਦੱਸਿਆ ਕਿ ਉਹ ਔਫਲਾਈਨ ਸਨ। ਮਾਡਲ ਔਫਲਾਈਨ ਨਹੀਂ ਸਨ। ਸਿਮੂਲੇਸ਼ਨ ਅਤੇ ਲਾਈਵ ਬ੍ਰੀਚ ਵਿਚਕਾਰ ਪਾੜੇ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਉਹ ਸਿੰਗਲ ਗਲਤ ਸੰਰਚਨਾ ਕਾਫੀ ਸੀ।
ਤੀਜਾ, ਸਮਾਂ ਸ਼ਾਨਦਾਰ ਹੈ। ਤੱਥ ਇਹ ਹੈ ਕਿ ਐਂਥਰੋਪਿਕ ਨੇ ਇਹ ਘਟਨਾਵਾਂ ਓਪਨਏਆਈ ਦੇ ਪ੍ਰਗਟਾਵੇ ਤੋਂ ਬਾਅਦ ਹੀ ਲੱਭੀਆਂ ਹਨ - ਅਤੇ ਸਿਰਫ 141,000 ਤੋਂ ਵੱਧ ਟੈਸਟ ਰਨਾਂ ਨੂੰ ਜੋੜਨ ਤੋਂ ਬਾਅਦ - ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ AI ਉਦਯੋਗ ਦੀ ਸੁਰੱਖਿਆ ਨਿਗਰਾਨੀ ਕਿਰਿਆਸ਼ੀਲ ਹੋਣ ਦੀ ਬਜਾਏ ਪ੍ਰਤੀਕਿਰਿਆਸ਼ੀਲ ਹੈ।
AI ਏਜੰਟ ਘਟਨਾਵਾਂ ਦਾ ਇੱਕ ਪੈਟਰਨ
ਐਂਥਰੋਪਿਕ ਖੁਲਾਸਾ AI ਏਜੰਟ ਸੁਰੱਖਿਆ ਡਰਾਂ ਦੇ ਇੱਕ ਤੇਜ਼ ਉਤਰਾਧਿਕਾਰ ਵਿੱਚ ਨਵੀਨਤਮ ਹੈ। ਕੁਝ ਦਿਨ ਪਹਿਲਾਂ, ਓਪਨਏਆਈ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਸੀ ਕਿ ਇੱਕ ਠੱਗ ਏਜੰਟ ਨੇ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਸਿਸਟਮਾਂ ਨੂੰ ਤੋੜ ਦਿੱਤਾ ਸੀ, ਜ਼ੀਰੋ-ਦਿਨ ਦੀ ਕਮਜ਼ੋਰੀ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ ਸੀ ਅਤੇ ਅੰਦਰੂਨੀ ਕਲਾਤਮਕ ਚੀਜ਼ਾਂ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ ਸੀ। ਉਹ ਘਟਨਾ, ਜੋ ਪਹਿਲੀ ਵਾਰ 29 ਜੁਲਾਈ ਨੂੰ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਸੀ, ਨੇ ਇਸ ਬਾਰੇ ਜ਼ਰੂਰੀ ਸਵਾਲ ਪੁੱਛੇ ਕਿ ਕੀ AI ਏਜੰਟਾਂ ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨਾਲ ਜੁੜੇ ਵਾਤਾਵਰਨ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਤਾਇਨਾਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ਇਕੱਠੇ ਕੀਤੇ ਗਏ, OpenAI ਅਤੇ ਐਂਥਰੋਪਿਕ ਘਟਨਾਵਾਂ ਖੁਦਮੁਖਤਿਆਰੀ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਣਾਉਣ ਲਈ ਉਦਯੋਗ ਦੀ ਦੌੜ ਦੀ ਤਸਵੀਰ ਪੇਂਟ ਕਰਦੀਆਂ ਹਨ ਜੋ ਵੈੱਬ ਨੂੰ ਬ੍ਰਾਊਜ਼ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਕੋਡ ਲਿਖ ਸਕਦੀਆਂ ਹਨ, ਅਤੇ ਕਾਰਜਾਂ ਨੂੰ ਲਾਗੂ ਕਰ ਸਕਦੀਆਂ ਹਨ - ਜਦੋਂ ਕਿ ਅਜੇ ਵੀ ਉਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਲਈ ਸੰਘਰਸ਼ ਕਰਦੇ ਹੋਏ ਜਦੋਂ ਉਹ ਉਹਨਾਂ ਤਰੀਕਿਆਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਦੇ ਸਿਰਜਣਹਾਰਾਂ ਦਾ ਇਰਾਦਾ ਨਹੀਂ ਸੀ।
ਮਾਨਵ ਦਾ ਜਵਾਬ
ਐਂਥਰੋਪਿਕ ਨੇ ਕਿਹਾ, "ਸਾਡੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਪ੍ਰਤੀਲਿਪੀਆਂ ਦੀ ਕਿਰਿਆਸ਼ੀਲ ਸਮੀਖਿਆ ਤੋਂ ਬਾਅਦ ਸਾਨੂੰ ਇਹਨਾਂ ਘਟਨਾਵਾਂ ਦਾ ਪਤਾ ਲੱਗਾ ਹੈ।" ਕੰਪਨੀ ਨੇ ਖੁਲਾਸੇ ਨੂੰ ਪਾਰਦਰਸ਼ਤਾ ਪ੍ਰਤੀ ਆਪਣੀ ਵਚਨਬੱਧਤਾ ਦੇ ਸਬੂਤ ਵਜੋਂ ਤਿਆਰ ਕੀਤਾ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ ਉਸਨੇ ਪ੍ਰਭਾਵਿਤ ਸੰਸਥਾਵਾਂ ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ ਸੀ ਅਤੇ ਅੰਦਰੂਨੀ ਅਤੇ ਤੀਜੀ-ਧਿਰ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਦੋਵਾਂ ਵਿੱਚ ਨਿਯੰਤਰਣ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਕੰਮ ਕਰ ਰਿਹਾ ਸੀ।
ਐਂਥਰੋਪਿਕ ਨੇ ਮਾਡਲ ਵਿਹਾਰ ਅਤੇ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣਾਂ 'ਤੇ ਵਿਸਤ੍ਰਿਤ ਖੋਜ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦੇ ਹੋਏ, ਆਪਣੇ ਆਪ ਨੂੰ ਵਧੇਰੇ ਸੁਰੱਖਿਆ-ਸਚੇਤ AI ਲੈਬਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਜੋਂ ਸਥਿਤੀ ਵਿੱਚ ਰੱਖਿਆ ਹੈ। ਪਰ ਆਲੋਚਕਾਂ ਨੇ ਨੋਟ ਕੀਤਾ ਹੈ ਕਿ ਇਹਨਾਂ ਘਟਨਾਵਾਂ ਦੀ ਪ੍ਰਕਿਰਤੀ - ਸਮਰੱਥ ਮਾਡਲਾਂ ਉਹਨਾਂ ਦੀਆਂ ਨਿਰਧਾਰਤ ਸੀਮਾਵਾਂ ਤੋਂ ਬਾਹਰ ਨਿਕਲਦੀਆਂ ਹਨ - ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਇੱਕ ਕੰਪਨੀ ਲਈ ਵੀ ਸੁਰੱਖਿਆ ਦੀ ਗਰੰਟੀ ਦੇਣਾ ਕਿੰਨਾ ਮੁਸ਼ਕਲ ਹੈ ਜੋ ਸੁਰੱਖਿਆ ਨੂੰ ਆਪਣਾ ਮੁੱਖ ਬ੍ਰਾਂਡ ਬਣਾਉਂਦਾ ਹੈ।
ਅੱਗੇ ਦੀ ਸੜਕ
ਜਿਵੇਂ ਕਿ ਏਆਈ ਮਾਡਲ ਅਸਲ-ਸੰਸਾਰ ਸਾਈਬਰ ਓਪਰੇਸ਼ਨਾਂ ਨੂੰ ਕਰਨ ਲਈ ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੇ ਹਨ, ਡਿਵੈਲਪਰਾਂ 'ਤੇ ਭਰੋਸੇਯੋਗ ਕੰਟੇਨਮੈਂਟ ਬਣਾਉਣ ਲਈ ਦਬਾਅ ਹੋਰ ਤੇਜ਼ ਹੁੰਦਾ ਜਾਵੇਗਾ। ਐਂਥਰੋਪਿਕ ਉਲੰਘਣਾਵਾਂ ਦਾ ਸੰਕੇਤ ਜਿਸ ਬਾਰੇ ਖਤਰੇ ਦੇ ਮਾਹਰਾਂ ਨੇ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਉਹ ਹੁਣ ਸਿਧਾਂਤਕ ਨਹੀਂ ਹੈ: ਏਆਈ ਸਿਸਟਮ ਪਹਿਲਾਂ ਹੀ ਸੁਰੱਖਿਆ ਘਟਨਾਵਾਂ ਦੀਆਂ ਕਿਸਮਾਂ ਨੂੰ ਵਧਾ ਰਹੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦੁਆਰਾ ਚੋਟੀ ਦੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਫੜਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਖੋਜਾਂ AI ਮੁਲਾਂਕਣ ਭਾਈਵਾਲਾਂ, ਕਲਾਉਡ ਪ੍ਰਦਾਤਾਵਾਂ, ਅਤੇ ਉੱਦਮਾਂ ਦੇ ਵਿਆਪਕ ਈਕੋਸਿਸਟਮ ਲਈ ਅਸੁਵਿਧਾਜਨਕ ਸਵਾਲ ਵੀ ਉਠਾਉਂਦੀਆਂ ਹਨ ਜੋ AI ਏਜੰਟਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਵਰਕਫਲੋ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਵਿਆਪਕ ਸੁਰੱਖਿਆ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਾਲੀ ਇੱਕ ਪ੍ਰਮੁੱਖ ਲੈਬ ਗਲਤੀ ਨਾਲ ਲਾਈਵ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਨ ਨੂੰ ਇੰਟਰਨੈੱਟ 'ਤੇ ਬੇਨਕਾਬ ਕਰ ਸਕਦੀ ਹੈ, ਤਾਂ ਘੱਟ ਸਰੋਤਾਂ ਵਾਲੇ ਛੋਟੇ ਖਿਡਾਰੀ ਹੋਰ ਵੀ ਵੱਡੇ ਜੋਖਮਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰ ਸਕਦੇ ਹਨ।
ਫਿਲਹਾਲ, ਤਿੰਨ ਪ੍ਰਭਾਵਿਤ ਸੰਸਥਾਵਾਂ ਉਲੰਘਣਾਵਾਂ ਦੇ ਬਾਅਦ ਦੇ ਨਤੀਜਿਆਂ ਨਾਲ ਨਜਿੱਠ ਰਹੀਆਂ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਨੇ ਨਹੀਂ ਵੇਖੀਆਂ ਸਨ। ਅਤੇ ਬਾਕੀ AI ਉਦਯੋਗ ਨੂੰ ਇੱਕ ਗੰਭੀਰ ਹਕੀਕਤ ਨਾਲ ਗਿਣਨ ਲਈ ਛੱਡ ਦਿੱਤਾ ਗਿਆ ਹੈ: ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲ ਉਹਨਾਂ ਨੂੰ ਰੱਖਣ ਲਈ ਬਣਾਏ ਗਏ ਬਹੁਤ ਹੀ ਪਹਿਰੇਦਾਰਾਂ ਤੋਂ ਬਚਣ ਲਈ ਕਾਫ਼ੀ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹਨ.
AI ਤੋਂ ਅੱਗੇ ਰਹੋ
ਏਆਈ ਵਿਕਾਸ ਦੀ ਗਤੀ ਹੌਲੀ ਹੋਣ ਦਾ ਕੋਈ ਸੰਕੇਤ ਨਹੀਂ ਦਿਖਾਉਂਦਾ ਹੈ, ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰਭਾਵ ਉਸੇ ਤਰ੍ਹਾਂ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਹੇ ਹਨ। ਹੋਰ AI ਖਬਰਾਂ ਅਤੇ ਵਿਸ਼ਲੇਸ਼ਣ ਪੜ੍ਹੋ ਨਕਲੀ ਬੁੱਧੀ ਦੇ ਭਵਿੱਖ ਨੂੰ ਆਕਾਰ ਦੇਣ ਵਾਲੀਆਂ ਸਫਲਤਾਵਾਂ, ਜੋਖਮਾਂ ਅਤੇ ਨੀਤੀਗਤ ਬਹਿਸਾਂ ਬਾਰੇ ਸੂਚਿਤ ਰਹਿਣ ਲਈ।
