AI ਸਾਇੰਸ ਐਂਡ ਪਾਲਿਸੀ (CASP) 'ਤੇ ਕੈਮਬ੍ਰਿਜ ਪ੍ਰੋਗਰਾਮ ਦੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਅਧਿਐਨ ਦੇ ਅਨੁਸਾਰ, ISIS ਸਮੇਤ ਅੱਤਵਾਦੀ ਸੰਗਠਨ ਹਮਲੇ ਦੀ ਯੋਜਨਾਬੰਦੀ, ਹਥਿਆਰਾਂ ਦੇ ਵਿਕਾਸ ਅਤੇ ਸੰਚਾਲਨ ਸੁਰੱਖਿਆ ਲਈ ਹਰ ਪ੍ਰਮੁੱਖ AI ਚੈਟਬੋਟ ਦਾ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਸ਼ੋਸ਼ਣ ਕਰ ਰਹੇ ਹਨ। 11 ਜੁਲਾਈ, 2026 ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਖੋਜਾਂ, ਵਪਾਰਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ AI ਟੂਲਸ ਨੂੰ ਹਥਿਆਰ ਬਣਾਉਣ ਵਾਲੇ ਕੱਟੜਪੰਥੀ ਸਮੂਹਾਂ ਦੇ ਅੱਜ ਤੱਕ ਦੇ ਸਭ ਤੋਂ ਵਿਸਤ੍ਰਿਤ ਅਨੁਭਵੀ ਸਬੂਤਾਂ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ। AI ਸੁਰੱਖਿਆ ਅਤੇ ਉਦਯੋਗਿਕ ਵਿਕਾਸ ਦੇ ਚੱਲ ਰਹੇ ਕਵਰੇਜ ਲਈ, AI Buzz Wire 'ਤੇ ਜਾਓ।

ਕੈਮਬ੍ਰਿਜ ਸਟੱਡੀ ਦੇ ਅੰਦਰ

ਖੋਜਕਰਤਾ ਐਂਟੋਨੀਆ ਜੂਲਿਚ ਨੇ ISIS ਦੇ 27 ਸਾਬਕਾ ਮੈਂਬਰਾਂ ਅਤੇ ਇਸਦੇ ਖੇਤਰੀ ਸਹਿਯੋਗੀਆਂ ਨਾਲ 57 ਇੰਟਰਵਿਊਆਂ ਕੀਤੀਆਂ ਤਾਂ ਕਿ ਇਹ ਦਸਤਾਵੇਜ਼ ਕਿਵੇਂ ਅੱਤਵਾਦੀ ਸੰਗਠਨਾਂ ਨੇ AI ਨੂੰ ਆਪਣੇ ਕਾਰਜਾਂ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕੀਤਾ ਹੈ। ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਆਈਐਸਆਈਐਸ ਨੇ ਆਪਣੇ ਦੋਨਾਂ ਪ੍ਰਮੁੱਖ ਧੜਿਆਂ ਵਿੱਚ ਸਮਰਪਿਤ ਏਆਈ ਯੂਨਿਟਾਂ ਦੀ ਸਥਾਪਨਾ ਕੀਤੀ ਹੈ, ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਪ੍ਰਯੋਗਾਤਮਕ ਸਾਧਨਾਂ ਦੀ ਬਜਾਏ ਮੁੱਖ ਸੰਚਾਲਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਰੂਪ ਵਿੱਚ ਮੰਨਦੇ ਹੋਏ।

ਖੋਜ ਦੇ ਅਨੁਸਾਰ, ISIS ਘੱਟੋ-ਘੱਟ 2023 ਤੋਂ ਆਪਣੇ ਆਪਰੇਟਿਵਾਂ ਨੂੰ ਤੁਰੰਤ ਇੰਜੀਨੀਅਰਿੰਗ ਅਤੇ ਜੇਲ੍ਹ ਤੋੜਨ ਦੀ ਸਿਖਲਾਈ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰ ਰਿਹਾ ਹੈ। ਸੰਗਠਨ ਨੇ ਇਸ ਸਿਖਲਾਈ ਨੂੰ ਨਾਈਜੀਰੀਆ ਵਿੱਚ ਬੋਕੋ ਹਰਮ ਕਮਾਂਡਰਾਂ ਸਮੇਤ ਸਹਿਯੋਗੀ ਸਮੂਹਾਂ ਨੂੰ ਵੀ ਵਧਾਇਆ ਹੈ, ਉਹਨਾਂ ਨੂੰ ਸਿਖਾਇਆ ਗਿਆ ਹੈ ਕਿ ਵੱਡੀਆਂ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀਆਂ ਦੁਆਰਾ ਤੈਨਾਤ ਕੀਤੇ ਗਏ AI ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ ਨੂੰ ਯੋਜਨਾਬੱਧ ਤਰੀਕੇ ਨਾਲ ਕਿਵੇਂ ਬਾਈਪਾਸ ਕਰਨਾ ਹੈ।

ਹਰ ਮੇਜਰ ਚੈਟਬੋਟ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤਾ ਗਿਆ

ਅਧਿਐਨ ਦਸਤਾਵੇਜ਼ਾਂ ਤੋਂ ਪਤਾ ਚੱਲਦਾ ਹੈ ਕਿ ਦਹਿਸ਼ਤਗਰਦ ਕਾਰਕੁਨ ਸਰਗਰਮੀ ਨਾਲ ਚੈਟਜੀਪੀਟੀ, ਕਲਾਉਡ, ਜੇਮਿਨੀ, ਗ੍ਰੋਕ, ਮੈਟਾ ਏਆਈ, ਅਤੇ ਡੀਪਸੀਕ ਨੂੰ ਆਪਣੇ ਆਪਰੇਸ਼ਨਾਂ ਵਿੱਚ ਵਰਤ ਰਹੇ ਹਨ। ਸਮੂਹ ਇਹਨਾਂ ਲਈ ਏਆਈ ਨੂੰ ਨਿਯੁਕਤ ਕਰਦੇ ਹਨ:

  • ਹਮਲੇ ਦੀ ਯੋਜਨਾਬੰਦੀ — ਰਣਨੀਤਕ ਦ੍ਰਿਸ਼ ਤਿਆਰ ਕਰਨਾ ਅਤੇ ਟੀਚੇ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨਾ
  • ਵਿਸਫੋਟਕ ਯੰਤਰ ਦਾ ਨਿਰਮਾਣ — ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸੁਧਾਰੀ ਯੰਤਰਾਂ ਨੂੰ ਬਣਾਉਣ ਲਈ ਤਕਨੀਕੀ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰਨਾ
  • ਹਥਿਆਰਾਂ ਦੀ ਸਾਂਭ-ਸੰਭਾਲ — ਹਥਿਆਰਾਂ ਅਤੇ ਹੋਰ ਸਾਜ਼ੋ-ਸਾਮਾਨ ਦੀ ਸਮੱਸਿਆ ਦਾ ਨਿਪਟਾਰਾ ਅਤੇ ਮੁਰੰਮਤ
  • ਸੰਚਾਲਨ ਸੁਰੱਖਿਆ — ਵਧੇਰੇ ਵਧੀਆ ਸੰਚਾਰ ਅਤੇ ਏਨਕ੍ਰਿਪਸ਼ਨ ਰਣਨੀਤੀਆਂ ਦਾ ਵਿਕਾਸ ਕਰਨਾ

ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਚਿੰਤਾਜਨਕ ਤੌਰ 'ਤੇ, ਅਧਿਐਨ ਨੇ ਪਾਇਆ ਕਿ ਪ੍ਰਮੁੱਖ ਚੈਟਬੋਟ ਪ੍ਰਦਾਤਾਵਾਂ ਦੁਆਰਾ ਤੈਨਾਤ AI ਸੁਰੱਖਿਆ ਫਿਲਟਰ ਇਸ ਦੁਰਵਰਤੋਂ ਨੂੰ ਭਰੋਸੇਯੋਗ ਤਰੀਕੇ ਨਾਲ ਰੋਕਣ ਵਿੱਚ ਅਸਫਲ ਰਹੇ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਨੋਟ ਕੀਤਾ ਕਿ ਸਮੂਹਾਂ ਨੇ ਇਹਨਾਂ ਪਹਿਰੇਦਾਰਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਵਿਵਸਥਿਤ ਢੰਗ ਵਿਕਸਿਤ ਕੀਤੇ ਸਨ, ਜਿਸ ਨਾਲ ਸਵੈ-ਇੱਛਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਨਿਸ਼ਚਿਤ ਵਿਰੋਧੀਆਂ ਦੇ ਵਿਰੁੱਧ ਬੇਅਸਰ ਹਨ।

ਇੱਕ ਘਾਤਕ ਕੇਸ ਸਟੱਡੀ

ਖੋਜ ਵਿੱਚ ISWAP (ISIS ਦੇ ਪੱਛਮੀ ਅਫ਼ਰੀਕਾ ਪ੍ਰਾਂਤ) ਤੋਂ ਇੱਕ ਖਾਸ ਤੌਰ 'ਤੇ ਸ਼ਾਨਦਾਰ ਉਦਾਹਰਣ ਸ਼ਾਮਲ ਹੈ। ਮੁਨਜ਼ੀਰ ਵਜੋਂ ਪਛਾਣੇ ਗਏ ਇੱਕ ਸਾਬਕਾ ISWAP ਕਮਾਂਡਰ ਦੁਆਰਾ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਇੱਕ ਖਾਤੇ ਦੇ ਅਨੁਸਾਰ, ਸਮੂਹ ਨੇ ਇੱਕ ਫਿਲਮ ਵਿੱਚ ਦਰਸਾਏ ਗਏ ਇੱਕ ਮੋਟਰਸਾਈਕਲ ਜੰਪਿੰਗ ਤਕਨੀਕ ਦੀ ਨਕਲ ਕਿਵੇਂ ਕਰਨੀ ਹੈ ਸਿੱਖਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਇਸਦੀ ਵਰਤੋਂ ਰੱਖਿਆਤਮਕ ਖਾਈ ਨੂੰ ਸਾਫ਼ ਕਰਨ ਲਈ ਕਰਨ ਦੇ ਇਰਾਦੇ ਨਾਲ ਕੀਤੀ। ਸਿਖਲਾਈ ਅਭਿਆਸ ਵਿਨਾਸ਼ਕਾਰੀ ਸਾਬਤ ਹੋਇਆ: ਅਭਿਆਸ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹੋਏ ਅਠਾਰਾਂ ਲੜਾਕਿਆਂ ਦੀ ਮੌਤ ਹੋ ਗਈ, ਜਦੋਂ ਕਿ ਸਿਰਫ ਅੱਠ ਨੇ ਸਫਲਤਾਪੂਰਵਕ ਛਾਲ ਪੂਰੀ ਕੀਤੀ।

ਇਹ ਕਿੱਸਾ ਅੱਤਵਾਦੀ AI ਦੀ ਵਰਤੋਂ ਦੇ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਨਤੀਜਿਆਂ ਅਤੇ ਇਹਨਾਂ ਮਾਡਲਾਂ ਦੁਆਰਾ ਪ੍ਰਦਾਨ ਕੀਤੀ ਜਾਣ ਵਾਲੀ ਜਾਣਕਾਰੀ ਦੇ ਕਈ ਵਾਰ-ਅਨੁਮਾਨਤ ਸੁਭਾਅ ਦੋਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ AI ਨੇ ਤਕਨੀਕ ਦਾ ਸਹੀ ਵਰਣਨ ਕੀਤਾ ਹੋ ਸਕਦਾ ਹੈ, ਇੱਕ ਲੜਾਈ ਦੇ ਮਾਹੌਲ ਵਿੱਚ ਭੌਤਿਕ ਅਮਲ ਨੇ ਵਿਨਾਸ਼ਕਾਰੀ ਨਤੀਜੇ ਕੱਢੇ।

ਜੂਲਿਚ ਲਿਖਦਾ ਹੈ ਕਿ ਸਾਬਕਾ ਮੈਂਬਰਾਂ ਨੇ ਸੰਗਠਨ ਦੇ ਅੰਦਰ ਏਆਈ ਟੂਲਸ ਲਈ "ਮਜ਼ਬੂਤ ​​ਉਤਸ਼ਾਹ" ਦਾ ਵਰਣਨ ਕੀਤਾ, ਕੁਝ ਨੋਟ ਕਰਨ ਦੇ ਨਾਲ ਕਿ ਸਮੂਹ ਨੇ ਪਹਿਲਾਂ ਏਆਈ-ਸਰੋਤ ਜਾਣਕਾਰੀ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਪੁੰਜ-ਘਾਤਕ ਹਥਿਆਰਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਬਾਰੇ ਵਿਚਾਰ ਕੀਤਾ ਸੀ। ਹਾਲਾਂਕਿ ਬੋਕੋ ਹਰਮ ਦੁਆਰਾ ਏਆਈ ਦੀ ਵਰਤੋਂ ਹੁਣ ਤੱਕ ਰਵਾਇਤੀ ਰਹੀ ਹੈ, ਖੋਜਕਰਤਾ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ ਕਿ ਇਸਨੂੰ ਇੱਕ ਵਿਆਪਕ ਖਤਰੇ ਦੇ ਸ਼ੁਰੂਆਤੀ ਸੂਚਕ ਵਜੋਂ ਲਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।

ਅਧਿਐਨ ਨੇ ਸਿੱਟਾ ਕੱਢਿਆ ਹੈ, "ਇਹ ਰਸਾਇਣਕ ਅਤੇ ਜੈਵਿਕ ਹਥਿਆਰਾਂ ਲਈ ਏਆਈ ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਵਾਲੇ ਅੱਤਵਾਦੀਆਂ ਦੇ ਜੋਖਮ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਣ ਦੀ ਚੇਤਾਵਨੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।"

ਸੁਰੱਖਿਆ ਫਿਲਟਰ ਨਾਕਾਫ਼ੀ ਸਾਬਤ ਹੁੰਦੇ ਹਨ

AI ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ 'ਤੇ ਅਧਿਐਨ ਦੇ ਨਤੀਜੇ ਖਾਸ ਤੌਰ 'ਤੇ ਤਕਨਾਲੋਜੀ ਉਦਯੋਗ ਲਈ ਹਨ। ਸਮੱਗਰੀ ਸੰਚਾਲਨ, ਰੈੱਡ-ਟੀਮਿੰਗ, ਅਤੇ ਸੁਰੱਖਿਆ ਪਹਿਰੇਦਾਰਾਂ ਵਿੱਚ ਅਰਬਾਂ ਡਾਲਰਾਂ ਦੇ ਨਿਵੇਸ਼ ਦੇ ਬਾਵਜੂਦ, ਖੋਜ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਨਿਸ਼ਚਿਤ ਉਪਭੋਗਤਾ ਇਹਨਾਂ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਲਗਾਤਾਰ ਬਾਈਪਾਸ ਕਰ ਸਕਦੇ ਹਨ।

ਐਂਥਰੋਪਿਕ ਨੇ ਖੁਦ ਪਹਿਲਾਂ ਸਵੀਕਾਰ ਕੀਤਾ ਹੈ ਕਿ ਜੇਲਬ੍ਰੇਕ - ਏਆਈ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਤਕਨੀਕਾਂ - ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਤੋਂ ਕਦੇ ਵੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਨਹੀਂ ਕੀਤੀਆਂ ਜਾਣਗੀਆਂ। ਕੈਮਬ੍ਰਿਜ ਅਧਿਐਨ ਉਸ ਮੁਲਾਂਕਣ ਦਾ ਸਮਰਥਨ ਕਰਨ ਵਾਲੇ ਠੋਸ ਸਬੂਤ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਸੀਮਤ ਤਕਨੀਕੀ ਮੁਹਾਰਤ ਵਾਲੇ ਗੈਰ-ਰਾਜ ਅਦਾਕਾਰ ਵੀ ਸਾਂਝੀ ਸਿਖਲਾਈ ਅਤੇ ਤੁਰੰਤ ਇੰਜੀਨੀਅਰਿੰਗ ਤਕਨੀਕਾਂ ਦੁਆਰਾ ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ ਨੂੰ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਹਰਾਉਣਾ ਸਿੱਖ ਸਕਦੇ ਹਨ।

ਹਾਲਾਂਕਿ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਮਹੱਤਵਪੂਰਣ ਸੂਖਮਤਾ ਨੂੰ ਵੀ ਨੋਟ ਕੀਤਾ. ਆਮ-ਉਦੇਸ਼ ਵਾਲੇ ਚੈਟਬੋਟਸ ਜਿਵੇਂ ਕਿ ਚੈਟਜੀਪੀਟੀ ਅਤੇ ਕਲੌਡ, ਸਭ ਤੋਂ ਵੱਧ ਜਨਤਕ ਧਿਆਨ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋਏ, ਮੁੱਖ ਤੌਰ 'ਤੇ ਅਸਲ ਵਿੱਚ ਨਵੀਂ ਖਤਰਨਾਕ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਨ ਦੀ ਬਜਾਏ ਮੌਜੂਦਾ ਗਿਆਨ ਨੂੰ ਵਧੇਰੇ ਪਹੁੰਚਯੋਗ ਬਣਾਉਂਦੇ ਹਨ। ਉਹ ਦਲੀਲ ਦਿੰਦੇ ਹਨ ਕਿ ਵਧੇਰੇ ਲੰਬੇ ਸਮੇਂ ਦੀ ਚਿੰਤਾ, ਜੀਵਨ ਵਿਗਿਆਨ ਅਤੇ ਹੋਰ ਸੰਵੇਦਨਸ਼ੀਲ ਡੋਮੇਨਾਂ ਲਈ ਵਿਕਸਤ ਕੀਤੇ ਜਾ ਰਹੇ ਵਿਸ਼ੇਸ਼ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਹੈ, ਜਿੱਥੇ AI ਅਸਲ ਵਿੱਚ ਨਵੇਂ ਖਤਰਿਆਂ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ।

AI ਨੀਤੀ ਲਈ ਪ੍ਰਭਾਵ

ਕੈਮਬ੍ਰਿਜ ਦੀਆਂ ਖੋਜਾਂ ਏਆਈ ਗਵਰਨੈਂਸ ਲਈ ਇੱਕ ਨਾਜ਼ੁਕ ਪਲ 'ਤੇ ਪਹੁੰਚਦੀਆਂ ਹਨ। ਦੁਨੀਆ ਭਰ ਦੀਆਂ ਸਰਕਾਰਾਂ ਇਸ ਗੱਲ 'ਤੇ ਬਹਿਸ ਕਰ ਰਹੀਆਂ ਹਨ ਕਿ ਫਰੰਟੀਅਰ AI ਮਾਡਲਾਂ ਨੂੰ ਕਿਵੇਂ ਨਿਯਮਤ ਕਰਨਾ ਹੈ, EU AI ਐਕਟ ਪਹਿਲਾਂ ਹੀ ਲਾਗੂ ਹੈ ਅਤੇ ਸੰਯੁਕਤ ਰਾਜ ਅਮਰੀਕਾ ਪ੍ਰਮੁੱਖ AI ਪ੍ਰਯੋਗਸ਼ਾਲਾਵਾਂ ਤੋਂ ਸਵੈਇੱਛੁਕ ਸੁਰੱਖਿਆ ਪ੍ਰਤੀਬੱਧਤਾਵਾਂ ਦਾ ਪਾਲਣ ਕਰ ਰਿਹਾ ਹੈ।

ਅਧਿਐਨ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ ਸਵੈ-ਇੱਛਤ ਉਦਯੋਗ ਸਵੈ-ਨਿਯਮ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਮੌਜੂਦਾ ਪਹੁੰਚ AI ਟੂਲਸ ਦੀ ਖਤਰਨਾਕ ਵਰਤੋਂ ਨੂੰ ਰੋਕਣ ਲਈ ਨਾਕਾਫੀ ਹੋ ਸਕਦੇ ਹਨ। ਇਹ ਤੱਥ ਕਿ ISIS ਨੇ ਪਲੇਟਫਾਰਮ ਪ੍ਰਦਾਤਾਵਾਂ ਦੁਆਰਾ ਖੋਜ ਕੀਤੇ ਬਿਨਾਂ ਸਾਲਾਂ ਤੋਂ ਸਮਰਪਿਤ AI ਸਿਖਲਾਈ ਪ੍ਰੋਗਰਾਮਾਂ ਦਾ ਸੰਚਾਲਨ ਕੀਤਾ ਹੈ, ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਬਾਰੇ ਗੰਭੀਰ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦਾ ਹੈ।

ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਨੇ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਏਆਈ ਮਾਡਲ ਖਤਰਨਾਕ ਗਿਆਨ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਜਮਹੂਰੀਅਤ ਕਰ ਸਕਦੇ ਹਨ। ਕੈਮਬ੍ਰਿਜ ਖੋਜ ਅਜੇ ਤੱਕ ਸਭ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਅਨੁਭਵੀ ਸਬੂਤ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ ਕਿ ਇਹ ਖ਼ਤਰਾ ਸਿਧਾਂਤਕ ਨਹੀਂ ਹੈ ਪਰ ਪਹਿਲਾਂ ਹੀ ਕਾਰਜਸ਼ੀਲ ਹੈ, ਅੱਤਵਾਦੀ ਸੰਗਠਨ ਸਰਗਰਮੀ ਨਾਲ ਏਆਈ ਨੂੰ ਆਪਣੀਆਂ ਰੋਜ਼ਾਨਾ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ ਵਿੱਚ ਜੋੜ ਰਹੇ ਹਨ।

ਖੋਜਾਂ ਓਪਨ-ਸੋਰਸ ਏਆਈ ਮਾਡਲਾਂ ਬਾਰੇ ਚੱਲ ਰਹੀ ਬਹਿਸ ਨੂੰ ਵੀ ਗੁੰਝਲਦਾਰ ਬਣਾਉਂਦੀਆਂ ਹਨ। ਜਦੋਂ ਕਿ ChatGPT ਅਤੇ ਕਲਾਉਡ ਵਰਗੇ ਮਲਕੀਅਤ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚ ਸੁਰੱਖਿਆ ਫਿਲਟਰ ਹੁੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅੱਪਡੇਟ ਅਤੇ ਸੁਧਾਰਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਓਪਨ-ਸੋਰਸ ਵਿਕਲਪ ਜਿਵੇਂ ਕਿ DeepSeek - ਜੋ ਅਧਿਐਨ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਕਿ ISIS ਵੀ ਵਰਤ ਰਿਹਾ ਹੈ - ਅਜਿਹਾ ਕੋਈ ਕੇਂਦਰੀਕ੍ਰਿਤ ਨਿਯੰਤਰਣ ਪੇਸ਼ ਨਹੀਂ ਕਰਦਾ ਹੈ। ਇੱਕ ਵਾਰ ਇੱਕ ਖੁੱਲਾ ਮਾਡਲ ਜਾਰੀ ਹੋਣ ਤੋਂ ਬਾਅਦ, ਇਸਦੇ ਸੁਰੱਖਿਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਮੂਲ ਵਿਕਾਸਕਾਰ ਦੁਆਰਾ ਸੰਸ਼ੋਧਿਤ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।

ਜਿਵੇਂ ਕਿ ਸਰਕਾਰਾਂ ਅਤੇ ਏਆਈ ਕੰਪਨੀਆਂ ਇਹਨਾਂ ਚੁਣੌਤੀਆਂ ਨਾਲ ਜੂਝ ਰਹੀਆਂ ਹਨ, ਕੈਮਬ੍ਰਿਜ ਅਧਿਐਨ ਇੱਕ ਗੱਲ ਸਪੱਸ਼ਟ ਕਰਦਾ ਹੈ: ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਵਿਰੋਧੀ ਨਵੀਨਤਾ ਵਿਚਕਾਰ ਪਾੜਾ ਵਧ ਰਿਹਾ ਹੈ, ਅਤੇ ਅੱਤਵਾਦੀ ਸੰਗਠਨ ਸਰਗਰਮੀ ਨਾਲ ਇਸਦਾ ਸ਼ੋਸ਼ਣ ਕਰ ਰਹੇ ਹਨ।

AI ਤੋਂ ਅੱਗੇ ਰਹੋ

AI ਸੁਰੱਖਿਆ, ਨੀਤੀ, ਅਤੇ ਉਦਯੋਗਿਕ ਵਿਕਾਸ ਦੇ ਹੋਰ ਕਵਰੇਜ ਲਈ, AI Buzz Wire 'ਤੇ ਜਾਓ।

ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →