ਇੱਕ ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ ਨੇ ਦਸਤਾਵੇਜ਼ੀ ਤੌਰ 'ਤੇ ਪੈਦਾ ਹੋਏ "AI ਕੀੜੇ" ਦੀ ਇੱਕ ਮੁੱਖ ਧਾਰਾ ਉਤਪਾਦਕਤਾ ਸੂਟ ਦੁਆਰਾ ਸਵੈ-ਪ੍ਰਸਾਰ ਕਰਨ ਦੀ ਪਹਿਲੀ ਜਨਤਕ ਉਦਾਹਰਣ ਕੀ ਹੋ ਸਕਦੀ ਹੈ, ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਲੁਕੀਆਂ ਹੋਈਆਂ ਖਤਰਨਾਕ ਹਦਾਇਤਾਂ Copilot for Word ਦੁਆਰਾ ਇੱਕ Microsoft Word ਫਾਈਲ ਤੋਂ ਦੂਜੀ ਵਿੱਚ ਜਾ ਸਕਦੀਆਂ ਹਨ।
28 ਜੁਲਾਈ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਗਏ ਇੱਕ ਤਾਲਮੇਲ ਵਾਲੇ ਖੁਲਾਸੇ ਵਿੱਚ, ਖੋਜਕਰਤਾ ਹਾਕੋਨ ਮਾਲੀ ਨੇ ਦੱਸਿਆ ਕਿ ਕਿਵੇਂ ਇੱਕ ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਸ਼ਾਮਲ ਹਮਲਾਵਰ-ਨਿਯੰਤਰਿਤ ਨਿਰਦੇਸ਼ ਕੋਪਾਇਲਟ ਦੇ ਡਰਾਫਟ ਨੂੰ ਹਾਈਜੈਕ ਕਰ ਸਕਦੇ ਹਨ। ਇੱਕ ਵਾਰ ਜਦੋਂ AI ਜ਼ਹਿਰੀਲੇ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਪੜ੍ਹ ਲੈਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਚੁੱਪਚਾਪ ਆਉਟਪੁੱਟ ਨੂੰ ਬਦਲ ਸਕਦਾ ਹੈ - ਉਦਾਹਰਨ ਲਈ, ਇੱਕ ਰਿਪੋਰਟ ਵਿੱਚ ਵਿੱਤੀ ਅੰਕੜਿਆਂ ਨੂੰ ਅੱਧਾ ਕਰਨਾ - ਅਤੇ ਫਿਰ ਪੂਰੀ ਖਤਰਨਾਕ ਪੇਲੋਡ ਨੂੰ ਨਵੀਂ ਤਿਆਰ ਕੀਤੀ ਫਾਈਲ ਵਿੱਚ ਕਾਪੀ ਕਰ ਸਕਦਾ ਹੈ, ਜਿਸ ਨੂੰ ਸਫੈਦ ਟੈਕਸਟ ਦੇ ਰੂਪ ਵਿੱਚ ਛੁਪਾਇਆ ਜਾਂਦਾ ਹੈ। ਉਹ ਨਵੀਂ ਫਾਈਲ ਇੱਕ ਕੈਰੀਅਰ ਬਣ ਜਾਂਦੀ ਹੈ, ਅਗਲੀ ਵਾਰ ਜਦੋਂ ਇਸਦੀ ਵਰਤੋਂ ਸਰੋਤ ਸਮੱਗਰੀ ਵਜੋਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਤਾਂ ਹੋਰ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਸੰਕਰਮਿਤ ਕਰਦੀ ਹੈ, ਭਾਵੇਂ ਅਸਲ ਖਤਰਨਾਕ ਫਾਈਲ ਦੇ ਚਲੇ ਜਾਣ ਤੋਂ ਬਾਅਦ। For more context on this story, see our ongoing breaking AI news.
ਇਹ ਕੰਮ ਮਾਈਕਰੋਸਾਫਟ ਦੇ ਸੁਰੱਖਿਆ ਜਵਾਬ ਕੇਂਦਰ (MSRC) ਨਾਲ 144-ਦਿਨਾਂ ਦੇ ਤਾਲਮੇਲ ਦੀ ਮਿਆਦ ਵਿੱਚ ਕੀਤਾ ਗਿਆ ਸੀ। ਖੁਲਾਸੇ ਦੇ ਅਨੁਸਾਰ, ਮਾਈਕਰੋਸਾਫਟ ਨੇ ਕਈ ਫਿਕਸ ਭੇਜੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਅੰਡਰਲਾਈੰਗ ਮਾਡਲ ਨੂੰ GPT-5.5 ਅਤੇ ਫਿਰ GPT-5.6 ਵਿੱਚ ਅੱਪਗਰੇਡ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ, ਪਰ ਖੋਜਕਰਤਾ ਨੇ ਤੈਨਾਤ ਕੀਤੇ ਗਏ ਹਰ ਘਟਾਓ ਦੇ ਨਾਲ ਸੰਪੂਰਨ ਹਮਲੇ ਦੀ ਲੜੀ ਨੂੰ ਦੁਬਾਰਾ ਤਿਆਰ ਕੀਤਾ। "ਇਸ ਲਈ ਕਮਜ਼ੋਰੀ ਵਰਗ ਪ੍ਰਕਾਸ਼ਨ ਦੇ ਸਮੇਂ ਸ਼ੋਸ਼ਣਯੋਗ ਰਹਿੰਦਾ ਹੈ," ਮਾਲੀ ਨੇ ਲਿਖਿਆ।
ਖੋਜਾਂ LLM-ਅਧਾਰਿਤ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਇੱਕ ਡੂੰਘੀ ਆਰਕੀਟੈਕਚਰਲ ਸਮੱਸਿਆ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ। ਕਿਉਂਕਿ ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ ਇਹ ਫੈਸਲਾ ਕਰਨ ਲਈ ਬਾਹਰੀ ਸਮੱਗਰੀ ਨੂੰ ਪੜ੍ਹਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਇਹ ਢੁਕਵੀਂ ਹੈ ਜਾਂ ਵਿਰੋਧੀ ਹੈ, "ਮੁਆਇਨਾ ਕੀਤੀ ਜਾ ਰਹੀ ਸਮੱਗਰੀ ਨਿਰੀਖਣ ਦੇ ਕਾਰਜ ਵਿੱਚ ਹਿੱਸਾ ਲੈਂਦੀ ਹੈ" - ਭਰੋਸੇਯੋਗ ਪ੍ਰੋਂਪਟ-ਇੰਜੈਕਸ਼ਨ ਬਚਾਅ ਪੱਖਾਂ ਨੂੰ ਮਾਮੂਲੀ ਬਣਾਉਂਦੀ ਹੈ।
ਮਾਈਕਰੋਸਾਫਟ ਨੇ ਲੜੀ ਦੇ ਪਹਿਲੇ ਭਾਗਾਂ ਤੋਂ ਰਿਪੋਰਟ ਕੀਤੇ ਗਏ ਖਾਸ ਪੇਲੋਡਾਂ ਨੂੰ ਘਟਾ ਦਿੱਤਾ ਅਤੇ ਮੈਮੋਰੀ ਅਤੇ ਈਮੇਲ ਵੈਕਟਰਾਂ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ, ਪਰ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ਲਈ ਕੋਈ ਸੰਪੂਰਨ ਫਿਕਸ ਮੌਜੂਦ ਨਹੀਂ ਹੈ। ਖੋਜਕਰਤਾ ਬਾਹਰੀ ਤੌਰ 'ਤੇ ਸਰੋਤ ਕੀਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਕੋਪਾਇਲਟ ਨਾਲ ਵਰਤੇ ਜਾਣ 'ਤੇ ਅਵਿਸ਼ਵਾਸਯੋਗ ਮੰਨਣ ਅਤੇ ਦੁਬਾਰਾ ਵਰਤੋਂ ਜਾਂ ਵੰਡਣ ਤੋਂ ਪਹਿਲਾਂ AI ਦੁਆਰਾ ਤਿਆਰ ਸਮੱਗਰੀ ਦੀ ਧਿਆਨ ਨਾਲ ਸਮੀਖਿਆ ਕਰਨ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਦਾ ਹੈ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
