ਓਪਨਏਆਈ ਨੇ ਆਪਣੇ ਮਾਡਲਾਂ ਦੇ ਤਰਕ ਨੂੰ ਐਕਸਟਰੈਕਟ ਕਰਨ ਲਈ ਮੂਨਸ਼ੌਟ ਏਆਈ-ਲਿੰਕਡ ਮੁਹਿੰਮ ਵਿੱਚ ਵਿਘਨ ਪਾਇਆ

ਓਪਨਏਆਈ ਨੇ 30 ਸਤੰਬਰ, 2026 ਨੂੰ ਇੱਕ ਸੁਰੱਖਿਆ ਪੋਸਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ ਜਿਸ ਵਿੱਚ ਦੱਸਿਆ ਗਿਆ ਹੈ ਕਿ ਕਿਵੇਂ ਇਸਨੇ ਆਪਣੇ ਮਾਡਲਾਂ ਤੋਂ ਸੁਰੱਖਿਅਤ ਤਰਕ ਨੂੰ ਕੱਢਣ ਲਈ ਇੱਕ ਤਾਲਮੇਲ ਮੁਹਿੰਮ ਦੀ ਪਛਾਣ ਕੀਤੀ ਅਤੇ ਵਿਘਨ ਪਾਇਆ — ਅਤੇ ਮੂਨਸ਼ੌਟ ਏਆਈ, ਕਿਮੀ ਮਾਡਲ ਪਰਿਵਾਰ ਦੇ ਪਿੱਛੇ ਚੀਨੀ ਲੈਬ ਨਾਲ ਜੁੜੇ ਵਿਅਕਤੀਆਂ ਨੂੰ ਗਤੀਵਿਧੀ ਦੇ ਇੱਕ ਮੁੱਖ ਕਲੱਸਟਰ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਇਆ।

ਖੁਲਾਸੇ ਉਦਯੋਗ ਲਈ ਇੱਕ ਸੰਵੇਦਨਸ਼ੀਲ ਪਲ 'ਤੇ ਉਤਰਦਾ ਹੈ, ਜਿੱਥੇ ਇੱਕ ਸਰਹੱਦੀ ਮਾਡਲ ਦੀ ਕੀਮਤ ਵਧਦੀ ਹੋਈ ਸਿਰਫ਼ ਇਸਦੇ ਜਵਾਬਾਂ ਵਿੱਚ ਹੀ ਨਹੀਂ ਬਲਕਿ ਇਸਦੇ ਕਾਰਨਾਂ ਵਿੱਚ ਹੈ। ਨਵੀਨਤਮ AI ਵਿਕਾਸ ਨੂੰ ਟਰੈਕ ਕਰਨ ਵਾਲੇ ਪਾਠਕਾਂ ਲਈ, ਕੇਸ ਇੱਕ ਅਸਧਾਰਨ ਤੌਰ 'ਤੇ ਵਿਸਤ੍ਰਿਤ ਦ੍ਰਿਸ਼ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਕਿ ਕਿਵੇਂ ਮਾਡਲ ਆਈਪੀ 'ਤੇ ਪੈਮਾਨੇ 'ਤੇ ਹਮਲਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ - ਅਤੇ ਲੈਬਾਂ ਕਿਵੇਂ ਜਵਾਬ ਦੇ ਰਹੀਆਂ ਹਨ।

ਇੱਥੇ "ਵਿਰੋਧੀ ਡਿਸਟਿਲੇਸ਼ਨ" ਦਾ ਕੀ ਅਰਥ ਹੈ

ਓਪਨਏਆਈ ਗਤੀਵਿਧੀ ਨੂੰ ਵਿਰੋਧੀ ਡਿਸਟਿਲੇਸ਼ਨ ਦੇ ਨਾਲ ਇਕਸਾਰ ਦੱਸਦਾ ਹੈ, ਜਿਸ ਨੂੰ ਇਹ ਇੱਕ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਦੀ ਯੋਜਨਾਬੱਧ ਅਤੇ ਅਣਅਧਿਕਾਰਤ ਵਰਤੋਂ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ ਜਾਂ ਕਿਸੇ ਹੋਰ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ, ਦੁਬਾਰਾ ਪੈਦਾ ਕਰਨ ਜਾਂ ਸੁਧਾਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਤਰਕ ਕਰਦਾ ਹੈ। "ਸੁਰੱਖਿਅਤ ਤਰਕ" ਇੱਕ ਕਾਰਜ ਦੁਆਰਾ ਕੰਮ ਕਰਨ ਲਈ ਮਾਡਲ ਦਾ ਅੰਦਰੂਨੀ ਰਿਕਾਰਡ ਹੈ — ਜਾਣਕਾਰੀ ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾ ਦੁਆਰਾ ਦੇਖੇ ਜਾਣ ਵਾਲੇ ਅੰਤਿਮ ਜਵਾਬ ਤੋਂ ਰੋਕੀ ਜਾਂਦੀ ਹੈ। ਇਸ ਨੂੰ ਕੱਢਣਾ, ਕੰਪਨੀ ਦਲੀਲ ਦਿੰਦੀ ਹੈ, ਦੂਜਿਆਂ ਨੂੰ ਉਹਨਾਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਦੁਬਾਰਾ ਪੈਦਾ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀ ਹੈ ਜੋ ਉਹਨਾਂ ਨੇ ਨਹੀਂ ਬਣਾਈਆਂ।

ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ, ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਓਪਰੇਟਰਾਂ ਨੇ ਇਸਦੇ ਐਨਕ੍ਰਿਪਸ਼ਨ ਨੂੰ ਤੋੜਿਆ ਨਹੀਂ, ਇੱਕ ਡੇਟਾਬੇਸ ਨਾਲ ਸਮਝੌਤਾ ਨਹੀਂ ਕੀਤਾ, ਜਾਂ ਸਟੋਰ ਕੀਤੇ ਉਪਭੋਗਤਾ ਸੰਵਾਦਾਂ ਤੱਕ ਸਿੱਧੀ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਨਹੀਂ ਕੀਤੀ। ਇਸਦੀ ਬਜਾਏ, ਉਹਨਾਂ ਨੇ ਮਾਡਲ ਇੰਟਰੈਕਸ਼ਨਾਂ ਵਿੱਚ ਹੇਰਾਫੇਰੀ ਕੀਤੀ ਤਾਂ ਜੋ ਸੁਰੱਖਿਅਤ ਤਰਕ ਬੇਨਤੀਕਰਤਾ ਨੂੰ ਦਿਖਾਈ ਦੇਣ ਵਾਲੇ ਰੂਪਾਂ ਵਿੱਚ ਦੁਬਾਰਾ ਤਿਆਰ ਕੀਤਾ ਜਾ ਸਕੇ - ਇੱਕ ਰਵਾਇਤੀ ਹੈਕ ਦੀ ਬਜਾਏ ਉਤਪਾਦ ਦਾ ਇੱਕ ਤਾਲਮੇਲ, ਉੱਚ-ਆਵਾਜ਼ ਵਿੱਚ ਦੁਰਵਿਵਹਾਰ।

ਇੱਕ ਤਕਨੀਕ OpenAI ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਇੱਕ ਗੱਲਬਾਤ ਤੋਂ ਐਨਕ੍ਰਿਪਟਡ ਤਰਕ ਦੇ ਟਰੇਸ ਦੀ ਨਕਲ ਕਰਨਾ ਅਤੇ ਫਿਰ ਇੱਕ ਵੱਖਰੀ ਗੱਲਬਾਤ ਵਿੱਚ ਇੱਕ ਮਾਡਲ ਨੂੰ ਲੁਕੀ ਹੋਈ ਤਰਕ ਸਮੱਗਰੀ ਨੂੰ ਡੀਕ੍ਰਿਪਟ ਅਤੇ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ ਕਰਨ ਲਈ ਕਹਿਣਾ ਸ਼ਾਮਲ ਹੈ। ਕੰਪਨੀ ਨੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਹੇਰਾਫੇਰੀ ਇਸ ਦੇ ਆਪਣੇ ਮਾਡਲਾਂ ਲਈ ਵਿਲੱਖਣ ਕਮਜ਼ੋਰੀ ਨਹੀਂ ਹੈ, ਅਤੇ ਕਿਹਾ ਕਿ ਉਸਨੇ ਸਮੂਹਿਕ ਬਚਾਅ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨ ਲਈ ਫਰੰਟੀਅਰ ਮਾਡਲ ਫੋਰਮ ਦੁਆਰਾ ਉਦਯੋਗ ਦੇ ਭਾਈਵਾਲਾਂ ਨਾਲ ਵੇਰਵੇ ਸਾਂਝੇ ਕੀਤੇ ਹਨ।

ਟਾਈਮਲਾਈਨ: ਦੋ ਦਿਨਾਂ ਵਿੱਚ 16,000 ਬੇਨਤੀਆਂ

ਪੋਸਟ ਦੇ ਅਨੁਸਾਰ, ਮੁਹਿੰਮ 1 ਜੁਲਾਈ, 2026 ਨੂੰ ਮੁਕਾਬਲਤਨ ਘੱਟ ਮਾਤਰਾ ਵਿੱਚ ਸ਼ੁਰੂ ਹੋਈ ਸੀ। ਇਹ 24 ਅਤੇ 25 ਜੁਲਾਈ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਵਧਿਆ, ਜਦੋਂ ਓਪਨਏਆਈ ਨੇ 4,000 ਤੋਂ ਵੱਧ ਉਪਭੋਗਤਾਵਾਂ ਤੋਂ ਆਉਣ ਵਾਲੇ ਸੰਬੰਧਿਤ ਐਕਸਟਰੈਕਸ਼ਨ ਪੈਟਰਨ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ 16,000 ਬੇਨਤੀਆਂ ਦੇ ਉੱਚ-ਆਵਾਜ਼ ਵਿੱਚ ਵਾਧਾ ਦੇਖਿਆ। ਪੋਸਟ ਵਿੱਚ ਇੱਕ ਫੁਟਨੋਟ ਸਾਵਧਾਨ ਕਰਦਾ ਹੈ ਕਿ ਇਹ ਅੰਕੜੇ ਕੋਸ਼ਿਸ਼ ਕੀਤੇ ਐਕਸਟਰੈਕਸ਼ਨਾਂ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ - ਜ਼ਰੂਰੀ ਨਹੀਂ ਕਿ ਸਫਲ ਹੋਣ।

ਹੋਰ ਜਾਂਚ ਨੇ 15,000 ਤੋਂ ਵੱਧ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਸਮੂਹ ਵਿੱਚ ਸੰਬੰਧਿਤ ਪ੍ਰੋਂਪਟ-ਪੈਟਰਨ ਗਤੀਵਿਧੀ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ। ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਨੇ 28 ਜੁਲਾਈ, 2026 ਤੱਕ ਮੁਹਿੰਮ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵਿਗਾੜ ਦਿੱਤਾ, ਅਤੇ ਇਹ ਕਿ ਗਤੀਵਿਧੀ ਸਮੇਂ ਦੇ ਨਾਲ ਵਿਕਸਤ ਹੁੰਦੀ ਰਹੀ, ਇਸਦੇ ਵਿਚਾਰ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ​​ਕਰਦੇ ਹੋਏ ਕਿ ਵਿਰੋਧੀ ਡਿਸਟਿਲੇਸ਼ਨ ਨੂੰ ਇੱਕ ਵਾਰ ਦੇ ਫਿਕਸ ਦੀ ਬਜਾਏ ਲੇਅਰਡ, ਅਨੁਕੂਲ ਬਚਾਅ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਮੂਨਸ਼ੌਟ AI ਲਈ ਵਿਸ਼ੇਸ਼ਤਾ ਪੁਆਇੰਟ

ਓਪਨਏਆਈ ਇਸਦੀ ਵਿਸ਼ੇਸ਼ਤਾ ਨਾਲ ਸਾਵਧਾਨ ਹੈ। ਇਹ ਕਹਿੰਦਾ ਹੈ ਕਿ ਇਹ ਅਸਪਸ਼ਟ ਹੈ ਕਿ ਕੀ ਇਸ ਮਿਆਦ ਦੇ ਦੌਰਾਨ ਦੇਖੇ ਗਏ ਸਾਰੇ ਓਪਰੇਟਰ ਇੱਕ ਇੱਕਲੇ ਅਭਿਨੇਤਾ ਤੋਂ ਆਏ ਸਨ, ਪਰ ਇਹ ਕਿਮੀ ਦੇ ਵਿਕਾਸਕਾਰ ਮੂਨਸ਼ੌਟ ਏਆਈ ਨਾਲ ਜੁੜੇ ਵਿਅਕਤੀਆਂ ਨੂੰ ਗਤੀਵਿਧੀ ਦੇ ਇੱਕ ਮੁੱਖ ਸਮੂਹ ਨੂੰ ਵਿਸ਼ੇਸ਼ਤਾ ਦਿੰਦਾ ਹੈ।

ਦਾਅਵਾ ਵੈਕਿਊਮ ਵਿੱਚ ਨਹੀਂ ਆਉਂਦਾ। 8 ਸਤੰਬਰ, 2026 ਨੂੰ, ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਏਜੰਸੀ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਸੁਰੱਖਿਆ ਏਜੰਸੀ, ਅਤੇ ਐਫਬੀਆਈ ਨੇ ਇੱਕ ਸੰਯੁਕਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਲਾਹਕਾਰ ਜਾਰੀ ਕੀਤਾ ਜਿਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਮੂਨਸ਼ੌਟ ਏਆਈ ਨੇ ਘੱਟੋ-ਘੱਟ 2025 ਦੇ ਮੱਧ ਤੋਂ ਯੂ.ਐੱਸ. ਫਰੰਟੀਅਰ ਏਆਈ ਕੰਪਨੀਆਂ ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਵਿਆਪਕ ਡਿਸਟਿਲੇਸ਼ਨ ਮੁਹਿੰਮ ਚਲਾਈ ਹੈ। ਸਲਾਹਕਾਰ ਦੇ ਅਨੁਸਾਰ, ਮੂਨਸ਼ੌਟ ਨੇ ਆਪਣੇ Kimi-K3 ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਮਹੱਤਵਪੂਰਨ ਕਲਾਉਡ ਫੇਬਲ 5 ਡੇਟਾ ਅਤੇ Kimi-K2 ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ GPT-4o ਡੇਟਾ ਨੂੰ ਐਕਸਟਰੈਕਟ ਕੀਤਾ, U.S. ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਨਿਰੀਖਣ ਕੀਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ, ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ, ਸਾਫਟਵੇਅਰ ਇੰਜਨੀਅਰਿੰਗ ਅਤੇ ਗਣਿਤ ਵਿੱਚ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਦੂਰ ਕੀਤਾ।

ਐਡਵਾਈਜ਼ਰੀ ਹੋਰ ਅੱਗੇ ਵਧਦੀ ਹੈ, ਇਹ ਦੱਸਦੀ ਹੈ ਕਿ - ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਚੀਨੀ ਸਰਕਾਰ ਦੀ ਜਾਗਰੂਕਤਾ ਦੇ ਨਾਲ - DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, ਅਤੇ Z.AI ਨੇ ਯੂ.ਐੱਸ. ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਤੋਂ ਲੱਖਾਂ ਐਕਸਚੇਂਜਾਂ ਵਿੱਚ ਸਮੂਹਿਕ ਤੌਰ 'ਤੇ ਅਰਬਾਂ ਟੋਕਨ ਕੱਢੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਕਲੌਡ, GPT, Gemini, ਅਤੇ Grok 2 ਤੋਂ ਘੱਟੋ-ਘੱਟ ਏਜੰਸੀਆਂ ਦੇ ਰੂਪ ਹਨ। ਭੂਗੋਲਿਕ ਪਾਬੰਦੀਆਂ ਅਤੇ ਸੇਵਾ ਦੀਆਂ ਸ਼ਰਤਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਲਈ ਵਰਤੇ ਜਾਂਦੇ "ਟ੍ਰਾਂਸਫਰ ਸਟੇਸ਼ਨ" ਵਜੋਂ ਜਾਣੇ ਜਾਂਦੇ API ਪ੍ਰੌਕਸੀਜ਼ ਦੇ ਨਾਲ ਹੀ ਨੇਟਿਵ API, ਰਿਮੋਟ ਕਲਾਉਡ ਪ੍ਰਦਾਤਾ, ਅਤੇ ਤੀਜੀ-ਧਿਰ ਐਗਰੀਗੇਟਰਾਂ ਦੀ ਪਾਈਪਲਾਈਨ। ਲਾਗਤ ਬਚਤ ਕਥਿਤ ਤੌਰ 'ਤੇ ਡਿਵੈਲਪਰ ਟੀਮਾਂ ਵਿੱਚ ਸਾਂਝੇ ਕੀਤੇ ਪ੍ਰੀਮੀਅਮ ਗਾਹਕੀਆਂ ਦੀ ਥੋਕ ਖਰੀਦ ਤੋਂ ਆਈ ਹੈ।

ਤਰਕ ਦੇ ਨਿਸ਼ਾਨ ਕਿਉਂ ਚੋਰੀ ਕਰਨ ਯੋਗ ਹਨ

ਸੁਰੱਖਿਆ ਚਿੰਤਾ ਮੁਕਾਬਲੇ ਦੇ ਫਾਇਦੇ ਤੋਂ ਪਰੇ ਹੈ। ਓਪਨਏਆਈ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਮੂਲ ਮਾਡਲ ਦੇ ਉਪਭੋਗਤਾ-ਸਾਹਮਣੇ ਵਾਲੇ ਆਉਟਪੁੱਟਾਂ 'ਤੇ ਲਾਗੂ ਕੀਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕੀਤੇ ਬਿਨਾਂ ਕੱਢੇ ਗਏ ਤਰਕ ਦੀ ਵਰਤੋਂ ਕਿਸੇ ਹੋਰ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ - ਮਤਲਬ ਕਿ ਪੈਮਾਨੇ 'ਤੇ ਡਿਸਟਿਲੇਸ਼ਨ ਸੁਰੱਖਿਆ ਵਿੱਚ ਅਨੁਸਾਰੀ ਨਿਵੇਸ਼ ਦੇ ਬਿਨਾਂ ਉੱਨਤ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਟ੍ਰਾਂਸਫਰ ਕਰ ਸਕਦਾ ਹੈ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਜੋਖਮ ਵਧਦੇ ਹਨ ਕਿਉਂਕਿ ਮਾਡਲ ਦੋਹਰੇ-ਵਰਤੋਂ ਵਾਲੇ ਡੋਮੇਨਾਂ ਵਿੱਚ ਯੋਗਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ।

ਸੁਤੰਤਰ ਖੋਜਕਰਤਾ ਵੀ ਇਹੀ ਅਲਾਰਮ ਵੱਜ ਰਹੇ ਹਨ। 10 ਅਗਸਤ, 2026 ਨੂੰ arXiv ਨੂੰ ਸੌਂਪੇ ਗਏ ਇੱਕ ਪੇਪਰ ਵਿੱਚ, ਅਲੈਗਜ਼ੈਂਡਰ ਪੈਨਫਿਲੋਵ, ਇਲੀਆ ਸ਼ੁਮੇਲੋਵ, ਅਤੇ ਮੈਕਸਿਮ ਐਂਡਰੀਉਸ਼ਚੇਂਕੋ ਸਮੇਤ ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਇੱਕ ਸਮੂਹ ਨੇ ਰਿਪੋਰਟ ਦਿੱਤੀ ਕਿ ਪ੍ਰਮੁੱਖ ਪ੍ਰਦਾਤਾ ਆਪਣੇ ਮਾਡਲਾਂ ਦੇ ਤਰਕ ਦੇ ਨਿਸ਼ਾਨਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਹੀਂ ਛੁਪਾਉਂਦੇ, ਅਤੇ ਜ਼ਿੰਮੇਵਾਰ ਖੁਲਾਸੇ ਦੁਆਰਾ ਸੰਬੰਧਿਤ ਕਰਾਸ-ਮਾਡਲ ਅਤੇ ਗੱਲਬਾਤ-ਸੰਕੁਚਿਤ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦੇ ਹਨ। ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਸਨੇ ਉਹਨਾਂ ਖੋਜਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਹਮਲੇ ਦੇ ਰਸਤੇ ਅਸਲ ਸਨ, ਅਤੇ ਇਸਦੀ ਕਮੀ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਲਈ ਕੰਮ ਦੀ ਵਰਤੋਂ ਕੀਤੀ।

ਅੱਗੇ ਕੀ ਆ

ਓਪਨਏਆਈ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਨੇ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਮੁਹਿੰਮ ਦੇ ਦਾਇਰੇ ਅਤੇ ਸੰਭਾਵੀ ਪ੍ਰਭਾਵ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਇਸ ਦੀਆਂ ਆਪਣੀਆਂ ਕਮੀਆਂ ਨੂੰ ਤੈਨਾਤ ਕੀਤਾ, ਅਤੇ ਫੀਡਬੈਕ ਲਈ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਉਦਯੋਗਿਕ ਭਾਈਵਾਲਾਂ ਨਾਲ ਆਪਣੀਆਂ ਖੋਜਾਂ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ। ਅਤਿਰਿਕਤ ਕਮੀ ਅਤੇ ਜਾਂਚ ਦਾ ਕੰਮ ਜਾਰੀ ਹੈ, ਅਤੇ ਕੰਪਨੀ ਇੱਕ ਘਟਨਾ ਦੀ ਬਜਾਏ ਪੂਰੇ ਫਰੰਟੀਅਰ-ਲੈਬ ਈਕੋਸਿਸਟਮ ਲਈ ਇੱਕ ਵਿਆਪਕ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀ ਵਜੋਂ ਵਿਰੋਧੀ ਡਿਸਟਿਲੇਸ਼ਨ ਨੂੰ ਫਰੇਮ ਕਰਦੀ ਹੈ।

ਐਪੀਸੋਡ ਇੱਕ ਚੱਲ ਰਹੀ ਨੀਤੀ ਬਹਿਸ ਨੂੰ ਵੀ ਤਿੱਖਾ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਯੂ.ਐਸ. ਏਜੰਸੀਆਂ ਰਸਮੀ ਤੌਰ 'ਤੇ ਡਿਸਟਿਲੇਸ਼ਨ ਮੁਹਿੰਮਾਂ ਨੂੰ ਚੀਨੀ ਲੈਬਾਂ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾ ਰਹੀਆਂ ਹਨ, ਤਾਂ API ਪਹੁੰਚ 'ਤੇ ਸਖ਼ਤ ਨਿਯੰਤਰਣ, ਵਧੇਰੇ ਹਮਲਾਵਰ ਦਰ-ਸੀਮਤ ਅਤੇ ਪਛਾਣ ਜਾਂਚਾਂ, ਅਤੇ ਐਗਰੀਗੇਟਰ ਅਤੇ ਪ੍ਰੌਕਸੀ ਬਾਜ਼ਾਰਾਂ 'ਤੇ ਲਗਾਤਾਰ ਦਬਾਅ ਦੀ ਉਮੀਦ ਕਰੋ ਜੋ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਦੁਰਵਿਵਹਾਰ ਨੂੰ ਛੁਪਾਉਣਾ ਆਸਾਨ ਬਣਾਉਂਦੇ ਹਨ। ਪੈਸੀਫਿਕ ਦੇ ਦੋਵੇਂ ਪਾਸੇ ਏਆਈ ਕੰਪਨੀਆਂ ਲਈ, ਤਰਕ ਦੀ ਪਰਤ ਹੁਣ ਇੱਕ ਮੁਕਾਬਲੇ ਵਾਲੀ ਸੰਪੱਤੀ ਹੈ - ਅਤੇ ਇਸਦੀ ਸੁਰੱਖਿਆ ਕਰਨਾ ਇਸਦਾ ਆਪਣਾ ਸੁਰੱਖਿਆ ਅਨੁਸ਼ਾਸਨ ਬਣ ਗਿਆ ਹੈ।

---

AI ਤੋਂ ਅੱਗੇ ਰਹੋ

ਨਵੀਨਤਮ AI ਖਬਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਫਲਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰੋ - ਸਭ ਇੱਕ ਥਾਂ 'ਤੇ।

ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →