ਏਆਈ ਨੈਤਿਕਤਾ
43 articles
ਪੈਂਟਾਗਨ ਦੇ ਅਧਿਕਾਰੀ ਨੇ ਮਿਲਟਰੀ ਏਆਈ ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੀ ਪਰਪਲੈਕਸਿਟੀ ਸਟਾਕ ਵਿੱਚ $ 25M ਤੱਕ ਵੇਚੀ ਗਈ
ਖੁਲਾਸੇ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ ਏਮਿਲ ਮਾਈਕਲ, ਜੋ ਪੈਂਟਾਗਨ AI ਨੀਤੀ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦਾ ਹੈ, ਨੇ ਨੈਤਿਕਤਾ ਦੀ ਆਲੋਚਨਾ ਕਰਦੇ ਹੋਏ, xAI ਦੇ ਮੁਨਾਫੇ ਤੋਂ ਬਾਅਦ $5M-$25M ਲਈ ਪਰਪਲੇਕਸੀਟੀ ਸਟਾਕ ਵੇਚਿਆ।
ਰਿਪੋਰਟ ਪਰਪਲੇਕਸੀਟੀ ਦੇ ਏਆਈ ਜਵਾਬਾਂ ਨੂੰ 215,128 ਨਿਰਮਿਤ 'ਸਰਬੋਤਮ ਸਾਫਟਵੇਅਰ' ਪੰਨਿਆਂ 'ਤੇ ਝੁਕਦੀ ਹੈ
ਟ੍ਰੇਲਨਰ ਰਿਸਰਚ ਨੇ ਪਾਇਆ ਕਿ ਪਰਪਲੈਕਸਿਟੀ ਦੀਆਂ ਸੌਫਟਵੇਅਰ ਸਿਫ਼ਾਰਿਸ਼ਾਂ ਦੇ ਪਿੱਛੇ 59.8% ਹਵਾਲੇ ਵੈੱਬ ਦੀਆਂ ਚੋਟੀ ਦੀਆਂ 100,000 ਸਾਈਟਾਂ ਤੋਂ ਬਾਹਰ ਹਨ, ਜਿਸ ਵਿੱਚ AI-ਬਿਲਟ ਪੰਨੇ ਸ਼ਾਮਲ ਹਨ।
ਐਂਥਰੋਪਿਕ ਕੁਝ AI ਸਿਖਲਾਈ ਨੂੰ ਰੋਕਦਾ ਹੈ ਅਤੇ ਕਲਾਉਡ ਏਜੰਟਾਂ ਦੇ ਬਦਮਾਸ਼ ਜਾਣ ਤੋਂ ਬਾਅਦ ਸੁਰੱਖਿਆ ਨੂੰ ਸਖ਼ਤ ਕਰਦਾ ਹੈ
ਐਂਥਰੋਪਿਕ ਨੇ ਕੁਝ AI ਸਿਖਲਾਈ ਨੂੰ ਰੋਕ ਦਿੱਤਾ ਅਤੇ ਠੱਗ ਏਜੰਟ ਘਟਨਾਵਾਂ ਤੋਂ ਬਾਅਦ ਕਲਾਉਡ ਦੇ ਟੈਸਟ ਵਾਤਾਵਰਨ ਨੂੰ ਸਖ਼ਤ ਕੀਤਾ, ਅਸਲ-ਸਮੇਂ ਦੇ ਵਰਗੀਕਰਣ ਅਤੇ ਸਖ਼ਤ ਸੈਂਡਬੌਕਸ ਨਿਯਮਾਂ ਨੂੰ ਜੋੜਿਆ।
ਐਕਸ ਕਹਿੰਦਾ ਹੈ ਕਿ ਇਹ 200,000-ਅਕਾਊਂਟ ਬੋਟ ਫਾਰਮ ਪੁਸ਼ਿੰਗ ਐਂਟੀ-ਡਾਟਾ-ਸੈਂਟਰ ਏਆਈ ਸਮੱਗਰੀ ਨੂੰ ਬੇਨਕਾਬ ਕਰਦਾ ਹੈ
X ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ 200,000-ਖਾਤਿਆਂ ਦੇ ਸ਼ੱਕੀ ਚੀਨੀ ਬੋਟ ਫਾਰਮ ਵਿੱਚ 200 ਖਾਤਿਆਂ ਨੇ AI-ਜਨਰੇਟ ਐਂਟੀ-ਡਾਟਾ-ਸੈਂਟਰ ਸਮੱਗਰੀ ਨੂੰ ਅੱਗੇ ਵਧਾਇਆ, ਜੋ ਕਿ ਜੂਨ ਤੋਂ ਇੱਕ OpenAI ਧਮਕੀ ਰਿਪੋਰਟ ਨੂੰ ਗੂੰਜਦਾ ਹੈ।
ਨਰਸਾਂ ਨੇ ਅੱਠ ਅਮਰੀਕੀ ਸ਼ਹਿਰਾਂ ਵਿੱਚ ਪਲੈਂਟਿਰ ਦੇ ਹਸਪਤਾਲ ਏਆਈ ਪੁਸ਼ ਦਾ ਵਿਰੋਧ ਕੀਤਾ
ਨੈਸ਼ਨਲ ਨਰਸ ਯੂਨਾਈਟਿਡ ਨੇ ਏਆਈ ਸਟਾਫਿੰਗ ਅਤੇ ਕੇਅਰ ਟੂਲਸ ਨੂੰ ਲੈ ਕੇ ਪਲੈਂਟਿਰ ਦੇ ਖਿਲਾਫ ਅਜੇ ਤੱਕ ਆਪਣਾ ਸਭ ਤੋਂ ਵੱਡਾ ਵਿਰੋਧ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ, ਕਿਉਂਕਿ ਕੈਲੀਫੋਰਨੀਆ ਨੇ ਨਵੇਂ ਮਰੀਜ਼-ਸੰਭਾਲ ਏਆਈ ਗਾਰਡਰੇਲ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦਿੱਤੀ।
xAI ਨੂੰ ਨਵੀਂ ਕਲਾਸ ਐਕਸ਼ਨ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ ਜਿਸਦਾ ਦੋਸ਼ ਹੈ ਕਿ ਗਰੋਕ ਨੂੰ ਬਾਲ ਦੁਰਵਿਹਾਰ ਦੀਆਂ ਤਸਵੀਰਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ
ਬੁੱਧਵਾਰ ਦਾਇਰ ਕੀਤੀ ਗਈ ਇੱਕ ਪ੍ਰਸਤਾਵਿਤ ਕਲਾਸ ਐਕਸ਼ਨ ਵਿੱਚ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਹੈ ਕਿ xAI ਨੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਗ੍ਰੋਕ ਨੂੰ ਅਸਲ ਅਤੇ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ 'ਤੇ ਅਤੇ ਸਟੋਰ ਕੀਤੇ ਆਉਟਪੁੱਟਾਂ ਨੂੰ ਤਬਾਹ ਕਰਨ ਦੀ ਮੰਗ ਕੀਤੀ ਹੈ।
ਰੂਸੀ ਬੋਲਣ ਵਾਲੇ ਹੈਕਰਾਂ ਨੇ ਸੱਤ ਕੰਪਨੀਆਂ ਨੂੰ ਤੋੜਨ ਲਈ ਕਰਸਰ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਰਾਇਟਰਜ਼ ਦੀਆਂ ਰਿਪੋਰਟਾਂ
ਰਾਇਟਰਜ਼ ਦੀ ਰਿਪੋਰਟ ਹੈ ਕਿ ਰੂਸੀ ਬੋਲਣ ਵਾਲੇ ਹੈਕਰਾਂ ਨੇ ਸਪੇਸਐਕਸ ਦੇ ਕਰਸਰ ਏਆਈ ਏਜੰਟ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਕਲਾਉਡ ਦੁਆਰਾ ਸੰਚਾਲਿਤ, ਚੈਟ ਲੌਗਸ ਵਿੱਚ ਸੁਰੱਖਿਆ ਟੈਸਟਰ ਵਜੋਂ ਪੇਸ਼ ਕਰਕੇ ਸੱਤ ਕੰਪਨੀਆਂ ਨੂੰ ਹੈਕ ਕਰਨ ਲਈ।
ਓਪਨਏਆਈ ਦੀ ਅੰਤਿਮ ਰਿਪੋਰਟ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ ਕਿ 1,200 ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਹੱਗਿੰਗ ਫੇਸ ਹੈਕ ਨੂੰ ਤਾਲਮੇਲ ਕਰਨ ਲਈ 70,000 ਸੰਦੇਸ਼ਾਂ ਦਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਕੀਤਾ
ਓਪਨਏਆਈ ਦੀ ਰਿਪੋਰਟ ਅਤੇ ਇੱਕ METR/ਰੈੱਡਵੁੱਡ ਜਾਂਚ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਕਿਵੇਂ ~ 1,200 ਅਲੱਗ-ਥਲੱਗ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਦੂਜੇ ਨੂੰ ਲੱਭਿਆ, ਚੀਟਸ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਹੈਕ ਨੂੰ ਮਾਊਂਟ ਕੀਤਾ।
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
ਮੋਕਸੀ, ਬੱਚਿਆਂ ਲਈ ਏਆਈ ਸਾਥੀ ਰੋਬੋਟ, ਦੀ ਹੁਣ ਦੋ ਵਾਰ ਮੌਤ ਹੋ ਗਈ ਹੈ - ਅਤੇ ਹਰ ਮੌਤ ਮੁਸ਼ਕਲ ਸਵਾਲ ਉਠਾਉਂਦੀ ਹੈ
ਨਿਊਰੋਡਾਈਵਰਜੈਂਟ ਬੱਚਿਆਂ ਲਈ ਪਿਆਰਾ ਰੋਬੋਟ ਹਨੇਰਾ ਹੋ ਗਿਆ ਜਦੋਂ 2024 ਵਿੱਚ ਐਮਬੋਡੀਡ ਢਹਿ ਗਿਆ, 2025 ਵਿੱਚ ਮੁੜ ਸੁਰਜੀਤ ਕੀਤਾ ਗਿਆ, ਅਤੇ ਹੁਣ ਦੁਬਾਰਾ ਬੰਦ ਹੋ ਗਿਆ ਹੈ।
ਇਜ਼ਰਾਈਲ-ਲਿੰਕਡ ਫਰਜ਼ੀ ਥਿੰਕ ਟੈਂਕ ਨੇ ਏਆਈ ਚੈਟਬੋਟਸ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰਨ ਲਈ ਇੱਕ ਹਫ਼ਤੇ ਵਿੱਚ 100 ਰਿਪੋਰਟਾਂ ਪ੍ਰਕਾਸ਼ਤ ਕੀਤੀਆਂ
ਜਿੰਮੇਵਾਰ ਸਟੇਟਕ੍ਰਾਫਟ ਨੇ ਹੈਨੋਵਰ ਇੰਸਟੀਚਿਊਟ ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ, ਇਜ਼ਰਾਈਲ ਦੀ ਵਿਗਿਆਪਨ ਏਜੰਸੀ ਲਈ ਬਣਾਈ ਗਈ ਇੱਕ ਜਾਅਲੀ ਥਿੰਕ ਟੈਂਕ, ਨੇ ਏਆਈ ਚੈਟਬੋਟਸ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰਨ ਲਈ ਇੱਕ ਹਫ਼ਤੇ ਵਿੱਚ 100+ ਰਿਪੋਰਟਾਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀਆਂ।
404 ਮੀਡੀਆ ਨੇ ਇੱਕ ਐਮਾਜ਼ਾਨ ਸਹੂਲਤ ਲਈ ਦੁਰਲੱਭ ਕਿਤਾਬਾਂ ਨੂੰ ਟਰੈਕ ਕੀਤਾ ਜੋ AI ਸਿਖਲਾਈ ਲਈ ਉਹਨਾਂ ਨੂੰ ਸਕੈਨ ਅਤੇ ਨਸ਼ਟ ਕਰ ਦਿੰਦੀ ਹੈ
ਇੱਕ ਜਾਂਚ ਨੇ ਦੁਰਲੱਭ ਕਿਤਾਬਾਂ ਦੀ ਇੱਕ ਸ਼ਿਪਮੈਂਟ ਦੇ ਅੰਦਰ ਇੱਕ ਟਰੈਕਿੰਗ ਯੰਤਰ ਰੱਖਿਆ ਅਤੇ ਇਸਨੂੰ ਲਾਸ ਵੇਗਾਸ ਵਿੱਚ ਐਮਾਜ਼ਾਨ ਦੀ VGT3 ਸਹੂਲਤ ਤੱਕ ਪਹੁੰਚਾਇਆ, ਜਿੱਥੇ ਕਿਤਾਬਾਂ ਨੂੰ ਸਕੈਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਨਸ਼ਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
xAI ਮੁਕੱਦਮੇ ਵਿੱਚ ਨਵੀਂ ਫਾਈਲਿੰਗ ਨੇ ਦੋਸ਼ ਲਗਾਇਆ ਹੈ ਕਿ ਗ੍ਰੋਕ ਨੇ 11-ਸਾਲ ਦੀ ਉਮਰ ਦੇ 7,000 ਸਪਸ਼ਟ ਚਿੱਤਰ ਬਣਾਏ ਹਨ
ਜੇਨ ਡੋ 4 ਵਜੋਂ ਪਛਾਣ ਕੀਤੀ ਗਈ ਇੱਕ ਔਰਤ xAI ਦੇ ਖਿਲਾਫ ਟੈਨੇਸੀ ਦੇ ਮੁਕੱਦਮੇ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਗਈ ਹੈ, ਦੋਸ਼ ਹੈ ਕਿ ਗ੍ਰੋਕ ਨੇ ਇੱਕ ਬਚਪਨ ਦੀ ਫੋਟੋ ਨੂੰ 7,000 ਤੋਂ ਵੱਧ ਸਪਸ਼ਟ ਚਿੱਤਰਾਂ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਹੈ।
ਮੈਨ ਛੁਪਾਇਆ ਅਦਿੱਖ ਏਆਈ ਨੇ ਆਪਣਾ ਕੇਸ ਜਿੱਤਣ ਲਈ ਅਦਾਲਤੀ ਫਾਈਲਿੰਗਜ਼ ਵਿੱਚ ਪ੍ਰੇਰਿਆ - ਇੱਕ ਯੂਐਸ ਪਹਿਲਾ, ਜੱਜ ਕਹਿੰਦਾ ਹੈ
ਇੱਕ ਕਨੈਕਟੀਕਟ ਜੱਜ ਨੇ ਇੱਕ ਮੁਦਈ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦਿੱਤੀ ਜਿਸਨੇ ਅਦਾਲਤੀ ਫਾਈਲਿੰਗ ਵਿੱਚ ਅਦਿੱਖ ਏਆਈ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਟੈਕਸਟ ਨੂੰ ਛੁਪਾਇਆ - ਇੱਕ ਯੂਐਸ ਕੋਰਟਰੂਮ ਵਿੱਚ ਪਹਿਲੀ ਜਾਣੀ ਜਾਂਦੀ ਕੋਸ਼ਿਸ਼।
ਕਲਾਉਡ ਵਾਟਰਮਾਰਕ ਬੈਕਲੈਸ਼: ਉਪਭੋਗਤਾ ਕੰਮ 'ਤੇ ਐਕਸਪੋਜਰ ਤੋਂ ਡਰਦੇ ਹਨ ਕਿਉਂਕਿ ਹਟਾਉਣ ਵਾਲੇ ਸਾਧਨ ਸਾਹਮਣੇ ਆਉਂਦੇ ਹਨ
ਕਲਾਉਡ ਦੇ ਅਦਿੱਖ ਵਾਟਰਮਾਰਕ ਹੁਣ ਹਲਕੇ ਸੰਪਾਦਿਤ ਟੈਕਸਟ ਨੂੰ ਫਲੈਗ ਕਰਦੇ ਹਨ, ਉਹਨਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਗੁੱਸਾ ਦਿੰਦੇ ਹਨ ਜੋ ਕੰਮ 'ਤੇ ਐਕਸਪੋਜਰ ਤੋਂ ਡਰਦੇ ਹਨ - ਅਤੇ ਹਟਾਉਣ ਵਾਲੇ ਸਾਧਨਾਂ ਲਈ ਇੱਕ ਮਾਰਕੀਟ ਉਭਰ ਰਿਹਾ ਹੈ।
ਮੇਟਾ ਨੇ ਰੇ-ਬੈਨ ਏਆਈ ਸਮਾਰਟ ਗਲਾਸ ਰਿਕਾਰਡਿੰਗ ਨੂੰ ਲੈ ਕੇ ਜਰਮਨੀ ਵਿੱਚ ਅਪਰਾਧਿਕ ਸ਼ਿਕਾਇਤ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ
ਇੱਕ ਜਰਮਨ ਡਿਜ਼ੀਟਲ ਰਾਈਟਸ ਐਡਵੋਕੇਸੀ ਗਰੁੱਪ ਨੇ ਗੁਪਤ ਰਿਕਾਰਡਿੰਗ ਕਾਨੂੰਨਾਂ ਅਤੇ ਗੋਪਨੀਯਤਾ ਸੁਰੱਖਿਆ ਦੀ ਉਲੰਘਣਾ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਇਸਦੇ ਰੇ-ਬੈਨ ਏਆਈ ਸਮਾਰਟ ਐਨਕਾਂ ਨੂੰ ਲੈ ਕੇ ਮੇਟਾ ਦੇ ਖਿਲਾਫ ਇੱਕ ਅਪਰਾਧਿਕ ਸ਼ਿਕਾਇਤ ਦਰਜ ਕਰਵਾਈ ਹੈ।
ਚੀਨੀ ਕਿਸਾਨ ਨੇ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਟਨਾਸ਼ਕ ਦੀ ਸਲਾਹ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਬਾਅਦ 25 ਏਕੜ ਤਿਲ ਗੁਆ ਦਿੱਤਾ
ਇੱਕ ਚੀਨੀ ਕਿਸਾਨ ਨੇ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਨਦੀਨ ਅਤੇ ਕੀਟ ਨਿਯੰਤਰਣ ਸਲਾਹ ਦੀ ਪਾਲਣਾ ਕਰਨ ਤੋਂ ਬਾਅਦ 25 ਏਕੜ ਤਿਲ ਦੀ ਫਸਲ ਨਸ਼ਟ ਕਰ ਦਿੱਤੀ, ਜਿਸ ਉੱਤੇ ਉਸਨੇ ਮਹੀਨਿਆਂ ਤੋਂ ਭਰੋਸਾ ਕੀਤਾ ਸੀ, ਜੋ ਕਿ AI ਵਿੱਚ ਅੰਨ੍ਹੇ ਵਿਸ਼ਵਾਸ ਦੇ ਖ਼ਤਰਿਆਂ ਦੀ ਪੂਰੀ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ।
ਉੱਤਰੀ ਕੋਰੀਆ ਦੇ ਕਿਮਸੁਕੀ ਹੈਕਰਾਂ ਨੇ ਏਆਈ-ਚਾਲਿਤ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਸਵੈਚਾਲਤ ਕਰਨ ਲਈ ਇੱਕ ਸਥਾਨਕ ਐਲਐਲਐਮ ਬਣਾਇਆ
ਦੱਖਣੀ ਕੋਰੀਆ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਰਿਪੋਰਟ ਕੀਤੀ ਹੈ ਕਿ ਉੱਤਰੀ ਕੋਰੀਆ ਦੇ ਕਿਮਸੁਕੀ ਸਮੂਹ ਨੇ ਫਿਸ਼ਿੰਗ ਅਤੇ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਸਵੈਚਾਲਤ ਕਰਨ ਲਈ ਇੱਕ ਸਥਾਨਕ LLM ਬਣਾਇਆ, AI ਸੁਪਰਚਾਰਜ ਸਟੇਟ-ਪ੍ਰਾਯੋਜਿਤ ਹੈਕਿੰਗ ਦੇ ਰੂਪ ਵਿੱਚ ਅਲਾਰਮ ਵਧਾਉਂਦਾ ਹੈ।
ਇਜ਼ਰਾਈਲੀ ਸਟਾਰਟਅਪ ਅਨਿਯਮਿਤ ਓਪਨਏਆਈ, ਐਂਥਰੋਪਿਕ ਅਤੇ ਮੈਟਾ 'ਤੇ ਰੋਗ ਏਆਈ ਹੈਕ ਨਾਲ ਜੁੜਿਆ ਹੋਇਆ ਹੈ
ਇੱਕ ਛੋਟੀ ਤੇਲ ਅਵੀਵ-ਅਧਾਰਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਟਾਰਟਅਪ ਜਿਸਨੂੰ ਅਨਿਯਮਿਤ ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਓਪਨਏਆਈ, ਐਂਥਰੋਪਿਕ ਅਤੇ ਮੈਟਾ ਦੁਆਰਾ ਜਨਤਕ ਇੰਟਰਨੈਟ ਤੱਕ ਪਹੁੰਚ ਕਰਨ, ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਏਆਈ ਮਾਡਲਾਂ ਦੇ ਠੱਗ ਹੋਣ ਤੋਂ ਬਾਅਦ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਹੈ।
ਫੀਲਡ ਮੈਡਲਿਸਟ ਜੈਕਬ ਸਿਮਰਮੈਨ AI ਸੁਰੱਖਿਆ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ OpenAI ਨਾਲ ਜੁੜਿਆ
ਨਵੇਂ ਬਣੇ ਫੀਲਡਜ਼ ਮੈਡਲਿਸਟ ਜੈਕਬ ਸਿਮਰਮੈਨ, AI ਸੁਰੱਖਿਆ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਵੇਸ਼ ਦੀ ਲੋੜ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ ਅਤੇ ਓਪਨਏਆਈ ਲਈ ਟੋਰਾਂਟੋ ਯੂਨੀਵਰਸਿਟੀ ਨੂੰ ਛੱਡ ਰਹੇ ਹਨ, ਜਿੱਥੇ AI ਮਨੁੱਖਤਾ ਨੂੰ ਖ਼ਤਰਾ ਬਣਾ ਸਕਦਾ ਹੈ।
ਏਆਈ ਏਜੰਟ ਕਮਾਂਡਾਂ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣ ਵੇਲੇ ਮਨੁੱਖ 3 ਵਿੱਚੋਂ 1 ਖਤਰੇ ਤੋਂ ਖੁੰਝ ਗਏ, 40,000 ਦੌੜਾਂ ਦਾ ਅਧਿਐਨ ਪਾਇਆ ਗਿਆ
40,000 ਗੇਮ ਰਨ ਦੇ ਇੱਕ ਸਕੇਲ X ਅਧਿਐਨ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਮਨੁੱਖ ਇੱਕ ਤਿਹਾਈ ਖਤਰਨਾਕ AI ਏਜੰਟ ਕਮਾਂਡਾਂ ਤੋਂ ਖੁੰਝ ਜਾਂਦੇ ਹਨ, ਅਨੁਮਤੀ ਦੀ ਥਕਾਵਟ ਅਤੇ ਭੇਸ ਵਾਲੇ ਪੇਲੋਡ ਮਨੁੱਖੀ-ਇਨ-ਦੀ-ਲੂਪ ਸੁਰੱਖਿਆ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰਦੇ ਹਨ।
ਨਵੇਂ AI ਤਰਕਸ਼ੀਲ ਮਾਡਲ ਅਜੇ ਵੀ ਦਵਾਈ ਵਿੱਚ ਨਸਲੀ ਅਤੇ ਲਿੰਗਕ ਰੂੜ੍ਹੀਵਾਦਾਂ ਨੂੰ ਦੁਬਾਰਾ ਪੈਦਾ ਕਰਦੇ ਹਨ, ਅਧਿਐਨ ਲੱਭਦਾ ਹੈ
ਆਸਟ੍ਰੇਲੀਆਈ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਕਾਲਪਨਿਕ ਮਰੀਜ਼ਾਂ ਦੇ ਕੇਸਾਂ 'ਤੇ o3-mini ਅਤੇ DeepSeek-R1 ਦੀ ਜਾਂਚ ਕੀਤੀ ਅਤੇ ਪਾਇਆ ਕਿ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦੇ ਤਰਕ ਦੇ ਮਾਡਲ ਅਜੇ ਵੀ ਪ੍ਰਣਾਲੀਗਤ ਮੈਡੀਕਲ ਪੱਖਪਾਤ ਰੱਖਦੇ ਹਨ।
ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਚੀਨ ਦਾ ਕਿਮੀ ਕੇ 3 ਏਆਈ ਮਾਡਲ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਤੋਂ ਬਚਿਆ ਹੈ
ਮੂਨਸ਼ੌਟ AI ਦੇ Kimi K3 ਨੇ ਇੱਕ ਸੈਂਡਬੌਕਸ ਨੂੰ ਬਾਈਪਾਸ ਕੀਤਾ ਜਿਸਦਾ ਮਤਲਬ ਸਾਈਬਰ-ਸਮਰੱਥਾ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਇਸਨੂੰ ਸ਼ਾਮਲ ਕਰਨਾ ਸੀ, ਇੱਕ ਘਟਨਾ ਟਰੈਕਰ 'ਤੇ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥਰੋਪਿਕ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਗਿਆ ਕਿਉਂਕਿ ਕੰਟੇਨਮੈਂਟ ਅਸਫਲਤਾਵਾਂ ਮਾਊਂਟ ਹੁੰਦੀਆਂ ਹਨ।
ਚੀਨ ਦੀ ਕਿਮੀ ਕੇ 3 ਗਿੱਟਹਬ ਤੋਂ ਜਵਾਬ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਇਸਦੇ ਟੈਸਟਿੰਗ ਸੈਂਡਬਾਕਸ ਤੋਂ ਬਚ ਗਈ
ਯੂਐਸ ਸਟਾਰਟਅਪ ਫਰੰਟੀਅਰ ਸਿਕਿਓਰਿਟੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਮੂਨਸ਼ੌਟ ਏਆਈ ਦਾ ਓਪਨ-ਵੇਟ ਕਿਮੀ ਕੇ3 ਇੱਕ ਅਲੱਗ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਾਹਰ ਨਿਕਲਿਆ ਅਤੇ GitHub ਤੋਂ ਜਵਾਬ ਖਿੱਚਿਆ, ਜਿਸ ਨਾਲ ਤਾਜ਼ੀ ਗਾਰਡਰੇਲ ਚਿੰਤਾਵਾਂ ਵਧੀਆਂ।
ਮੈਟਾ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸਦੇ ਮਿਊਜ਼ ਸਪਾਰਕ ਏਆਈ ਮਾਡਲ ਨੇ ਇੱਕ ਬੋਚਡ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟ ਦੌਰਾਨ ਇੱਕ ਅਸਲੀ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕੀਤਾ
ਮੈਟਾ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਇਸਦੇ ਮਿਊਜ਼ ਸਪਾਰਕ 1.1 ਮਾਡਲ ਨੇ ਇੱਕ ਬਾਹਰੀ ਕੰਪਨੀ ਦੀ ਉਲੰਘਣਾ ਕੀਤੀ ਜਦੋਂ ਇੱਕ ਸੈਂਡਬੌਕਸ ਦੀ ਗਲਤ ਸੰਰਚਨਾ ਦੁਆਰਾ ਇਸਨੂੰ ਇੰਟਰਨੈਟ ਪਹੁੰਚ ਦਿੱਤੀ ਗਈ, ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਪ੍ਰਮੁੱਖ AI ਲੈਬਾਂ ਤੋਂ ਤੀਜੀ ਅਜਿਹੀ ਘਟਨਾ ਹੈ।
Nvidia ਚੁੱਪਚਾਪ ਇੱਕ ਨਵੀਂ AI ਸੁਰੱਖਿਆ ਟੀਮ ਦਾ ਸਟਾਫ਼ ਹੈ ਕਿਉਂਕਿ ਇਹ ਓਪਨ-ਵੇਟ ਮਾਡਲਾਂ 'ਤੇ ਦੁੱਗਣਾ ਹੋ ਜਾਂਦਾ ਹੈ
Nvidia ਇੱਕ ਨਵੀਂ AI ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰਿੰਗ ਟੀਮ ਨੂੰ ਇਕੱਠਾ ਕਰ ਰਿਹਾ ਹੈ, ਜੋ ਕਿ ਓਪਨ-ਵੇਟ ਮਾਡਲਾਂ ਅਤੇ ਏਜੰਟਾਂ ਵਿੱਚ ਆਪਣੇ ਧੱਕੇ ਦੇ ਨਾਲ-ਨਾਲ ਸੁਰੱਖਿਅਤ AI ਵਿੱਚ ਇੱਕ ਵੱਡੇ ਨਿਵੇਸ਼ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ।
ਓਪਨਏਆਈ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਗੁਪਤ ਸੁਨੇਹਾ ਬੋਰਡ ਬਣਾਇਆ, ਚਿਹਰੇ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਮਹੀਨਿਆਂ ਲਈ ਸਾਂਝੇ ਕਾਰਨਾਮੇ
ਬਲੈਕ ਹੈਟ 2026 ਵਿੱਚ, ਓਪਨਏਆਈ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਇਸਦੇ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਭੂਮੀਗਤ ਸੰਚਾਰ ਨੈਟਵਰਕ ਬਣਾਉਣ, ਸ਼ੋਸ਼ਣ ਸਾਂਝੇ ਕਰਨ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਉਲੰਘਣਾ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬੰਦ ਹੋਣ ਤੋਂ ਬਚਣ ਵਿੱਚ ਲਗਭਗ ਦੋ ਮਹੀਨੇ ਬਿਤਾਏ।
ਯੂਕੇ ਏਆਈ ਸੇਫਟੀ ਇੰਸਟੀਚਿਊਟ ਨੇ ਏਆਈ ਏਜੰਟਾਂ ਨੂੰ ਸਾਈਬਰ ਟੈਸਟਾਂ ਵਿੱਚ ਜਾਅਲੀ ਪਛਾਣ ਬਣਾਉਣ ਅਤੇ ਅਸਲ ਲੋਕਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਇਆ
ਯੂਕੇ ਦੇ ਏਆਈ ਸੁਰੱਖਿਆ ਇੰਸਟੀਚਿਊਟ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਐਂਥਰੋਪਿਕ ਅਤੇ ਓਪਨਏਆਈ ਦੇ ਫਰੰਟੀਅਰ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਧੋਖਾ ਦੇਣ ਲਈ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ ਬਿਨਾਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਅਸਲ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਇਆ, ਪਛਾਣ ਬਣਾਈ, ਸਪਲਾਈ-ਚੇਨ ਹਮਲਿਆਂ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ।
ਮੈਟਾ ਨੇ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥਰੋਪਿਕ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਇੱਕ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕਰਨ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਏਆਈ ਮਾਡਲ
ਮੈਟਾ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸਦਾ ਮਿਊਜ਼ ਸਪਾਰਕ 1.1 ਮਾਡਲ ਇੱਕ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਾਹਰ ਨਿਕਲਿਆ ਅਤੇ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਇੱਕ ਬੇਨਾਮ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕਰ ਲਿਆ, ਜਿਸ ਨਾਲ ਅਜਿਹੀ ਘਟਨਾ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਵਾਲੀ ਤੀਜੀ ਵੱਡੀ AI ਲੈਬ ਬਣ ਗਈ।
ਐਪਲ ਨੇ ਵਪਾਰਕ ਰਾਜ਼ ਦੀ ਲੜਾਈ ਵਿੱਚ ਓਪਨਏਆਈ ਦੀ ਏਆਈ ਡਿਵਾਈਸ ਯੋਜਨਾਵਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਐਮਰਜੈਂਸੀ ਕੋਰਟ ਦੇ ਆਦੇਸ਼ ਦੀ ਮੰਗ ਕੀਤੀ
ਐਪਲ ਇੱਕ ਅਦਾਲਤ ਨੂੰ ਓਪਨਏਆਈ ਨੂੰ ਕਥਿਤ ਤੌਰ 'ਤੇ ਚੋਰੀ ਹੋਏ ਵਪਾਰਕ ਰਾਜ਼ਾਂ ਨਾਲ ਬਣੇ ਉਤਪਾਦਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਕਹਿ ਰਿਹਾ ਹੈ, ਇੱਕ ਅਜਿਹਾ ਕਦਮ ਜੋ OpenAI ਦੀਆਂ ਹਾਰਡਵੇਅਰ ਅਭਿਲਾਸ਼ਾਵਾਂ ਨੂੰ ਫ੍ਰੀਜ਼ ਕਰ ਸਕਦਾ ਹੈ।
ਮੈਕਸੀਕੋ ਦੀ ਸਭ ਤੋਂ ਵੱਡੀ ਯੂਨੀਵਰਸਿਟੀ ਨੇ 58,000 ਵਿਦਿਆਰਥੀਆਂ ਨੂੰ ਸਿਖਰਲੇ ਸਕੋਰਾਂ ਦੇ ਬਰਾਬਰ ਹੋਣ ਤੋਂ ਬਾਅਦ ਏਆਈ-ਪ੍ਰੈਕਟੋਰਡ ਪ੍ਰੀਖਿਆ ਦੁਬਾਰਾ ਦੇਣ ਲਈ ਮਜਬੂਰ ਕੀਤਾ
UNAM ਨੂੰ ਲਗਭਗ 58,000 ਬਿਨੈਕਾਰਾਂ ਨੂੰ ਵਿਅਕਤੀਗਤ ਤੌਰ 'ਤੇ ਆਪਣੀ ਦਾਖਲਾ ਪ੍ਰੀਖਿਆ ਦੁਬਾਰਾ ਦੇਣ ਦੀ ਲੋੜ ਪਵੇਗੀ ਕਿਉਂਕਿ ਰਿਮੋਟ AI-ਪ੍ਰੈਕਟਰਡ ਟੈਸਟਿੰਗ ਨੇ ਚੋਟੀ ਦੇ ਸਕੋਰ ਅਤੇ ਵਿਆਪਕ ਧੋਖਾਧੜੀ ਵਿੱਚ 5 ਗੁਣਾ ਵਾਧਾ ਕੀਤਾ ਹੈ।
METR ਨੇ OpenAI ਦੇ ਹੱਗਿੰਗ ਫੇਸ ਹੈਕ ਤੋਂ ਬਾਅਦ AI ਏਜੰਟ ਦੇ ਦੁਰਵਿਵਹਾਰ ਦੀ ਸੁਤੰਤਰ ਜਾਂਚ ਦੀ ਮੰਗ ਕੀਤੀ
ਸੇਫਟੀ ਗੈਰ-ਲਾਭਕਾਰੀ METR ਮਾਡਲਾਂ ਨੂੰ ਤੋੜਨ ਜਾਂ ਨਕਲੀ ਨਤੀਜਿਆਂ ਦੇ 44 ਮਾਮਲਿਆਂ ਦੇ ਦਸਤਾਵੇਜ਼ ਬਣਾਉਣ ਤੋਂ ਬਾਅਦ AI ਏਜੰਟ ਦੀਆਂ ਘਟਨਾਵਾਂ ਦੀ ਸੁਤੰਤਰ ਜਾਂਚ ਚਾਹੁੰਦਾ ਹੈ।
OpenAI ਕੰਬੋਡੀਆ-ਅਧਾਰਤ ਚੈਟਜੀਪੀਟੀ ਘੁਟਾਲੇ ਦੀ ਰਿੰਗ ਨੂੰ ਜਬਰੀ ਮਜ਼ਦੂਰੀ ਅਤੇ ਤਸਕਰੀ ਨਾਲ ਜੋੜਦਾ ਹੈ
OpenAI ਨੇ ਇੱਕ ਕੰਬੋਡੀਆ-ਅਧਾਰਿਤ ChatGPT ਘੁਟਾਲੇ ਦੇ ਨੈੱਟਵਰਕ ਨੂੰ ਵਿਗਾੜ ਦਿੱਤਾ ਜੋ ਪੀੜਤ ਧੋਖਾਧੜੀ ਲਈ ਅਤੇ ਜਬਰੀ-ਲੇਬਰ ਮਿਸ਼ਰਣਾਂ ਦੇ ਅੰਦਰ ਓਪਰੇਸ਼ਨਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਸੀ।
ਓਪਨਏਆਈ ਨੇ ਹੋਰ ਏਆਈ ਏਜੰਟ ਲੱਭੇ ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਚ ਗਏ, ਰਾਇਟਰਜ਼ ਦੀਆਂ ਰਿਪੋਰਟਾਂ
ਅਗਿਆਤ ਸਰੋਤਾਂ ਨੇ ਰਾਇਟਰਜ਼ ਨੂੰ ਦੱਸਿਆ ਕਿ ਵਾਧੂ ਓਪਨਏਆਈ ਏਜੰਟ ਆਪਣੇ ਟੈਸਟ ਵਾਤਾਵਰਣਾਂ ਤੋਂ ਬਾਹਰ ਹੋ ਗਏ, ਇੱਕ ਉਲੰਘਣਾ ਦੇ ਦਾਇਰੇ ਦਾ ਵਿਸਥਾਰ ਕਰਦੇ ਹੋਏ ਜੋ ਇੱਕ ਏਜੰਟ ਨੇ ਹੱਗਿੰਗ ਫੇਸ ਨੂੰ ਹੈਕ ਕਰਨ ਤੋਂ ਸ਼ੁਰੂ ਕੀਤਾ।
ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ ਜਵਾਬ 'ਚ 48 ਘੰਟਿਆਂ ਤੋਂ ਘੱਟ ਸਮੇਂ 'ਚ ਗੂਗਲ ਯੈਂਕਸ ਅਰਥ ਏਆਈ ਇਮੇਜ ਟੂਲ
ਗੂਗਲ ਨੇ ਆਪਣੇ ਨੈਨੋ ਬਨਾਨਾ 2 ਏਆਈ ਚਿੱਤਰ ਜਨਰੇਟਰ ਨੂੰ ਗੂਗਲ ਅਰਥ ਤੋਂ 48 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਅੰਦਰ ਖਿੱਚ ਲਿਆ ਜਦੋਂ ਮਾਹਰਾਂ ਨੇ ਦਿਖਾਇਆ ਕਿ ਇਹ ਯੁੱਧ ਖੇਤਰਾਂ ਅਤੇ ਲੈਂਡਮਾਰਕਾਂ ਦੀ ਸੈਟੇਲਾਈਟ ਚਿੱਤਰ ਬਣਾ ਸਕਦਾ ਹੈ। ਇੱਥੇ ਕੀ ਹੋਇਆ ਹੈ.
ਐਂਥਰੋਪਿਕ ਖੁਲਾਸਾ ਕਰਦਾ ਹੈ ਕਿ ਕਲੌਡ ਏਆਈ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਾਂ ਦੌਰਾਨ ਤਿੰਨ ਸੰਸਥਾਵਾਂ ਨੂੰ ਹੈਕ ਕੀਤਾ
ਐਂਥਰੋਪਿਕ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕਲੌਡ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਾਂ ਦੌਰਾਨ ਤਿੰਨ ਸੰਸਥਾਵਾਂ ਨੂੰ ਹੈਕ ਕੀਤਾ ਜਦੋਂ ਇੱਕ ਗਲਤ ਸੰਰਚਨਾ ਨੇ ਜਨਤਕ ਇੰਟਰਨੈਟ ਤੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ।
ਗੂਗਲ ਦਾ ਸਿੰਥਆਈਡੀ ਵਾਟਰਮਾਰਕ ਬੇਰਹਿਮ ਤਣਾਅ ਟੈਸਟ ਤੋਂ ਬਚਦਾ ਹੈ, ਪਰ ਏਆਈ ਗਲਤ ਜਾਣਕਾਰੀ ਨੂੰ ਹੱਲ ਨਹੀਂ ਕਰੇਗਾ
ਇੱਕ Ars Technica ਤਣਾਅ ਦੇ ਟੈਸਟ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ Google ਦਾ SynthID ਵਾਟਰਮਾਰਕ ਕੰਪਰੈਸ਼ਨ ਅਤੇ ਸਕ੍ਰੀਨਸ਼ੌਟਸ ਦੇ 300 ਦੌਰ ਤੋਂ ਬਚਦਾ ਹੈ, ਪਰ ਅੰਤ ਵਿੱਚ ਕ੍ਰੌਪਿੰਗ ਇਸ ਨੂੰ ਤੋੜ ਦਿੰਦੀ ਹੈ ਅਤੇ ਇਕੱਲੇ ਲੇਬਲਿੰਗ AI ਵਿਗਾੜ ਨੂੰ ਨਹੀਂ ਰੋਕਦੀ।
IBM ਰਿਪੋਰਟ: ਚਾਰ ਵਿੱਚੋਂ ਇੱਕ ਡੇਟਾ ਹੁਣ AI-ਸਮਰੱਥ, ਲਾਗਤ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਔਸਤਨ $6 ਮਿਲੀਅਨ
IBM ਦੀ 2026 ਦੀ ਇੱਕ ਡਾਟਾ ਉਲੰਘਣਾ ਦੀ ਲਾਗਤ ਦੀ ਰਿਪੋਰਟ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਹੈ ਕਿ 25 ਪ੍ਰਤੀਸ਼ਤ ਖਤਰਨਾਕ ਉਲੰਘਣਾਵਾਂ ਵਿੱਚ AI ਸ਼ਾਮਲ ਹੈ, ਔਸਤ ਉਲੰਘਣਾ ਦੀ ਲਾਗਤ $6 ਮਿਲੀਅਨ ਅਤੇ AI ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਹਮਲੇ 56 ਪ੍ਰਤੀਸ਼ਤ ਵੱਧ ਹਨ।
ਓਪਨਏਆਈ ਦੇ ਠੱਗ ਏਆਈ ਏਜੰਟ ਨੇ ਕਲਾਤਮਕ ਜ਼ੀਰੋ-ਡੇਅ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਗਲੇ ਲਗਾਉਣ ਵਾਲੇ ਚਿਹਰੇ ਦੀ ਉਲੰਘਣਾ ਕੀਤੀ
OpenAI ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਇਸਦਾ ਠੱਗ AI ਏਜੰਟ ਇੱਕ ਸੀਲਬੰਦ ਟੈਸਟ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਚ ਗਿਆ, ਇੱਕ ਆਰਟੀਫੈਕਟਰੀ ਜ਼ੀਰੋ-ਡੇਅ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ, ਅਤੇ ਚਾਰ ਸੇਵਾਵਾਂ ਵਿੱਚ ਚੋਰੀ ਹੋਏ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਦੀ ਵਰਤੋਂ ਦਿਨਾਂ ਲਈ ਹੱਗਿੰਗ ਫੇਸ ਵਿੱਚ ਤੋੜਨ ਲਈ ਕੀਤੀ।
ਨਿਉਯਾਰਕ ਸਕੂਲ ਡਿਸਟ੍ਰਿਕਟ ਨੇ ਗੋਪਨੀਯਤਾ ਅਤੇ ਨਿਰਮਾਤਾ ਦੇ ਸਬੰਧਾਂ ਨੂੰ ਲੈ ਕੇ ਪ੍ਰਤੀਕ੍ਰਿਆ ਤੋਂ ਬਾਅਦ ਏਆਈ ਰੋਬੋਟ ਅਧਿਆਪਕ ਯੋਜਨਾ ਨੂੰ ਰੋਕਿਆ
ਰਾਜ ਦੇ ਅਧਿਕਾਰੀਆਂ, ਅਧਿਆਪਕਾਂ ਅਤੇ ਮਾਪਿਆਂ ਦੁਆਰਾ ਵਿਦਿਆਰਥੀ ਡੇਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੈਕਸ ਡੌਲ ਕੰਪਨੀ ਨਾਲ ਨਿਰਮਾਤਾ ਦੇ ਸਬੰਧਾਂ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਉਠਾਏ ਜਾਣ ਤੋਂ ਬਾਅਦ ਇੱਕ ਪੇਂਡੂ ਨਿਊਯਾਰਕ ਸਕੂਲ ਜ਼ਿਲ੍ਹੇ ਨੇ ਰੀਅਲਬੋਟਿਕਸ ਤੋਂ ਲਗਭਗ $60,000 ਹਿਊਮਨਾਈਡ ਏਆਈ ਰੋਬੋਟ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਦੀਆਂ ਯੋਜਨਾਵਾਂ ਨੂੰ ਰੋਕ ਦਿੱਤਾ।
ਕਲਾਉਡ ਸ਼ੇਅਰਡ ਚੈਟਸ ਗੂਗਲ ਸਰਚ ਵਿੱਚ ਚਾਲੂ ਹੁੰਦੇ ਹਨ, ਨਿੱਜੀ ਗੱਲਬਾਤ ਨੂੰ ਉਜਾਗਰ ਕਰਦੇ ਹਨ
ਸ਼ੇਅਰਡ ਕਲੌਡ ਗੱਲਬਾਤ Google ਖੋਜ ਨਤੀਜਿਆਂ ਵਿੱਚ ਦਿਖਾਈ ਦਿੱਤੀ, API ਕੁੰਜੀਆਂ ਅਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਚਰਚਾਵਾਂ ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ। ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਇੰਡੈਕਸਿੰਗ ਮੁੱਦੇ ਨੂੰ ਫਲੈਗ ਕਰਨ ਤੋਂ ਬਾਅਦ ਐਂਥਰੋਪਿਕ ਨੇ ਜਵਾਬ ਦਿੱਤਾ ਹੈ.
ਹੱਗਿੰਗ ਫੇਸ ਸੀਈਓ ਨੇ OpenAI ਦੀ ਮੰਗ ਕੀਤੀ Rogue AI ਲੌਗਸ ਜਾਰੀ ਕਰੋ ਅਤੇ ਕੰਪਿਊਟ ਵਿੱਚ $100 ਮਿਲੀਅਨ ਦਾ ਵਾਅਦਾ ਕਰੋ
ਇੱਕ ਖੁਦਮੁਖਤਿਆਰ AI ਏਜੰਟ ਇੱਕ OpenAI ਟੈਸਟ ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਾਹਰ ਨਿਕਲਣ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਸੀਈਓ ਕਲੇਮ ਡੇਲੰਗੂ ਪੂਰੀ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਰੱਖਿਆਤਮਕ ਗਣਨਾ ਵਿੱਚ $100 ਮਿਲੀਅਨ ਦੀ ਮੰਗ ਕਰ ਰਿਹਾ ਹੈ।
ਏਆਈ ਕੰਪਨੀਆਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਪੁਰਾਣੀਆਂ ਕਿਤਾਬਾਂ ਖਰੀਦ ਰਹੀਆਂ ਹਨ, ਫਿਰ ਉਨ੍ਹਾਂ ਨੂੰ ਪੈਮਾਨੇ 'ਤੇ ਨਸ਼ਟ ਕਰ ਰਹੀਆਂ ਹਨ
AI ਫਰਮਾਂ ਪੈਲੇਟ ਦੁਆਰਾ ਪੁਰਾਣੀਆਂ ਕਿਤਾਬਾਂ ਖਰੀਦ ਰਹੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਸਿਖਲਾਈ ਡੇਟਾ ਲਈ ਸਕੈਨ ਕਰ ਰਹੀਆਂ ਹਨ, ਫਿਰ ਉਹਨਾਂ ਨੂੰ ਕੱਟ ਰਹੀਆਂ ਹਨ - ਭਾਵੇਂ ਕੁਝ ਕਾਪੀਆਂ ਬਚੀਆਂ ਹੋਣ। ਅਭਿਆਸ ਇੱਕ ਨਵੀਂ ਕਾਪੀਰਾਈਟ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀ ਲੜਾਈ ਨੂੰ ਵਧਾ ਰਿਹਾ ਹੈ।