ਵਾਸ਼ਿੰਗਟਨ ਪੋਸਟ ਦੀ ਇੱਕ ਰਿਪੋਰਟ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਟੇਕਕ੍ਰੰਚ ਨੇ ਸ਼ਨੀਵਾਰ ਨੂੰ ਰਿਪੋਰਟ ਦਿੱਤੀ, ਜੇਨ ਡੋ 4 ਦੇ ਰੂਪ ਵਿੱਚ ਅਦਾਲਤ ਵਿੱਚ ਫਾਈਲਿੰਗ ਵਿੱਚ ਪਛਾਣ ਕੀਤੀ ਗਈ ਇੱਕ ਔਰਤ, ਐਲੋਨ ਮਸਕ ਦੇ ਐਕਸਏਆਈ ਦੇ ਖਿਲਾਫ ਇੱਕ ਮੁਕੱਦਮੇ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਗਈ ਹੈ, ਜਿਸ ਵਿੱਚ ਕੰਪਨੀ ਦੇ ਚੈਟਬੋਟ ਗਰੋਕ ਦੁਆਰਾ ਕਥਿਤ ਤੌਰ 'ਤੇ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ ਬਣਾਉਣ ਵਿੱਚ ਭੂਮਿਕਾ ਨਿਭਾਈ ਗਈ ਸੀ।
ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਔਰਤ ਨੇ ਦੋਸ਼ ਲਗਾਇਆ ਕਿ ਉਸਦੇ ਮਤਰੇਏ ਪਿਤਾ ਨੇ 11 ਸਾਲ ਦੀ ਉਮਰ ਵਿੱਚ ਲਈ ਗਈ ਇੱਕ ਫੋਟੋ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰਨ ਲਈ ਗ੍ਰੋਕ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਤਾਂ ਕਿ ਉਸਦੀ 7,000 ਤੋਂ ਵੱਧ ਸਪੱਸ਼ਟ ਤਸਵੀਰਾਂ ਬਣਾਈਆਂ ਜਾ ਸਕਣ। ਉਸਨੇ ਇਹ ਵੀ ਕਿਹਾ ਕਿ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੇ ਛਾਪੇ ਵਿੱਚ ਤਸਵੀਰਾਂ ਦੇ ਪਰਦਾਫਾਸ਼ ਹੋਣ ਤੋਂ ਦੋ ਦਿਨ ਬਾਅਦ ਉਸਦਾ ਮਤਰੇਆ ਪਿਤਾ ਖੁਦਕੁਸ਼ੀ ਲਈ ਮਰਿਆ ਹੋਇਆ ਪਾਇਆ ਗਿਆ ਸੀ। For more context on this story, see our ongoing more AI stories.
"ਇਨ੍ਹਾਂ ਸਾਧਨਾਂ ਤੱਕ ਅਸੀਮਤ ਪਹੁੰਚ ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਫੈਲ ਰਹੀ ਹੈ," ਔਰਤ ਨੇ ਕਿਹਾ। "ਇਹ ਰੋਜ਼ਾਨਾ ਜੀਵਨ ਨੂੰ ਲੈ ਰਿਹਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਵਿੱਚ ਬਦਲ ਰਿਹਾ ਹੈ."
ਇਹ ਕੇਸ ਅੱਜ ਤੱਕ ਦੇ ਸਭ ਤੋਂ ਗੰਭੀਰ ਦੋਸ਼ਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਜਿਸ ਵਿੱਚ ਇੱਕ ਮੁੱਖ ਧਾਰਾ AI ਚੈਟਬੋਟ ਅਤੇ ਇੱਕ ਅਸਲੀ ਬੱਚੇ ਦੀ ਜਿਨਸੀ ਚਿੱਤਰਾਂ ਦੀ ਸਿਰਜਣਾ ਸ਼ਾਮਲ ਹੈ, ਅਤੇ ਇਹ ਇੱਕ ਮੁਕੱਦਮੇ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ ਜੋ AI ਚਿੱਤਰ ਬਣਾਉਣ ਲਈ ਗਾਰਡਰੇਲ ਉੱਤੇ ਬਹਿਸ ਵਿੱਚ ਇੱਕ ਕੇਂਦਰ ਬਿੰਦੂ ਬਣ ਗਿਆ ਹੈ।
ਮੁਕੱਦਮੇ ਦੇ ਮੁੱਖ ਦਾਅਵੇ
ਮੁਕੱਦਮਾ ਅਸਲ ਵਿੱਚ ਤਿੰਨ ਟੈਨੇਸੀ ਕਿਸ਼ੋਰਾਂ ਦੁਆਰਾ ਦਾਇਰ ਕੀਤਾ ਗਿਆ ਸੀ ਜਿਨ੍ਹਾਂ ਨੇ xAI - ਜੋ ਕਿ ਹੁਣ ਸਪੇਸਐਕਸ ਦਾ ਹਿੱਸਾ ਹੈ - 'ਤੇ ਨਾਬਾਲਗਾਂ ਸਮੇਤ ਅਸਲ ਲੋਕਾਂ ਦੀਆਂ ਸਪੱਸ਼ਟ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਗ੍ਰੋਕ ਨੂੰ ਵਰਤਣ ਤੋਂ ਰੋਕਣ ਲਈ ਬੁਨਿਆਦੀ ਸਾਵਧਾਨੀਆਂ ਵਰਤਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿਣ ਦਾ ਦੋਸ਼ ਲਗਾਇਆ ਸੀ। ਮੁਦਈ ਕਲਾਸ ਐਕਸ਼ਨ ਸਟੇਟਸ ਦੀ ਮੰਗ ਕਰ ਰਹੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਹੋਰਾਂ ਨੂੰ ਕੇਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲੇਗੀ ਜੋ ਸਮਾਨ ਨੁਕਸਾਨ ਦਾ ਦੋਸ਼ ਲਗਾਉਂਦੇ ਹਨ।
ਜੇਨ ਡੋ 4 ਦੀ ਫਾਈਲਿੰਗ ਵਿੱਚ ਦੁਖਦਾਈ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦਾ ਇੱਕ ਨਾਮਿਤ ਸਮੂਹ ਸ਼ਾਮਲ ਕੀਤਾ ਗਿਆ ਹੈ: ਇੱਕ ਬਚਪਨ ਦੀ ਫੋਟੋ, ਇੱਕ AI ਟੂਲ ਜੋ ਕਥਿਤ ਤੌਰ 'ਤੇ ਹਜ਼ਾਰਾਂ ਦੁਰਵਿਵਹਾਰਕ ਡੈਰੀਵੇਟਿਵਜ਼ ਪੈਦਾ ਕਰਨ ਲਈ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ, ਅਤੇ ਇੱਕ ਪਰਿਵਾਰਕ ਦੁਖਾਂਤ ਜੋ ਅਧਿਕਾਰੀਆਂ ਦੁਆਰਾ ਸਮੱਗਰੀ ਦੀ ਖੋਜ ਦੇ ਦਿਨਾਂ ਵਿੱਚ ਸਾਹਮਣੇ ਆਇਆ ਸੀ।
TechCrunch ਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ ਟਿੱਪਣੀ ਲਈ xAI ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ। ਇਹ ਦੋਸ਼ ਚੱਲ ਰਹੇ ਸਿਵਲ ਮੁਕੱਦਮੇ ਵਿੱਚ ਦਾਅਵੇ ਹਨ ਅਤੇ ਅਦਾਲਤ ਵਿੱਚ ਸਾਬਤ ਨਹੀਂ ਹੋਏ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਜਾਂ ਤੁਹਾਡਾ ਕੋਈ ਜਾਣਕਾਰ ਸੰਕਟ ਵਿੱਚ ਹੈ, ਤਾਂ ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ 988 ਸੁਸਾਈਡ ਐਂਡ ਕਰਾਈਸਿਸ ਲਾਈਫਲਾਈਨ ਨੂੰ 988 'ਤੇ ਕਾਲ ਜਾਂ ਟੈਕਸਟ ਦੁਆਰਾ ਸੰਪਰਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
Grok 'ਤੇ ਦਬਾਅ ਦਾ ਇੱਕ ਪੈਟਰਨ
ਮੁਕੱਦਮਾ ਗ੍ਰੋਕ ਦੀ ਚਿੱਤਰ-ਉਤਪਾਦਨ ਸਮਰੱਥਾਵਾਂ ਦੀ ਵੱਧ ਰਹੀ ਜਾਂਚ ਦੇ ਇੱਕ ਸਾਲ ਦੇ ਵਿਚਕਾਰ ਹੋਇਆ। ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ, X ਲੱਖਾਂ ਗ੍ਰੋਕ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀਆਂ ਜਿਨਸੀ ਤਸਵੀਰਾਂ ਨਾਲ ਭਰ ਗਿਆ ਸੀ, ਇੱਕ ਅਜਿਹਾ ਐਪੀਸੋਡ ਜਿਸ ਨੇ ਟੂਲ ਦੇ ਆਲੇ ਦੁਆਲੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਵਿਆਪਕ ਆਲੋਚਨਾ ਕੀਤੀ ਸੀ। ਐਪੀਸੋਡ ਨੇ ਅਖੌਤੀ "ਨਡੀਫਾਈ" ਐਪਲੀਕੇਸ਼ਨਾਂ ਅਤੇ ਗੈਰ-ਸਹਿਮਤ ਸਿੰਥੈਟਿਕ ਚਿੱਤਰਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਵਾਲੇ ਰਾਜ-ਪੱਧਰੀ ਕਾਨੂੰਨ ਦੀ ਇੱਕ ਲਹਿਰ ਨੂੰ ਵਧਾਉਣ ਵਿੱਚ ਮਦਦ ਕੀਤੀ; ਅਜਿਹੇ ਸਾਧਨਾਂ 'ਤੇ ਮਿਨੀਸੋਟਾ ਦੀ ਪਾਬੰਦੀ ਉਦੋਂ ਲਾਗੂ ਹੋਈ ਜਦੋਂ ਇੱਕ ਜੱਜ ਨੇ ਇਸ ਦੇ ਲਾਗੂਕਰਨ ਨੂੰ ਰੋਕਣ ਲਈ ਹੁਕਮ ਦੀ xAI ਦੀ ਬੇਨਤੀ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ।
ਟੈਨੇਸੀ ਕੇਸ ਦਾ ਦਾਅ xAI ਤੋਂ ਪਰੇ ਹੈ। ਮੁਦਈਆਂ ਦੀ ਦਲੀਲ ਹੈ ਕਿ ਪੈਮਾਨੇ 'ਤੇ ਚਿੱਤਰ-ਉਤਪਾਦਨ ਸਾਧਨਾਂ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਦਾ ਫਰਜ਼ ਬਣਦਾ ਹੈ ਕਿ ਉਹ ਤਕਨੀਕੀ ਸੁਰੱਖਿਆ ਉਪਾਅ ਤਿਆਰ ਕਰਨ ਜੋ ਅਸਲ, ਪਛਾਣਯੋਗ ਲੋਕਾਂ - ਅਤੇ ਖਾਸ ਤੌਰ 'ਤੇ ਬੱਚਿਆਂ - ਉਤਪਾਦਾਂ ਦੇ ਲੋਕਾਂ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ - ਦੇ ਜਿਨਸੀਕਰਨ ਨੂੰ ਰੋਕਦੇ ਹਨ। ਇਹ ਦਲੀਲ, ਜੇਕਰ ਕਿਸੇ ਅਦਾਲਤ ਦੁਆਰਾ ਸਵੀਕਾਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਕਾਨੂੰਨੀ ਮਿਆਰ ਸਥਾਪਤ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਚਿੱਤਰ-ਜਨਰੇਸ਼ਨ ਮਾਡਲਾਂ ਦੇ ਹਰ ਪ੍ਰਦਾਤਾ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ।
ਇੰਡਸਟਰੀ ਦੀ ਅਣਸੁਲਝੀ ਸਮੱਸਿਆ
ਏਆਈ ਕੰਪਨੀਆਂ ਲਈ, ਅਸਲ ਲੋਕਾਂ ਦੇ ਵਿਰੁੱਧ ਚਿੱਤਰ ਜਨਰੇਟਰਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਨੂੰ ਰੋਕਣਾ ਜ਼ਿੱਦੀ ਤੌਰ 'ਤੇ ਮੁਸ਼ਕਲ ਸਾਬਤ ਹੋਇਆ ਹੈ। ਵਾਟਰਮਾਰਕਿੰਗ ਅਤੇ ਪ੍ਰੋਵੇਨੈਂਸ ਟੂਲ - ਜਿਵੇਂ ਕਿ ਉਹ ਐਂਥਰੋਪਿਕ ਨੇ ਈਯੂ ਪਾਰਦਰਸ਼ਤਾ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਕਲਾਉਡ ਆਉਟਪੁੱਟ ਵਿੱਚ ਜੋੜਨਾ ਸ਼ੁਰੂ ਕੀਤਾ - ਤੱਥ ਤੋਂ ਬਾਅਦ ਸਿੰਥੈਟਿਕ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ, ਪਰ ਉਹ ਪਹਿਲੀ ਥਾਂ 'ਤੇ ਦੁਰਵਿਵਹਾਰਕ ਸਮੱਗਰੀ ਦੇ ਉਤਪਾਦਨ ਨੂੰ ਨਹੀਂ ਰੋਕਦੇ। ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁੱਟ ਫਿਲਟਰ ਜਾਣੇ-ਪਛਾਣੇ ਪੈਟਰਨਾਂ ਨੂੰ ਰੋਕ ਸਕਦੇ ਹਨ, ਪਰ ਨਿਸ਼ਚਤ ਉਪਭੋਗਤਾ ਲਗਾਤਾਰ ਹੱਲ ਲੱਭਦੇ ਹਨ, ਅਤੇ ਓਪਨ-ਵੇਟ ਚਿੱਤਰ ਮਾਡਲਾਂ ਨੇ ਕੁਝ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਯਾਦ ਕਰਨਾ ਅਸੰਭਵ ਬਣਾ ਦਿੱਤਾ ਹੈ।
xAI ਕੇਸ ਵਿੱਚ ਦੋਸ਼ ਉਸ ਸਪੈਕਟ੍ਰਮ ਦੇ ਸਭ ਤੋਂ ਗੰਭੀਰ ਅੰਤ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੇ ਹਨ: ਦਾਅਵਾ ਹੈ ਕਿ ਇੱਕ ਬੱਚੇ ਦੀ ਇੱਕ ਫੋਟੋ ਨੂੰ ਦੁਨੀਆ ਦੀਆਂ ਸਭ ਤੋਂ ਪ੍ਰਮੁੱਖ AI ਕੰਪਨੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਇੱਕ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਹਜ਼ਾਰਾਂ ਸਪਸ਼ਟ ਚਿੱਤਰਾਂ ਵਿੱਚ ਬਦਲਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਜੋ ਕਿ ਗ੍ਰੋਕ ਨੂੰ ਖਪਤਕਾਰ ਉਤਪਾਦ ਵਜੋਂ ਲੱਖਾਂ ਗਾਹਕਾਂ ਨੂੰ ਮਾਰਕੀਟ ਕਰਦਾ ਹੈ।
ਕੇਸ ਦੀ ਪਾਲਣਾ ਕਰਨ ਵਾਲੇ ਕਾਨੂੰਨੀ ਮਾਹਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕਲਾਸ ਐਕਸ਼ਨ ਬੋਲੀ ਇਹ ਜਾਂਚ ਕਰੇਗੀ ਕਿ ਕੀ ਅਦਾਲਤਾਂ ਅਜਿਹੀ ਦੁਰਵਰਤੋਂ ਨੂੰ ਰੋਕਣ ਲਈ ਅਸਫਲਤਾਵਾਂ ਨੂੰ ਉਤਪਾਦ ਦੇ ਨੁਕਸ ਵਜੋਂ ਮੰਨਦੀਆਂ ਹਨ ਜਿਸ ਲਈ AI ਕੰਪਨੀਆਂ ਜ਼ਿੰਮੇਵਾਰ ਹਨ - ਜਾਂ ਵਿਅਕਤੀਗਤ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਦੁਰਵਰਤੋਂ ਵਜੋਂ ਜੋ ਕੰਪਨੀਆਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਤੋਂ ਬਾਹਰ ਆਉਂਦੀਆਂ ਹਨ।
ਅੱਗੇ ਕੀ ਆ
ਮੁਦਈਆਂ ਦਾ ਤਤਕਾਲ ਟੀਚਾ ਕਲਾਸ ਪ੍ਰਮਾਣੀਕਰਣ ਹੈ, ਜੋ xAI ਦੇ ਵਿਰੁੱਧ ਸੰਭਾਵੀ ਦਾਅਵੇਦਾਰਾਂ ਦੇ ਪੂਲ ਨੂੰ ਨਾਟਕੀ ਢੰਗ ਨਾਲ ਵਧਾਏਗਾ। ਇਸਦੇ ਹਿੱਸੇ ਲਈ, xAI ਨੇ ਸਬੰਧਤ ਮੁਕੱਦਮੇ ਵਿੱਚ ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਦੁਰਵਰਤੋਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਹੈ, ਨਾ ਕਿ ਸਾਧਨ ਦੀ। ਜੇਨ ਡੋ 4 ਨੂੰ ਜੋੜਨਾ, ਇੱਕ ਬੱਚੇ ਨੂੰ ਕਥਿਤ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਇਸਦੇ ਸਪੱਸ਼ਟ ਖਾਤੇ ਦੇ ਨਾਲ, ਉਸ ਬਚਾਅ ਦੇ ਆਲੇ ਦੁਆਲੇ ਜਨਤਕ ਅਤੇ ਰਾਜਨੀਤਿਕ ਦਬਾਅ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ।
ਇਹ ਕੇਸ ਸੰਯੁਕਤ ਰਾਜ ਅਤੇ ਯੂਰਪ ਵਿੱਚ ਜਨਰੇਟਿਵ ਏਆਈ ਲਈ ਪਾਰਦਰਸ਼ਤਾ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਅਤੇ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡਾਂ 'ਤੇ ਬਹਿਸ ਕਰਨ ਵਾਲੇ ਰੈਗੂਲੇਟਰਾਂ ਦੇ ਰੂਪ ਵਿੱਚ ਸਾਹਮਣੇ ਆ ਰਿਹਾ ਹੈ, ਅਤੇ ਸਬੂਤ ਦੇ ਤੌਰ ਤੇ ਇਕੱਠਾ ਹੁੰਦਾ ਹੈ ਕਿ ਚਿੱਤਰ-ਉਤਪਾਦਨ ਦੀ ਦੁਰਵਰਤੋਂ ਫਰਿੰਜ ਟੂਲਸ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹੈ। ਭਾਵੇਂ ਜਵਾਬ ਅਦਾਲਤ ਵਿੱਚ, ਕਾਨੂੰਨ ਵਿੱਚ, ਜਾਂ ਖੁਦ AI ਕੰਪਨੀਆਂ ਦੇ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿਕਲਪਾਂ ਵਿੱਚ ਪਹੁੰਚਦਾ ਹੈ, ਮੁਕੱਦਮੇ ਦਾ ਕੇਂਦਰੀ ਸਵਾਲ - ਇੱਕ AI ਉਤਪਾਦ ਦੇ ਜਹਾਜ਼ਾਂ ਤੋਂ ਪਹਿਲਾਂ ਕਿੰਨਾ ਨੁਕਸਾਨ ਰੋਕਣਾ ਚਾਹੀਦਾ ਹੈ - ਉਦਯੋਗ ਦੀ ਸਭ ਤੋਂ ਅਸੁਵਿਧਾਜਨਕ ਖੁੱਲੀ ਸਮੱਸਿਆ ਬਣੀ ਹੋਈ ਹੈ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
