ਜਨਰੇਟਿਵ AI ਨਾਲ ਜੁੜੀ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ ਦੀਆਂ ਰਿਪੋਰਟਾਂ 2023 ਵਿੱਚ ਲਗਭਗ 4,700 ਤੋਂ ਵੱਧ ਕੇ 2025 ਵਿੱਚ 400,000 ਤੋਂ ਵੱਧ ਹੋ ਗਈਆਂ ਹਨ - ਐਡਿਨਬਰਗ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਸਥਿਤ ਗਲੋਬਲ ਚਾਈਲਡ ਸੇਫਟੀ ਇੰਸਟੀਚਿਊਟ, ਚਾਈਲਡਲਾਈਟ ਦੇ ਅੰਕੜਿਆਂ ਅਨੁਸਾਰ, ਦੋ ਸਾਲਾਂ ਵਿੱਚ 8,400% ਤੋਂ ਵੱਧ ਦਾ ਵਾਧਾ।
ਇਹ ਅੰਕੜੇ ਸੋਮਵਾਰ, 16 ਨਵੰਬਰ ਨੂੰ ਚਾਈਲਡਲਾਈਟ ਦੇ 2026 ਇਨਟੂ ਦਿ ਲਾਈਟ ਇੰਡੈਕਸ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਗਏ ਸਨ ਅਤੇ ਦਿ ਗਾਰਡੀਅਨ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਸੀ। ਉਹ ਉਹਨਾਂ ਹਵਾਲਿਆਂ ਦੀ ਨੁਮਾਇੰਦਗੀ ਕਰਦੇ ਹਨ ਜੋ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀਆਂ ਨੇ ਯੂ.ਐੱਸ. ਨੈਸ਼ਨਲ ਸੈਂਟਰ ਫਾਰ ਮਿਸਿੰਗ ਐਂਡ ਐਕਸਪਲੋਇਟਡ ਚਿਲਡਰਨ (NCMEC) ਕੋਲ ਦਾਇਰ ਕੀਤੀਆਂ ਹਨ - ਇਹ ਗਿਣਤੀ ਦੀ ਗਿਣਤੀ ਹੈ ਕਿ ਪਲੇਟਫਾਰਮਾਂ ਨੇ ਕੀ ਖੋਜਿਆ ਅਤੇ ਰਿਪੋਰਟ ਕੀਤੀ, ਨਾ ਕਿ ਸਰਕੂਲੇਸ਼ਨ ਵਿੱਚ ਹਰ ਚੀਜ਼ ਦੀ ਜਨਗਣਨਾ। ਵਾਧਾ ਅਜੇ ਤੱਕ ਸਭ ਤੋਂ ਸਪੱਸ਼ਟ ਮਾਤਰਾਤਮਕ ਸੰਕੇਤ ਹੈ ਕਿ ਉਤਪੰਨ AI ਦੁਰਵਿਵਹਾਰ, ਜਿਸ ਨੂੰ ਉਦਯੋਗ ਦੁਆਰਾ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਦੂਰੀ 'ਤੇ ਇੱਕ ਜੋਖਮ ਵਜੋਂ ਦਰਸਾਇਆ ਗਿਆ ਹੈ, ਔਨਲਾਈਨ ਬਾਲ ਸ਼ੋਸ਼ਣ ਰਿਪੋਰਟਿੰਗ ਦੀਆਂ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣ ਗਿਆ ਹੈ, ਪਲੇਟਫਾਰਮ ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਯਮ ਦੇ ਚੱਲ ਰਹੇ ਬ੍ਰੇਕਿੰਗ AI ਨਿਊਜ਼ ਕਵਰੇਜ ਵਿੱਚ ਦਸਤਾਵੇਜ਼ੀ ਤਬਦੀਲੀ।
4,700 ਤੋਂ 400,000 ਰੈਫਰਲ
ਸੂਚਕਾਂਕ ਰਿਪੋਰਟਾਂ ਨੂੰ ਟਰੈਕ ਕਰਦਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀਆਂ ਨੂੰ ਕਾਨੂੰਨੀ ਤੌਰ 'ਤੇ NCMEC ਨੂੰ ਭੇਜਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਉਹ ਆਪਣੀਆਂ ਸੇਵਾਵਾਂ 'ਤੇ ਸ਼ੱਕੀ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਂਦੀਆਂ ਹਨ। 2023 ਵਿੱਚ ਲਗਭਗ 4,700 ਰੈਫਰਲ ਤੋਂ 2025 ਵਿੱਚ 400,000 ਤੋਂ ਵੱਧ ਦੇ ਨਕਸ਼ੇ ਵਿੱਚ ਛਾਲ ਲਗਭਗ ਉਸੇ ਸਮੇਂ ਦੌਰਾਨ ਚਿੱਤਰ ਜਨਰੇਟਰਾਂ ਅਤੇ ਸਸਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਟੂਲਜ਼ ਦੇ ਉਪਭੋਗਤਾ ਰੋਲਆਉਟ 'ਤੇ ਹੈ।
ਸਿਰਲੇਖ ਦਾ ਅੰਕੜਾ ਸਰਕੂਲੇਸ਼ਨ ਵਿੱਚ ਸਿਰਫ ਸੰਖਿਆ ਨਹੀਂ ਹੈ। NCMEC ਨੇ ਵੱਖਰੇ ਤੌਰ 'ਤੇ ਕਿਹਾ ਹੈ ਕਿ ਇਸਦੀ ਸਾਈਬਰਟਿਪਲਾਈਨ ਨੂੰ 2025 ਦੇ ਜਨਵਰੀ ਅਤੇ ਸਤੰਬਰ ਦੇ ਵਿਚਕਾਰ 10 ਲੱਖ ਤੋਂ ਵੱਧ ਜਨਰੇਟਿਵ-AI-ਸੰਬੰਧੀ ਰਿਪੋਰਟਾਂ ਪ੍ਰਾਪਤ ਹੋਈਆਂ - 400,000 ਚਾਈਲਡਲਾਈਟ ਹਵਾਲਿਆਂ ਤੋਂ ਵੱਡੀ ਕੁੱਲ, ਦੋ ਗਿਣਤੀਆਂ ਦੇ ਸਕੋਪ ਕੀਤੇ ਜਾਣ ਦੇ ਅੰਤਰ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ। ਦੋ ਡਾਟਾਸੈੱਟ ਓਵਰਲੈਪਿੰਗ ਪਰ ਵੱਖਰੀਆਂ ਚੀਜ਼ਾਂ ਨੂੰ ਮਾਪਦੇ ਹਨ, ਅਤੇ ਦੋਵੇਂ ਇੱਕੋ ਦਿਸ਼ਾ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੇ ਹਨ।
ਅਸਲੀ ਬੱਚਿਆਂ ਦੀਆਂ ਨਡੀਫਾਈ ਐਪਸ ਅਤੇ ਡੀਪਫੇਕ
ਚਾਈਲਡਲਾਈਟ ਦੀ ਰਿਪੋਰਟ ਅਖੌਤੀ ਨਡੀਫਾਈ ਐਪਸ ਦੇ ਵਾਧੇ ਨੂੰ ਵੀ ਉਜਾਗਰ ਕਰਦੀ ਹੈ, ਜੋ ਬੱਚੇ ਦੇ ਚਿਹਰੇ ਨੂੰ ਸਪੱਸ਼ਟ ਚਿੱਤਰਾਂ 'ਤੇ ਰੱਖਣ ਲਈ ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਤਸਵੀਰਾਂ ਸਿੰਥੈਟਿਕ ਹਨ, ਪਰ ਨੁਕਸਾਨ ਨਹੀਂ ਹੈ: ਤਸਵੀਰਾਂ ਅਸਲ ਬੱਚਿਆਂ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ, ਅਪਰਾਧੀਆਂ ਵਿੱਚ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਅਤੇ ਨਾਬਾਲਗਾਂ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰਨ ਅਤੇ ਪਰੇਸ਼ਾਨ ਕਰਨ ਲਈ ਵਧਦੀ ਵਰਤੋਂ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ।
ਗਾਰਡੀਅਨ ਦੀ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਚਾਈਲਡਲਾਈਟ ਦੇ ਡੇਟਾ ਦੇ ਨਿਰਦੇਸ਼ਕ ਪ੍ਰੋਫੈਸਰ ਡੇਬੀ ਫਰਾਈ ਨੇ ਕਿਹਾ ਕਿ ਜਿਸ ਗਤੀ ਨਾਲ AI ਬੱਚਿਆਂ ਲਈ ਖਤਰੇ ਨੂੰ ਬਦਲ ਰਿਹਾ ਹੈ, ਉਹ ਡੂੰਘੀ ਚਿੰਤਾ ਵਾਲੀ ਹੈ। ਚਿੰਤਾ ਹੁਣ ਕਲਪਨਾਤਮਕ ਸਮਰੱਥਾ ਨਹੀਂ ਹੈ ਬਲਕਿ ਉਦਯੋਗਿਕ-ਪੈਮਾਨੇ ਦੇ ਉਤਪਾਦਨ ਦੀ ਹੈ: 2023 ਵਿੱਚ ਕਿਸ ਕੋਸ਼ਿਸ਼ ਅਤੇ ਹੁਨਰ ਦੀ ਲੋੜ ਹੈ ਹੁਣ ਸਿਰਫ ਇੱਕ ਐਪ ਸਟੋਰ ਡਾਉਨਲੋਡ ਦੀ ਲੋੜ ਹੈ।
ਪਹਿਰੇਦਾਰ ਕੀ ਲੱਭ ਰਹੇ ਹਨ
ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਸਮੱਸਿਆ ਦੇ ਪੈਮਾਨੇ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੇ ਹਨ। ਇੰਟਰਨੈੱਟ ਵਾਚ ਫਾਊਂਡੇਸ਼ਨ, ਯੂਕੇ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਵਾਲੀ ਸੰਸਥਾ ਜੋ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਸਮੱਗਰੀ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੀ ਹੈ, ਨੇ 6,310 AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀਆਂ ਤਸਵੀਰਾਂ ਲੱਭੀਆਂ ਜੋ 2026 ਦੇ ਪਹਿਲੇ ਅੱਧ ਵਿੱਚ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਦੀ ਕਾਨੂੰਨੀ ਪਰਿਭਾਸ਼ਾ ਨੂੰ ਪੂਰਾ ਕਰਦੀਆਂ ਹਨ - 2025 ਦੇ ਸਾਰੇ ਮੁਕਾਬਲੇ 40% ਵੱਧ।
ਵੀਡੀਓ ਲਈ ਟ੍ਰੈਜੈਕਟਰੀ ਅਜੇ ਵੀ ਸਟਾਰਕਰ ਹੈ। IWF ਨੇ 2025 ਵਿੱਚ 3,440 AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਦੇ ਵੀਡੀਓ ਦੀ ਪਛਾਣ ਕੀਤੀ, ਜੋ ਕਿ 2024 ਵਿੱਚ ਸਿਰਫ਼ 13 ਤੋਂ ਵੱਧ ਸੀ, ਅਤੇ ਉਹਨਾਂ ਵਿੱਚੋਂ 65% ਸ਼੍ਰੇਣੀ A ਵਿੱਚ ਸਨ, ਯੂਕੇ ਦੇ ਕਾਨੂੰਨ ਦੇ ਤਹਿਤ ਸਭ ਤੋਂ ਗੰਭੀਰ ਗ੍ਰੇਡ। ਇੱਕ ਸਾਲ ਵਿੱਚ 13 ਤੋਂ 3,440 ਤੱਕ ਦੀ ਛਾਲ ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਟੂਲ ਸਥਿਰ ਚਿੱਤਰਾਂ ਤੋਂ ਵੀਡੀਓ ਮੂਵ ਕਰਨ ਲਈ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਨਾਲੋਂ ਤੇਜ਼ੀ ਨਾਲ ਤਬਦੀਲ ਹੋ ਸਕਦੇ ਹਨ।
ਰੈਗੂਲੇਸ਼ਨ ਫੜਨ ਦੀ ਦੌੜ ਹੈ
ਯੂਕੇ ਹੁਣ ਤੱਕ ਸਭ ਤੋਂ ਅੱਗੇ ਵਧਿਆ ਹੈ। ਕ੍ਰਾਈਮ ਐਂਡ ਪੁਲਿਸਿੰਗ ਐਕਟ 2026 ਦੇ ਤਹਿਤ, ਸਰਕਾਰ ਦੀ ਆਪਣੀ ਫੈਕਟਸ਼ੀਟ ਦੇ ਅਨੁਸਾਰ, ਬੱਚਿਆਂ ਨਾਲ ਬਦਸਲੂਕੀ ਕਰਨ ਵਾਲੀ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਲਈ ਬਣਾਏ ਗਏ AI ਟੂਲਸ ਨੂੰ ਰੱਖਣਾ, ਬਣਾਉਣਾ ਜਾਂ ਵੰਡਣਾ ਹੁਣ ਇੱਕ ਅਪਰਾਧਿਕ ਅਪਰਾਧ ਹੈ, ਜਿਸਦੀ ਸਜ਼ਾ ਪੰਜ ਸਾਲ ਤੱਕ ਦੀ ਸਜ਼ਾ ਹੈ। ਇਹੀ ਕਾਨੂੰਨ ਨਡੀਫੀਕੇਸ਼ਨ ਟੂਲ ਬਣਾਉਣ ਜਾਂ ਸਪਲਾਈ ਕਰਨ ਨੂੰ ਅਪਰਾਧ ਬਣਾਉਂਦਾ ਹੈ - ਇੱਕ ਵਿਵਸਥਾ ਜੋ ਉਹਨਾਂ ਦੇ ਪਿੱਛੇ ਐਪ ਡਿਵੈਲਪਰਾਂ 'ਤੇ ਸਿੱਧਾ ਉਦੇਸ਼ ਹੈ।
ਕਿਤੇ ਹੋਰ ਤਸਵੀਰ ਪਤਲੀ ਹੈ। ਚਾਈਲਡਲਾਈਟ ਦੇ ਸੂਚਕਾਂਕ ਨੇ ਪਾਇਆ ਕਿ ਇਸ ਦੁਆਰਾ ਜਾਂਚੇ ਗਏ 103 ਦੇਸ਼ਾਂ ਵਿੱਚੋਂ ਸਿਰਫ਼ 22 ਵਿੱਚ ਹੀ ਔਫਲਾਈਨ ਅਤੇ ਤਕਨਾਲੋਜੀ-ਸਹੂਲਤ ਵਾਲੇ ਬਾਲ ਸ਼ੋਸ਼ਣ ਦੋਵਾਂ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲੇ ਵਿਆਪਕ ਸਰਵੇਖਣ ਡੇਟਾ ਹਨ, ਮਤਲਬ ਕਿ ਜ਼ਿਆਦਾਤਰ ਸਰਕਾਰਾਂ ਭਰੋਸੇਯੋਗ ਬੇਸਲਾਈਨ ਤੋਂ ਬਿਨਾਂ ਕਾਨੂੰਨ ਬਣਾ ਰਹੀਆਂ ਹਨ। ਇੰਸਟੀਚਿਊਟ ਔਨਲਾਈਨ ਸੁਰੱਖਿਆ ਕਾਨੂੰਨਾਂ, ਬਿਹਤਰ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ, ਤਕਨਾਲੋਜੀ ਖੇਤਰ ਤੋਂ ਵਧੇਰੇ ਜਵਾਬਦੇਹੀ ਅਤੇ ਪਹਿਲਾਂ ਤੋਂ ਰੋਕਥਾਮ ਦੇ ਕੰਮ ਦੀ ਮੰਗ ਕਰ ਰਿਹਾ ਹੈ।
ਰਿਪੋਰਟਿੰਗ ਪਾਈਪਲਾਈਨ ਸਮੱਸਿਆ
ਸੰਖਿਆਵਾਂ ਦੀ ਵਿਆਖਿਆ ਕਰਦੇ ਸਮੇਂ ਇੱਕ ਸੀਮਾ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ: ਡੇਟਾ ਰਿਪੋਰਟ ਕੀਤੀ ਸਮੱਗਰੀ ਦੇ ਸਰੋਤ ਵਜੋਂ ਖਾਸ ਮਾਡਲਾਂ ਜਾਂ ਪਲੇਟਫਾਰਮਾਂ ਦਾ ਨਾਮ ਨਹੀਂ ਦਿੰਦਾ ਹੈ। ਇਹ ਸੁਝਾਅ ਟੈਕਨਾਲੋਜੀ ਫਰਮਾਂ ਤੋਂ ਆਉਂਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਦੀਆਂ ਸੇਵਾਵਾਂ ਨੂੰ ਸਕੈਨ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਜੋ ਲੱਭਦੀਆਂ ਹਨ ਉਹਨਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦੀਆਂ ਹਨ - ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇੱਕ ਕੰਪਨੀ ਜੋ ਸਕੈਨ ਨਹੀਂ ਕਰਦੀ ਹੈ, ਉਹ ਰਿਪੋਰਟਾਂ ਤਿਆਰ ਨਹੀਂ ਕਰਦੀ ਹੈ। ਖੋਜ-ਅਗਵਾਈ ਵਾਲੀ ਰਿਪੋਰਟਿੰਗ ਹੈ, ਜਿਵੇਂ ਕਿ ਗਾਰਡੀਅਨ ਦੇ ਰਿਪੋਰਟਿੰਗ ਨੋਟਸ, ਇੱਕ ਪਤਲੀ ਕਿਸਮ ਦੀ ਸੁਰੱਖਿਆ, ਅਤੇ ਅੰਕੜਿਆਂ ਦਾ ਅਗਲਾ ਸੈੱਟ ਇਹ ਦਰਸਾਏਗਾ ਕਿ ਕਿਹੜੀਆਂ ਕੰਪਨੀਆਂ ਅਸਲ ਵਿੱਚ ਦੇਖ ਰਹੀਆਂ ਹਨ।
ਏਆਈ ਉਦਯੋਗ ਲਈ, ਸੂਚਕਾਂਕ ਦਾ ਸੰਦੇਸ਼ ਅਸਪਸ਼ਟ ਹੈ. ਜਨਰੇਟਿਵ ਟੂਲਸ ਦੀ ਦੁਰਵਰਤੋਂ ਹੁਣ ਮਾਡਲ ਕਾਰਡ ਦੇ ਜੋਖਮ ਭਾਗ ਵਿੱਚ ਇੱਕ ਪ੍ਰੋਜੈਕਸ਼ਨ ਨਹੀਂ ਹੈ; ਇਹ ਬਹੀ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡੀ ਲਾਈਨ ਹੈ, ਅਤੇ ਜਿਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਦੇ ਮਾਡਲਾਂ ਅਤੇ ਐਪਾਂ ਨੇ ਦੁਰਵਿਵਹਾਰ ਨੂੰ ਸਸਤੇ ਬਣਾਇਆ ਹੈ ਉਹਨਾਂ ਨੂੰ ਇਸਦਾ ਭੁਗਤਾਨ ਕਰਨ ਲਈ ਕਿਹਾ ਜਾਵੇਗਾ — ਲਾਗੂ ਕਰਨ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਵਿੱਚ, ਪਾਲਣਾ ਲਾਗਤਾਂ ਵਿੱਚ, ਅਤੇ ਕਾਨੂੰਨ ਵਿੱਚ।
AI ਤੋਂ ਅੱਗੇ ਰਹੋ
AI ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਯਮ 'ਤੇ ਬਹਿਸ ਦੀ ਪਾਲਣਾ ਕਰੋ ਜਿਵੇਂ ਕਿ ਇਹ ਸਾਹਮਣੇ ਆਉਂਦਾ ਹੈ। ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →
