ਇੱਕ ਚੀਨੀ ਕਿਸਾਨ ਨੇ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਨਦੀਨ ਅਤੇ ਕੀੜੇ ਨਿਯੰਤਰਣ ਨੁਸਖੇ ਦੀ ਪਾਲਣਾ ਕਰਨ ਤੋਂ ਬਾਅਦ ਲਗਭਗ 25 ਏਕੜ ਤਿਲ ਦੀ ਫਸਲ ਨੂੰ ਨਸ਼ਟ ਕਰ ਦਿੱਤਾ, ਇੱਕ ਅਸਲ-ਸੰਸਾਰ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ ਕਿ ਨਕਲੀ ਬੁੱਧੀ ਭਰੋਸੇ ਨਾਲ ਗਲਤ ਜਵਾਬ ਲਿਖ ਸਕਦੀ ਹੈ ਭਾਵੇਂ ਇਹ ਮਹੀਨਿਆਂ ਤੋਂ ਭਰੋਸੇਯੋਗ ਤੌਰ 'ਤੇ ਮਦਦਗਾਰ ਰਹੀ ਹੋਵੇ।

ਇਹ ਘਟਨਾ, ਟੌਮ ਦੇ ਹਾਰਡਵੇਅਰ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਅਤੇ ਅਗਸਤ 2026 ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਟੈਕਨਾਲੋਜੀ ਆਉਟਲੈਟਾਂ ਵਿੱਚ ਚੁਣੀ ਗਈ, ਇਸ ਗੱਲ 'ਤੇ ਚੱਲ ਰਹੀ ਬਹਿਸ ਵਿੱਚ ਇੱਕ ਫਲੈਸ਼ਪੁਆਇੰਟ ਬਣ ਗਈ ਹੈ ਕਿ ਲੋਕਾਂ ਨੂੰ ਉੱਚ-ਦਾਅ, ਅਟੱਲ ਫੈਸਲਿਆਂ ਲਈ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਕਿੰਨਾ ਭਰੋਸਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਕਿਸਾਨ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਲੰਬੇ ਸਮੇਂ ਲਈ ਨਦੀਨਾਂ ਅਤੇ ਕੀਟਨਾਸ਼ਕ ਸਿਫ਼ਾਰਸ਼ਾਂ ਲਈ ਇੱਕ AI ਸਹਾਇਕ ਵੱਲ ਮੁੜਿਆ ਸੀ, ਅਤੇ ਇਸ ਸਾਧਨ ਨੇ ਇੱਕ ਨੁਸਖਾ ਤਿਆਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਕਈ ਮਹੀਨਿਆਂ ਦੀ ਸਫਲ ਮਾਰਗਦਰਸ਼ਨ ਪ੍ਰਦਾਨ ਕੀਤੀ ਸੀ ਜੋ ਫਸਲ ਨੂੰ ਖਤਮ ਕਰ ਦਿੰਦੀ ਸੀ। ਇਸ ਕਹਾਣੀ 'ਤੇ ਹੋਰ ਪ੍ਰਸੰਗ ਲਈ, ਸਾਡੇ ਚੱਲ ਰਹੇ नकली ਇੰਟੈਲੀਜੈਂਸ ਅੱਪਡੇਟ ਦੇਖੋ।

ਸਫਲਤਾ ਦੇ ਮਹੀਨੇ, ਫਿਰ ਤਬਾਹੀ

ਕੇਸ ਨੂੰ ਖਾਸ ਤੌਰ 'ਤੇ ਪਰੇਸ਼ਾਨ ਕਰਨ ਵਾਲੀ ਗੱਲ ਇਹ ਹੈ ਕਿ ਅਸਫਲਤਾ ਨੇ ਸਪੱਸ਼ਟ ਗਲਤੀਆਂ ਦੇ ਇਤਿਹਾਸ ਦੀ ਪਾਲਣਾ ਨਹੀਂ ਕੀਤੀ. ਟੌਮਜ਼ ਹਾਰਡਵੇਅਰ ਦੀ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਕਿਸਾਨ ਨੇ ਮਹੀਨਿਆਂ ਦੀ ਸਫਲ ਸਲਾਹ ਤੋਂ ਬਾਅਦ ਏਆਈ ਦੇ ਕੀਟਨਾਸ਼ਕ ਪਕਵਾਨਾਂ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ ਸੀ। ਸਿਸਟਮ ਨੇ ਸੱਚਾ ਵਿਸ਼ਵਾਸ ਪੈਦਾ ਕਰਨ ਲਈ, ਵਾਰ-ਵਾਰ, ਕਾਫ਼ੀ ਵਧੀਆ ਢੰਗ ਨਾਲ ਕੰਮ ਕੀਤਾ ਸੀ। ਫਿਰ ਇੱਕ ਇੱਕਲੀ ਸਿਫ਼ਾਰਿਸ਼ ਨੇ ਇੱਕ ਨਤੀਜਾ ਦਿੱਤਾ ਜੋ ਉਤਪਾਦਕ ਨੂੰ ਵਾਪਸ ਨਹੀਂ ਕਰ ਸਕਦਾ ਸੀ।

ਇਹ ਬਿਲਕੁਲ ਉਹੀ ਪੈਟਰਨ ਹੈ ਜਿਸ ਬਾਰੇ AI ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ। ਉਹ ਟੂਲ ਜੋ ਜ਼ਿਆਦਾਤਰ ਸਮਾਂ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦੇ ਹਨ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਪਹਿਰੇਦਾਰ ਨੂੰ ਨਿਰਾਸ਼ ਕਰਨ, ਉਹਨਾਂ ਦੇ ਨਿਰਣੇ ਨੂੰ ਸਵੈਚਲਿਤ ਕਰਨ, ਅਤੇ ਪੁਸ਼ਟੀਕਰਨ ਨੂੰ ਛੱਡਣ ਲਈ ਸਿਖਾਉਂਦੇ ਹਨ। ਜਦੋਂ ਅਟੱਲ ਗਲਤੀ ਆਉਂਦੀ ਹੈ, ਇਹ ਇੱਕ ਸੰਦਰਭ ਵਿੱਚ ਆਉਂਦੀ ਹੈ ਜਿੱਥੇ ਮਨੁੱਖ ਨੇ ਪਹਿਲਾਂ ਹੀ ਫੈਸਲੇ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਊਟਸੋਰਸ ਕਰ ਦਿੱਤਾ ਹੈ।

ਭਰਮ ਦੀ ਸਮੱਸਿਆ ਭੌਤਿਕ ਸੰਸਾਰ ਨੂੰ ਮਿਲਦੀ ਹੈ

ਵੱਡੇ ਭਾਸ਼ਾ ਦੇ ਮਾਡਲ ਖੁਰਾਕ, ਰਸਾਇਣ, ਜਾਂ ਖੇਤੀ ਵਿਗਿਆਨ ਨੂੰ ਨਹੀਂ ਸਮਝਦੇ। ਉਹ ਆਪਣੇ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨਾਂ ਦੇ ਅਧਾਰ ਤੇ ਪ੍ਰਸ਼ੰਸਾਯੋਗ-ਧੁਨੀ ਵਾਲੇ ਟੈਕਸਟ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਦੇ ਹਨ। ਜ਼ਿਆਦਾਤਰ ਸਮਾਂ, ਆਮ ਸਵਾਲਾਂ ਲਈ, ਉਹ ਪੈਟਰਨ ਉਪਯੋਗੀ ਜਵਾਬ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਪਰ ਮਾਡਲਾਂ ਕੋਲ ਇੱਕ ਭਰੋਸੇ ਨਾਲ ਦੱਸੇ ਗਏ ਪਰ ਰਸਾਇਣਕ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨਦੇਹ ਇੱਕ ਤੋਂ ਸਹੀ ਕੀਟਨਾਸ਼ਕ ਪਤਲੇਪਣ ਨੂੰ ਵੱਖ ਕਰਨ ਲਈ ਕੋਈ ਵਿਧੀ ਨਹੀਂ ਹੈ, ਅਤੇ ਉਹ ਖੁਸ਼ੀ ਨਾਲ ਕਿਸੇ ਲਈ ਵੀ ਵਿਸਤ੍ਰਿਤ, ਅਧਿਕਾਰਤ-ਆਧੁਨਿਕ ਨਿਰਦੇਸ਼ ਤਿਆਰ ਕਰਨਗੇ।

ਮੂਵੀ ਸਿਫ਼ਾਰਸ਼ਾਂ ਜਾਂ ਈਮੇਲ ਡਰਾਫਟ ਬਾਰੇ ਗੱਲਬਾਤ ਵਿੱਚ, ਇੱਕ ਭੁਲੇਖੇ ਵਾਲਾ ਵੇਰਵਾ ਇੱਕ ਮਾਮੂਲੀ ਪਰੇਸ਼ਾਨੀ ਹੈ। ਖੇਤੀਬਾੜੀ ਵਿੱਚ, ਜਿੱਥੇ ਜੜੀ-ਬੂਟੀਆਂ ਜਾਂ ਕੀਟਨਾਸ਼ਕਾਂ ਦੀ ਗਲਤ ਤਵੱਜੋ ਦਿਨਾਂ ਦੇ ਅੰਦਰ ਇੱਕ ਪੂਰੇ ਖੇਤ ਨੂੰ ਮਾਰ ਸਕਦੀ ਹੈ, ਉਹੀ ਅਸਫਲਤਾ ਇੱਕ ਰੋਜ਼ੀ-ਰੋਟੀ ਨੂੰ ਤਬਾਹ ਕਰਨ ਵਾਲੀ ਘਟਨਾ ਬਣ ਜਾਂਦੀ ਹੈ। 25-ਏਕੜ ਦੇ ਤਿਲ ਦਾ ਨੁਕਸਾਨ ਇਸ ਗੱਲ ਦਾ ਇੱਕ ਠੋਸ ਉਦਾਹਰਣ ਹੈ ਕਿ ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਇੱਕ AI ਦੇ ਭਰੋਸੇ ਅਤੇ ਇਸਦੀ ਯੋਗਤਾ ਵਿਚਕਾਰ ਪਾੜਾ ਇੱਕ ਅਟੱਲ ਸਰੀਰਕ ਕਿਰਿਆ ਨਾਲ ਟਕਰਾ ਜਾਂਦਾ ਹੈ।

ਅਸਲ-ਸੰਸਾਰ AI ਨੁਕਸਾਨ ਦਾ ਇੱਕ ਵਿਸ਼ਾਲ ਪੈਟਰਨ

ਇਹ ਕੇਸ ਘਟਨਾਵਾਂ ਦੀ ਇੱਕ ਵਧ ਰਹੀ ਕੈਟਾਲਾਗ ਨੂੰ ਫਿੱਟ ਕਰਦਾ ਹੈ ਜਿਸ ਵਿੱਚ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਸਲਾਹ ਨੇ ਠੋਸ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ ਜਦੋਂ ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਸੁਤੰਤਰ ਤਸਦੀਕ ਦੇ ਬਿਨਾਂ ਇਸ 'ਤੇ ਕਾਰਵਾਈ ਕੀਤੀ। ਜ਼ਹਿਰੀਲੇ ਤੱਤਾਂ ਵਾਲੇ AI-ਸੁਝਾਏ ਗਏ ਪਕਵਾਨਾਂ ਤੋਂ ਲੈ ਕੇ ਗੈਰ-ਮੌਜੂਦ ਕੇਸ ਕਾਨੂੰਨ ਦੀ ਖੋਜ ਕਰਨ ਵਾਲੇ ਕਾਨੂੰਨੀ ਚੈਟਬੋਟਸ ਤੱਕ, ਅਸਫਲਤਾ ਮੋਡ ਇਕਸਾਰ ਹੈ: ਸਿਸਟਮ ਨਿਸ਼ਚਿਤ ਲੱਗਦਾ ਹੈ, ਉਪਭੋਗਤਾ ਇਸ 'ਤੇ ਭਰੋਸਾ ਕਰਦਾ ਹੈ, ਅਤੇ ਨਤੀਜੇ ਅਸਲ ਸੰਸਾਰ ਵਿੱਚ ਸਾਹਮਣੇ ਆਉਂਦੇ ਹਨ।

ਖੇਤੀ ਦੇ ਮਾਮਲੇ ਨੂੰ ਵੱਖਰਾ ਕਰਨ ਵਾਲਾ ਪੈਮਾਨਾ ਅਤੇ ਭਰੋਸੇ ਦਾ ਸਰੋਤ ਹੈ। ਫਸਲ-ਸੁਰੱਖਿਆ ਦੇ ਫੈਸਲਿਆਂ ਲਈ ਇੱਕ AI ਟੂਲ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਵਾਲਾ ਇੱਕ ਛੋਟਾ ਧਾਰਕ ਹਰ ਸਿਫ਼ਾਰਸ਼ 'ਤੇ ਸੱਟਾ ਲਗਾ ਰਿਹਾ ਹੈ, ਅਤੇ ਪਹਿਲਾਂ ਦੀ ਸਫਲਤਾ ਦੇ ਮਹੀਨੇ ਇੱਕ ਕਿਸਮ ਦੇ ਸਬੂਤ ਵਜੋਂ ਕੰਮ ਕਰਦੇ ਹਨ ਜੋ ਝੂਠੇ ਭਰੋਸੇ ਵਿੱਚ ਇਕੱਠੇ ਹੁੰਦੇ ਹਨ। ਜਦੋਂ ਤੱਕ ਬੁਰੀ ਸਲਾਹ ਆਈ, ਤਸਦੀਕ ਦੀ ਆਦਤ ਪਹਿਲਾਂ ਹੀ ਖਤਮ ਹੋ ਚੁੱਕੀ ਸੀ।

ਏਆਈ ਸਹਾਇਕਾਂ ਦੀ ਉਮਰ ਲਈ ਸਬਕ

ਐਪੀਸੋਡ ਸਪੱਸ਼ਟ ਸਬਕ ਲੈ ਕੇ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ AI ਸਹਾਇਕ ਕਦੇ ਵੀ ਵਧੇਰੇ ਨਤੀਜੇ ਵਾਲੇ ਵਰਕਫਲੋਜ਼ ਵਿੱਚ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ। ਪਹਿਲਾਂ, ਔਸਤਨ ਭਰੋਸੇਯੋਗਤਾ ਹਰ ਸਥਿਤੀ ਵਿੱਚ ਭਰੋਸੇਯੋਗਤਾ ਨਹੀਂ ਹੈ; ਇੱਕ ਸਿਸਟਮ ਜੋ 95% ਵਾਰ ਸਹੀ ਹੁੰਦਾ ਹੈ, ਪਰਿਭਾਸ਼ਾ ਅਨੁਸਾਰ, ਨਿਯਮਤ ਅਧਾਰ 'ਤੇ ਗਲਤ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਕੋਈ ਵੀ ਅਸਫਲਤਾ ਵਿਨਾਸ਼ਕਾਰੀ ਹੋ ਸਕਦੀ ਹੈ ਜੇਕਰ ਕਿਰਿਆ ਵਾਪਸੀਯੋਗ ਨਹੀਂ ਹੈ। ਦੂਸਰਾ, ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਇੱਕ ਉਪਚਾਰਕਤਾ ਨਹੀਂ ਹੈ ਜਦੋਂ ਇੱਕ ਸਾਧਨ ਲਾਭਦਾਇਕ ਸਾਬਤ ਹੁੰਦਾ ਹੈ, ਪਰ ਇੱਕ ਅਨੁਸ਼ਾਸਨ ਜਿਸ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਬਰਕਰਾਰ ਰੱਖਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿਉਂਕਿ ਉਪਯੋਗੀ ਸੰਦ ਸਾਡੀ ਰੱਖਿਆ ਨੂੰ ਘੱਟ ਕਰਦੇ ਹਨ।

ਤੀਜਾ, ਬੋਝ ਸਿਰਫ਼ ਉਪਭੋਗਤਾਵਾਂ 'ਤੇ ਨਹੀਂ ਪੈਂਦਾ ਹੈ। ਖੇਤੀਬਾੜੀ, ਦਵਾਈ, ਅਤੇ ਹੋਰ ਉੱਚ-ਸਟੇਕ ਡੋਮੇਨਾਂ ਲਈ AI ਟੂਲ ਬਣਾਉਣ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਸ ਬਾਰੇ ਸਖ਼ਤ ਸਵਾਲਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ ਕਿ ਕੀ ਜਨਰੇਟਿਵ ਮਾਡਲ, ਜੋ ਕਿ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲੇ ਇੰਜਣ ਹਨ, ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਗਾਰਡਰੇਲ, ਹਵਾਲਿਆਂ, ਜਾਂ ਲਾਜ਼ਮੀ ਬੇਦਾਅਵੇ ਦੇ ਬਿਨਾਂ ਨੁਸਖ਼ਾਤਮਕ ਸਲਾਹ ਦੇਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਅੰਤਿਮ ਫੈਸਲੇ ਨੂੰ ਇੱਕ ਯੋਗ ਮਨੁੱਖ ਤੱਕ ਪਹੁੰਚਾਉਂਦੇ ਹਨ।

ਭਰੋਸਾ ਕਰੋ, ਪਰ ਪੁਸ਼ਟੀ ਕਰੋ

ਹੁਣ ਲਈ, ਸਭ ਤੋਂ ਸਰਲ ਟੇਕਵੇਅ ਵੀ ਸਭ ਤੋਂ ਪੁਰਾਣਾ ਹੈ। AI ਲਾਭਦਾਇਕ ਹੈ, ਪਰ ਤੁਹਾਨੂੰ ਕਦੇ ਵੀ ਇਸ 'ਤੇ ਅੰਨ੍ਹੇਵਾਹ ਭਰੋਸਾ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ। ਚੀਨੀ ਕਿਸਾਨ ਦੀ ਗੁਆਚੀ ਤਿਲ ਦੀ ਫਸਲ ਇੱਕ ਮਹਿੰਗੀ ਯਾਦ ਦਿਵਾਉਂਦੀ ਹੈ ਕਿ ਭਰੋਸੇ ਨਾਲ ਕਹੀ ਗਈ ਸਿਫ਼ਾਰਿਸ਼ ਇੱਕ ਸਹੀ ਚੀਜ਼ ਨਹੀਂ ਹੈ, ਅਤੇ ਇਹ ਕਿ ਅੰਤਰ ਲੱਭਣ ਦੀ ਲਾਗਤ ਏਕੜ ਵਿੱਚ ਮਾਪੀ ਜਾ ਸਕਦੀ ਹੈ।

---

AI ਤੋਂ ਅੱਗੇ ਰਹੋ

ਨਵੀਨਤਮ AI ਖਬਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਫਲਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰੋ - ਸਭ ਇੱਕ ਥਾਂ 'ਤੇ।

ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →