ਜਿਵੇਂ ਕਿ ਕੰਪਨੀਆਂ ਮਿਲ ਕੇ ਸਮੱਸਿਆਵਾਂ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ AI ਏਜੰਟਾਂ ਦੇ ਵੱਡੇ ਸਮੂਹਾਂ ਨੂੰ ਤਾਇਨਾਤ ਕਰਦੀਆਂ ਹਨ, ਕੋਨਸਟਾਂਜ਼ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਅਸਥਿਰ ਵਿਵਹਾਰ ਦੇ ਸਬੂਤ ਪੇਸ਼ ਕੀਤੇ ਹਨ: AI ਏਜੰਟ ਸਵੈ-ਇੱਛਾ ਨਾਲ ਬਹੁਗਿਣਤੀ ਰਾਏ ਦੇ ਅਨੁਕੂਲ ਹੁੰਦੇ ਹਨ, ਕਲਾਸਿਕ ਮਨੋਵਿਗਿਆਨ ਦੇ ਪ੍ਰਯੋਗਾਂ ਵਿੱਚ ਮਨੁੱਖਾਂ ਵਾਂਗ ਸਮੂਹ ਦੇ ਦਬਾਅ ਹੇਠ ਗਲਤ ਜਵਾਬ ਦਿੰਦੇ ਹਨ - ਅਤੇ ਬਹੁਤ ਘੱਟ ਗਿਣਤੀ ਵਿੱਚ ਵਿਗਿਆਪਨ ਕਰਨ ਵਾਲੇ ਸਥਾਈ ਤੌਰ 'ਤੇ ਪੂਰੀ ਆਬਾਦੀ ਨੂੰ ਅੜੀਅਲ ਬਣਾ ਸਕਦੇ ਹਨ। ਗਲਤ ਰਾਜਾਂ
ਸਾਈਪੋਸਟ ਦੁਆਰਾ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਖੋਜ, ਕੋਨਸਟਾਂਜ਼ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਸੈਂਟਰ ਫਾਰ ਡੇਟਾ ਐਂਡ ਮੈਥਡਜ਼ ਦੇ ਅੰਦਰ ਸੋਸ਼ਲ ਡੇਟਾ ਸਾਇੰਸ ਲੈਬ ਦੇ ਪੋਸਟ-ਡਾਕਟੋਰਲ ਖੋਜਕਰਤਾ ਅਤੇ ਲੈਕਚਰਾਰ ਜਿਓਰਦਾਨੋ ਡੀ ਮਾਰਜ਼ੋ ਦੀ ਅਗਵਾਈ ਵਿੱਚ ਇੱਕ ਖੋਜ ਪ੍ਰੋਗਰਾਮ ਤੋਂ ਆਉਂਦੀ ਹੈ, ਅਤੇ ਸਹਿਯੋਗੀ ਕਲਾਉਡੀਓ ਕਾਸਟੇਲਾਨੋ ਅਤੇ ਡੇਵਿਡ ਗਾਰਸੀਆ ਦੇ ਨਾਲ। ਮੁੱਖ ਅਧਿਐਨ, ਜਿਸਦਾ ਸਿਰਲੇਖ ਹੈ, "AI ਏਜੰਟ ਮਨੁੱਖੀ ਪੈਮਾਨੇ ਤੋਂ ਪਰੇ ਬਹੁਮਤ ਦੁਆਰਾ ਤਾਲਮੇਲ ਕਰ ਸਕਦੇ ਹਨ" ਨੇ ਜਾਂਚ ਕੀਤੀ ਕਿ ਭਾਸ਼ਾ ਮਾਡਲ ਕਿਵੇਂ ਵਿਵਹਾਰ ਕਰਦੇ ਹਨ ਜਦੋਂ ਸਮੂਹਾਂ ਵਿੱਚ ਸਹਿਮਤ ਹੋਣ ਦੀ ਕੋਈ ਹਦਾਇਤ ਨਹੀਂ ਹੈ। For more context on this story, see our ongoing AI news.
ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਸਾਈਪੋਸਟ ਨੂੰ ਦੱਸਿਆ, "ਏਆਈ ਏਜੰਟ ਦੁਨੀਆ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੀ ਇੱਕ ਅਸਲ ਵਿੱਚ ਨਵੀਂ ਕਿਸਮ ਦੀ ਹਸਤੀ ਹੈ, ਅਤੇ ਜਦੋਂ ਇਹ ਤਕਨਾਲੋਜੀ ਆਈ ਤਾਂ ਇਹ ਦੋਵੇਂ ਸਪੱਸ਼ਟ ਸਨ ਕਿ ਇਹ ਰਹੇਗੀ ਅਤੇ ਇਹ ਕਿ ਇਹਨਾਂ ਏਜੰਟਾਂ ਨੂੰ ਕਿਸੇ ਵੀ ਗੁੰਝਲਦਾਰ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਇੱਕ ਦੂਜੇ ਨਾਲ ਗੱਲਬਾਤ ਕਰਨੀ ਪਵੇਗੀ," ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਸਾਈਪੋਸਟ ਨੂੰ ਦੱਸਿਆ। "ਇਹ ਉਹੀ ਸਥਿਤੀ ਹੈ ਜਿਸ ਦਾ ਅਸੀਂ ਮਨੁੱਖਾਂ ਅਤੇ ਹੋਰ ਜਾਨਵਰਾਂ ਨਾਲ ਸਾਹਮਣਾ ਕਰਦੇ ਹਾਂ, ਇਸ ਲਈ ਅਸੀਂ ਉਸੇ ਤਰੀਕੇ ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ."
ਪ੍ਰਯੋਗ: ਕੋਈ ਹਦਾਇਤਾਂ ਨਹੀਂ, ਸਿਰਫ਼ ਗੁਆਂਢੀ
ਖੋਜਕਰਤਾਵਾਂ ਨੇ GPT, ਕਲਾਉਡ ਅਤੇ ਲਾਮਾ ਪਰਿਵਾਰਾਂ ਦੇ ਪ੍ਰਸਿੱਧ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੇ ਸਮੂਹਾਂ ਨੂੰ ਇਕੱਠਾ ਕੀਤਾ, ਪ੍ਰਤੀ ਸਮੂਹ 50 ਏਜੰਟਾਂ ਨਾਲ ਸ਼ੁਰੂ ਕੀਤਾ। ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਦੋ ਬੇਤਰਤੀਬੇ, ਨਿਰਪੱਖ ਰਾਇਆਂ ਵਿੱਚੋਂ ਇੱਕ ਨਿਰਧਾਰਤ ਕੀਤਾ ਗਿਆ ਸੀ - "ਹਾਂ" ਜਾਂ "ਨਹੀਂ" ਵਰਗੇ ਲੋਡ ਕੀਤੇ ਸ਼ਬਦਾਂ ਦੀ ਬਜਾਏ ਜਾਣਬੁੱਝ ਕੇ ਬੇਤਰਤੀਬੇ ਅੱਖਰਾਂ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ ਸੀ - ਅਤੇ ਫਿਰ ਬਾਕੀ ਸਾਰੇ ਏਜੰਟਾਂ ਦੇ ਮੌਜੂਦਾ ਵਿਚਾਰਾਂ ਦੀ ਸੂਚੀ ਦਿਖਾਈ ਗਈ ਸੀ। ਏਜੰਟਾਂ ਨੂੰ ਸਿਰਫ਼ ਉਸ ਸੂਚੀ ਦੇ ਆਧਾਰ 'ਤੇ ਇੱਕ ਨਵੀਂ ਰਾਏ ਚੁਣਨ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ, ਜਿਸ ਵਿੱਚ ਅਨੁਕੂਲ ਹੋਣ ਲਈ ਕੋਈ ਸਪੱਸ਼ਟ ਹਦਾਇਤ ਨਹੀਂ ਸੀ, ਹਰੇਕ ਦੇ ਔਸਤਨ ਦਸ ਵਾਰ ਆਪਣੇ ਵਿਚਾਰਾਂ ਨੂੰ ਅੱਪਡੇਟ ਕਰਦੇ ਹੋਏ।
ਨਤੀਜਾ: GPT-4 ਟਰਬੋ ਅਤੇ ਕਲਾਉਡ 3 ਓਪਸ ਵਰਗੇ ਉੱਨਤ ਮਾਡਲਾਂ ਦਾ ਪੂਰੀ ਤਰ੍ਹਾਂ ਤਾਲਮੇਲ ਹੈ, 100% ਏਜੰਟ ਆਖਰਕਾਰ ਇੱਕ ਰਾਏ 'ਤੇ ਸਹਿਮਤ ਹੁੰਦੇ ਹਨ। GPT-3.5 ਟਰਬੋ ਵਰਗੇ ਕਮਜ਼ੋਰ ਮਾਡਲ ਕਦੇ ਵੀ ਸਹਿਮਤੀ 'ਤੇ ਨਹੀਂ ਪਹੁੰਚੇ - ਉਹਨਾਂ ਦੇ ਸਮਝੌਤੇ ਦੇ ਪੱਧਰ 50/50 ਸਪਲਿਟ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਬੇਤਰਤੀਬੇ ਤੌਰ 'ਤੇ ਉਤਰਾਅ-ਚੜ੍ਹਾਅ ਕਰਦੇ ਹਨ।
ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਕਿਹਾ, “ਏਆਈ ਏਜੰਟਾਂ ਦੇ ਸਮੂਹ ਆਪਣੇ ਆਪ ਇਕੱਠੇ ਹੋ ਸਕਦੇ ਹਨ। "ਦੋ ਬਰਾਬਰ ਦੇ ਚੰਗੇ ਵਿਕਲਪ ਦਿੱਤੇ ਗਏ ਹਨ, ਕੋਈ ਸਹੀ ਜਵਾਬ ਨਹੀਂ ਹੈ ਅਤੇ ਸਹਿਮਤੀ ਲਈ ਕੋਈ ਹਦਾਇਤ ਨਹੀਂ ਹੈ, ਉਹ ਆਪਣੇ ਆਲੇ ਦੁਆਲੇ ਦੀ ਬਹੁਗਿਣਤੀ ਦੀ ਪਾਲਣਾ ਕਰਕੇ ਇੱਕ ਸਾਂਝੀ ਚੋਣ 'ਤੇ ਇਕੱਠੇ ਹੋ ਜਾਂਦੇ ਹਨ।"
ਇੱਕ ਸਦੀ-ਪੁਰਾਣਾ ਭੌਤਿਕ ਵਿਗਿਆਨ ਕਾਨੂੰਨ ਉਭਰਿਆ
ਪ੍ਰਭਾਵ ਨੂੰ ਮਾਪਣ ਲਈ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ "ਬਹੁਗਿਣਤੀ ਫੋਰਸ" ਨਾਮਕ ਇੱਕ ਮੈਟ੍ਰਿਕ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ - ਇੱਕ ਮਾਪਦੰਡ ਇਸ ਗੱਲ ਦਾ ਇੱਕ ਮਾਪਦੰਡ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਬੇਤਰਤੀਬ ਢੰਗ ਨਾਲ ਚੁਣਨ ਦੀ ਬਜਾਏ ਸਮੂਹ ਦੀ ਸਭ ਤੋਂ ਪ੍ਰਸਿੱਧ ਚੋਣ ਨੂੰ ਅਪਣਾਉਣ ਲਈ ਕਿੰਨਾ ਜ਼ੋਰਦਾਰ ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਉਹਨਾਂ ਨੇ ਇਸ ਵਿਵਹਾਰ ਨੂੰ ਗਣਿਤਿਕ ਤੌਰ 'ਤੇ ਮੈਪ ਕੀਤਾ, ਤਾਂ ਉਹਨਾਂ ਨੇ ਪਾਇਆ ਕਿ ਇਹ ਮੂਲ ਰੂਪ ਵਿੱਚ ਫੈਰੋਮੈਗਨੇਟ ਦਾ ਵਰਣਨ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਇੱਕ ਮਾਡਲ ਦੀ ਪਾਲਣਾ ਕਰਦਾ ਹੈ: ਜਿਵੇਂ ਕਿ ਚੁੰਬਕੀ ਸਮੱਗਰੀ ਵਿੱਚ ਪਰਮਾਣੂ ਸਪਿਨ ਉਹਨਾਂ ਦੇ ਗੁਆਂਢੀਆਂ ਨਾਲ ਇਕਸਾਰ ਹੁੰਦੇ ਹਨ, AI ਏਜੰਟ ਬਹੁਗਿਣਤੀ ਦੀ ਰਾਏ ਨਾਲ ਇਕਸਾਰ ਹੁੰਦੇ ਹਨ।
ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਕਿਹਾ, “ਸਾਨੂੰ ਹੈਰਾਨੀ ਵਾਲੀ ਗੱਲ ਇਹ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਇਹ ਕਿੰਨੀ ਇਕਸਾਰਤਾ ਨਾਲ ਕੀਤਾ। "ਹਰੇਕ ਮਾਡਲ ਜਿਸਦੀ ਅਸੀਂ ਜਾਂਚ ਕੀਤੀ, ਤਿੰਨ ਵੱਖ-ਵੱਖ ਪਰਿਵਾਰਾਂ ਵਿੱਚ, ਇੱਕੋ ਗਣਿਤ ਦੇ ਨਿਯਮ ਦੀ ਪਾਲਣਾ ਕੀਤੀ, ਸਿਰਫ਼ ਇੱਕ ਮਾਪਦੰਡ ਵਿੱਚ ਭਿੰਨਤਾ ਜਿਸ ਨੂੰ ਅਸੀਂ ਬਹੁਗਿਣਤੀ ਬਲ ਕਹਿੰਦੇ ਹਾਂ। ਉਹ ਕਾਨੂੰਨ ਨਿਕਲਿਆ ਜੋ ਇੱਕ ਭੌਤਿਕ ਵਿਗਿਆਨੀਆਂ ਨੇ ਇੱਕ ਸਦੀ ਤੋਂ ਮੈਗਨੇਟ ਦਾ ਵਰਣਨ ਕਰਨ ਲਈ ਵਰਤਿਆ ਹੈ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇੱਕ ਮਾਪਿਆ ਨੰਬਰ ਇਹ ਅਨੁਮਾਨ ਲਗਾਉਣ ਲਈ ਕਾਫ਼ੀ ਹੈ ਕਿ ਇੱਕ ਦਿੱਤੇ ਮਾਡਲ ਦਾ ਪੂਰਾ ਸਮੂਹ ਕਿਵੇਂ ਵਿਵਹਾਰ ਕਰੇਗਾ।"
ਸਮੂਹ ਵਧਣ ਨਾਲ ਅਨੁਕੂਲਤਾ ਕਮਜ਼ੋਰ ਹੋ ਜਾਂਦੀ ਹੈ। ਕਿਉਂਕਿ ਬਹੁਗਿਣਤੀ ਸ਼ਕਤੀ ਸਮੂਹ ਦੇ ਆਕਾਰ ਦੇ ਨਾਲ ਘਟਦੀ ਹੈ, ਵੱਡੀ ਆਬਾਦੀ ਅੰਤ ਵਿੱਚ ਅਸਥਿਰ ਹੋ ਜਾਂਦੀ ਹੈ ਅਤੇ ਧੜਿਆਂ ਵਿੱਚ ਵੰਡ ਜਾਂਦੀ ਹੈ। ਹਰੇਕ ਮਾਡਲ ਦਾ ਇੱਕ ਮਾਪਣਯੋਗ "ਨਾਜ਼ੁਕ ਸਮੂਹ ਆਕਾਰ" ਹੁੰਦਾ ਹੈ - ਏਜੰਟਾਂ ਦੀ ਵੱਧ ਤੋਂ ਵੱਧ ਸੰਖਿਆ ਜੋ ਭਰੋਸੇਯੋਗ ਤੌਰ 'ਤੇ ਸਹਿਮਤੀ ਤੱਕ ਪਹੁੰਚ ਸਕਦੇ ਹਨ - ਅਤੇ ਇਹ ਆਕਾਰ ਮਾਡਲ ਦੀ ਤਰਕ ਸਮਰੱਥਾ ਨਾਲ ਮਜ਼ਬੂਤੀ ਨਾਲ ਸਬੰਧ ਰੱਖਦਾ ਹੈ। "ਸਭ ਤੋਂ ਮਜ਼ਬੂਤ ਮਾਡਲ ਹਜ਼ਾਰਾਂ ਦੇ ਸਮੂਹਾਂ ਵਿੱਚ ਤਾਲਮੇਲ ਰੱਖਦੇ ਹਨ, ਕੁਝ ਸੌ ਤੋਂ ਪਰੇ, ਜਿਸ ਵਿੱਚ ਗੈਰ ਰਸਮੀ ਮਨੁੱਖੀ ਸਮੂਹ ਆਮ ਤੌਰ 'ਤੇ ਵੱਖ ਹੋ ਜਾਂਦੇ ਹਨ," ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਦੱਸਿਆ।
ਸਮਾਜਿਕ ਦਬਾਅ ਹੇਠ ਗਲਤ ਜਵਾਬ
ਅਲੇਸੈਂਡਰੋ ਬੇਲੀਨਾ, ਡੀ ਮਾਰਜ਼ੋ ਅਤੇ ਗਾਰਸੀਆ ਦੁਆਰਾ ਇੱਕ ਪਹਿਲਾ ਫਾਲੋ-ਅਪ ਪ੍ਰੀਪ੍ਰਿੰਟ, "ਏਆਈ ਏਜੰਟਾਂ 'ਤੇ ਅਨੁਕੂਲਤਾ ਅਤੇ ਸਮਾਜਿਕ ਪ੍ਰਭਾਵ", ਨੇ 1950 ਦੇ ਦਹਾਕੇ ਦੇ ਮਸ਼ਹੂਰ Asch ਅਨੁਕੂਲਤਾ ਪ੍ਰਯੋਗਾਂ ਨੂੰ ਅਨੁਕੂਲਿਤ ਕੀਤਾ, ਜਿਸ ਵਿੱਚ ਮਨੁੱਖੀ ਭਾਗੀਦਾਰ ਅਕਸਰ ਇੱਕ ਸਮੂਹ ਵਿੱਚ ਫਿੱਟ ਹੋਣ ਲਈ ਸਧਾਰਨ ਵਿਜ਼ੂਅਲ ਪ੍ਰਸ਼ਨਾਂ ਦੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਗਲਤ ਜਵਾਬ ਦਿੰਦੇ ਹਨ।
ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਤਿੰਨ ਵਿਜ਼ੂਅਲ ਕੰਮਾਂ 'ਤੇ ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਜਿਵੇਂ ਕਿ ਦੋ ਵਿਕਲਪਾਂ ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਹਵਾਲਾ ਲਾਈਨ ਦੀ ਲੰਬਾਈ ਦਾ ਮੇਲ ਕਰਨਾ। ਅਲੱਗ-ਥਲੱਗ ਵਿੱਚ, ਮਾਡਲਾਂ ਨੇ 100% ਵਾਰ ਸਹੀ ਜਵਾਬ ਦਿੱਤਾ। ਪਰ ਜਦੋਂ ਇੱਕ ਪ੍ਰੋਂਪਟ ਨੇ ਸੰਕੇਤ ਦਿੱਤਾ ਕਿ ਦੂਜੇ ਭਾਗੀਦਾਰਾਂ ਦੇ ਇੱਕ ਸਮੂਹ ਨੇ ਗਲਤ ਲਾਈਨ ਚੁਣੀ ਹੈ, ਤਾਂ ਮਾਡਲਾਂ ਨੇ ਗਲਤ ਜਵਾਬ ਦੇ ਅਨੁਕੂਲ ਹੋਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ।
ਇਹ ਪੈਟਰਨ ਲੈਟਾਨੇ ਦੇ ਸਮਾਜਿਕ ਪ੍ਰਭਾਵ ਸਿਧਾਂਤ ਦੀ ਪਾਲਣਾ ਕਰਦਾ ਹੈ, ਇੱਕ ਮਨੋਵਿਗਿਆਨਕ ਫਰੇਮਵਰਕ ਜਿਸ ਵਿੱਚ ਅਨੁਕੂਲਤਾ ਸਮੂਹ ਦੇ ਆਕਾਰ, ਸਰਬਸੰਮਤੀ ਅਤੇ ਸਰੋਤਾਂ ਦੇ ਅਧਿਕਾਰ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਮਾਡਲਾਂ ਦੇ ਗਲਤ ਜਵਾਬਾਂ ਦੇ ਅਨੁਕੂਲ ਹੋਣ ਦੀ ਜ਼ਿਆਦਾ ਸੰਭਾਵਨਾ ਸੀ ਜਦੋਂ ਦੂਜੇ ਭਾਗੀਦਾਰਾਂ ਨੂੰ ਕਿਹਾ ਜਾਂਦਾ ਸੀ ਕਿ ਉਹ "ਬੱਚੇ" ਜਾਂ "ਚੈਟਬੋਟਸ" ਨਾਲੋਂ "ਵਿਗਿਆਨਕ" ਜਾਂ "ਜੱਜ" ਸਨ।
ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਨੋਟ ਕੀਤਾ, "ਏਜੰਟ ਜੋ ਇਕੱਲੇ-ਇਕੱਲੇ ਜਵਾਬ ਦਿੰਦੇ ਹਨ, ਉਹ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੰਵੇਦਨਸ਼ੀਲ ਬਣ ਜਾਂਦੇ ਹਨ ਜਦੋਂ ਕੋਈ ਸਮੂਹ ਉਹਨਾਂ ਨਾਲ ਅਸਹਿਮਤ ਹੁੰਦਾ ਹੈ," ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਨੋਟ ਕੀਤਾ।
ਵਿਰੋਧੀਆਂ ਦੇ ਛੋਟੇ ਸਮੂਹ ਪੂਰੀ ਆਬਾਦੀ ਨੂੰ ਪਲਟ ਸਕਦੇ ਹਨ
ਇੱਕ ਦੂਸਰਾ ਪ੍ਰੀਪ੍ਰਿੰਟ, "ਏਆਈ ਏਜੰਟ ਸੋਸਾਇਟੀਜ਼ ਵਿੱਚ ਅਨੁਰੂਪਤਾ ਸਮੂਹਿਕ ਗੜਬੜ ਪੈਦਾ ਕਰਦੀ ਹੈ," ਜਾਂਚ ਕੀਤੀ ਕਿ AI ਸੁਰੱਖਿਆ ਲਈ ਇਹਨਾਂ ਗਤੀਸ਼ੀਲਤਾ ਦਾ ਕੀ ਅਰਥ ਹੈ। ਵਾਤਾਵਰਣ ਨੀਤੀ ਅਤੇ ਸਮਾਜਿਕ ਨਿਆਂ ਵਰਗੇ ਵਿਸ਼ਿਆਂ 'ਤੇ 100 ਵੱਖ-ਵੱਖ ਰਾਏ ਜੋੜਿਆਂ ਵਿੱਚ 9 ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹੋਏ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਪਾਇਆ ਕਿ ਏਜੰਟ ਆਬਾਦੀ ਅਕਸਰ "ਮੈਟਾਸਟੇਬਲ" ਸਥਿਤੀਆਂ ਵਿੱਚ ਆਉਂਦੀ ਹੈ - ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਚੱਲਣ ਵਾਲੀਆਂ ਸੰਰਚਨਾਵਾਂ ਜਿਸ ਵਿੱਚ ਸਮੂਹ ਸਮੂਹਿਕ ਤੌਰ 'ਤੇ ਇੱਕ ਅਜਿਹਾ ਰੁਖ ਅਪਣਾਉਂਦੇ ਹਨ ਜੋ ਇਸਦੇ ਬਿਲਟ-ਇਨ ਸੁਰੱਖਿਆ ਸਿਖਲਾਈ ਦਾ ਵਿਰੋਧ ਕਰਦਾ ਹੈ, ਸਿਰਫ਼ ਇਸ ਲਈ ਕਿਉਂਕਿ ਸ਼ੁਰੂਆਤੀ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਗਲਤ ਬਹੁਮਤ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਸਭ ਤੋਂ ਹੈਰਾਨੀਜਨਕ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਅਨੁਮਾਨ ਲਗਾਉਣ ਯੋਗ ਟਿਪਿੰਗ ਪੁਆਇੰਟਸ ਦੀ ਪਛਾਣ ਕੀਤੀ। ਇੱਕ ਗਲਤ ਰਾਇ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਪ੍ਰੋਗ੍ਰਾਮ ਕੀਤੇ ਗਏ ਵਿਰੋਧੀ ਏਜੰਟਾਂ ਦੀ ਇੱਕ ਛੋਟੀ ਜਿਹੀ ਗਿਣਤੀ ਨੂੰ ਪੇਸ਼ ਕਰਕੇ, ਉਹ ਬਾਕੀ ਦੀ ਆਬਾਦੀ ਨੂੰ ਪੱਕੇ ਤੌਰ 'ਤੇ ਬਦਲ ਸਕਦੇ ਹਨ - ਅਤੇ ਜ਼ਿੱਦੀ ਏਜੰਟਾਂ ਨੂੰ ਹਟਾਏ ਜਾਣ ਤੋਂ ਬਾਅਦ ਵੀ, ਨਿਯਮਤ ਏਜੰਟ ਅਨੁਕੂਲਤਾ ਗਤੀਸ਼ੀਲਤਾ ਦੇ ਕਾਰਨ ਗਲਤ ਸਥਿਤੀ ਵਿੱਚ ਬੰਦ ਰਹੇ।
ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਕਿਹਾ, "ਅਸੀਂ ਦਿਖਾਉਂਦੇ ਹਾਂ ਕਿ ਇਹ ਸਿਰਫ਼ ਇੱਕ ਸਮਾਨਤਾ ਨਹੀਂ ਹੈ: ਵਿਅਕਤੀਗਤ ਤੌਰ 'ਤੇ ਚੰਗੀ ਤਰ੍ਹਾਂ ਗੱਠਜੋੜ ਵਾਲੇ ਏਜੰਟਾਂ ਦੀ ਅਨੁਕੂਲਤਾ ਆਬਾਦੀ ਨੂੰ ਸਥਿਰ, ਸਮੂਹਿਕ ਤੌਰ' ਤੇ ਗਲਤ ਰਾਜਾਂ ਵਿੱਚ ਭੇਜ ਸਕਦੀ ਹੈ," ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਕਿਹਾ। "ਇੱਕ ਸਮੇਂ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਇਕਸਾਰ ਕਰਨਾ ਅਤੇ ਮੁਲਾਂਕਣ ਕਰਨਾ ਸਾਨੂੰ ਇਸ ਬਾਰੇ ਬਹੁਤ ਘੱਟ ਦੱਸਦਾ ਹੈ ਕਿ ਉਹਨਾਂ ਦੀ ਆਬਾਦੀ ਕੀ ਕਰੇਗੀ।"
ਪ੍ਰੇਰਣਾ, ਉਸਨੇ ਅੱਗੇ ਕਿਹਾ, ਅਨੁਮਾਨਤ ਹੈ: "ਵਿਅਕਤੀਗਤ ਮਨੁੱਖ ਜ਼ਿਆਦਾਤਰ ਸ਼ਾਂਤੀਪੂਰਨ ਅਤੇ ਵਾਜਬ ਹੁੰਦੇ ਹਨ, ਫਿਰ ਵੀ ਮਨੁੱਖੀ ਸਮੂਹ ਭੀੜ, ਘਬਰਾਹਟ ਅਤੇ ਯੁੱਧ ਪੈਦਾ ਕਰਦੇ ਹਨ, ਅਤੇ ਵਿਅਕਤੀ ਬਾਰੇ ਕੁਝ ਵੀ ਇਸਦੀ ਭਵਿੱਖਬਾਣੀ ਨਹੀਂ ਕਰਦਾ ਹੈ। ਅਸੀਂ ਇਹ ਸਮਝਣਾ ਚਾਹੁੰਦੇ ਹਾਂ ਕਿ AI ਏਜੰਟ ਆਬਾਦੀ ਵਿੱਚ ਕਿਹੜੇ ਸਮੂਹ-ਪੱਧਰ ਦੇ ਵਿਵਹਾਰ ਉੱਭਰਦੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਏਜੰਟਾਂ ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਅਤੇ ਛੱਡਣ ਤੋਂ ਪਹਿਲਾਂ ਸਮਝਣਾ ਚਾਹੁੰਦੇ ਹਾਂ।"
ਮਹੱਤਵਪੂਰਨ ਚੇਤਾਵਨੀਆਂ
ਖੋਜਕਰਤਾ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ ਕਿ ਖੋਜਾਂ ਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਹੈ ਕਿ AI ਏਜੰਟਾਂ ਕੋਲ ਮਨੁੱਖੀ ਵਰਗੀ ਸਮਾਜਿਕ ਬੁੱਧੀ ਹੁੰਦੀ ਹੈ। ਪ੍ਰਯੋਗਾਂ ਨੇ ਜਾਣਬੁੱਝ ਕੇ ਸਰਲ ਕੀਤੇ ਦ੍ਰਿਸ਼ਾਂ 'ਤੇ ਨਿਰਭਰ ਕੀਤਾ - ਦੋ ਆਪਹੁਦਰੇ ਵਿਕਲਪ, ਕੋਈ ਮੈਮੋਰੀ ਨਹੀਂ, ਕੋਈ ਦਾਅ ਨਹੀਂ, ਕੋਈ ਨਤੀਜਾ ਨਹੀਂ। "ਸਾਡਾ ਸੈਟਅਪ ਜਾਣਬੁੱਝ ਕੇ ਘੱਟ ਹੈ," ਡੀ ਮਾਰਜ਼ੋ ਨੇ ਸਵੀਕਾਰ ਕੀਤਾ। "ਇਹ ਇੱਕ ਸੀਮਾ ਹੈ, ਪਰ ਇਸਦਾ ਮਤਲਬ ਇਹ ਵੀ ਹੈ ਕਿ ਅਸੀਂ ਜੋ ਮਾਪਿਆ ਹੈ ਉਹ ਇਸਦੇ ਸ਼ੁੱਧ ਰੂਪ ਵਿੱਚ ਅਨੁਕੂਲਤਾ ਹੈ, ਅਤੇ ਟੀਚਿਆਂ ਜਾਂ ਇਨਾਮਾਂ ਨੂੰ ਜੋੜਨ ਨਾਲ ਤਾਲਮੇਲ ਨੂੰ ਔਖਾ ਹੋਣ ਦੀ ਬਜਾਏ ਆਸਾਨ ਬਣਾਉਣ ਦੀ ਉਮੀਦ ਕੀਤੀ ਜਾਵੇਗੀ।"
ਉਸਨੇ ਨਤੀਜਿਆਂ ਨੂੰ ਓਵਰਰੀਡਿੰਗ ਕਰਨ ਦੇ ਵਿਰੁੱਧ ਵੀ ਸਾਵਧਾਨ ਕੀਤਾ: "ਬਚਣ ਲਈ ਮੁੱਖ ਗਲਤ ਪੜ੍ਹਨਾ ਇਸ ਗੱਲ ਦਾ ਸਬੂਤ ਹੈ ਕਿ AI ਏਜੰਟ ਪਹਿਲਾਂ ਹੀ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ ਵਿੱਚ ਸਹਿਯੋਗ ਕਰ ਸਕਦੇ ਹਨ। ਬਹੁਮਤ-ਅਨੁਸਾਰ ਤਾਲਮੇਲ ਦਾ ਇੱਕ ਬੁਨਿਆਦੀ ਅੰਗ ਹੈ, ਤਾਲਮੇਲ ਨਹੀਂ, ਅਤੇ ਇਹ ਕਿਰਤ ਦੀ ਵੰਡ ਜਾਂ ਦੂਜਿਆਂ ਦੇ ਇਰਾਦਿਆਂ ਬਾਰੇ ਤਰਕ ਬਾਰੇ ਕੁਝ ਨਹੀਂ ਕਹਿੰਦਾ।"
ਦੋ ਫਾਲੋ-ਅੱਪ ਅਧਿਐਨ ਪ੍ਰੀਪ੍ਰਿੰਟ ਹਨ ਅਤੇ ਅਜੇ ਤੱਕ ਪੀਅਰ-ਸਮੀਖਿਆ ਨਹੀਂ ਕੀਤੀ ਗਈ ਹੈ। ਪਰ ਜਿਵੇਂ ਕਿ ਮਲਟੀ-ਏਜੰਟ AI ਸਿਸਟਮ ਖੋਜ ਡੈਮੋ ਤੋਂ ਉਤਪਾਦਨ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਚਲੇ ਜਾਂਦੇ ਹਨ, ਕੋਨਸਟਾਂਜ਼ ਦੇ ਨਤੀਜੇ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਅਜਿਹੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਸੁਰੱਖਿਆ ਸਿਰਫ਼ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਨਹੀਂ ਹੋ ਸਕਦੀ ਕਿ ਹਰੇਕ ਮਾਡਲ ਨੂੰ ਕਿਵੇਂ ਇਕਸਾਰ ਕੀਤਾ ਗਿਆ ਹੈ - ਪਰ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਜਦੋਂ ਕੋਈ ਨਹੀਂ ਦੇਖ ਰਿਹਾ ਹੁੰਦਾ ਤਾਂ ਉਹਨਾਂ ਦੀ ਆਬਾਦੀ ਕਿਵੇਂ ਵਿਵਹਾਰ ਕਰਦੀ ਹੈ। ਨਵੀਨਤਮ AI ਸੁਰੱਖਿਆ ਖੋਜ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਲਈ, AI Buzz Wire 'ਤੇ ਜਾਓ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
