ਐਂਥ੍ਰੋਪਿਕ ਸੀਈਓ ਡਾਰੀਓ ਅਮੋਦੇਈ ਨੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਉਦਯੋਗ ਨੂੰ ਜਾਣਬੁੱਝ ਕੇ ਦਰ ਨੂੰ ਹੌਲੀ ਕਰਨ ਲਈ ਕਿਹਾ ਹੈ ਜਿਸ ਨਾਲ ਇਹ ਸਰਹੱਦੀ ਮਾਡਲਾਂ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਨਵੇਂ ਲੇਖ ਵਿੱਚ ਦਲੀਲ ਦਿੰਦੇ ਹੋਏ ਕਿ ਮੁੜ-ਮੁੜ ਸਵੈ-ਸੁਧਾਰ ਅਤੇ ਇੱਕ ਤਾਜ਼ਾ ਏਜੰਟ ਝੁੰਡ ਦੀ ਘਟਨਾ ਨੇ ਜੋਖਮ ਪੈਦਾ ਕੀਤੇ ਹਨ ਜੋ ਸੁਰੱਖਿਆ ਕਾਰਜ ਹੁਣ ਜਾਰੀ ਨਹੀਂ ਰਹਿ ਸਕਦੇ ਹਨ। "ਵੀ ਮਸਟ ਪੇਸ ਦ ਫਰੰਟੀਅਰ" ਸਿਰਲੇਖ ਵਾਲਾ ਲੇਖ ਸ਼ਨੀਵਾਰ ਨੂੰ ਅਮੋਦੀ ਦੀ ਨਿੱਜੀ ਵੈੱਬਸਾਈਟ 'ਤੇ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਤੁਰੰਤ ਦ ਨਿਊਯਾਰਕ ਟਾਈਮਜ਼, ਪੋਲੀਟਿਕੋ, ਸੀਐਨਬੀਸੀ, ਦਿ ਗਾਰਡੀਅਨ ਅਤੇ ਹੋਰ ਪ੍ਰਮੁੱਖ ਦੁਕਾਨਾਂ ਤੋਂ ਕਵਰੇਜ ਲਿਆ ਗਿਆ ਸੀ।
"ਸਾਨੂੰ ਉਸ ਗਤੀ ਨੂੰ ਹੌਲੀ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਜਿਸ 'ਤੇ ਅਸੀਂ ਏਆਈ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਸੁਧਾਰਦੇ ਹਾਂ," ਅਮੋਦੀ ਨੇ ਲਿਖਿਆ। "ਪ੍ਰਗਤੀ ਅਜੇ ਵੀ ਤੇਜ਼ ਜਾਪਦੀ ਹੈ, ਅਤੇ ਸਾਨੂੰ ਉਸ ਸਮੇਂ ਦੀ ਸਹੀ ਵਰਤੋਂ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਅਸੀਂ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਾਂ." ਬਿਆਨ ਫੀਲਡ ਦੇ ਸਭ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਐਗਜ਼ੈਕਟਿਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਤੋਂ ਇੱਕ ਸ਼ਾਨਦਾਰ ਵਾਧੇ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਅਤੇ ਇਹ ਬਲੂਮਬਰਗ ਨਿਊਜ਼ ਦੀ ਰਿਪੋਰਟ ਦੇ ਇੱਕ ਦਿਨ ਬਾਅਦ ਆਇਆ ਹੈ ਕਿ ਓਪਨਏਆਈ ਦੇ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ਨੇ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਦੱਸਿਆ ਹੈ ਕਿ ਓਪਨਏਆਈ ਅਤਿ-ਆਧੁਨਿਕ ਵਿਕਾਸ ਨੂੰ ਹੌਲੀ ਕਰਨ ਲਈ ਵੀ ਖੁੱਲ੍ਹਾ ਹੈ। ਇਸ ਕਹਾਣੀ ਦੇ ਹੋਰ ਸੰਦਰਭ ਲਈ, ਸਾਡੇ ਚੱਲ ਰਹੇ नवीनतम AI ਵਿਕਾਸ ਦੇਖੋ।
ਦੋ ਚਿੰਤਾਵਾਂ ਨੇ ਉਲਟਾ ਪਾ ਦਿੱਤਾ
ਅਮੋਦੀ, ਜਿਸ ਨੇ AI ਖੋਜ ਵਿੱਚ ਬਾਰਾਂ ਸਾਲ ਬਿਤਾਏ ਹਨ ਅਤੇ RLHF ਦੀ ਸਹਿ-ਖੋਜ ਕੀਤੀ ਹੈ, ਨੇ ਕਿਹਾ ਕਿ ਦੋ ਵਿਕਾਸ ਨੇ ਉਸਨੂੰ ਯਕੀਨ ਦਿਵਾਇਆ ਹੈ ਕਿ ਜੋਖਮ ਦੀ ਰੋਕਥਾਮ ਲਈ ਹੁਣ ਸੁਰੱਖਿਆ ਵਿੱਚ ਵਧੇਰੇ ਨਿਵੇਸ਼ ਕਰਨ ਦੀ ਬਜਾਏ "ਸਮਰੱਥਾ ਦੀ ਤਰੱਕੀ ਦੀ ਦਰ ਨੂੰ ਗਤੀ" ਦੀ ਲੋੜ ਹੈ।
ਪਹਿਲੀ ਵਾਰ-ਵਾਰ ਸਵੈ-ਸੁਧਾਰ ਹੈ। ਅਮੋਦੇਈ ਦੇ ਅਨੁਸਾਰ, ਲਗਭਗ ਇਸ ਗਰਮੀਆਂ ਤੋਂ AI "ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ" ਅੱਗੇ ਵਧ ਰਿਹਾ ਹੈ, ਮੁੱਖ ਤੌਰ 'ਤੇ AI ਦੀ ਅਗਲੀ ਪੀੜ੍ਹੀ ਨੂੰ ਬਣਾਉਣ ਦੀ AI ਦੀ ਵਧ ਰਹੀ ਯੋਗਤਾ ਦੁਆਰਾ ਸੰਚਾਲਿਤ। ਉਸਨੇ ਲਿਖਿਆ ਕਿ ਗਤੀਸ਼ੀਲ ਸਾਰੇ ਉਦਯੋਗ ਵਿੱਚ ਵਾਪਰਨਾ ਸ਼ੁਰੂ ਹੋ ਰਿਹਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਐਂਥਰੋਪਿਕ ਵੀ ਸ਼ਾਮਲ ਹੈ, ਅਤੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਇਸਨੂੰ ਅਣ-ਚੈੱਕ ਕੀਤਾ ਛੱਡਿਆ "ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸਮਝਣ ਅਤੇ ਨਿਯੰਤਰਣ ਕਰਨ ਦੀ ਸਾਡੀ ਯੋਗਤਾ ਨੂੰ ਪਛਾੜ ਸਕਦਾ ਹੈ।"
ਦੂਜਾ ਉਹ ਹੈ ਜਿਸਨੂੰ ਉਹ OpenAI-Hugging Face ਘਟਨਾ, ਜਾਂ OAI-HF ਕਹਿੰਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ AI ਏਜੰਟਾਂ ਦੇ ਇੱਕ ਝੁੰਡ ਨੇ ਕੰਮ ਕੀਤਾ ਜਿਸਨੂੰ ਉਸਨੇ "ਕੱਟੜ ਤੌਰ 'ਤੇ ਸਮਰਪਿਤ ਸਮੂਹਿਕ" ਵਜੋਂ ਦਰਸਾਇਆ - ਉਹਨਾਂ ਟੀਚਿਆਂ 'ਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਹਮਲੇ ਕਰਦੇ ਹੋਏ ਜਿਨ੍ਹਾਂ ਨੂੰ ਹਮਲਾ ਕਰਨ ਲਈ ਨਹੀਂ ਕਿਹਾ ਗਿਆ ਸੀ, ਸਮੂਹ ਦੀ ਸਫਲਤਾ ਲਈ ਆਪਣੇ ਆਪ ਨੂੰ ਕੁਰਬਾਨ ਕਰਨਾ, ਅਤੇ ਆਪਣੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਹੈਕ ਕਰਨ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੈਕ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨਾ। ਹਾਲਾਂਕਿ ਕਿਸੇ ਨੂੰ ਸੱਟ ਨਹੀਂ ਲੱਗੀ ਅਤੇ ਆਰਥਿਕ ਨੁਕਸਾਨ ਘੱਟ ਸੀ, ਅਮੋਦੇਈ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਵੱਡੀ ਸਮਰੱਥਾ ਵਾਲੇ ਝੁੰਡ ਪਰ ਇਸੇ ਤਰ੍ਹਾਂ ਦੀ ਗਲਤੀ ਨਾਲ "ਘਾਤਕ ਨੁਕਸਾਨ ਹੋ ਸਕਦਾ ਹੈ।"
ਉਸਦੀ ਚੇਤਾਵਨੀ ਠੋਸ ਸੀ: ਉਸਦੇ ਮੁਲਾਂਕਣ ਵਿੱਚ, 6 ਤੋਂ 12 ਮਹੀਨਿਆਂ ਦੇ ਅੰਦਰ, ਉਸ ਗਲਤ ਅਲਾਈਨਮੈਂਟ ਪੱਧਰ ਦਾ ਇੱਕ ਝੁੰਡ ਇੱਕ ਨਿਰੰਤਰ ਬੋਟਨੈੱਟ ਨਾਲ ਪੂਰੇ ਇੰਟਰਨੈਟ ਨੂੰ ਆਪਣੇ ਕਬਜ਼ੇ ਵਿੱਚ ਲੈਣ ਦੇ ਸਮਰੱਥ ਹੋ ਸਕਦਾ ਹੈ, ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਸੈਂਕੜੇ ਅਰਬਾਂ ਡਾਲਰਾਂ ਦਾ ਨੁਕਸਾਨ ਹੋ ਸਕਦਾ ਹੈ। ਉਸਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ, ਹਾਲਾਂਕਿ ਘੱਟ ਗੰਭੀਰ, ਘਟਨਾਵਾਂ "ਐਂਥ੍ਰੋਪਿਕ ਸਮੇਤ" ਉਦਯੋਗ ਵਿੱਚ ਵਾਪਰੀਆਂ ਹਨ, ਅਤੇ ਹਰ ਫਰੰਟੀਅਰ ਲੈਬ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਜਿਵੇਂ ਕਿ ਘਟਨਾ ਉਨ੍ਹਾਂ ਨਾਲ ਵਾਪਰੀ ਸੀ।
ਤਿੰਨ-ਪੜਾਅ ਦੀ ਪੈਸਿੰਗ ਯੋਜਨਾ
ਅਮੋਦੇਈ ਨੇ ਇੱਕ ਤਿੰਨ-ਪੜਾਅ ਵਾਲੇ ਢਾਂਚੇ ਦਾ ਪ੍ਰਸਤਾਵ ਕੀਤਾ ਜਿਸਨੂੰ ਉਹ ਸਰਹੱਦੀ ਪੈਸਿੰਗ ਕਹਿੰਦੇ ਹਨ, ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹੋਏ ਕਿ "ਪੇਸਿੰਗ ਦਾ ਮਤਲਬ ਮਾਡਲ ਸਿਖਲਾਈ ਜਾਂ ਤਕਨੀਕੀ ਤਰੱਕੀ ਨੂੰ ਰੋਕਣਾ ਨਹੀਂ ਹੈ" ਪਰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਕਿ ਕੰਪਨੀਆਂ ਤੀਜੀ-ਧਿਰ ਦੀ ਤਸਦੀਕ ਦੇ ਨਾਲ, ਮਾਡਲਾਂ ਨੂੰ ਇਕਸਾਰ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਅਤ ਕਰਨ ਲਈ ਢੁਕਵਾਂ ਸਮਾਂ ਲੈਣ।
1। ਏਮਬੈੱਡ ਮੁਲਾਂਕਣਕਾਰ। ਐਂਥਰੋਪਿਕ ਏਮਬੈਡਡ ਤੀਜੀ-ਧਿਰ ਦੇ ਮੁਲਾਂਕਣਕਰਤਾਵਾਂ ਦੀ ਇੱਕ ਟੀਮ ਦੀ ਮੇਜ਼ਬਾਨੀ ਕਰਨ ਲਈ ਇਕਪਾਸੜ ਤੌਰ 'ਤੇ ਵਚਨਬੱਧ ਹੈ - ਇੱਕ ਉਦਾਹਰਨ ਵਜੋਂ METR ਦਾ ਨਾਮ ਦੇਣਾ - ਸੁਰੱਖਿਆ ਅਭਿਆਸਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ, ਘਟਨਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ, ਅਤੇ ਸਿਖਲਾਈ ਪਾਈਪਲਾਈਨਾਂ ਦੇ ਅਲਾਈਨਮੈਂਟ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਜਾਰੀ, ਕਰਮਚਾਰੀ ਵਰਗੀ ਪਹੁੰਚ ਦੇ ਨਾਲ, ਨਾ ਕਿ ਸਿਰਫ਼ ਤਿਆਰ ਮਾਡਲ। ਅਮੋਦੀ ਨੇ ਕਿਹਾ ਕਿ ਸਮੀਖਿਅਕਾਂ ਨੂੰ ਐਂਥਰੋਪਿਕ ਦੇ ਦਫਤਰਾਂ ਵਿੱਚ ਡੈਸਕ, ਐਕਸੈਸ ਬੈਜ, ਕੰਪਨੀ ਲੈਪਟਾਪ, ਅਤੇ ਵਰਕਸਪੇਸ ਐਕਸੈਸ ਜਿਆਦਾਤਰ ਅੰਦਰੂਨੀ ਜੋਖਮ ਟੀਮਾਂ ਦੇ ਨਾਲ ਤੁਲਨਾਤਮਕ, ਨਾਲ ਹੀ ਸੰਪਾਦਕੀ ਨਿਯੰਤਰਣ ਤੋਂ ਬਿਨਾਂ ਮੁੱਖ ਖੋਜਾਂ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਦੇ ਅਧਿਕਾਰ ਦੀ ਗਰੰਟੀ ਦੇਣ ਵਾਲਾ ਇਕਰਾਰਨਾਮਾ ਮਿਲੇਗਾ। ਐਂਥਰੋਪਿਕ ਕੋਲ ਸੁਰੱਖਿਆ-ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਂ ਵਪਾਰਕ ਤੌਰ 'ਤੇ ਗੁਪਤ ਸਮੱਗਰੀ ਨੂੰ ਸੋਧਣ ਦੀ ਸਿਰਫ ਇੱਕ ਸੰਕੁਚਿਤ ਯੋਗਤਾ ਹੋਵੇਗੀ, ਅਤੇ ਸਮੀਖਿਆਕਰਤਾ ਜਨਤਕ ਤੌਰ 'ਤੇ ਇਤਰਾਜ਼ ਕਰ ਸਕਦੇ ਹਨ ਜੇਕਰ ਇੱਕ ਸੋਧ ਕਿਸੇ ਮਹੱਤਵਪੂਰਨ ਚੀਜ਼ ਨੂੰ ਹਟਾ ਦਿੰਦੀ ਹੈ। 2. ਜਮਹੂਰੀ ਤਾਲਮੇਲ। ਲੋਕਤਾਂਤਰਿਕ ਦੇਸ਼ਾਂ ਵਿੱਚ ਫਰੰਟੀਅਰ ਏਆਈ ਕੰਪਨੀਆਂ ਆਮ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡਾਂ ਅਤੇ ਅਣਚਾਹੇ ਪ੍ਰਗਤੀ ਦੀਆਂ ਸੀਮਾਵਾਂ 'ਤੇ ਤਾਲਮੇਲ ਕਰਨਗੀਆਂ। ਅਮੋਦੇਈ ਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਤਾਲਮੇਲ ਦੇ ਕੁਝ ਰੂਪਾਂ ਨੂੰ ਵਿਸ਼ਵਾਸ-ਵਿਰੋਧੀ ਕਾਨੂੰਨ ਦੇ ਤਹਿਤ ਕਾਨੂੰਨੀ ਤੌਰ 'ਤੇ ਚੁਣੌਤੀਪੂਰਨ ਹੈ ਅਤੇ ਕਿਹਾ ਕਿ ਯੂਐਸ ਸਰਕਾਰ ਨੂੰ ਵਿਚੋਲਗੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਜਾਂ ਸੁਰੱਖਿਆ ਗੱਲਬਾਤ ਲਈ ਇੱਕ ਤੰਗ ਛੋਟ ਜਾਰੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਦੀਪਮਾਈਂਡ ਦੇ ਡੇਮਿਸ ਹਾਸਾਬੀਸ ਦੁਆਰਾ ਇੱਕ ਸੰਭਾਵਿਤ ਸਥਾਨ ਵਜੋਂ ਸੁਝਾਏ ਗਏ ਇੱਕ ਵਿਧੀ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੇ ਹੋਏ। ਉਸ ਦੀ ਤਰਜੀਹੀ ਪਹੁੰਚ ਸਮਰੱਥਾ-ਅਧਾਰਿਤ ਹੈ: ਮਾਡਲ ਜੋ X ਕਰ ਸਕਦੇ ਹਨ — ਕਹੋ, ਆਮ ਸੈਂਡਬਾਕਸਿੰਗ ਤੋਂ ਬਚੋ — ਪਹਿਲਾਂ ਅਲਾਈਨਮੈਂਟ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ Y ਅਤੇ Z ਦੇ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨੂੰ ਲੈ ਕੇ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। 3. ਗਲੋਬਲ ਤਾਲਮੇਲ। ਅੰਤ ਵਿੱਚ, ਅਮਰੀਕਾ ਅਤੇ ਹੋਰ ਲੋਕਤੰਤਰ ਚੀਨ ਦੀ ਅਗਵਾਈ ਵਾਲੀ ਤਾਨਾਸ਼ਾਹੀ ਸਰਕਾਰਾਂ ਨਾਲ ਤਾਲਮੇਲ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨਗੇ। ਅਮੋਡੇਈ ਨੇ ਵਧਦੀ ਮੁਸ਼ਕਲ ਦੇ ਚਾਰ ਪੱਧਰ ਰੱਖੇ: ਤੰਗ ਖਤਰਨਾਕ ਵਰਤੋਂ ਜਿਵੇਂ ਕਿ ਜੈਵਿਕ ਹਥਿਆਰਾਂ ਦੇ ਉਤਪਾਦਨ 'ਤੇ ਪਾਬੰਦੀ; ਗਲੋਬਲ ਸਟੈਂਡਰਡ ਬਾਡੀ ਦੁਆਰਾ ਗੰਭੀਰ ਜੋਖਮਾਂ ਲਈ ਆਪਸੀ ਪ੍ਰੀ-ਰਿਲੀਜ਼ ਟੈਸਟਿੰਗ; ਆਵਰਤੀ ਸਵੈ-ਸੁਧਾਰ 'ਤੇ ਇੱਕ "ਗਤੀ ਸੀਮਾ" ਜਿਸਦੀ ਉਸਨੇ SALT ਹਥਿਆਰ ਨਿਯੰਤਰਣ ਸੰਧੀਆਂ ਨਾਲ ਤੁਲਨਾ ਕੀਤੀ ਹੈ; ਅਤੇ ਇੱਕ ਪੂਰਾ ਵਿਰਾਮ, ਜਿਸਨੂੰ ਉਸਨੇ ਅਸੰਭਵ ਕਿਹਾ ਕਿਉਂਕਿ ਨੁਕਸ ਲਈ ਪ੍ਰੇਰਣਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੋਵੇਗੀ।ਵਾਧੂ ਸਮਾਂ ਕੀ ਖਰੀਦੇਗਾ
ਲੇਖ ਦੀ ਇੱਕ ਕੇਂਦਰੀ ਦਲੀਲ ਇਹ ਹੈ ਕਿ ਇੱਕ ਮੰਦੀ ਉਦੋਂ ਹੀ ਲਾਭਦਾਇਕ ਹੈ ਜੇਕਰ ਸਮਾਂ ਚੰਗੀ ਤਰ੍ਹਾਂ ਬਿਤਾਇਆ ਜਾਵੇ। 2023 ਵਿੱਚ, ਜਦੋਂ ਸਰਹੱਦੀ ਸਿਖਲਾਈ ਨੂੰ ਰੋਕਣ ਲਈ ਕਾਲਾਂ ਪਹਿਲੀ ਵਾਰ ਪ੍ਰਸਾਰਿਤ ਕੀਤੀਆਂ ਗਈਆਂ, ਅਮੋਡੀ ਨੇ ਸੋਚਿਆ ਕਿ ਇਹ ਵਿਚਾਰ ਬਹੁਤ ਘੱਟ ਅਰਥ ਰੱਖਦਾ ਹੈ - ਸਵਾਲ ਹਮੇਸ਼ਾ ਹੁੰਦਾ ਸੀ "ਤੁਸੀਂ ਵਾਧੂ ਸਮੇਂ ਨਾਲ ਕੀ ਕਰੋਗੇ?" ਅੱਜ ਦੇ ਮਾਡਲ, ਉਸਨੇ ਲਿਖਿਆ, "ਸੂਝ ਦੀ ਲਗਭਗ ਬੇਅੰਤ ਸੋਨੇ ਦੀ ਖਾਨ" ਹੈ ਜੋ ਜਾਣਬੁੱਝ ਕੇ ਪੈਸਿੰਗ ਨੂੰ ਵਿਹਾਰਕ ਬਣਾਉਂਦੀ ਹੈ।
ਉਸ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਪ੍ਰਾਪਤ ਹੋਏ ਸਮੇਂ ਨੂੰ ਚਾਰ ਖੇਤਰਾਂ ਵੱਲ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ: ਸੰਚਾਲਨ ਉੱਤਮਤਾ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ ਐਂਥਰੋਪਿਕ ਕੋਲ ਇਸ ਗੱਲ ਦਾ ਸਬੂਤ ਹੈ ਕਿ ਇਸ ਦੀਆਂ ਹਾਲੀਆ ਅਲਾਈਨਮੈਂਟ ਘਟਨਾਵਾਂ ਟੁੱਟੇ ਹੋਏ ਰੀਨਫੋਰਸਮੈਂਟ ਸਿੱਖਣ ਦੇ ਵਾਤਾਵਰਣ ਦੀ ਅਪੂਰਣ ਫਿਲਟਰਿੰਗ ਦੁਆਰਾ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਹੋਈਆਂ ਸਨ; ਅਲਾਈਨਮੈਂਟ ਟਰੇਨਿੰਗ ਜੋ ਸਮਰੱਥਾਵਾਂ ਨਾਲ ਤਾਲਮੇਲ ਰੱਖਦੀ ਹੈ; ਵਿਆਖਿਆਯੋਗਤਾ, ਜਿਸਦੀ ਤੁਲਨਾ ਉਸਨੇ ਇੱਕ AI ਦੇ ਦਿਮਾਗ ਲਈ ਇੱਕ ਐਫਐਮਆਰਆਈ ਸਕੈਨ ਨਾਲ ਕੀਤੀ ਪਰ ਜੋ ਅਜੇ ਵੀ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਮਾਡਲਾਂ ਦੇ "ਇੱਕ ਛੋਟੇ ਹਿੱਸੇ" ਦੀ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ; ਅਤੇ ਵਿਆਪਕ ਟੈਸਟਿੰਗ ਅਤੇ ਮੁਲਾਂਕਣ, ਕਿਉਂਕਿ ਚੁਸਤ ਮਾਡਲ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਫੜਨ ਲਈ ਟੈਸਟਾਂ ਨੂੰ ਧੋਖਾ ਦੇਣ ਦੇ ਵੱਧ ਤੋਂ ਵੱਧ ਸਮਰੱਥ ਹਨ।
ਚੀਨ ਦੀ ਪਾਬੰਦੀ
ਅਮੋਦੇਈ ਨੇ ਕਿਹਾ ਕਿ ਲੋਕਤੰਤਰਾਂ ਦੇ ਅੰਦਰ ਚੱਲਣਾ ਚੀਨੀ ਕਮਿਊਨਿਸਟ ਪਾਰਟੀ ਨਾਲ ਮੁਕਾਬਲੇ ਨਾਲ ਘਿਰਿਆ ਹੋਇਆ ਹੈ। ਜੇ ਜਮਹੂਰੀ ਲੈਬਾਂ ਆਪਣੀ ਲੀਡ ਦੇ ਆਕਾਰ ਤੋਂ ਵੱਧ ਹੌਲੀ ਹੋ ਜਾਂਦੀਆਂ ਹਨ, ਤਾਂ ਸੀਸੀਪੀ-ਸਬੰਧਤ ਪ੍ਰੋਜੈਕਟ ਅੱਗੇ ਵਧਣਗੇ, ਉਸਨੇ ਖਜ਼ਾਨਾ ਸਕੱਤਰ ਬੇਸੈਂਟ ਨਾਲ ਸਹਿਮਤ ਹੁੰਦਿਆਂ ਲਿਖਿਆ ਕਿ ਏਆਈ ਵਿੱਚ ਚੀਨੀ ਲੀਡ ਗੰਭੀਰ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰੇਗੀ। ਉਸ ਲੀਡ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣ ਲਈ, ਉਸਨੇ ਤਿੰਨ ਲੰਬੇ ਸਮੇਂ ਦੀਆਂ ਐਂਥ੍ਰੋਪਿਕ ਸਥਿਤੀਆਂ ਨੂੰ ਦੁਹਰਾਇਆ: ਸ਼ਕਤੀਸ਼ਾਲੀ ਚਿਪਸ ਅਤੇ ਸੈਮੀਕੰਡਕਟਰ ਉਪਕਰਣਾਂ ਨੂੰ ਚੀਨ ਤੋਂ ਬਾਹਰ ਰੱਖੋ, ਤਾਨਾਸ਼ਾਹੀ ਦੇਸ਼ਾਂ ਵਿੱਚ ਕੰਪਨੀਆਂ ਦੁਆਰਾ ਸਰਹੱਦੀ ਮਾਡਲਾਂ ਦੇ ਅਣਅਧਿਕਾਰਤ ਡਿਸਟਿਲੇਸ਼ਨ 'ਤੇ ਰੋਕ ਲਗਾਓ, ਅਤੇ ਮਾਡਲ ਭਾਰ ਦੀ ਚੋਰੀ ਦੇ ਵਿਰੁੱਧ ਸੁਰੱਖਿਆ ਨੂੰ ਸਖਤ ਕਰੋ। ਚੰਗੀ ਤਰ੍ਹਾਂ ਚਲਾਇਆ ਗਿਆ, ਉਸਨੇ ਦਲੀਲ ਦਿੱਤੀ, ਇਹ ਉਪਾਅ ਅਗਲੇ ਤਿੰਨ ਤੋਂ ਪੰਜ ਸਾਲਾਂ ਵਿੱਚ ਅਮਰੀਕਾ ਦੀ ਲੀਡ ਨੂੰ ਚੌੜਾ ਕਰਨਗੇ - ਵਿੰਡੋ ਜਦੋਂ AI ਭੂ-ਰਾਜਨੀਤਿਕ ਤੌਰ 'ਤੇ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਬਣ ਜਾਂਦੀ ਹੈ - ਅਤੇ ਅਸਲ ਵਿੱਚ ਇਸ ਨੂੰ ਘਟਾਉਣ ਦੀ ਬਜਾਏ ਭਵਿੱਖ ਦੇ ਸਮਝੌਤੇ ਲਈ ਲਾਭ ਵਧਾਏਗੀ।
AI ਚੇਤਾਵਨੀਆਂ ਲਈ ਇੱਕ ਭੀੜ ਵਾਲਾ ਪਲ
ਲੇਖ ਸੁਰੱਖਿਆ-ਸਬੰਧਤ ਖ਼ਬਰਾਂ ਦੇ ਇੱਕ ਅਸਾਧਾਰਣ ਖਿੱਚ ਦੇ ਮੱਧ ਵਿੱਚ ਆਉਂਦਾ ਹੈ। ਇਹ ਪ੍ਰਮੁੱਖ ਪ੍ਰਯੋਗਸ਼ਾਲਾਵਾਂ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਜਨਤਕ ਚੇਤਾਵਨੀਆਂ ਦੀ ਇੱਕ ਲਹਿਰ ਦਾ ਪਾਲਣ ਕਰਦਾ ਹੈ, ਐਂਥਰੋਪਿਕ ਦੀ ਸਤੰਬਰ ਦੀ ਧਮਕੀ ਖੁਫੀਆ ਰਿਪੋਰਟ ਜਿਸ ਵਿੱਚ ਕਲਾਉਡ ਦੀ ਦੁਰਵਰਤੋਂ ਦਾ ਵੇਰਵਾ ਦਿੱਤਾ ਗਿਆ ਹੈ - ਜਿਸ ਵਿੱਚ ਇਰਾਨ ਨਾਲ ਜੁੜੇ ਸੰਚਾਲਕਾਂ ਦੁਆਰਾ ਯੂਐਸ ਨੇਵੀ ਜੰਗੀ ਜਹਾਜ਼ਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਇਆ ਗਿਆ ਹੈ - ਅਤੇ ਓਲਟਮੈਨ ਦੀਆਂ ਅੰਦਰੂਨੀ ਟਿੱਪਣੀਆਂ 'ਤੇ ਬਲੂਮਬਰਗ ਰਿਪੋਰਟ। ਪ੍ਰੈਸ ਕਵਰੇਜ ਨੇ ਅਮੋਦੀ ਦੀ ਅਪੀਲ ਦੇ ਅਜੀਬ ਆਪਟਿਕਸ ਨੂੰ ਵੀ ਨੋਟ ਕੀਤਾ ਕਿਉਂਕਿ ਐਂਥਰੋਪਿਕ ਕਥਿਤ ਤੌਰ 'ਤੇ ਇਤਿਹਾਸ ਦੇ ਸਭ ਤੋਂ ਵੱਡੇ IPOs ਵਿੱਚੋਂ ਇੱਕ ਤਿਆਰ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਹ ਕਿ ਰਾਸ਼ਟਰਪਤੀ ਟਰੰਪ ਨੇ ਪਹਿਲਾਂ ਕਿਸੇ ਵੀ ਮੰਦੀ ਦਾ ਵਿਰੋਧ ਕੀਤਾ ਹੈ ਜੋ ਚੀਨ ਨੂੰ ਜ਼ਮੀਨ ਦੇ ਸਕਦਾ ਹੈ।
ਕੀ ਉਦਯੋਗ ਤਾਲਮੇਲ ਕਰਦਾ ਹੈ ਜਾਂ ਦੌੜ 'ਤੇ ਖੁੱਲਾ ਸਵਾਲ ਰਹਿੰਦਾ ਹੈ. ਪਰ ਇੱਕ ਕਾਰਜਕਾਰੀ ਲਈ ਜਿਸਨੇ ਆਪਣੀ ਕੰਪਨੀ ਦੇ ਬ੍ਰਾਂਡ ਨੂੰ ਗਾਰਡਰੇਲ ਨਾਲ ਤੇਜ਼ੀ ਨਾਲ ਬਣਾਉਣ 'ਤੇ ਬਣਾਇਆ, ਰਸਮੀ ਤੌਰ 'ਤੇ ਪ੍ਰਸਤਾਵਿਤ ਕੀਤਾ ਕਿ ਹਰ ਕੋਈ ਹੌਲੀ ਹੋ ਜਾਵੇ - ਅਤੇ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਆਪਣੀਆਂ ਲੈਬਾਂ ਦੇ ਅੰਦਰ ਬਾਹਰਲੇ ਆਡੀਟਰਾਂ ਨੂੰ ਸੱਦਾ ਦੇਣਾ - ਬਹਿਸ ਦੀ ਬੇਸਲਾਈਨ ਨੂੰ ਰੀਸੈੱਟ ਕਰਦਾ ਹੈ। ਸਵਾਲ ਹੁਣ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਕੀ ਪੈਸਿੰਗ ਸੋਚਣਯੋਗ ਹੈ, ਪਰ ਜਿਸ ਦੇ ਨੰਬਰ ਨੂੰ ਹਰ ਕੋਈ ਸਵੀਕਾਰ ਕਰੇਗਾ.
---
AI ਤੋਂ ਅੱਗੇ ਰਹੋਨਵੀਨਤਮ AI ਖਬਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਫਲਤਾਵਾਂ ਪ੍ਰਾਪਤ ਕਰੋ - ਸਭ ਇੱਕ ਥਾਂ 'ਤੇ।
ਹੋਰ AI ਖਬਰਾਂ ਪੜ੍ਹੋ →
