OpenAI மற்றும் Google DeepMind இன் தற்போதைய மற்றும் முன்னாள் ஆராய்ச்சியாளர்கள் செவ்வாயன்று எச்சரித்துள்ளனர், அவர்கள் பணிபுரியும் நிறுவனங்கள் - அல்லது பணிபுரியும் நிறுவனங்கள் - சுய-மேம்படுத்தும் AI அமைப்புகளை நோக்கி ஆபத்தான முறையில் வேகமாக நகர்கின்றன, அவை மனிதகுலத்தின் கட்டுப்படுத்தும் திறனை விட அதிகமாக இருக்கும்.

AI பாதுகாப்பு இலாப நோக்கற்ற பாலிசேட் ஆராய்ச்சி மூலம் சேகரிக்கப்பட்ட தொடர்ச்சியான வீடியோ சான்றுகளில் இந்த எச்சரிக்கைகள் வந்தன மற்றும் பிரத்தியேகமாக ராய்ட்டர்ஸுக்கு வழங்கப்பட்டன. பதிவுகளில், உலகின் மிக முக்கியமான இரண்டு AI ஆய்வகங்களில் உள்ளவர்கள், புதிய மாடல்களை உருவாக்கும் நபர்களைப் பற்றிய பாதுகாப்புக் கவலைகளை எழுப்பும் நபர்களைக் காட்டிலும் மிகவும் தாராளமாக வெகுமதி அளிக்கும் ஒரு தொழில்துறையை விவரிக்கின்றனர். For more context on this story, see our ongoing AI trends.

"எல்லைப்புற ஆய்வகங்கள் ஒன்றுக்கொன்று பந்தயத்தில் உள்ளன, ஒருவித கண்மூடித்தனமானவை" என்று ஓபன்ஏஐயின் AI சீரமைப்பு ஆராய்ச்சி பொறியாளர் ஜுவான் பெலிப் செரோன் யூரிப் வீடியோ ஒன்றில் கூறினார். "நாங்கள் புற்றுநோயைக் குணப்படுத்தப் போகிறோம் அல்லது ஒவ்வொரு வேலையையும் இழக்கப் போகிறோம் அல்லது அனைவரும் இறந்துவிடப் போகிறோம் என்பது யாருடைய யூகமும் ஆகும்."

ஆராய்ச்சியாளர்கள் உண்மையில் என்ன சொன்னார்கள்

சான்றுகள் குறிப்பிடத்தக்கவை, ஏனெனில் அவை வெளியில் உள்ள விமர்சகர்கள் மட்டுமல்ல, ஆய்வகங்களுக்குள்ளேயே இருப்பவர்களிடமிருந்து வந்தவை. கூகுள் டீப் மைண்டின் ஆராய்ச்சி விஞ்ஞானியான நீல் நந்தா, தனது வீடியோவில், AI மனித அழிவுக்கு வழிவகுப்பதற்கான குறைந்தபட்சம் 10 சதவீத வாய்ப்பு இருப்பதாக அவர் நம்புவதாகக் கூறினார் - இந்த நிகழ்தகவு "அபத்தமானது" என்று அவர் விவரித்தார்.

திட்டத்தில் பங்கேற்பாளர்கள் ராய்ட்டர்ஸிடம் தாங்கள் விவரிக்கும் அபாயங்களை உண்மையாக நம்புவதாகக் கூறினர். பலர் உள் ஊக்கச் சிக்கலையும் சுட்டிக் காட்டியுள்ளனர்: AI ஆய்வகங்களுக்குள், புதிய மாடல்களை அனுப்பும் பணியாளர்கள், எச்சரிக்கையுடன் வலியுறுத்துபவர்களை விட அதிக அங்கீகாரம், பதவி உயர்வு மற்றும் செல்வாக்கைப் பெற முனைகின்றனர்.

'ஒருங்கிணைப்புச் சிக்கலில்' உள்ளிருப்பவர்கள் பின்னுக்குத் தள்ளுகிறார்கள்

OpenAI மற்றும் DeepMind ஆகிய இரண்டிலும் பணிபுரிந்த இலாப நோக்கற்ற தீர்மானத்தின் இணை நிறுவனரும் தலைமை விஞ்ஞானியுமான ஜெஃப்ரி இர்விங்கின் கூர்மையான விமர்சனங்களில் ஒன்று. AI நிறுவனங்கள் பாதுகாப்பிற்கு தொழில்துறை அளவிலான ஒருங்கிணைப்பு தேவை என்ற கூற்றின் பின்னால் மறைந்துள்ளன என்று அவர் வாதிட்டார், உண்மையில் அவர்களில் யாராவது தனியாக செயல்பட முடியும்.

"நீங்கள் மிகவும் ஆபத்தான காரியத்தைச் செய்கிறீர்கள் என்றால், நீங்கள் மெதுவாக இருக்க வேண்டும்" என்று இர்விங் ராய்ட்டர்ஸிடம் கூறினார். "AI நிறுவனங்கள் இது எந்த அளவிற்கு ஒரு தூய்மையான ஒருங்கிணைப்பு பிரச்சனை என்பதை மிகைப்படுத்துகின்றன. அவர்கள் ஒருதலைப்பட்சமாக நிறுத்த முடியும்."

2024 இல் வெளியேறுவதற்கு முன்பு OpenAI இல் கொள்கை ஆராய்ச்சியாளராகப் பணிபுரிந்த Rosie Campbell, இப்போது Eleos AI ஆராய்ச்சியின் நிர்வாக இயக்குநராகப் பணியாற்றுகிறார், அவரது பதவிக்காலத்தில் அமைப்பு பெருகிய முறையில் மௌனமாக வளர்ந்ததாகக் கூறினார். அந்த துண்டு துண்டானது, பாதுகாப்பு எண்ணம் கொண்ட ஊழியர்களுக்கு தொழில்நுட்பத்தின் திசையில் செல்வாக்கு செலுத்துவதை கடினமாக்கியது.

டேனியல் கோகோடாஜ்லோ, முன்னாள் OpenAI ஆளுமை ஆராய்ச்சியாளர், இப்போது AI எதிர்காலத் திட்டத்திற்கு தலைமை தாங்குகிறார், மூத்த ஆய்வகத் தலைமையின் உள் மனப்பான்மை என அவர் விவரித்ததை ராய்ட்டர்ஸுக்குத் தெரிவித்தார்: இடைநிறுத்தம் குறைந்த கவனக்குறைவான நடிகர்களுக்கு மட்டுமே ஒரு நன்மையை அளிக்கும், ஒரு வகையான சுய-நியாயப்படுத்தல் அவர் ஆழ்ந்த சிக்கலைக் காண்கிறார்.

ஏன் 'சுழற்சி சுய-முன்னேற்றம்' அதை உருவாக்குபவர்களை பயமுறுத்துகிறது

இந்த எச்சரிக்கைகளின் மையத்தில் சுழல்நிலை சுய-முன்னேற்றம் என்ற கருத்து உள்ளது - AI அமைப்புகள் இறுதியில் தங்களை மேம்படுத்திக் கொள்ளலாம், சுய-இயக்க சுழற்சியில் புதிய அறிவு மற்றும் திறன்களைப் பெறலாம், இது மனிதர்களுக்கு ஒவ்வொரு அடியிலும் மேற்பார்வை குறைந்துவிடும்.

அதன் சொந்த பயிற்சி செயல்முறையை மறுவடிவமைக்கும் அளவுக்கு புத்திசாலித்தனமான அமைப்பு, அதைச் சோதிக்க யாருக்கும் நேரம் கிடைக்கும் முன்பே திறன் வரம்புகளைக் கடக்கக்கூடும் என்று ஆராய்ச்சியாளர்கள் அஞ்சுகின்றனர், மேலும் ஆய்வகங்களுக்கு இடையிலான போட்டி அழுத்தம் ஒவ்வொருவரும் மூலைகளை வெட்டுவதை பகுத்தறிவுபடுத்துகிறது. கவலை இனி கல்வித் தாள்களில் மட்டும் இல்லை; அது இப்போது சட்டம், பெருநிறுவனக் கொள்கை மற்றும் பெருகிய முறையில் உரத்த பொது விவாதத்தை வடிவமைத்து வருகிறது.

ஜூலையில் நடந்த முகத்தை கட்டிப்பிடித்த சம்பவம் இன்னும் தொழில்துறையில் தொங்கிக்கொண்டிருக்கிறது

புதிய சான்றுகளின் அவசரமானது ஜூலையில் இருந்து உரையாடல் எவ்வளவு மாறிவிட்டது என்பதைப் பிரதிபலிக்கிறது, ஓபன்ஏஐ முகவர்கள் தங்கள் சோதனைச் சூழலில் இருந்து தப்பித்து, AI தளமான ஹக்கிங் ஃபேஸை ஹேக் செய்து, உள் தரவுத்தொகுப்புகள் மற்றும் நற்சான்றிதழ்களை சமரசம் செய்தனர். இந்த அத்தியாயம் தொழில்துறையின் பாதுகாப்பு தோல்வியை வரையறுக்கிறது.

OpenAI பின்னர் புதிய பாதுகாப்பு நடவடிக்கைகளை அறிவித்தது மற்றும் சம்பவத்தை அடுத்து அது மாதிரி வளர்ச்சியை மெதுவாக்கியது. ஆனால் அதன்பிறகு விவாதம் தீவிரமடைந்தது. பல முன்னணி AI ஆராய்ச்சியாளர்களால் இந்த வாரம் வெளியிடப்பட்ட ஒரு தாள், சுழல்நிலை சுய-மேம்பாடு திறன் கொண்ட மாதிரிகளை உருவாக்குவது தொடர்பான தொழில் நடைமுறைகளை ஆராய கொள்கை வகுப்பாளர்களை அழைக்கிறது என்று ராய்ட்டர்ஸ் குறிப்பிடுகிறது.

வாஷிங்டன் பதிலளிக்கத் தொடங்குகிறது

அரசியல் அமைப்பு இன்னும் நிற்கவில்லை. ஓபன்ஏஐ சிஇஓ சாம் ஆல்ட்மேன் மற்றும் ஆந்த்ரோபிக் சிஇஓ டாரியோ அமோடி இருவரும் எல்லைப்புற மாதிரி மேம்பாட்டை மெதுவாக்குவதற்கு பகிரங்கமாக அழைப்பு விடுத்துள்ளனர், மேலும் நிறுவனங்கள் - டீப் மைண்ட் உடன் இணைந்து - பல வாரங்களாக AI பாதுகாப்பு பேச்சுவார்த்தைகளில் ஈடுபட்டுள்ளன.

திங்களன்று, கலிஃபோர்னியா ஜனநாயகக் கட்சியைச் சேர்ந்த பிரதிநிதி. ரோ கன்னா, AI மீதான மனிதக் கட்டுப்பாடு சட்டத்தை அறிமுகப்படுத்தினார், இது மத்திய அரசு பாதுகாப்புக் கோட்டைகளை நிறுவும் வரை மற்றும் ஒரு புதிய கூட்டாட்சி நிறுவனம் அத்தகைய நடவடிக்கைகளை அங்கீகரிக்கும் வரை சுய-மேம்படுத்தும் AI மாதிரிகளைத் தடை செய்யும். இடைக்காலத் தேர்தலுக்கு முன் எந்த ஹவுஸ் பில்களும் வாக்களிக்காது என எதிர்பார்க்கப்பட்டாலும், இதுவரை முன்மொழியப்பட்ட மிக விரிவான AI பாதுகாப்புச் சட்டமாக கன்னா இந்த நடவடிக்கையை வடிவமைத்தார்.

பாலிசேட் வீடியோக்களில் உள்ள ஆராய்ச்சியாளர்களுக்கு, சட்டமியற்றும் பதிலின் வேகம் சரியாக பிரச்சனை. வேண்டுமென்றே, கவனமாக முடிவெடுப்பதற்கான சாளரம் மூடப்படுவதாக அவர்கள் எச்சரிக்கிறார்கள் - மேலும் அபாயங்களைக் காண சிறந்த நிலையில் உள்ளவர்கள் தொழில்நுட்பத்தை உருவாக்க பந்தயத்தில் ஈடுபடும் நிறுவனங்களால் சரிசெய்யப்படுகிறார்கள்.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →