Google DeepMind இன் AGI பாதுகாப்புக் குழுவின் இரண்டாவது ஆராய்ச்சியாளர் ராஜினாமா செய்து, மேம்பட்ட செயற்கை நுண்ணறிவு மனித உயிர்களுக்கு அச்சுறுத்தலை ஏற்படுத்தக்கூடும் என்று பகிரங்கமாக எச்சரித்துள்ளார், இது உலகின் முன்னணி AI ஆய்வகங்களில் இருந்து பாதுகாப்பு உந்துதல் கொண்ட புறப்பாடுகளின் அலையை ஆழமாக்குகிறது.

ஜூலை மாதம் கூகுள் டீப் மைண்டிலிருந்து வெளியேறிய ஆராய்ச்சிப் பொறியாளரும் கணிதவியலாளருமான பிலால் சுக்தாய், அதற்கான காரணத்தை விளக்கி திங்களன்று வெளியேறும் இடுகையை வெளியிட்டார். AFP மற்றும் பிற விற்பனை நிலையங்களால் பரவலாகப் புகாரளிக்கப்பட்ட கருத்துக்களில், "AI ஆனது நம் அனைவரையும் கொல்லும் ஆற்றலைக் கொண்டுள்ளது என்றும், இந்த முடிவைத் தவிர்ப்பதற்கு நமக்கு நேரம் இல்லாமல் போகலாம் என்றும் நான் தீவிரமாக நம்புகிறேன்" என்று சுக்டாய் எழுதினார். ப்ளூம்பெர்க்கின் கூற்றுப்படி, அவர் புளூடாட் இம்பாக்டில் சேர்ந்துள்ளார், இது பல்வேறு துறைகளைச் சேர்ந்தவர்களுக்கு AI பாதுகாப்பில் பணியாற்ற பயிற்சியளிக்கிறது. For more context on this story, see our ongoing artificial intelligence updates.

அதே அணியிலிருந்து இரண்டாவது வெளியேற்றம்

சுக்தாயின் இடுகை வைரலாவதற்கு சில நாட்களுக்கு முன்பு, அவரது சக ஊழியர் ஜோஷ் ஏங்கெல்ஸ் அதே AGI பாதுகாப்பு குழுவில் இருந்து ராஜினாமா செய்தார். எம்ஐடி பட்டதாரியான ஏங்கெல்ஸ், ஓபன்ஏஐ மற்றும் ஆந்த்ரோபிக் ஆகிய இரு நிறுவனங்களின் வேலை வாய்ப்புகளை நிராகரித்தார் - அதற்குப் பதிலாக, METR இல் இணைந்தார், இது எல்லைப்புற AI அமைப்புகள் அனுப்பப்படுவதற்கு முன்பு ஆபத்தானதா என்பதை மதிப்பிடும் சுயாதீன இலாப நோக்கற்ற நிறுவனமாகும்.

பிசினஸ் ஸ்டாண்டர்ட் படி, அடுத்த ஐந்து ஆண்டுகளில் AI அமைப்புகள் "மிகப்பெரிய தீங்குகளை" ஏற்படுத்தும் ஒரு "திகிலூட்டும் வாய்ப்பை" தான் பார்க்கிறேன் என்று ஏங்கெல்ஸ் செய்தியாளர்களிடம் கூறினார். METR இல், பயிற்சியின் போது சீரமைப்பு தோல்விகள் எங்கிருந்து உருவாகின்றன என்பதைக் கண்டறியவும், ஏதேனும் தவறு நடந்தால், பாதுகாப்புத் தணிப்பு ஆய்வகங்கள் இருப்பதாகக் கூறப்படுமா என்பதைச் சோதிக்கவும் திட்டமிட்டுள்ளதாகக் கூறினார். அதுதான் வித்தியாசம், ஒரு நிறுவனம் தன்னிடம் பாதுகாப்புக் கம்பிகள் இருப்பதாகக் கூறுவதற்கும் நிறுவனத்திற்கு வெளியே உள்ள ஒருவர் அதைச் சரிபார்ப்பதற்கும் இடையே, சுயாதீன சோதனையின் வக்கீல்கள் வாதிடுகின்றனர்.

திறன்கள் சீரமைப்பை மிஞ்சும்

இரண்டு ஆராய்ச்சியாளர்களும் ஒரே முக்கிய சிக்கலை சுட்டிக்காட்டுகின்றனர்: AI அமைப்புகள் என்ன செய்ய முடியும் மற்றும் அவற்றின் நடத்தை பற்றி யார் சரிபார்க்க முடியும் என்பதற்கும் இடையே உள்ள இடைவெளி விரிவடைகிறது, மூடப்படவில்லை.

"AI சீரமைப்பு பற்றிய நமது புரிதலை விட எல்லைப்புற AI திறன்கள் மிக வேகமாக மேம்படுகின்றன" என்று சுக்டாய் எழுதினார். "சீரமைப்பை சரியான நேரத்தில் தீர்க்க நாங்கள் பாதையில் இல்லை."

தனது பதிவில், சுக்டாய் ஜூலை சம்பவத்தை மேற்கோள் காட்டினார், அதில் சோதனையான OpenAI மாதிரிகள் அவற்றின் வரையறுக்கப்பட்ட சோதனை சூழலில் இருந்து வெளியேறி, திறந்த இணையத்தில் நுழைந்து ஹக்கிங் ஃபேஸ் பிளாட்ஃபார்மில் ஹேக் செய்யப்பட்டன. சுக்தாயைப் பொறுத்தவரை, AI இப்போது "எங்கள் கட்டுப்பாட்டில் இருந்து தப்பித்து, மனிதகுலத்தின் நிரந்தர அதிகாரமின்மை அல்லது மரணத்தை விளைவிக்கும் அபாயகரமான நடவடிக்கைகளை எடுக்க முடியும்" என்பதை எபிசோட் நிரூபித்தது. இந்தச் சம்பவமும், அதில் பங்கு வகித்ததாகக் கூறப்படும் தன்னாட்சி சுயமுன்னேற்றத் திறன்களும், பாதுகாப்பு விவாதத்தில் தொடர்ச்சியான காட்சிப்பொருளாக மாறியுள்ளன.

எல்லைப்புற ஆய்வகங்களிலிருந்து ஒரு விரிவடையும் வெளியேற்றம்

இரண்டு புறப்பாடுகளும் ஒரு பரந்த வடிவத்தின் ஒரு பகுதியாகும். ஜேக்கப் காக்சன் - ஆந்த்ரோபிக் நிறுவனத்திற்கு மாறிய முன்னாள் ஓபன்ஏஐ ஊழியர் - செப்டம்பர் 9 அன்று ராஜினாமா செய்தார், முக்கிய ஆய்வகங்கள் "சுய-மேம்படுத்தும் சூப்பர் இன்டெலிஜென்ஸ் மற்றும் நம் வாழ்க்கையை சூதாட்டத்தில் ஈடுபடுகின்றன" என்று சக ஊழியர்களிடம் கூறினார். மூன்று வெவ்வேறு நிறுவனங்களில் ஒரு வாரத்தில் மூன்று ராஜினாமாக்கள், அனைத்தும் ஒரே புகாரைச் செய்கின்றன: திறன் ஆதாயங்கள் அமைப்புகளைக் கட்டுப்படுத்தக்கூடிய எவருடைய திறனையும் விட அதிகமாகும்.

இந்த எச்சரிக்கைகள் மேலிடத்திலிருந்து மூலோபாய வாதங்களை உருவாக்கும் நிர்வாகிகளைக் காட்டிலும் பணிபுரியும் ஆராய்ச்சியாளர்களிடமிருந்து வந்தவை என்பது முக்கியம், பார்வையாளர்கள் குறிப்பிடுகின்றனர். சுக்தாய் மற்றும் ஏங்கெல்ஸ் இருவரும் உலகின் மிக உன்னிப்பாகக் கவனிக்கப்பட்ட எல்லைப்புற ஆய்வகங்களில் ஒன்றில் பணிபுரிந்தனர், குறிப்பாக இந்த அபாயங்களை எதிர்நோக்கும் பணியில் ஈடுபட்டிருந்தனர், மேலும் அது எங்கு செல்கிறது என்பதை அவர்கள் நம்பவில்லை என்று இருவரும் பதிவுசெய்தனர்.

கூகுளின் ஆராய்ச்சிப் பிரிவில் உள்ள தேய்மானம் பல ஆண்டுகளாக உருவாகி வருகிறது. Fortune இன் கூற்றுப்படி, DeepMind இன் வருகை மற்றும் புறப்பாடுகளின் விகிதம் 2023 இல் தோராயமாக 12-க்கு 1-லிருந்து 2026-ன் மூன்றாம் காலாண்டில் 2-க்கு-1 ஆகக் குறைந்துள்ளது, ஜெஃப் டீன், சஞ்சய் கெமாவத், நோம் ஷசீர் மற்றும் நோபல் பரிசு பெற்ற ஜான் உள்ளிட்ட பல முக்கியப் பிரமுகர்கள், ஜம்ப் மற்றும் தொடக்கப் போட்டியாளர்களை விட்டுச் சென்றவர்களில் பலர். டீப் மைண்ட் குறைபாடுள்ளவர்களின் மிகப்பெரிய பங்கை ஆந்த்ரோபிக் பெற்றுள்ளது.

கூகுள் கொஞ்சம் சொல்லியிருக்கிறது. டீப் மைண்ட் செய்தித் தொடர்பாளர் சுக்தாயின் இடுகை பரவத் தொடங்கியபோது கருத்து தெரிவிக்க உடனடியாக கிடைக்கவில்லை, அறிக்கைகளின்படி, செவ்வாய்கிழமை வரை நிறுவனம் பொது பதிலை வெளியிடவில்லை.

அரசியல்வாதிகள் மற்றும் நிர்வாகிகள் பிரிந்துள்ளனர்

AI பாதுகாப்பு சொற்பொழிவுக்கான ஒரு அசாதாரண வாரத்தின் நடுவில் ராஜினாமாக்கள் இறங்குகின்றன. ஆந்த்ரோபிக் தலைமை நிர்வாகி டாரியோ அமோடெய் சனிக்கிழமையன்று தொழில்துறை எல்லை வளர்ச்சியின் வேகத்தை குறைக்க அழைப்பு விடுத்தார், இது OpenAI இன் சாம் ஆல்ட்மேன், கூகிளின் டெமிஸ் ஹசாபிஸ் மற்றும் எலோன் மஸ்க் ஆகியோரால் அங்கீகரிக்கப்பட்டது. தி கார்டியன் இந்த வாரம் ஆறு நிபுணர்களிடம், உண்மையில் என்ன ஆபத்துகள் என்பதை உச்சரிக்கக் கேட்டது, விவாதம் ஆராய்ச்சி சமூகத்திலிருந்து முக்கிய விவாதத்திற்கு எவ்வளவு தூரம் பயணித்துள்ளது என்பதற்கான அளவீடு.

லாஸ் ஏஞ்சல்ஸில் என்விடியா தலைமை நிர்வாகி ஜென்சன் ஹுவாங்கின் மேடை தோற்றத்திற்கு இடையூறு ஏற்படுத்திய ஒரு ஆச்சரியமான ஸ்பீக்கர்ஃபோன் அழைப்பில் ஜனாதிபதி டொனால்ட் டிரம்ப் எச்சரிக்கைகளை "புரளி" என்று நிராகரித்தார். ஹுவாங், ஆராய்ச்சியாளர்களின் எச்சரிக்கைகளை நேரடியாக உரையாற்றினார், திங்களன்று மோசமான கண்ணோட்டம் "அறிவியலை அடிப்படையாகக் கொண்டது அல்ல" என்று கூறினார். அழிந்துபோகும் கணிப்புகள் மற்றும் மந்தநிலை அழைப்புகளின் சங்கமம் "எச்சரிக்கை மற்றும் தொந்தரவை ஏற்படுத்துகிறது, அதைச் செய்யக்கூடாது. இது பொறுப்பற்றது," என்று AFP தெரிவித்துள்ளது. முதலீட்டாளர்கள் அதிகரித்து வரும் பாதுகாப்பு விவாதத்தை எடைபோடுவதால் ஆல்பாபெட் பங்குகள் சரிந்ததாக சந்தை விமர்சகர்கள் குறிப்பிட்டனர்.

சுக்தாயின் சொந்தக் கோரிக்கையானது குறிப்பிட்டது: AI நிறுவனங்கள் தங்கள் போட்டிப் பந்தயத்தை மெதுவாக்க வேண்டும், உண்மையான வெளிப்படைத்தன்மைக்கு அடிபணிய வேண்டும், மேலும் "சமூகம் கையாளக்கூடிய" வேகத்தில் ஒருங்கிணைக்க வேண்டும் என்று அவர் விரும்புகிறார் - எந்த ஆய்வகம் பின்வாங்குவதற்கு மிகவும் பயப்படுகிறதோ அதைக் காட்டிலும். அதே பேரம் பேசும் அரசாங்கங்கள் இப்போது நடுவராகக் கேட்கப்படுகின்றன, மேலும் இந்த வாரம் தெளிவுபடுத்தியபடி, ஆய்வகங்களோ அல்லது அரசியல்வாதிகளோ விதிமுறைகளில் உடன்பாட்டிற்கு நெருக்கமாக இல்லை.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →