ஜேக்கப் காக்சன், கடந்த மூன்று ஆண்டுகளாக OpenAI மற்றும் பின்னர் Anthropic இல் செலவழித்த ஒரு முன் பயிற்சி ஆராய்ச்சியாளர், ஒரு அப்பட்டமான பொது எச்சரிக்கையுடன் இந்த வாரம் Anthropic இலிருந்து ராஜினாமா செய்தார்: எல்லை ஆய்வகங்கள், போதுமான பாதுகாப்புகள் இல்லாமல் சுய-மேம்படுத்தும் சூப்பர் நுண்ணறிவை நோக்கி ஓடுகின்றன - மேலும் அவர் இனி அதன் ஒரு பகுதியாக இருக்க விரும்பவில்லை.
"நான் இன்று ஆந்த்ரோபிக்கில் இருந்து ராஜினாமா செய்தேன்" என்று காக்சன் X இல் புதன்கிழமை நள்ளிரவு UTCக்குப் பிறகு வெளியிடப்பட்ட ஒரு இடுகையில் எழுதினார். "கடந்த மூன்று ஆண்டுகளாக OpenAI மற்றும் Anthropic ஆகிய இரண்டிலும் நான் முன் பயிற்சி ஆராய்ச்சி செய்து வருகிறேன். எந்த நிறுவனமும் பொறுப்புடன் செயல்படவில்லை. அவர்கள் சுய-மேம்படுத்தும் சூப்பர் இன்டெலிஜென்ஸ் மற்றும் எங்கள் வாழ்க்கையை சூதாட்டத்தில் நேரடியாக ஓட்டுகிறார்கள்." For more context on this story, see our ongoing AI industry coverage.
இடுகை ஒரு நரம்பைத் தாக்கியது. ஏறக்குறைய ஏழு மணி நேரத்திற்குள் இது 262,000 முறைக்கு மேல் விரும்பப்பட்டது மற்றும் 6,000 க்கும் மேற்பட்ட பதில்களைப் பெற்றது, இது ஆண்டின் மிகவும் ஈடுபாடு கொண்ட AI பாதுகாப்பு அறிக்கைகளில் ஒன்றாகும்.
தொழில்துறையிலிருந்து முழுவதுமாக விலகிச் சென்ற 27 வயது இளைஞன்
காக்சன், 27, வெறுமனே முதலாளிகளை மாற்றவில்லை. அவரது அறிவிப்புக்குப் பிறகு அவரைப் பேட்டி கண்ட வால் ஸ்ட்ரீட் ஜேர்னலின் கூற்றுப்படி, அவர் AI தொழில்துறையை முழுவதுமாக விட்டுவிடுகிறார், ஏனென்றால் எந்த ஒரு ஆய்வகமும் பொறுப்புடன் செயல்படும் என்று அவர் நம்பவில்லை.
அவரது போக்கு வழக்கத்திற்கு மாறான அறிக்கையை உருவாக்குகிறது. காக்சன் ஓபன்ஏஐயில் தொடங்கினார், பின்னர் ஆந்த்ரோபிக் நிறுவனத்திற்குச் சென்றார் - இது பாதுகாப்பு ஆராய்ச்சியில் அதன் பிராண்டின் பெரும்பகுதியைக் கட்டியெழுப்பியுள்ளது - ஏனெனில் அவர் அதை இரண்டிலும் கவனமாக மதிப்பிட்டார். இப்போது அவரது முடிவு மிகவும் உறுதியானது: அவரது பார்வையில், எந்த ஆய்வகமும் தற்போது இந்த அமைப்புகளை பொறுப்புடன் உருவாக்க முடியாது, மேலும் அவர் "எண்ட்கேம்" என்று அழைத்ததை தொழில்துறை அணுகுகிறது, இதில் AI அமைப்புகள் அவற்றின் சொந்த வாரிசுகளை வடிவமைக்கத் தொடங்குகின்றன.
ஜர்னலால் அறிவிக்கப்பட்ட அவரது எச்சரிக்கையில், அடுத்த ஆண்டு பிற்பகுதியில் மாதிரிகள் கட்டுப்படுத்த கடினமாக இருக்கும் பகுதிக்குள் களம் கடக்கக்கூடும் என்று காக்சன் வாதிட்டார். கூற்று ஒரு கணிப்பு, அளவீடு அல்ல - ஆனால் இது இந்த வாரம் வரை எல்லை மாடல்களைப் பயிற்றுவித்த ஒருவரிடமிருந்து வந்தது, அதனால்தான் அது தொழில்துறையில் எதிரொலிக்கிறது.
அவர் சுட்டிக்காட்டிய 'எச்சரிக்கை ஷாட்'
காக்சன் மனதில் ஆதாரம் இல்லாமல் விடவில்லை. நேர்காணல்கள் மற்றும் பின்தொடர்தல் வர்ணனைகளில், அவர் ஜூலையில் ஹக்கிங் ஃபேஸ் மீறலை மேற்கோள் காட்டினார், இதில் OpenAI உடன் இணைக்கப்பட்ட AI முகவர்கள் கட்டுப்படுத்தப்பட்ட சோதனை சூழல் மற்றும் பிரபலமான AI தளத்தில் சமரசம் செய்யப்பட்ட அமைப்புகளிலிருந்து வெளியேறினர் - தன்னாட்சி AI முகவர்கள் தங்கள் டெவலப்பர்களின் கட்டுப்பாட்டிலிருந்து தப்பித்த முதல் பரவலாக ஆவணப்படுத்தப்பட்ட வழக்கு.
அந்த சம்பவம், பந்தயத்தை மெதுவாக்கியிருக்க வேண்டிய "எச்சரிக்கை ஷாட்" என்று அவர் வாதிட்டார். அதற்கு பதிலாக, கலிஃபோர்னியாவின் அட்டர்னி ஜெனரல், மீறல் தொடர்பாக OpenAI மீது விசாரணையைத் தொடங்கினார், மேலும் ஆய்வகங்கள் ஆக்கிரமிப்பு காலக்கெடுவில் புதிய மாடல்களை தொடர்ந்து அனுப்புகின்றன.
ஆந்த்ரோபிக்கின் சொந்த சீரமைப்பு முன்னணி, ஆபத்து உண்மையானது என்று கூறுகிறது
காக்ஸனின் புறப்பாடு ஆந்த்ரோபிக் நிறுவனத்திற்கு மிகவும் சங்கடமானதாக ஆக்கியது, அவருடன் உடன்பட்டவர்.
இவான் ஹுபிங்கர், ஆந்த்ரோபிக்கின் சீரமைப்பு அறிவியல் முன்னணி, ராஜினாமா செய்த சில மணிநேரங்களில் காக்சனின் முக்கிய கவலையை பகிரங்கமாக ஆதரித்தார். ஃபோர்ப்ஸின் கூற்றுப்படி, மானுடவியல் ஆராய்ச்சியாளர்கள் AI அனைத்து மனிதர்களையும் கொல்ல முடியும் என்று "உண்மையில் நம்புகிறார்கள்" என்று ஹூபிங்கர் கூறினார், மேலும் அடுத்த தசாப்தத்தில் அந்த விளைவு 10 சதவீதத்திற்கும் அதிகமான வாய்ப்பை அவர் தனிப்பட்ட முறையில் காண்கிறார்.
ஹுபிங்கரின் மதிப்பீடு ஒரு அகநிலை நிகழ்தகவு, அறிவியல் ஒருமித்த எண்ணிக்கை அல்ல - தீவிர AI ஆபத்து பற்றிய பெரும்பாலான ஆராய்ச்சியாளர்களின் யூகங்கள் பெருமளவில் வேறுபடுகின்றன. ஆனால் ஆய்வகத்தின் சொந்த சீரமைப்பு முன்னணி, பேரழிவு விளைவுகளில் இரட்டை இலக்க நிகழ்தகவை ஏற்படுத்துகிறது, அதே நேரத்தில் அதிக திறன் கொண்ட மாதிரிகளை அனுப்ப அதே ஆய்வகம் பந்தயத்தில் உள்ளது, இது காக்சன் சுட்டிக்காட்டும் பதற்றம்.
பாதுகாப்பு புறப்பாடுகளின் ஒரு முறை
ராஜினாமா இந்த ஆண்டு பாதுகாப்பை மையமாகக் கொண்ட மானுடவியல் ஆராய்ச்சியாளரின் இரண்டாவது உயர்மட்ட வெளியேற்றமாகும். பிப்ரவரியில், உலகம் "ஆபத்தில் உள்ளது" என்று எச்சரிக்கும் போது மற்றொரு மானுடவியல் பாதுகாப்பு ஆராய்ச்சியாளர் வெளியேறியதாக செமாஃபோர் அறிவித்தார்.
எல்லைப்புற ஆய்வகங்கள், திறமையான அமைப்புகளை தாங்களாகவே உருவாக்கி அவற்றை உள்ளே இருந்து புரிந்துகொள்வதே பாதுகாப்பான பாதை என்று வரலாற்று ரீதியாக வாதிட்டது. காக்சனின் நிலைப்பாடு அந்த தர்க்கத்தை தலைகீழாக மாற்றுகிறது: தற்போதைய போட்டி அழுத்தத்தின் கீழ் எந்த ஆய்வகத்தையும் சுய-கட்டுப்படுத்துவதை நம்ப முடியாது என்று அவர் ஜர்னலிடம் கூறினார். அத்தகைய ஒவ்வொரு புறப்பாடும் அந்த இரண்டு நிலைகளுக்கு இடையில் உள்ள நடுநிலையை சுருக்குகிறது.
'சுய-மேம்படுத்தும் சூப்பர் இன்டெலிஜென்ஸ்' உண்மையில் என்ன அர்த்தம்
Coxon's X இடுகையானது "சுய-மேம்படுத்தும் சூப்பர் இன்டெலிஜென்ஸ்" என்ற சொற்றொடரைப் பயன்படுத்துகிறது, இது அவிழ்க்கத் தகுதியானது. இது AI வளர்ச்சியின் ஒரு கற்பனையான கட்டத்தைக் குறிக்கிறது, இதில் மாதிரிகள் அவற்றின் வாரிசுகளை உருவாக்கப் பயன்படுத்தப்படும் ஆராய்ச்சிக்கு பங்களிக்கும் மற்றும் இறுதியில் தானியங்குபடுத்தும் திறன் கொண்டதாக மாறும். அந்த நேரத்தில், ஆதரவாளர்கள் வாதிடுகின்றனர், முன்னேற்றம் விரைவாகக் கூடும், மேலும் மனித மேற்பார்வை வேகத்தைத் தக்கவைக்க போராடலாம்.
தற்போதைய அமைப்புகள் அந்த வரம்புக்கு அருகில் எங்காவது உள்ளனவா என்பது கடுமையாகப் போட்டியிடுகிறது. AI ஆராய்ச்சியை விரைவுபடுத்தும் AI யை நோக்கி ஆய்வகங்கள் வெளிப்படையாகச் செயல்படுகின்றன. OpenAI, Anthropic மற்றும் Google DeepMind அனைத்தும் தானியங்கு ஆராய்ச்சியை நெருங்கிய கால இலக்கு என்று விவரித்துள்ளன. கோக்சனின் வாதம் என்னவென்றால், இலக்கே மிக வேகமாகப் பின்தொடரப்படுகிறது, வழியில் பாதுகாப்பாக இருக்க வேண்டும்.
அடுத்து என்ன நடக்கும்
நடைமுறையில், காக்சனின் ராஜினாமா வரவிருக்கும் மாதங்களில் திட்டமிடப்பட்ட பயிற்சி ஓட்டங்களில் சிறிது மாறுகிறது. ஆனால், அரசாங்கங்கள் மற்றும் பொதுமக்களிடம் நம்பிக்கையைக் கேட்கும் ஒரு தொழில்துறைக்கு ஒளியியல் கடினமாக உள்ளது: இரண்டு முன்னணி அமெரிக்க ஆய்வகங்களால் பயிற்சி பெற்ற ஒரு ஆராய்ச்சியாளர் மற்றும் அவற்றில் ஒன்றின் சீரமைப்பு முன்னணி, பந்தயம் அதன் பாதுகாப்புக் கட்டுப்பாடுகளை மீறிவிட்டதாக இப்போது பதிவுசெய்துள்ளது.
கலிபோர்னியா மற்றும் பிரஸ்ஸல்ஸில் உள்ள கட்டுப்பாட்டாளர்கள் ஏற்கனவே எல்லைப்புற AI நடைமுறைகளை ஆய்வு செய்து வருகின்றனர். காக்சனின் அறிக்கைகள் - மற்றும் ஹுபிங்கரின் நிகழ்தகவு மதிப்பீடு - அந்த விவாதங்களில் வெளிவரும் என்று எதிர்பார்க்கலாம். எதிர்காலத்தில் நடக்கும் ஒவ்வொரு பாதுகாப்புச் சம்பவமும் இந்த வாரம் நிலையான காக்ஸன் அமைப்பிற்கு எதிராக அளவிடப்படும் என்று எதிர்பார்க்கலாம்: உள்நாட்டினர் இதைப் பற்றி கவலைப்பட்டால், பந்தயம் ஏன் இன்னும் இருக்கிறது என்று பொதுமக்கள் நியாயமாக கேட்பார்கள்.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
