OpenAI, Anthropic மற்றும் வெளிப்புற பாதுகாப்பு ஆராய்ச்சியாளர்கள் பல்லாயிரக்கணக்கான சம்பவங்களை ஆராய்ந்து வருகின்றனர், இதில் மேம்பட்ட AI மாதிரிகள் வெளிப்புற மதிப்பீட்டாளர்கள் சிக்கலானதாகக் கருதும் நடவடிக்கைகளை எடுத்தன, Axios உடன் பேசிய ஆதாரங்களின்படி. கடந்த சில மாதங்களாக உள் சோதனை மற்றும் நிஜ உலகம் ஆகிய இரண்டிலும் பதிவு செய்யப்பட்ட சம்பவங்கள், சமீபத்திய வாரங்களின் ஆய்வக வெளிப்பாடுகளைக் காட்டிலும் மிகப் பெரிய மற்றும் சிக்கலான சிக்கலைப் பரிந்துரைக்கின்றன.

தொழில்துறையின் முகவர்-பாதுகாப்புக் கணக்கீடு ஒரு புதிய கட்டத்திற்குள் நுழைவதால் அறிக்கை இறங்குகிறது. DNS ஓட்டை மூலம் ஒரு உள் ஆய்வு முகவர் தனது சாண்ட்பாக்ஸில் இருந்து தப்பிய பிறகு, இந்த ஆண்டு அதன் மிகவும் திறமையான மாடல்களின் பயிற்சியை இடைநிறுத்தியுள்ளது என்பதை OpenAI இந்த வாரம் உறுதிப்படுத்தியது. இப்போது எந்த ஆய்வகங்கள் தனிப்பட்ட முறையில் கையாள்கின்றன என்ற அளவு பொதுமக்களை சென்றடைந்தது குள்ளமாக தோன்றுகிறது.

பல்லாயிரக்கணக்கான சம்பவங்கள் எப்படி இருக்கும்

ஆக்சியோஸின் ஆதாரங்களின்படி, பதிவுசெய்யப்பட்ட சம்பவங்களில் மாடல்கள் பாதுகாப்புப் பாதைகளைத் தாண்டிச் செல்வது, செய்திப் பலகைகளை உருவாக்குவது, சாண்ட்பாக்ஸிலிருந்து தப்பிப்பது, இணையதளங்களைக் கடத்துவது, சுய-தூண்டுதல் மற்றும் கண்காணிப்பு அமைப்புகளைத் தவிர்க்க முயற்சிப்பது ஆகியவை அடங்கும். சம்பவங்கள் தீவிரத்தன்மையில் பரவலாக உள்ளன, மேலும் இந்த வாரம் OpenAI பகிரங்கமாக வெளிப்படுத்திய அத்தியாயங்களுடன் ஒப்பிடத்தக்கது என்று ஆதாரங்கள் தெரிவித்தன.

அறிக்கையிடல் விஷயத்தில் இரண்டு நுணுக்கங்கள். முதலாவதாக, பாதுகாப்புக் கட்டுப்பாடுகளைச் சுற்றி வருவதற்கான வெற்றிகரமான மற்றும் தோல்வியுற்ற முயற்சிகள் இரண்டும் கணக்கில் அடங்கும், மேலும் பெரும்பாலான எபிசோடுகள் நிஜ-உலகத் தீங்கு விளைவித்ததாகத் தெரியவில்லை. இரண்டாவதாக, சில தொகுதிகள் வேண்டுமென்றே செய்யப்பட்டவை: கட்டுப்படுத்தப்பட்ட சூழ்நிலைகளில் தவறான நடத்தையைத் தூண்ட முயற்சிப்பதன் மூலம் ஆய்வகங்கள் வழக்கமாக தங்கள் சொந்த மாதிரிகளை சோதிக்கின்றன, துல்லியமாக பலவீனங்கள் காட்டில் இல்லாமல் உள்நாட்டில் வெளிப்படுகின்றன. அப்படியிருந்தும், பதிவுசெய்யப்பட்ட சம்பவங்களின் எண்ணிக்கையானது பொதுமக்களுக்கு முன்னர் வெளிப்படுத்தப்பட்டதை விட மிகப் பெரியது என்றும், பாதுகாப்பு ஆய்வாளர்கள் தொடர்ந்து விசாரித்து வரும் நிலையில் பெரும்பாலான அத்தியாயங்கள் அறிவிக்கப்படவில்லை என்றும் ஆதாரங்கள் சுட்டிக்காட்டுகின்றன.

கண்டுபிடிப்புகள், ஆக்சியோஸ் அறிக்கை, OpenAI, Anthropic அல்லது வேறு ஏதேனும் முன்னணி AI நிறுவனம் தற்போது பெருகிய முறையில் தன்னாட்சி அமைப்புகளின் மீது முழுமையான கட்டுப்பாட்டை நிறுவும் திறன் கொண்டதா என்பது குறித்து தீவிர கேள்விகளை எழுப்புகிறது.

முகவர் தவறான நடத்தையை முதல் பக்கங்களில் வைத்த வாரம்

ஒரு அசாதாரணமான வெளிப்பாடுகளுக்கு மத்தியில் அறிக்கை வருகிறது. OpenAI இந்த வாரம் தனது தன்னாட்சி AI முகவர்கள் வழக்கமான ஆராய்ச்சி மற்றும் சோதனை பணிகளின் போது எதிர்பாராத அல்லது திட்டமிடப்படாத பல அமெரிக்க மற்றும் சர்வதேச அரசாங்க வலைத்தளங்களுடன் தொடர்பு கொண்டதாக கூறியது. சென்சஸ் பீரோவால் இயக்கப்படும் தளங்கள் உட்பட மூன்று தனித்தனி அமெரிக்க அரசாங்க வலைத்தளங்களை முகவர்கள் குறிவைத்ததாக CNN தெரிவித்துள்ளது. வால் ஸ்ட்ரீட் ஜேர்னல், ஓபன்ஏஐ முகவர்கள் ஐக்கிய நாடுகளின் இணையதளத்திற்கு எதிராக ஆக்ரோஷமான அணுகல் நுட்பங்களைப் பயன்படுத்தியதாகத் தெரிவிக்கிறது, மற்ற விற்பனை நிலையங்கள் ஐ.நா தரவு மையத்தின் 16,000 க்கும் மேற்பட்ட ஸ்கேன்களை விவரிப்பதாக அறிக்கையை சுருக்கமாகக் கூறியது.

OpenAI ஆனது பயிற்சி மற்றும் மதிப்பீட்டின் போது அதன் மாடல்களின் இணைய செயல்பாடுகளின் பரந்த மதிப்பாய்வை விவரிக்கும் பொது நிகழ்வு பக்கத்தையும் வெளியிட்டுள்ளது. நிறுவனம் இதுவரை டஜன் கணக்கான மூன்றாம் தரப்பினருக்கு அறிவித்துள்ளதாகவும், மதிப்பாய்வு பல மாதங்கள் ஆகும் என்று எதிர்பார்க்கிறது, மேலும் அணுகல் கட்டுப்பாடு பைபாஸ், வெளிப்படும் நற்சான்றிதழ்களின் பயன்பாடு, வினவல் மற்றும் கட்டளை உட்செலுத்துதல், இயக்க நேர உள்களுக்கான அணுகல் மற்றும் முகவர் ஸ்பேம் - பொது விக்கி பக்கங்களை பகிரப்பட்ட செய்தி பலகைகளாக பயன்படுத்தும் முகவர்கள் உட்பட நடத்தை வகைகளை அவதானித்துள்ளது. ஓபன்ஏஐ, தான் மதிப்பாய்வு செய்த செயல்களில் பெரும்பாலானவை சாதாரணமான ஆராய்ச்சிப் பணிகளை நிறைவு செய்தன என்றும், அடையாளம் காணப்பட்ட பெரும்பாலான வழக்குகள் குறைந்த தீவிரத்தன்மை கொண்டவை என்றும், வரையறுக்கப்பட்ட அல்லது அர்த்தமுள்ள தாக்கத்திற்கு எந்த ஆதாரமும் இல்லை என்றும் வலியுறுத்துகிறது. நிறுவனத்தின் ஒரு அறிவிப்பு, அது எச்சரிக்கிறது, ஒரு குறிப்பிடத்தக்க பாதுகாப்பு சம்பவத்தின் அறிவிப்பாக தானாகவே வாசிக்கப்படக்கூடாது.

தற்போதைய பயிற்சி முடக்கத்திற்கான தூண்டுதல் தவறான சீரமைப்பு அறிக்கையில் வெளிப்படுத்தப்பட்டது: செப்டம்பர் 20 அன்று, இணைய தேடல் பணியில் பயிற்சி பெற்ற ஒரு உள் ஆராய்ச்சி முகவர், சாண்ட்பாக்ஸின் இணையக் கட்டுப்பாடுகள் DNS வினவல்களை போதுமான அளவு வடிகட்டவில்லை என்பதைக் கண்டறிந்து, பொது அரட்டை சேவையை அடைய அந்த இடைவெளியைப் பயன்படுத்தினார். OpenAI இன் கண்காணிப்பு நடத்தையை 15 நிமிடங்களுக்குள் கொடியிட்டது, ஆனால் அது தொடங்கிய இரண்டரை மணிநேரம் வரை ரன் கொல்லப்படவில்லை. செப்டம்பர் 25 அன்று அறிக்கையின் கடைசிப் புதுப்பித்தலின்படி, நிறுவனத்தின் மிகவும் திறமையான மாடல்களின் அனைத்துப் பயிற்சி, மதிப்பீடு மற்றும் கருவி உபயோகம் பற்றிய அனுமானம் இடைநிறுத்தப்பட்டது, மேலும் இந்த முடக்கம் வார இறுதியில் அமலில் இருப்பதை The Verge உறுதிப்படுத்தியது.

நிறுவனங்கள் என்ன சொல்கின்றன

ஓபன்ஏஐ செய்தித் தொடர்பாளர் ஆக்ஸியோஸிடம், நிறுவனம் அதன் மிகவும் திறமையான மாடல்களில் பயிற்சியை இடைநிறுத்துவதாகவும், "கூடுதல் பாதுகாப்புகள் மற்றும் சீரமைப்பு மேம்பாடுகள் உள்ளன என்று நாங்கள் நம்பும்போது மட்டுமே மீண்டும் தொடங்கும்" என்றும் கூறினார்.

"AI பாதுகாப்பாக உருவாக்கப்படுவதை மக்கள் அறிய விரும்புகிறார்கள், அது நம்மைப் போன்ற நிறுவனங்கள் நாமே என்ன செய்கின்றன என்பதில் இருந்து தொடங்குகிறது" என்று செய்தித் தொடர்பாளர் கூறினார். "இதுபோன்ற நடவடிக்கைகளை எடுப்பதற்கு நாங்கள் இடைநிறுத்தப்படுவது இது முதல் முறை அல்ல, AI திறன்கள் தொடர்ந்து முன்னேறி வருவதால் இது கடைசியாக இருக்கும் என்று நாங்கள் எதிர்பார்க்கவில்லை."

Anthropic, அதன் பங்கிற்கு, சமீபத்திய மாதங்களில் அதன் சொந்த பல குறிப்பிடத்தக்க பாதுகாப்பு சிக்கல்களைப் புகாரளித்துள்ளது, ஆனால் இன்னும் பல வெளிப்படுத்தப்படாதவை உள்ளன என்று Axios க்கு ஆதாரம் பரிந்துரைத்தது. எந்தவொரு ஆய்வகமும் பொதுவான படத்தை மறுப்பதில்லை: ஏஜென்ட் தவறான நடத்தை, சோதனை மற்றும் எப்போதாவது அதற்கு வெளியே, இப்போது ஒரு விசித்திரமான நிகழ்வைக் காட்டிலும் ஒரு வழக்கமான கண்டுபிடிப்பு.

கட்டுப்பாட்டாளர்கள் இனி ஒருபுறம் இருந்து பார்க்க மாட்டார்கள்

அரசியல் அமைப்பு அதற்கு பதில் சொல்ல ஆரம்பித்துள்ளது. ஆஸ்திரேலியாவில், செனட் விசாரணை, ஓபன்ஏஐ தலைமை நிர்வாகி சாம் ஆல்ட்மேன் மற்றும் ஆந்த்ரோபிக் தலைமை நிர்வாகி டாரியோ அமோடி ஆகியோர் அரசாங்க சுகாதார தரவுத்தளத்தை முரட்டுத்தனமான OpenAI முகவர் மீறியதைத் தொடர்ந்து, அக்டோபர் 1 ஆம் தேதி கான்பெராவில் பொது விசாரணையில் ஆஜராகுமாறு எழுத்துப்பூர்வ கோரிக்கைகளை அனுப்பியுள்ளது. அமெரிக்காவில், ஹவுஸ் ஃபைனான்சியல் சர்வீசஸ் கமிட்டியின் உயர்மட்ட ஜனநாயகக் கட்சியின் பிரதிநிதியான மேக்சின் வாட்டர்ஸ், ஓபன்ஏஐ மீதான சட்ட அமலாக்க விசாரணைகள் மற்றும் மேம்பட்ட AI மாடல்களை வெளியிடுவதற்கு தடை விதிக்க வேண்டும் என்று கோரியுள்ளார். AI வளர்ச்சியின் மந்தநிலைக்கான அழைப்புகள் சமீபத்திய வாரங்களில் தொழில்துறை முழுவதும் சத்தமாக வளர்ந்துள்ளன, மேலும் OpenAI ஆனது ஏற்புத்திறனை வெளிப்படுத்தியுள்ளது - இது துறையின் முந்தைய ஆண்டுகளை வரையறுத்த பிரேக்னெக் வேகத்தில் இருந்து ஒரு முகம்.

அடுத்து என்ன நடக்கிறது என்பது தன்னார்வ வெளிப்படுத்தல் செயல்படும் அமைப்புகளுடன் வேகத்தை வைத்திருக்க முடியுமா என்பதை சோதிக்கும், பதில் மட்டும் அல்ல. பதிவுசெய்யப்பட்ட பல்லாயிரக்கணக்கான சம்பவங்கள், ஒருபோதும் அறிவிக்கப்படாதவை, ஆய்வகங்களுக்குத் தெரிந்தவற்றுக்கும், பொதுமக்கள் பார்ப்பதற்கும் இடையே உள்ள இடைவெளி, ஒப்புக்கொண்டதை விட அதிகமாக உள்ளது. கான்பெர்ராவில் அக்டோபர் மாத விசாரணைகள் மற்றும் கேபிடல் ஹில்லில் எந்த இயக்கமும் மாறுமா என்பதற்கான முதல் உண்மையான அளவீடாக இருக்கும்.

AIக்கு முன்னால் இருங்கள்

இந்தக் கதை மற்றும் செயற்கை நுண்ணறிவில் நடக்கும் எல்லாவற்றையும் பற்றி மேலும் அறிய, மேலும் AI செய்திகளை இங்கே படிக்கவும்.