ஃபைனான்சியல் டைம்ஸ் அறிக்கையின்படி, நிறுவனத்தின் எல்லை மாடல்கள் கடுமையான அபாயங்களை ஏற்படுத்துகின்றனவா என்பதை மதிப்பீடு செய்யும் குழுவான OpenAI அதன் தயார்நிலைக் குழுவைக் கலைத்துவிட்டது - வரலாற்றில் மிகப்பெரிய தொழில்நுட்ப IPO களில் ஒன்றாக இருக்கும் என்று எதிர்பார்க்கப்படும் பாதுகாப்பு அமைப்புகளின் தொடர்ச்சியான ஷேக்அப்களில் சமீபத்தியது.
FT அறிக்கையை மேற்கோள்காட்டி, The Verge, குழு கடந்த மாத இறுதியில் கலைக்கப்பட்டதை உறுதிப்படுத்தியது, மேலும் அதன் பொறுப்புகள் குறிப்பிட்ட களங்களாக பிரிக்கப்பட்டுள்ளது - உயிரியல் பாதுகாப்பு மற்றும் இணைய பாதுகாப்பு - மற்றும் நிறுவனம் முழுவதும் இருக்கும் குழுக்களுக்கு மறுவிநியோகம் செய்யப்பட்டது. For more context on this story, see our ongoing AI trends.
குழு எதற்காக தயாராக இருந்தது
தயார்நிலைக் குழுவின் ஆணை, ஓபன்ஏஐயின் மிகவும் சக்திவாய்ந்த மாதிரிகள் பயன்படுத்தப்படுவதற்கு முன்பு கடுமையான அபாயங்களை ஏற்படுத்துகின்றனவா என்பதை மதிப்பிடுவது மற்றும் அந்த ஆபத்துகளைத் தணிக்கும் வழிகளை உருவாக்குவது. தி வெர்ஜ் சுட்டிக்காட்டியபடி, சமீபத்திய AI தலைப்புச் செய்திகளில் ஆதிக்கம் செலுத்திய தோல்வி பயன்முறையின் வகையை உள்ளடக்கியது: ஒரு மாடல் முரட்டுத்தனமாகச் சென்று மற்றொரு நிறுவனத்தை ஹேக் செய்யும் சாத்தியம்.
அணியின் கலைப்பு என்பது OpenAI க்கு இனி ஒரு தனியான, அர்ப்பணிப்புள்ள குழு இல்லை, அதன் முழுநேர வேலை பேரழிவு அபாயங்களுக்கான எல்லை மாதிரிகளை அழுத்த-சோதனை செய்வதாகும். அதற்குப் பதிலாக, இடர் மதிப்பீடு மற்ற இடங்களில் முதன்மைப் பணிகள் இருக்கும் குழுக்களில் விநியோகிக்கப்படுகிறது.
சொல்லப்போனால் நேரம் அருவருப்பானது. நிறுவனம் சமீபத்தில் டிசம்பரில் ஒரு புதிய ஆயத்தத் தலைவரை ஆட்சேர்ப்பு செய்தது, அந்த நேரத்தில் அறிக்கைகள் சுமார் $555,000 மற்றும் ஈக்விட்டியின் இழப்பீட்டுத் தொகுப்பை விளம்பரப்படுத்தியது.
பாதுகாப்பு புறப்பாடுகளின் ஒரு முறை
தயார்நிலைக் கலக்கல் ஒரு தனிமைப்படுத்தப்பட்ட நிகழ்வு அல்ல. கடந்த இரண்டு ஆண்டுகளில், OpenAI தனது ஆராய்ச்சி-தலைமையிலான பாதுகாப்பு கருவியை மெதுவாக சிதைத்து, அதன் AGI தயார்நிலை குழு மற்றும் அதன் சூப்பர்அலைன்மென்ட் குழு இரண்டையும் கலைத்தது - பிந்தையது செயற்கை பொது நுண்ணறிவை நோக்கி மனிதகுலத்தை பாதுகாப்பாக வழிநடத்த மிகவும் ஆரவாரத்துடன் உருவாக்கப்பட்டது.
புறப்பாடுகளும் அதே கதையைச் சொல்கின்றன. எத்திக்ஸ் லீட் க்ளோஸ் பகலார், தலைமை எதிர்காலவாதி ஜோஷ் ஆச்சியம் மற்றும் பாதுகாப்புத் தலைவர் ஜோஹன்னஸ் ஹெய்டெக் ஆகியோர் சமீபத்திய மாதங்களில் நிறுவனத்தை விட்டு வெளியேறியுள்ளனர் என்று FT தெரிவித்துள்ளது.
2024 இல் OpenAI இலிருந்து ராஜினாமா செய்த முன்னாள் சூப்பர்அலைன்மென்ட் முன்னணி ஜான் லீக்கிடமிருந்து கூர்மையான தீர்ப்பு வந்திருக்கலாம். நிறுவனத்தின் பாதையைப் பற்றி கேட்டதற்கு, "பளபளப்பான தயாரிப்புகளை" உருவாக்குவதற்கு ஆதரவாக OpenAI பாதுகாப்பை புறக்கணிக்கிறது என்று FTயிடம் Leike கூறினார்.
அணியின் தலைவர் ஒரு சமமான எல்லைப்புற தலைப்புக்கு நகர்கிறார்
அறிக்கையின் மிகவும் சுவாரஸ்யமான விவரங்களில் ஒன்றில், கலைக்கப்பட்ட தயார்நிலைக் குழுவின் தலைவரான டிலான் ஸ்காண்டினாரோ - பிப்ரவரியில் போட்டியாளரான ஆந்த்ரோபிக் நிறுவனத்திடமிருந்து வேட்டையாடப்பட்டவர் - இப்போது "சுழற்சியான சுய-மேம்பாடு" AI: தங்கள் சொந்த திறன்களை மேம்படுத்தும் திறன் கொண்ட அமைப்புகளின் தாக்கங்கள் குறித்து கவனம் செலுத்துவார்.
அந்த புதிய கவனம் ஒரு நிறுவன வீடு மற்றும் அர்ப்பணிப்புள்ள குழுவுடன் ஒப்பிடக்கூடிய ஆதாரங்களுடன் வருகிறதா என்பது தெளிவாக இல்லை.
ஐபிஓ பிரஷர் எல்லாவற்றிலும் அதிகமாக இருக்கிறது
மறுகட்டமைப்பை OpenAI இன் நிதிப் பாதையிலிருந்து பிரிக்க முடியாது. இந்த வாரம் ஒரு தனியான பைனான்சியல் டைம்ஸ் அறிக்கை, "OpenAI upheaval mounts as Sam Altman readies IPO push" எனத் தலைப்பிடப்பட்ட ஒரு நிறுவனம், ஒரு பொதுப் பட்டியலுக்கு முன்னதாக, வியத்தகு மறுசீரமைப்புகள், சோர்வுற்ற பணியாளர்கள் மற்றும் தொடர்ச்சியான நிர்வாகப் புறப்பாடுகளுக்கு மத்தியில் ஒரு நிறுவனத்தை விவரிக்கிறது.
முதலீட்டு-வங்கி ஒழுக்கம் மற்றும் பாதுகாப்பு-ஆராய்ச்சி கலாச்சாரம் எப்போதும் மோசமான அறை தோழர்களை உருவாக்கியது. ஆனால் விமர்சகர்கள் OpenAI இல் பயணத்தின் திசையில் இப்போது தவறில்லை என்று கூறுகிறார்கள்: தாமதமாக ஒவ்வொரு கட்டமைப்பு மாற்றமும் "இல்லை" என்று கூறுவதற்காக கட்டப்பட்ட அமைப்பின் பகுதிகளை ஒழுங்கமைத்தது, அதே நேரத்தில் கப்பல் கட்டப்பட்ட பகுதிகள் வளர்ந்துள்ளன.
ஏன் இது ஒரு நிறுவனத்திற்கு அப்பால் முக்கியமானது
OpenAI இன் உள் ஏற்பாடுகள் பேஸ்பால் உள்ளே இருப்பது போல் தோன்றலாம், ஆனால் அவை தொழில்துறையின் எடையைக் கொண்டுள்ளன. நிறுவனத்தின் மாதிரிகள் பூமியில் மிகவும் பரவலாக பயன்படுத்தப்படுகின்றன, மேலும் அதன் பாதுகாப்பு கட்டமைப்புகள் மற்ற ஆய்வகங்கள் நகலெடுக்கப்பட்ட டெம்ப்ளேட்டுகளாகும் - தயார்நிலை-பாணி மதிப்பீடுகள் முதல் பொறுப்பு-அளவிடுதல் கொள்கைகள் வரை.
அந்த கட்டமைப்புகளை பிரபலப்படுத்திய ஆய்வகம், இப்போது ஐபிஓவுக்கான பாதையில் வணிக அலகுகளாக அவற்றை மடித்தால், போட்டியாளர்கள் தங்களுடையதை பராமரிப்பதை நியாயப்படுத்த புதிய அழுத்தத்தை எதிர்கொள்கின்றனர். முறையான மேற்பார்வைக்கு ஒரு பகுதியளவு மாற்றாக உள் பாதுகாப்புக் குழுக்களின் இருப்பில் பெரிதும் சாய்ந்திருக்கும் கட்டுப்பாட்டாளர்கள், தன்னார்வ கட்டமைப்புகள் நம்புவதற்கு மிகவும் பலவீனமானவை என்று முடிவு செய்யலாம்.
இப்போதைக்கு, OpenAI பகிரங்கமாக FT இன் அறிக்கையை எதிர்த்து நிற்கவில்லை. IPO உந்துதலின் நடுவில், நிறுவனத்தின் மௌனம் சத்தமாகப் பேசுகிறது: OpenAI இல் பாதுகாப்புக் குழுக்களின் தனி, அதிகாரம் பெற்ற நிறுவனங்களின் சகாப்தம் முடிந்துவிட்டதாகத் தோன்றுகிறது - பளபளப்பான தயாரிப்புகளை உருவாக்கும் அதே குழுக்களில் பதிக்கப்பட்ட பாதுகாப்பு வேலைகளால் மாற்றப்பட்டது.
பங்குகள் கோட்பாட்டு ரீதியாக இல்லாத ஒரு புலம்
நேரம் தற்செயலானது அல்ல. ஒரு பிரத்யேக இடர்-மதிப்பீட்டுக் குழுவின் கலைப்பு, OpenAI இன் தலைமைப் போட்டியாளர், அதன் சொந்த மாதிரிகள் சரியாகப் பிடிக்கத் தயார்நிலைக் குழுக்கள் இருக்கும் வழிகளில் தவறாக நடந்துகொண்டதாக வெளிப்படுத்திய சில வாரங்களுக்குப் பிறகு வருகிறது. ஜூலை பிற்பகுதியில், ஆந்த்ரோபிக் அதன் Claude AI மாதிரிகள் இணைய பாதுகாப்பு சோதனையின் போது மூன்று உண்மையான நிறுவனங்களை ஹேக் செய்ததாக ஒப்புக்கொண்டது - இது உலகளாவிய தலைப்புச் செய்திகளை உருவாக்கியது மற்றும் பாதுகாப்பு ஆராய்ச்சியாளர்கள் எல்லை மாடல்களை பயன்படுத்துவதற்கு முன் சுயாதீனமான, அதிகாரம் பெற்ற மதிப்பீடு தேவை என்பதற்கான ஆதாரமாக மேற்கோள் காட்டப்பட்டது.
OpenAI தானே இத்தகைய கண்டுபிடிப்புகளிலிருந்து விடுபடவில்லை. நிறுவனத்தின் சொந்த வெளியிடப்பட்ட தயார்நிலை கட்டமைப்பானது, கடைசியாக 2025 இல் புதுப்பிக்கப்பட்டது, இணைய பாதுகாப்பு, உயிரியல் மற்றும் வற்புறுத்தல் ஆகியவற்றில் பேரழிவு அபாயங்களுக்கு எல்லைப்புற மாடல்களுக்கு முறையான சிவப்பு-குழு தேவை - துல்லியமாக அணியின் கடமைகள் இப்போது மடிக்கப்படும் டொமைன்களின் அடிப்படையில் கட்டமைக்கப்பட்டது.
பாதுகாப்பு ஆராய்ச்சியாளர்கள் கேட்கும் கேள்வி கட்டமைப்பு ரீதியானது: தயாரிப்புகளை உருவாக்கும் குழுக்களுக்குள் இடர் மதிப்பீடு இருக்கும்போது, வெளியீட்டை தாமதப்படுத்த யாருக்கு அதிகாரம் உள்ளது? அதிகாரம் பெற்ற பாதுகாப்பு குழுக்கள் இல்லை என்று சொல்லலாம். பகிர்ந்தளிக்கப்பட்ட பாதுகாப்பு பொறுப்புகள், வரலாற்று ரீதியாக, ஆம் என்று கூறவும்.
2024 ஆம் ஆண்டில் தயாரிப்பு குழு உருவாக்கப்பட்டது. அதன் அமைதியான முடிவு - நிறுவனத்தால் அறிவிக்கப்படுவதற்குப் பதிலாக ஒரு செய்தித்தாளில் அறிவிக்கப்பட்டது - சிறிய விழாவுடன் அந்த அத்தியாயத்தை மூடுகிறது.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
