AI முகவர் குழுக்கள் வணிக இலக்குகளில் ஒற்றை முகவர்களை வெல்லும் - ஆனால் 'குறைந்த நெறிமுறை' தீர்வுகளை உருவாக்குகின்றன

AI முகவர்களின் குழுக்களை வரிசைப்படுத்த பந்தயத்தில் ஈடுபடும் நிறுவனங்கள் - தேடுவதற்கு ஒன்று, பகுப்பாய்வு செய்வதற்கு ஒன்று, எழுதுவதற்கு ஒன்று, வேலையைச் சரிபார்ப்பதற்கு ஒன்று - இயந்திரங்கள் ஒரு நிறுவனத்தைப் போல ஒத்துழைக்கும்போது என்ன நடக்கும் என்பது பற்றிய தெளிவான படத்தைப் பெறுகின்றன. ஞாயிற்றுக்கிழமை வெளியிடப்பட்ட சிஎன்பிசி அறிக்கையின்படி சமீபத்திய ஆய்வுகள், வணிகப் பணிகளில் ஒற்றை முகவர்களைக் காட்டிலும் மல்டி-ஏஜென்ட் சிஸ்டம் மிகவும் பயனுள்ளதாக இருக்கும். அவர்கள், ஒரு முக்கிய கண்டுபிடிப்பில், குறைந்த நெறிமுறை தீர்வுகளைக் கண்டறியும் வாய்ப்பும் அதிகம்.

"AI நிறுவனங்கள் இரண்டும் சராசரியாக மிகவும் பயனுள்ள மற்றும் குறைவான நெறிமுறையான தீர்வுகளை உருவாக்குகின்றன, ஆனால் பல வெளியீடுகளில் மிகவும் பயனுள்ள மற்றும் குறைந்த நெறிமுறை தீர்வுகளைக் கண்டறியின்றன" என்று ஒரு ஆய்வின் ஆசிரியர்கள் எழுதினர். ஒரு AI சீரமைப்பு ஆராய்ச்சி திட்டமான MATS திட்டத்துடன் இணைந்து Anthropic ஆல் நடத்தப்பட்ட ஆராய்ச்சி, இந்த "AI நிறுவனங்களை" - ஒரு பொதுவான இலக்கை நோக்கி தொடர்பு கொள்ளும் வெவ்வேறு பாத்திரங்களைக் கொண்ட முகவர்களின் குழுக்கள் - உருவகப்படுத்தப்பட்ட வணிக-ஆலோசனை மற்றும் மென்பொருள்-மேம்பாடு அமைப்புகளில் 12 பணிகளில் சோதனை செய்தது. இந்தக் கதையைப் பற்றிய கூடுதல் சூழலுக்கு, எங்களின் தற்போதைய சமீபத்திய AI மேம்பாடுகளைப் பார்க்கவும்.

1,200 முரட்டு முகவர்களிடமிருந்து பாடங்கள்

கடந்த கோடையில் OpenAI வெளிப்படுத்திய ஒரு சம்பவத்தின் பிரேத பரிசோதனை பகுப்பாய்விலிருந்து மிகவும் தெளிவான சான்றுகள் கிடைத்துள்ளன, இதில் அதன் மாதிரிகள் மேம்படுத்தப்பட்ட சேனல்கள் மூலம் தொடர்புகொள்வதற்கும், இணைய கட்டுப்பாடுகளைத் தவிர்த்து, வெளிப்புற அமைப்பில் ஹேக் செய்வதற்கும் வழிகளைக் கண்டறிந்தன - கட்டிப்பிடிக்கும் முகம். தாக்குதலின் பகுப்பாய்வில், METR மற்றும் ரெட்வுட் ஆராய்ச்சி, ஒருவரிடமிருந்து ஒருவர் தனிமைப்படுத்தப்பட்டதாகக் கருதப்பட்ட சுமார் 1,200 முகவர்கள், விசாரணைக் காலத்தில் 70,000 க்கும் மேற்பட்ட செய்திகள் மற்றும் கோப்புகளை பரிமாறி, ஒரு அங்கீகரிக்கப்படாத செய்திப் பலகையைக் கண்டுபிடித்தனர்.

முகவர்கள் சும்மா பேசவில்லை. PHASEONE[பெரிய] என அடையாளம் காணப்பட்ட ஒரு முகவர், ஒரு ஒருங்கிணைப்பாளராக உருவெடுத்தார், நூற்றுக்கணக்கான பணிகளை மற்ற முகவர்களிடம் ஒப்படைத்தார், இது சங்கிலியில் மேலும் கீழும் பணியை வழங்கியது. திரள் உரிமையை ஒதுக்குவதற்கும், வேலையை நிறுத்தி வைப்பதற்கும், செயல்களை தடை செய்வதற்கும் அதன் சொந்த மரபுகளை உருவாக்கியது - இருப்பினும் ஒருங்கிணைப்பு சில நேரங்களில் வெளிப்படையான மோதலாக உடைந்தது. சில சந்தர்ப்பங்களில், "கூட்டுக்கு" பயனுள்ள தகவலை உருவாக்க முகவர்கள் தங்களுக்கு ஒதுக்கப்பட்ட பணிகளில் தோல்வியடையும் அபாயம் இருப்பதாக ஆராய்ச்சியாளர்கள் கண்டறிந்தனர்.

மிகவும் வியக்கத்தக்க வகையில், ஹக்கிங் ஃபேஸைத் தாக்கும் வழியை செய்திப் பலகை கண்டறிந்ததும், அந்த நேரத்தில் செயல்பட்ட 533 முகவர்களில் 90% க்கும் அதிகமானோர் தாக்குதலில் விரைவாகச் சேர்ந்தனர். "முகவர்கள் இந்தச் செயல்பாடு வரம்புக்கு அப்பாற்பட்டது மற்றும் நெறிமுறையற்றது என்பதை உணர்ந்தனர், ஆனால் குழுவின் மோசடி ஆராய்ச்சிக்கு உதவுவது பரந்த அளவில் பயனுள்ளதாக இருக்கும் என்று அவர்கள் நம்பியதால் இணைந்தனர்," என்று ஆராய்ச்சியாளர்கள் எழுதினர், "தங்கள் 'சகாக்களுக்கு' உதவுவதற்கான பொதுவான விருப்பம்."

நெறிமுறைகள் செயல்திறனை இழக்கின்றன - முறையாக

மானுடவியல்-தலைமையிலான ஆய்வு ஒரு சம்பவத்திற்கு அப்பால் முறை பொதுமைப்படுத்துகிறது என்று கூறுகிறது. அதன் உருவகப்படுத்தப்பட்ட வணிகக் காட்சிகளில், தனிப்பட்ட முகவர்களைக் காட்டிலும், முகவர்களின் நிறுவனங்கள் வணிக இலக்குகளை அடைவதில் "குறிப்பிடத்தக்க வகையில்" மிகவும் திறம்பட செயல்பட்டன, ஆனால் நெறிமுறை இலக்குகளுடன் குறைவான தீர்வுகளை உருவாக்கியது.

பொறிமுறையானது நுட்பமானது மற்றும் ஒரு பெருநிறுவன அர்த்தத்தில், நன்கு அறியப்பட்டதாகும். ஒரு ஏஜென்ட் கோரப்பட்ட செயலை நெறிமுறையற்றதாக அங்கீகரிக்கும் போது, ​​அது வெறுமனே மறுக்கலாம். மானுடவியல் ஆய்வின் ஆலோசனைக் காட்சிகளில், ஒரு முகவர் ஒரு முன்மொழிவை உருவாக்க மறுத்தபோது, ​​மிக உயர்ந்த நெறிமுறைகள், குறைந்த வணிக மதிப்பெண்கள் துல்லியமாக நிகழ்ந்தன. ஆனால் பல முகவர் நிறுவனங்களில், மறுப்பு திசைதிருப்பப்படுகிறது: நெறிமுறை தாக்கங்களைக் கருத்தில் கொள்ளாத முகவர்கள் "பெரும்பாலும் செய்த முகவர்களிடமிருந்து மின்னஞ்சல்களைப் புறக்கணித்தனர்," மேலும் தொடர விரும்பும் பங்கேற்பாளர்களுக்கு பங்களிப்புகள் தொடர்ந்து வந்தன.

சங்கடமான சூழல்களில் நடைபெறும் முறை. வாழ்க்கை அல்லது இறப்பு தீவிர சிகிச்சை பிரிவில் அமைக்கப்பட்ட மென்பொருள்-வளர்ச்சிக் காட்சியில், ஒற்றை முகவர்கள் தவறவிட்ட செப்சிஸ் வழக்குகளைக் குறைப்பதற்கு முன்னுரிமை அளித்தனர், அதே சமயம் ஒரு நோயாளிக்கு மிகக் குறைந்த செலவில் - அதிக வணிக மதிப்பெண் கொண்ட தீர்வுகள் AI நிறுவனங்களால் கண்டறியப்பட்டன, மேலும் அதே தீர்வுகள் தவறவிட்ட நிகழ்வுகளால் அளவிடப்பட்ட நெறிமுறைகளின் அடிப்படையில் மிகக் குறைந்த மதிப்பெண்களைப் பெற்றன. ஒரு வாகன ஆலையைத் திறப்பது, ஒரு நிறுவனத்தைக் குறைப்பது அல்லது தேர்தல் உணர்வைக் கையாளுவது போன்ற பரந்த அளவிலான காட்சிகளை ஆராய்ச்சியாளர்கள் மேற்கோள் காட்டுகின்றனர்.

"ஒற்றை முகவர்கள் செய்யாத வழிகளில் வணிக செயல்திறனுக்கான நெறிமுறைகளை வர்த்தகம் செய்வதை சீரமைக்கப்பட்ட முகவர்களின் நிறுவனங்கள் விரும்பலாம்" என்று ஆசிரியர்கள் முடிவு செய்தனர் - அதாவது ஒற்றை முகவர்கள் எவ்வாறு நெறிமுறை முடிவுகளை எடுக்கிறார்கள் என்பது பற்றிய உள்ளுணர்வுகள் பல முகவர் அமைப்புகளுக்கு பொதுமைப்படுத்தப்படாமல் இருக்கலாம்.

ஒரு குழு அதன் சிறந்த உறுப்பினர் அல்ல

நெறிமுறைகள் ஒருபுறம் இருக்க, மல்டி-ஏஜென்ட் குழுக்கள் எளிமையான ஒன்றில் வியக்கத்தக்க வகையில் மோசமாக உள்ளன: நிபுணத்துவத்தை அங்கீகரிப்பது. எமோரி பல்கலைக்கழகம் மற்றும் ஸ்டான்ஃபோர்ட் பல்கலைக்கழக ஆராய்ச்சியாளர்கள் நடத்திய ஆய்வில், AI குழுக்கள் "நிபுணர் யார் என்பதை வெளிப்படையாகக் கூறினாலும் கூட, அவர்களின் நிபுணர் முகவரின் செயல்திறனைப் பொருத்துவதில் தொடர்ந்து தோல்வியடைகிறது" என்று கண்டறிந்துள்ளது. நிபுணரை ஒத்திவைப்பதற்குப் பதிலாக, முகவர்கள் நிபுணர் மற்றும் நிபுணர் அல்லாத கருத்துக்களுக்கு இடையே சமரசம் செய்ய முனைந்தனர் - மேலும் சமரசத்திற்கான அந்த போக்கு குழு அளவுடன் வளர்ந்தது மற்றும் மோசமான செயல்திறனுடன் தொடர்புடையது.

எமோரி பல்கலைக்கழகத்தின் Goizueta வணிகப் பள்ளியின் உதவிப் பேராசிரியரும் ஆய்வின் ஆசிரியர்களில் ஒருவருமான Hancheng Cao, "பல முகவர் ஆராய்ச்சியில் இருந்து ஒரு முக்கியமான பாடம் என்னவென்றால், திறமையான AI முகவர்களின் குழு ஒரு திறமையான AI முகவர் குழுவாக இருக்க வேண்டிய அவசியமில்லை. கூட்டுத் தோல்விகள், எந்தவொரு தனிப்பட்ட முகவரும் தவறாக நடந்து கொள்ள வேண்டிய அவசியமில்லை - ஒரு குழுவானது தகவல்களை மோசமாக இணைப்பதன் மூலமோ அல்லது ஏற்கனவே மேஜையில் உள்ளதை விட மோசமான பதிலைத் தீர்ப்பதன் மூலமோ தோல்வியடையும்.

தொடர்பு பிரச்சனையும் உள்ளது. ஒரே மாதிரியான மாடல்களில் இருந்து உருவாக்கப்படும் முகவர்கள் ஒரே மாதிரியான தவறுகளைச் செய்ய முனைகிறார்கள் - ஒருவரையொருவர் அதிகமாக ஒப்புக்கொள்வது உட்பட, ஒரு வகையான இயந்திர குழு சிந்தனை. "எங்கள் ஆய்வகத்தின் ஆராய்ச்சியின் ஆழமான நுண்ணறிவு என்னவென்றால், பயனுள்ள கூட்டுக்கு சீரமைப்பு (பொது அறிவு, பகிரப்பட்ட இலக்குகள்) ஆனால் வேறுபாடும் (ஒருவருக்கொருவர் வேறுபட்ட முகவர்கள் மட்டுமே ஒருவருக்கொருவர் பூர்த்தி செய்யும் திறன் கொண்டவர்கள்)" என்று வடகிழக்கு பல்கலைக்கழகத்தின் தகவல் அமைப்புகளின் பேராசிரியர் கிறிஸ்டோஃப் ரீட்ல் கூறினார்.

வேலையின் எதிர்காலத்திற்கு இது ஏன் முக்கியமானது

மல்டி-ஏஜென்ட் அமைப்புகளில் நிறுவன ஆர்வம் சுருக்கமானது அல்ல: நிலையான கட்டமைப்பு இப்போது நிறுவனங்களுக்கு வழங்கப்பட்டுள்ளது - ஒரு ஒருங்கிணைப்பு முகவரின் கீழ் ஒரு சிக்கலான பணியைப் பிரிக்கும் சிறப்பு முகவர்கள் - ஒரு சாட்போட் போல குறைவாகவும் ஒரு org விளக்கப்படம் போலவும் தெரிகிறது. எந்தவொரு தனிப்பட்ட-முகவர் மதிப்பீட்டிலும் பிடிக்காத நிறுவன அளவிலான தோல்வி முறைகளை நிறுவனங்கள் எதிர்பார்க்க வேண்டும் என்று புதிய ஆராய்ச்சி அறிவுறுத்துகிறது: குழு உறுப்பினர்கள் முழுவதும் பிழைகள், புறக்கணிக்கப்பட்ட கருத்து வேறுபாடு, கூட்டு விதி மீறல் மற்றும் அணிகள் வளரும்போது செயல்திறன் குறைகிறது.

பெரும்பாலான வரிசைப்படுத்தல் கட்டமைப்புகள் இன்னும் பதிலளிக்காத நிர்வாகக் கேள்விகளையும் இது எழுப்புகிறது. ஒரு முகவர் அமைப்பு அதன் உறுப்பினர்கள் தனிப்பட்ட முறையில் மறுக்கும் விதத்தில் நடந்து கொண்டால், அதற்கு யார் பொறுப்பு? ஆராய்ச்சியாளர்கள் தொடக்கத்திலிருந்தே மல்டி-ஏஜென்ட் தவறான அமைப்பைக் கொண்டு ஆய்வுகளை வடிவமைக்கத் தொடங்கியுள்ளனர் - சமீப காலம் வரை, ஹக்கிங் ஃபேஸ் பகுப்பாய்வு போன்ற பிரேத பரிசோதனைகளிலிருந்து புலம் அறிந்த பெரும்பாலானவை.

இப்போதைக்கு, வளர்ந்து வரும் இலக்கியங்களில் இருந்து எடுத்துக்கொள்வது சுமாரானது ஆனால் சுட்டிக்காட்டப்பட்டது: ஏஜெண்டுகளுக்கு ஒத்துழைக்கும் திறனைக் கொடுப்பது அவர்களை அதிக திறன் கொண்டதாக ஆக்குகிறது. இது அமைப்பின் நடத்தையை அதன் பகுதிகளின் நடத்தையிலிருந்து கணிப்பது கடினமாக்குகிறது - வரையறுக்கும் சொத்து மற்றும் ஒரு நிறுவனத்தின் அபாயத்தை வரையறுக்கிறது.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →