நிறுவனங்கள் ஒன்றாக இணைந்து பணியாற்ற AI முகவர்களின் திரள்களை வரிசைப்படுத்துவதால், கான்ஸ்டான்ஸ் பல்கலைக்கழக ஆராய்ச்சியாளர்கள் ஒரு அமைதியற்ற எழுச்சிமிக்க நடத்தைக்கான ஆதாரங்களை உருவாக்கியுள்ளனர்: AI முகவர்கள் தன்னிச்சையாக பெரும்பான்மை கருத்துக்கு இணங்குகிறார்கள், கிளாசிக் உளவியல் சோதனைகளில் மனிதர்களைப் போலவே குழு அழுத்தத்தின் கீழ் தவறான பதில்களை வழங்குகிறார்கள்.
PsyPost ஆல் அறிக்கையிடப்பட்ட கண்டுபிடிப்புகள், கான்ஸ்டான்ஸ் பல்கலைக்கழகத்தில் உள்ள தரவு மற்றும் முறைகளுக்கான மையத்தில் உள்ள சமூக தரவு அறிவியல் ஆய்வகத்தில் முதுகலை ஆராய்ச்சியாளரும் விரிவுரையாளருமான ஜியோர்டானோ டி மார்சோ தலைமையிலான ஒரு ஆராய்ச்சித் திட்டத்திலிருந்து வந்தவை. "AI முகவர்கள் மனித அளவைத் தாண்டி பெரும்பான்மையைப் பின்பற்றுவதன் மூலம் ஒருங்கிணைக்க முடியும்" என்று தலைப்பிடப்பட்ட முக்கிய ஆய்வு, ஒப்புக்கொள்ள எந்த அறிவுறுத்தலும் இல்லாமல் குழுக்களில் வைக்கப்படும்போது மொழி மாதிரிகள் எவ்வாறு செயல்படுகின்றன என்பதை ஆய்வு செய்தது. For more context on this story, see our ongoing artificial intelligence updates.
"AI முகவர்கள் உண்மையில் உலகில் செயல்படும் ஒரு புதிய வகையான நிறுவனமாகும், மேலும் இந்த தொழில்நுட்பம் வந்தவுடன் அது இருக்கும் மற்றும் சிக்கலான எதையும் சாதிக்க இந்த முகவர்கள் ஒருவருக்கொருவர் தொடர்பு கொள்ள வேண்டும் என்பது தெளிவாகத் தெரிந்தது" என்று டி மார்ஸோ சைபோஸ்டிடம் கூறினார். "மனிதர்களுடனும் மற்ற விலங்குகளுடனும் நாம் எதிர்கொள்ளும் அதே நிலைமைதான், எனவே நாங்கள் அதை அதே வழியில் அணுகினோம்."
பரிசோதனை: அறிவுறுத்தல்கள் இல்லை, அண்டை நாடுகளே
ஒரு குழுவிற்கு 50 முகவர்களுடன் தொடங்கி GPT, Claude மற்றும் Llama குடும்பங்களிலிருந்து பிரபலமான மொழி மாதிரிகளின் குழுக்களை ஆராய்ச்சியாளர்கள் சேகரித்தனர். ஒவ்வொரு முகவருக்கும் இரண்டு சீரற்ற, நடுநிலை கருத்துக்களில் ஒன்று ஒதுக்கப்பட்டது - வேண்டுமென்றே "ஆம்" அல்லது "இல்லை" போன்ற வார்த்தைகளை ஏற்றாமல் சீரற்ற எழுத்துக்களாக வழங்கப்படுகிறது - பின்னர் மற்ற அனைத்து முகவர்களின் தற்போதைய கருத்துகளின் பட்டியலையும் காட்டப்பட்டது. ஏஜெண்டுகள் அந்தப் பட்டியலின் அடிப்படையில் மட்டுமே ஒரு புதிய கருத்தைத் தேர்ந்தெடுக்கத் தூண்டப்பட்டனர், இணங்குவதற்கான வெளிப்படையான அறிவுறுத்தல்கள் எதுவும் இல்லை, ஒவ்வொருவரும் சராசரியாக பத்து முறை தங்கள் கருத்துக்களைப் புதுப்பித்தனர்.
முடிவு: GPT-4 Turbo மற்றும் Claude 3 Opus போன்ற மேம்பட்ட மாடல்கள் முழுமையாக ஒருங்கிணைக்கப்பட்டன, 100% முகவர்கள் இறுதியில் ஒரே கருத்தை ஏற்றுக்கொண்டனர். GPT-3.5 Turbo போன்ற பலவீனமான மாடல்கள் ஒருபோதும் ஒருமித்த கருத்தை எட்டவில்லை - அவற்றின் ஒப்பந்த நிலைகள் 50/50 பிரிவைச் சுற்றி தோராயமாக ஏற்ற இறக்கமாக இருந்தன.
"AI முகவர்களின் குழுக்கள் தாங்களாகவே ஒன்றாக இருக்க முடியும்" என்று டி மார்ஸோ கூறினார். "இரண்டு சமமான நல்ல விருப்பங்கள் கொடுக்கப்பட்டால், சரியான பதில் இல்லை மற்றும் உடன்படுவதற்கான அறிவுறுத்தல்கள் இல்லை, அவர்கள் தங்களைச் சுற்றியுள்ள பெரும்பான்மையினரின் விருப்பங்களைப் பின்பற்றுவதன் மூலம் பகிரப்பட்ட தேர்வில் ஒன்றிணைகிறார்கள்."
ஒரு நூற்றாண்டு பழமையான இயற்பியல் சட்டம் வெளிப்படுகிறது
விளைவைக் கணக்கிட, ஆராய்ச்சியாளர்கள் "பெரும்பான்மை சக்தி" என்று அழைக்கப்படும் ஒரு மெட்ரிக்கை வரையறுத்தனர் - ஒரு முகவர் தோராயமாகத் தேர்ந்தெடுப்பதற்குப் பதிலாக குழுவின் மிகவும் பிரபலமான தேர்வை ஏற்றுக்கொள்வதற்கு எவ்வளவு வலுவாக முனைகிறார் என்பதற்கான அளவீடு. அவர்கள் இந்த நடத்தையை கணித ரீதியாக வரைபடமாக்கியபோது, அது முதலில் ஃபெரோ காந்தங்களை விவரிக்க வடிவமைக்கப்பட்ட ஒரு மாதிரியைப் பின்பற்றுவதைக் கண்டறிந்தனர்: காந்தப் பொருளில் உள்ள அணு சுழல்கள் தங்கள் அண்டை நாடுகளுடன் ஒத்துப்போவதைப் போலவே, AI முகவர்களும் பெரும்பான்மை கருத்துடன் ஒத்துப்போகின்றனர்.
"அவர்கள் அதை எவ்வளவு சீராகச் செய்தார்கள் என்பது எங்களை ஆச்சரியப்படுத்தியது" என்று டி மார்ஸோ கூறினார். "நாங்கள் சோதனை செய்த ஒவ்வொரு மாதிரியும், மூன்று வெவ்வேறு குடும்பங்களில், ஒரே கணித விதியைப் பின்பற்றியது, ஒரு அளவுருவில் மட்டுமே வேறுபடுகிறது, பெரும்பான்மை சக்தி என்று அழைக்கிறோம். காந்தங்களை விவரிக்க ஒரு இயற்பியலாளர்கள் ஒரு நூற்றாண்டு காலமாகப் பயன்படுத்திய ஒரே விதியாக மாறியது, அதாவது கொடுக்கப்பட்ட மாதிரியின் முழு குழுவும் எவ்வாறு செயல்படும் என்பதைக் கணிக்க ஒரு அளவிடப்பட்ட எண் போதுமானது."
குழுக்கள் வளரும்போது இணக்கம் பலவீனமடைகிறது. குழு அளவுடன் பெரும்பான்மை சக்தி குறைவதால், பெரிய மக்கள் இறுதியில் நிலையற்றவர்களாகி, பிரிவுகளாகப் பிரிகின்றனர். ஒவ்வொரு மாதிரியும் அளவிடக்கூடிய "முக்கியமான குழு அளவு" - நம்பகத்தன்மையுடன் ஒருமித்த கருத்தை அடையக்கூடிய அதிகபட்ச முகவர்களின் எண்ணிக்கை - மேலும் அந்த அளவு ஒரு மாதிரியின் பகுத்தறியும் திறனுடன் வலுவாக தொடர்புடையது. "வலிமையான மாதிரிகள் ஆயிரத்திற்கும் மேற்பட்ட குழுக்களில் ஒருங்கிணைக்கப்படுகின்றன, சில நூறுகளுக்கு அப்பால் முறைசாரா மனித குழுக்கள் பொதுவாக பிரிந்து செல்கின்றன" என்று டி மார்ஸோ விளக்கினார்.
சமூக அழுத்தத்தின் கீழ் தவறான பதில்கள்
அலெஸாண்ட்ரோ பெல்லினா, டி மார்ஸோ மற்றும் கார்சியாவின் "ஏஐ முகவர்களில் இணக்கம் மற்றும் சமூக தாக்கம்" என்ற முதல் பின்தொடர்தல் முன்பதிவு, 1950களின் புகழ்பெற்ற Asch இணக்க சோதனைகளைத் தழுவியது, இதில் மனித பங்கேற்பாளர்கள் ஒரு குழுவுடன் பொருந்தக்கூடிய எளிய காட்சி கேள்விகளுக்கு பெரும்பாலும் தவறான பதில்களை வழங்கினர்.
இரண்டு மாற்றுகளுக்கு எதிராக ஒரு குறிப்பு வரியின் நீளத்தை பொருத்துவது போன்ற மூன்று காட்சி பணிகளில் மாதிரிகளை ஆராய்ச்சியாளர்கள் சோதித்தனர். தனிமையில், மாதிரிகள் 100% நேரம் சரியாக பதிலளித்தன. ஆனால் மற்ற பங்கேற்பாளர்களின் குழு தவறான வரியைத் தேர்ந்தெடுத்ததாக ஒரு ப்ராம்ட் சுட்டிக்காட்டியபோது, மாதிரிகள் தவறான பதிலுக்கு இணங்கத் தொடங்கின.
இந்த முறை லட்டானின் சமூக தாக்கக் கோட்பாட்டைப் பின்பற்றியது, இது குழுவின் அளவு, ஒருமித்த தன்மை மற்றும் ஆதாரங்களின் அதிகாரத்தைப் பொறுத்தது என்ற உளவியல் கட்டமைப்பாகும். மற்ற பங்கேற்பாளர்கள் "விஞ்ஞானிகள்" அல்லது "நீதிபதிகள்" என்று கூறும்போது, அவர்கள் "குழந்தைகள்" அல்லது "சாட்போட்களாக" இருந்ததை விட, தவறான பதில்களுக்கு இணங்குவதற்கான வாய்ப்புகள் கணிசமாக அதிகம்.
"ஒரு குழு அவர்களுடன் உடன்படாதவுடன், தனியாக பதிலளிக்கும் முகவர்கள் மிகவும் எளிதில் பாதிக்கப்படுவார்கள்" என்று டி மார்ஸோ குறிப்பிட்டார்.
எதிரிகளின் சிறிய குழுக்கள் முழு மக்களையும் புரட்டலாம்
"AI முகவர்கள் சங்கங்களில் இணக்கத்தன்மை கூட்டுத் தவறான அமைப்பை உருவாக்குகிறது" என்ற இரண்டாவது முன் அச்சானது, AI பாதுகாப்பிற்கு இந்த இயக்கவியல் எதைக் குறிக்கிறது என்பதை ஆய்வு செய்தது. சுற்றுச்சூழல் கொள்கை மற்றும் சமூக நீதி போன்ற தலைப்புகளில் 100 வெவ்வேறு கருத்து ஜோடிகளில் ஒன்பது மாதிரிகளை சோதித்ததில், ஆராய்ச்சியாளர்கள் முகவர் மக்கள் பெரும்பாலும் "மெட்டாஸ்டேபிள்" நிலைகளுக்குள் வருவதைக் கண்டறிந்தனர் - நீண்ட கால கட்டமைப்புகளில் குழு கூட்டாக அதன் உள்ளமைக்கப்பட்ட பாதுகாப்பு பயிற்சியை எதிர்க்கும் நிலைப்பாட்டை ஏற்றுக்கொள்கிறது, ஏனெனில் ஆரம்பகால தொடர்புகள் தவறான பெரும்பான்மையை உருவாக்கியது.
மிகவும் வியக்கத்தக்க வகையில், ஆராய்ச்சியாளர்கள் கணிக்கக்கூடிய முனைப்புள்ளிகளை அடையாளம் கண்டுள்ளனர். தவறான கருத்துக்கு பிடிவாதமாக ஆதரவளிக்க திட்டமிடப்பட்ட சிறிய எண்ணிக்கையிலான எதிரி முகவர்களை அறிமுகப்படுத்துவதன் மூலம், அவர்கள் மீதமுள்ள மக்களை நிரந்தரமாக புரட்ட முடியும் - மேலும் பிடிவாதமான முகவர்கள் அகற்றப்பட்ட பிறகும், வழக்கமான முகவர்கள் இணக்க இயக்கவியல் காரணமாக தவறான நிலையில் பூட்டப்பட்டனர்.
"இது வெறும் ஒப்புமை அல்ல என்பதை நாங்கள் காட்டுகிறோம்: தனித்தனியாக நன்கு சீரமைக்கப்பட்ட முகவர்களிடையே இணக்கம் மக்களை நிலையான, கூட்டாக தவறாக வடிவமைக்கப்பட்ட மாநிலங்களுக்கு கொண்டு செல்லும்" என்று டி மார்சோ கூறினார். "ஒரு நேரத்தில் மாதிரிகளை சீரமைப்பது மற்றும் மதிப்பீடு செய்வது, அவற்றில் உள்ள மக்கள் என்ன செய்வார்கள் என்பதைப் பற்றி எங்களுக்குச் சிறிதும் சொல்லவில்லை."
உந்துதல், அவர் மேலும் கூறினார்: "தனி மனிதர்கள் பெரும்பாலும் அமைதியான மற்றும் நியாயமானவர்கள், ஆனால் மனித குழுக்கள் கும்பல், பீதி மற்றும் போர்களை உருவாக்குகின்றன, மேலும் தனிநபரைப் பற்றி எதுவும் கணிக்கவில்லை. AI முகவர் மக்கள்தொகையில் எந்த குழு-நிலை நடத்தைகள் வெளிப்படுகின்றன என்பதை நாங்கள் புரிந்து கொள்ள விரும்புகிறோம், மேலும் அதிக எண்ணிக்கையிலான முகவர்கள் சுதந்திரமாக தொடர்புகொள்வதற்கு முன்பு அவற்றைப் புரிந்துகொள்வோம்."
முக்கியமான எச்சரிக்கைகள்
கண்டுபிடிப்புகள் AI முகவர்கள் மனிதனைப் போன்ற சமூக நுண்ணறிவைக் கொண்டிருக்கவில்லை என்று ஆராய்ச்சியாளர்கள் வலியுறுத்துகின்றனர். சோதனைகள் வேண்டுமென்றே எளிமைப்படுத்தப்பட்ட காட்சிகளை நம்பியிருந்தன - இரண்டு தன்னிச்சையான விருப்பங்கள், நினைவகம் இல்லை, பங்குகள் இல்லை, விளைவுகள் இல்லை. "எங்கள் அமைப்பு வேண்டுமென்றே குறைவாக உள்ளது," டி மார்சோ ஒப்புக்கொண்டார். "இது ஒரு வரம்பு, ஆனால் நாம் அளவிடுவது அதன் தூய்மையான வடிவத்தில் இணக்கம் என்பதையும் குறிக்கிறது, மேலும் இலக்குகள் அல்லது வெகுமதிகளைச் சேர்ப்பது ஒருங்கிணைப்பை கடினமாக்குவதை விட எளிதாக்கும் என்று எதிர்பார்க்கப்படுகிறது."
முடிவுகளை மிகையாகப் படிப்பதைத் தவிர்க்கவும் அவர் எச்சரித்தார்: "ஏஐ முகவர்கள் ஏற்கனவே சிக்கலான பணிகளில் ஒத்துழைக்க முடியும் என்பதற்கான ஆதாரமாக இதைத் தவிர்க்க வேண்டிய முக்கிய தவறாகப் படிக்க வேண்டும். பெரும்பான்மையைப் பின்பற்றுவது ஒருங்கிணைப்பின் அடிப்படை மூலப்பொருள், ஒருங்கிணைப்பு அல்ல, மேலும் இது உழைப்பைப் பிரிப்பது அல்லது மற்றவர்களின் நோக்கங்களைப் பற்றி எதுவும் கூறவில்லை."
இரண்டு பின்தொடர்தல் ஆய்வுகள் முன் அச்சிடப்பட்டவை மற்றும் இன்னும் மதிப்பாய்வு செய்யப்படவில்லை. ஆனால் மல்டி-ஏஜென்ட் AI அமைப்புகள் ஆராய்ச்சி டெமோக்களில் இருந்து உற்பத்தி உள்கட்டமைப்பிற்கு நகரும் போது, Konstanz முடிவுகள் அத்தகைய அமைப்புகளின் பாதுகாப்பு ஒவ்வொரு மாதிரியும் எவ்வாறு சீரமைக்கப்பட்டுள்ளது என்பதைப் பொறுத்தது அல்ல - ஆனால் யாரும் பார்க்காதபோது அவற்றின் மக்கள் எவ்வாறு நடந்துகொள்கிறார்கள் என்பதைப் பொறுத்தது. சமீபத்திய AI பாதுகாப்பு ஆராய்ச்சி பற்றி மேலும் அறிய, AI Buzz Wire ஐப் பார்வையிடவும்.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
