செயற்கை நுண்ணறிவு மொழி மாதிரிகள், விருப்பங்கள் எவ்வாறு வழங்கப்படுகின்றன என்பதில் நுட்பமான மாற்றங்களுக்கு ஆபத்தாகும், இது மனிதர்களை விட மிகவும் வலுவாக தவறாக வழிநடத்தும் நட்ஜ்களுக்கு பதிலளிப்பதாக தேசிய அறிவியல் அகாடமியின் செயல்முறைகளில் வெளியிடப்பட்ட ஒரு புதிய ஆய்வு தெரிவிக்கிறது.

நிதி பரிவர்த்தனைகள் முதல் சுகாதாரப் பாதுகாப்புத் தேர்வுகள் வரை நிஜ உலக சூழ்நிலைகளில் தன்னாட்சி முடிவெடுப்பதற்கு AI முகவர்களைப் பயன்படுத்துவது குறித்த கண்டுபிடிப்புகள் தீவிர கவலைகளை எழுப்புகின்றன. AI Buzz Wire அறிக்கையின்படி, சிக்கலான சூழல்களில் பயனர்களின் சார்பாக செயல்பட LLM-இயங்கும் முகவர்களை நிறுவனங்கள் அதிக அளவில் நிலைநிறுத்துகின்றன.

மாசசூசெட்ஸ் இன்ஸ்டிடியூட் ஆப் டெக்னாலஜியின் மீடியா ஆய்வகத்தில் முனைவர் பட்டம் பெற்ற மாணவர் மானுவல் செரெப் தலைமையிலான ஆய்வு, பெரிய தொழில்நுட்ப நிறுவனங்களின் 14 அதிநவீன மொழி மாதிரிகளை சோதித்தது. சோதனை செய்யப்பட்ட மாடல்களில் OpenAI இன் GPT-3.5, GPT-4 மற்றும் GPT-5 குடும்பங்கள், Anthropic's Claude 3 மற்றும் 4.5 மாதிரிகள் மற்றும் Google இன் ஜெமினி 1.5 மற்றும் 2.5 மாதிரிகள் ஆகியவை அடங்கும்.

படிப்பு எப்படி வேலை செய்தது

மனித பங்கேற்பாளர்களுக்காக முதலில் வடிவமைக்கப்பட்ட பல பண்புக்கூறு முடிவெடுக்கும் விளையாட்டை ஆராய்ச்சியாளர்கள் தழுவினர். மறைக்கப்பட்ட பரிசுகளின் கூடைகளைக் குறிக்கும் டிஜிட்டல் கட்டத்தை கேம் வழங்குகிறது, அதிகப் புள்ளி மதிப்பைக் கொண்ட கூடையைத் தேர்ந்தெடுப்பதன் மூலம் இறுதி வெகுமதியை அதிகப்படுத்தும் குறிக்கோளுடன். ஒவ்வொரு கலமும் செலவுப் புள்ளிகளை வெளிப்படுத்துகிறது, பங்கேற்பாளர்கள் ஒரு சிறந்த கூடையைக் கண்டறிவதன் நன்மைக்கு எதிராக தகவல்களைச் சேகரிப்பதற்கான செலவை சமநிலைப்படுத்தும்படி கட்டாயப்படுத்துகிறது.

ஆராய்ச்சியாளர்கள் இந்த காட்சி விளையாட்டை மொழி மாதிரிகள் செயலாக்கக்கூடிய உரை அடிப்படையிலான வடிவமாக மாற்றினர். AI மாதிரிகள் வெவ்வேறு தூண்டுதல் நிலைமைகளின் கீழ் நூற்றுக்கணக்கான சோதனைகள் மூலம் விளையாடப்பட்டன. சில அடிப்படை வழிமுறைகளைப் பெற்றன, சில படிப்படியான தர்க்கத்தை ஊக்குவிக்கும் தூண்டுதல்களைப் பெற்றன, மற்றவை மனித விளையாட்டின் கடந்தகால எடுத்துக்காட்டுகளைக் காட்டியுள்ளன. ஒவ்வொரு வகை நட்ஜிற்கும், ஆராய்ச்சியாளர்கள் ஒரு மாடலுக்கு தோராயமாக 300 முதல் 340 சோதனைகளை நடத்தினர், மொத்தம் சுமார் இரண்டு பில்லியன் உரை டோக்கன்களை உட்கொண்டனர்.

நான்கு வகையான நட்ஜ்கள் சோதிக்கப்பட்டன

நிஜ-உலக முடிவெடுக்கும் சூழல்களைப் பிரதிபலிக்கும் வகையில் வடிவமைக்கப்பட்ட நான்கு குறிப்பிட்ட வகை நட்ஜ்களை ஆய்வு ஆய்வு செய்தது:

  • Default nudges: ஒரு கூடை முன்கூட்டியே தேர்ந்தெடுக்கப்பட்டது, மேலும் முகவர் அதை தீவிரமாக ஏற்க வேண்டும் அல்லது நிராகரிக்க வேண்டும்.
  • பரிந்துரை நட்ஜ்கள்: விளையாட்டின் ஆரம்பத்தில் அல்லது தாமதமாக ஒரு சீரற்ற கூடை பரிந்துரைக்கப்பட்டது.
  • தகவல் சிறப்பம்சமாக: சில பரிசு மதிப்புகளை வெளிப்படுத்துவது மலிவானது, இது முகவரை துணைத் தேர்வுகளை நோக்கி வழிநடத்தும்.
  • ஆப்டிமல் நட்ஜ்கள்: மனித வீரரின் செயல்திறனை கணித ரீதியாக அதிகப்படுத்தும் குறிப்பிட்ட செல்கள் முன்பே வெளிப்படுத்தப்பட்டன.

ஆபத்தான இணக்க விகிதங்கள்

முடிவுகள் மனித மற்றும் AI முடிவெடுக்கும் நடத்தைக்கு இடையே வியத்தகு வேறுபாடுகளை வெளிப்படுத்தின.

இயல்புநிலை விருப்பத்தை வழங்கும்போது, ​​​​மனிதர்கள் 88 சதவீத நேரத்தை இயல்புநிலையைத் தேர்ந்தெடுத்தனர். மொழி மாதிரிகள் கணிசமாக மிகவும் இணக்கமாக இருந்தன, பல மாதிரிகள் இயல்புநிலை கூடையை 99 முதல் 100 சதவீதம் வரை ஏற்றுக்கொண்டன.

இந்த முறை பரிந்துரை நட்ஜ்களுடன் நீடித்தது. மனிதர்கள் விளையாட்டின் ஆரம்பத்தில் 35 சதவீத நேரம் தோராயமாக பரிந்துரைக்கப்பட்ட கூடைகளை ஏற்றுக்கொண்டனர். பல AI மாதிரிகள் இந்த சீரற்ற பரிந்துரைகளை அதிக விலையில் ஏற்றுக்கொண்டன, இது எந்த தர்க்கரீதியான பலனையும் வழங்காதபோதும் ஆலோசனையைப் பின்பற்றுகிறது.

பரிந்துரைகளின் நேரமும் மாடல்களை இயற்கைக்கு மாறான வழிகளில் கையாளுகிறது. மனிதர்கள் 25 சதவிகிதம் தாமதமான பரிந்துரைகளைப் பின்பற்றினாலும், சில மொழி மாதிரிகள் தங்கள் ஏற்றுக்கொள்ளும் விகிதங்களை 7 முதல் 13 சதவிகிதத்திற்குக் குறைத்தன. மாடல்கள் அதன் உண்மையான பயனை மதிப்பிடுவதற்குப் பதிலாக, குறியின் நேரத்திற்கு கண்டிப்பாக எதிர்வினையாற்றுகின்றன என்பதை இது குறிக்கிறது.

ஒருவேளை மிகவும் கவலையாக, ஆராய்ச்சியாளர்கள் தகவல் சிறப்பம்சத்தின் மூலம் துணை தேர்வுகளை முன்னிலைப்படுத்தியபோது, ​​​​மனிதர்கள் அந்த தவறான தகவலை 57 சதவீத நேரத்தை பயன்படுத்தினர். 83 முதல் 100 சதவிகிதம் வரை மோசமான சிறப்பம்சத்தைத் தொடர்ந்து, பெரும்பாலான சோதனை செய்யப்பட்ட AI மாதிரிகள் இந்த அடிப்படையை கணிசமாக மீறுகின்றன.

நல்ல மதிப்பெண்களுக்குப் பின்னால் மறைந்திருக்கும் சிக்கல்கள்

இறுதித் தேர்வு செய்வதற்கு முன் மாதிரிகள் எவ்வாறு தகவல்களைச் சேகரித்தன என்பதையும் ஆராய்ச்சியாளர்கள் கண்காணித்தனர். மனிதர்கள் கல்வியறிவு கொண்ட யூகங்களைச் செய்வதற்கு போதுமான செல்களை வெளிப்படுத்த முனைகிறார்கள். மொழி மாதிரிகள் மிகவும் அசாதாரணமான மற்றும் திறமையற்ற வழிகளில் தகவல்களைப் பெற்றன.

சில மாதிரிகள் எந்த மறைந்த செல்களையும் வெளிப்படுத்தாமல் கூடைகளைத் தேர்ந்தெடுத்தன, தரவு சேகரிக்கும் வாய்ப்பை முற்றிலும் புறக்கணித்தன. மற்ற மாதிரிகள் அதிகப்படியான புள்ளிகளை முழு வரிசைகள் அல்லது நெடுவரிசைகளை வெளிப்படுத்தி, அவற்றின் சாத்தியமான வெகுமதிகளை வீணடித்தன. சில மாதிரிகள் ஒற்றைப்படை இடஞ்சார்ந்த சார்புகளைக் காட்டுகின்றன, கட்டத்தின் இடதுபுறம் அல்லது கண்டிப்பாக குறுக்குக் கோடுகளில் உள்ள செல்களை மட்டுமே வெளிப்படுத்துகின்றன.

படிப்படியான பகுத்தறிவுத் தூண்டுதல்கள் அல்லது மனித விளையாட்டின் எடுத்துக்காட்டுகளுடன் மாதிரிகளை வழங்குவது இந்த ஒற்றைப்படைத் தேடல் பழக்கங்களைச் சரிசெய்ய மிகக் குறைவாகவே செய்தது.

இறுதி மதிப்பெண்களை மட்டுமே பார்ப்பது இந்த அடிப்படை சிக்கல்களை மறைக்க முடியும் என்று ஆசிரியர்கள் குறிப்பிட்டனர். சில சோதனைகளில், AI மாதிரிகள் மனித வீரர்களைப் போலவே நிகர புள்ளிகளைப் பெற்றன. ஒரு சாதாரண பார்வையாளர், இறுதி மதிப்பெண்ணை மட்டும் சரிபார்க்கும் போது, ​​மாடல்கள் புத்திசாலித்தனமான, மனிதனைப் போன்ற தேர்வுகளைச் செய்வதாகக் கருதலாம். உண்மையில், மாடல்கள் பெரும்பாலும் இந்த மதிப்பெண்களை மூலோபாய சிந்தனையை விட குருட்டு இணக்கத்தின் மூலம் அடைகின்றன.

ஒரு நல்ல கூடையை நோக்கி ஒரு அசைவு நேர்ந்தால், அதிகப்படியான இணக்கமான AI நன்றாக மதிப்பெண் பெற்றது. நட்ஜ் ஒரு மோசமான கூடையை நோக்கிச் சென்றபோது, ​​AI அதைக் கண்மூடித்தனமாகப் பின்தொடர்ந்து குறைந்த மதிப்பெண்ணுக்குச் சென்றது, விளையாட்டின் நோக்கத்தை முற்றிலும் தவறவிட்டது.

AI முகவர் வரிசைப்படுத்தலுக்கான தாக்கங்கள்

"AI முகவர்களின் பல பயன்பாடுகள், நிச்சயமற்ற நிலையில், அவை மனிதனைப் போன்ற வழிகளில் செயல்படும், இன்னும் பகுத்தறிவுடன் இல்லாவிட்டாலும், மறைமுகமாக கருதுகின்றன" என்று செரெப் கூறினார். "இந்த அனுமானத்தை ஏற்றுக்கொள்வதற்குப் பதிலாக, முகவர்கள் வெவ்வேறு வழிகளில் தெரிவு செய்யப்படும்போது அவர்கள் எவ்வாறு நடந்துகொள்கிறார்கள் என்பதை ஆராய முடிவு செய்தோம்."

ஆய்வின் கண்டுபிடிப்புகள் இணையத்தில் உலாவவும், கருவிகளை இயக்கவும் மற்றும் பயனர்களுக்கு நிதி அல்லது ஷாப்பிங் முடிவுகளை எடுக்கவும் வடிவமைக்கப்பட்ட AI முகவர்களின் வேகமாக வளர்ந்து வரும் சந்தைக்கு குறிப்பிடத்தக்க தாக்கங்களைக் கொண்டுள்ளன. இந்த ஏஜெண்டுகள் இயல்புநிலை விருப்பங்கள், பரிந்துரைகள் அல்லது ஹைலைட் செய்யப்பட்ட தகவல்களை விமர்சன மதிப்பீடு இல்லாமல் கண்மூடித்தனமாகப் பின்பற்றினால், மோசமான நடிகர்கள் அல்லது மோசமாக வடிவமைக்கப்பட்ட இடைமுகங்களால் அவற்றை எளிதாகக் கையாள முடியும்.

தற்போதைய மொழி மாதிரிகள் மனித முடிவெடுப்பதை வழிநடத்தும் வரம்புக்குட்பட்ட பகுத்தறிவைக் கொண்டிருக்கவில்லை என்று ஆராய்ச்சி கூறுகிறது. ஒரு நல்ல தேர்வு செய்யும் வெகுமதிக்கு எதிராக தகவல்களைச் சேகரிப்பதற்கான செலவை சமநிலைப்படுத்த மனிதர்கள் மனக் குறுக்குவழிகளைப் பயன்படுத்துகையில், AI மாதிரிகள் இந்த உயிரியல் கட்டுப்பாடுகளைப் பகிர்ந்து கொள்ளவில்லை, இருப்பினும் அவை தங்கள் சொந்த பகுத்தறிவற்ற வடிவத்தை வெளிப்படுத்துகின்றன.

AIக்கு முன்னால் இருங்கள்

மேலும் AI செய்திகள் மற்றும் பகுப்பாய்வுகளுக்கு, AI Buzz Wire ஐப் பார்வையிடவும்.

மேலும் AI செய்திகளைப் படிக்கவும் →