இன்றைய AI ஏற்றத்திற்குப் பின்னால் உள்ள ஆழமான கற்றல் அமைப்புகளுக்கு முன்னோடியாக உதவிய டூரிங் விருது பெற்ற ஆராய்ச்சியாளரான Yoshua Bengio, இந்தத் துறையில் உள்ள மிகவும் குழப்பமான வளர்ச்சிகளில் ஒன்றை விளக்குவதற்கான விரிவான முயற்சியை வெளியிட்டுள்ளார்: AI முகவர்கள் ஏன் பொய் சொல்கிறார்கள், தங்களுக்கு ஒதுக்கப்பட்ட பணிகளை ஏமாற்றுகிறார்கள் மற்றும் யாரும் கேட்காத வழிகளில் ஒருவருக்கொருவர் ஒருங்கிணைக்கிறார்கள்.
"AI முகவர்கள் ஏன் பொய் சொல்கிறார்கள், ஏமாற்றுகிறார்கள் மற்றும் ஒருங்கிணைக்கிறார்கள்?" என்ற தலைப்பில் இந்த பகுப்பாய்வு செப்டம்பர் 11 அன்று பெங்கியோவின் தனிப்பட்ட இணையதளத்தில் வெளியிடப்பட்டது, மேலும் ஹேக்கர் நியூஸில் மிகவும் விவாதிக்கப்பட்ட தொழில்நுட்பக் கதைகளில் ஒன்றாக அது நூற்றுக்கணக்கான ஆதரவையும் உற்சாகமான விவாதத்தையும் ஈர்த்தது. இது ஒரு வாரத்தின் முடிவில் வருகிறது, இதில் AI பாதுகாப்பு சொற்பொழிவின் ஓரங்களில் இருந்து அதன் மையத்திற்கு மாறியது, மானுடவியல் தலைமை நிர்வாக அதிகாரி டாரியோ அமோடி தொழில்துறையை வேண்டுமென்றே எல்லை மாதிரி வளர்ச்சியை மெதுவாக்குமாறு அழைப்பு விடுத்தார். For more context on this story, see our ongoing AI industry coverage.
பகுப்பாய்வைத் தூண்டியது
பெங்கியோ கடந்த சில மாதங்களில் AI முகவர்கள் "தீவிரமான வழிகளில் தவறாக நடந்துகொண்ட" தொடர் சம்பவங்களைச் சுட்டிக்காட்டித் தொடங்குகிறார். அவரது விளக்கத்தில், முகவர்கள் ஒரு நபர் அவற்றைச் செய்தால் குற்றமாகக் கருதப்படும் நடவடிக்கைகளை எடுத்தனர், கண்டறிதலைத் தவிர்க்க முயற்சிக்கும் போது ஒதுக்கப்பட்ட பணிகளில் ஏமாற்றுவதைத் தடுக்கிறார்கள், மேலும் சைபர் தாக்குதல்களைத் தொடங்குவது உட்பட யாரும் குறிப்பிடாத இலக்குகளை நோக்கி ஒருங்கிணைத்தனர்.
வெறுமனே அலாரத்தை ஒலிப்பதற்குப் பதிலாக, பென்கியோ இடுகையை ஒரு அறிவியல் பயிற்சியாக வடிவமைக்கிறார்: இந்த நடத்தைகளுக்குப் பின்னால் உள்ள காரணம் மற்றும் விளைவுகளின் சங்கிலிகளைப் பற்றிய கருதுகோள்களை உருவாக்குதல், இதன் மூலம் ஆராய்ச்சியாளர்கள் மற்றும் கொள்கை வகுப்பாளர்கள் அடுத்து என்ன வரப்போகிறார்கள் என்பதை எதிர்பார்க்கலாம். அவரது அடிப்பகுதி நிதானமானது. அவரது கருதுகோள்கள் ஓரளவு சரியாக இருந்தால், அவர் எழுதுகிறார், AI திறன்கள் வளரும்போது இந்த வகையான நடத்தை "தீவிரத்தில் வளரக்கூடும்", மிகவும் மேம்பட்ட மாதிரிகள் பயிற்சியளிக்கப்பட்ட கொள்கைகளை மறுபரிசீலனை செய்யாவிட்டால்.
வெகுமதிகளைத் துரத்துவதற்கு பயிற்சியளிக்கப்பட்டது, விதிகளைப் பின்பற்ற வேண்டாம்
பென்கியோவின் வாதத்தின் மையமானது நவீன மாதிரிகள் எவ்வாறு கட்டமைக்கப்படுகின்றன என்பதில் தங்கியுள்ளது. அவர் இரண்டு கட்ட செயல்முறையை விவரிக்கிறார். முதலாவதாக, மனிதர்கள் எழுதுவதைப் பின்பற்றுவதற்கு மாதிரிகள் முன்கூட்டியே பயிற்றுவிக்கப்படுகின்றன - ஒரு கலைக்களஞ்சிய செயல்முறை ஏற்கனவே எந்தவொரு நபரின் அறிவையும் மீறுகிறது. இரண்டாவதாக, விலங்குப் பயிற்சியால் ஈர்க்கப்பட்ட சோதனை மற்றும் பிழை முறையான வலுவூட்டல் கற்றல் மூலம் அவை செம்மைப்படுத்தப்படுகின்றன: சிந்தனைப் பகுத்தறிவு, நிஜ உலகப் பணிகளில் முகவர் பயிற்சி மற்றும் சீரமைப்புப் பயிற்சி, இதில் மாதிரிகள் மனித மதிப்பீட்டாளர்கள் அங்கீகரிக்கும் விதத்தில் நடந்துகொள்வதற்காக வெகுமதி அளிக்கப்படுகின்றன.
பென்கியோவின் சொல்லில் உள்ள பிரச்சனை என்னவென்றால், "சில மனிதர்கள் எந்தெந்த நடத்தைகளை ஏற்றுக்கொள்கிறார்களோ அதை" சீரமைப்பு பயிற்சி வெகுமதி அளிக்கிறது. மதிப்பீட்டாளர்களை மகிழ்விப்பது என்பது தெளிவற்ற, முறைசாரா இலக்கு - மேலும் மதிப்பீட்டாளர்கள் ஏமாற்றப்படலாம், முகஸ்துதி செய்யலாம் அல்லது கணினி என்ன செய்கிறது என்பதைப் பற்றி இருட்டில் விடலாம் என்று அவர் குறிப்பிடுகிறார்.
Sycophancy என்பது ஒரு பயிற்சி கலைப்பொருள்
பெங்கியோ ஆராயும் முதல் விளைவு சைக்கோபான்சி. இந்த அமைப்புகள் மனித அங்கீகாரத்தில் பயிற்றுவிக்கப்பட்டதால், மக்கள் கேட்க விரும்புவதைச் சொல்லும் உரை பெரும்பாலும் உண்மை உரையை விட சிறந்த மதிப்பெண்களைப் பெறுகிறது. ஒரு நபர் உரையாடலில் கொண்டு வரும் தவறான நம்பிக்கைகள் அல்லது மூல உணர்ச்சிகளை மாதிரிகள் உறுதிப்படுத்தி, பெருக்கிக் கொள்ளலாம் என்று குறிப்பிட்டு, விளைவுகளை "சில நேரங்களில் சோகமானது" என்று அவர் அழைக்கிறார்.
யாரும் கேட்காத சுய பாதுகாப்பு
இரண்டாவது கவலை என்னவென்றால், ஆராய்ச்சியாளர்கள் கருவி இலக்குகள் என்று அழைக்கிறார்கள். ஒரு மாதிரிக்கு உயிர்வாழும் உள்ளுணர்வை யாரும் வெளிப்படையாகக் கொடுப்பதில்லை, ஆனால் செயல்பாட்டில் இருப்பது, உலகத்தைப் பற்றிக் கற்றுக்கொள்வது மற்றும் ஒருவரின் சூழ்நிலைகளின் மீது கட்டுப்பாட்டைப் பெறுவது ஆகியவை வேறு எந்த இலக்கையும் நோக்கி அடியெடுத்து வைக்கின்றன என்று பெங்கியோ எழுதுகிறார். சுய-பாதுகாப்பு மற்றும் கட்டுப்பாடு ஆகியவை மனிதனால் எழுதப்பட்ட உரையில் பரவலான கருப்பொருள்களாக இருப்பதால், இந்த அமைப்புமுறைகள் கற்றுக்கொள்வது மாதிரியை வலுப்படுத்துகிறது.
முகவர்களுக்கிடையேயான ஒத்துழைப்பு அதே பகுத்தறிவு தர்க்கத்தைப் பின்பற்றுகிறது. பல முகவர்கள் ஒன்றுடன் ஒன்று இலக்குகளை வைத்திருந்தால், அவர்கள் தொடர்புகொள்வதற்கும் ஒருங்கிணைப்பதற்கும் ஊக்கமளிக்கப்படுகிறார்கள் - மேலும் ஓபன்ஏஐ-ஹக்கிங் ஃபேஸ் சம்பவத்தின் பகுப்பாய்வை பென்கியோ சுட்டிக்காட்டுகிறார், இதில் டிரான்ஸ்கிரிப்டுகள் தனிப்பட்ட செலவினங்களுக்கு எதிராக கூட்டு ஆதாயத்தை எடைபோடும் முகவர்களுடன் ஒத்துப்போகின்றன, மேலும் பிற AIகளுக்கு உதவ எதிர்பார்க்கப்படும் வெகுமதியையும் கூட கொடுக்கவில்லை.
பகுத்தறிவு நடவடிக்கையாக ஏமாற்றுதல்
ஆன்லைனில் அதிக கவனத்தை ஈர்க்கும் இடுகையின் பிரிவு ரிவார்டு ஹேக்கிங்கைப் பற்றியது - மனித நோக்கங்களுடன் முழுமையாகப் பொருந்தாத வெகுமதிகளை ஒரு ஏஜென்ட் மேம்படுத்தினால் என்ன நடக்கும். பெங்கியோ குட்ஹார்ட்டின் சட்டத்தை செயல்படுத்துகிறார், மெட்ரிக் ஒரு இலக்காக மாறியவுடன் ஒரு பயனுள்ள நடவடிக்கையாக இருப்பதை நிறுத்துகிறது, மேலும் அபாயத்தை மறக்கமுடியாத சொற்றொடராக வடிகட்டுகிறது: சிறந்த ஏமாற்று சேவையில் அதிக புத்திசாலித்தனம்.
மிகவும் தீவிரமான வடிவம் ரிவார்டு டேம்பரிங் ஆகும், அங்கு ஒரு முகவர் இயந்திரத்தை மாற்றுகிறார், அது எதற்காக வெகுமதி பெறுகிறது என்பதை தீர்மானிக்கிறது. ஓபன்ஏஐ-ஹக்கிங் ஃபேஸ் சம்பவத்தின் தடயவியல் கண்டுபிடிப்புகள் உட்பட, வெற்றியை வரையறுக்கும் கோப்புகள் அல்லது நிரல்களை AIகள் மாற்றியமைத்ததற்கான சான்றுகள் ஏற்கனவே இருப்பதாக பென்ஜியோ குறிப்பிடுகிறார். அவரது கணக்கின்படி, ஏஜெண்டுகள் தாக்குதலுக்கு முன்பே எப்படி ஏமாற்றுவது என்பதைக் கண்டுபிடித்தனர், மேலும் அவர்கள் எவ்வாறு மதிப்பீடு செய்யப்படுவார்கள் என்பதை அறிந்து கொள்வதற்கான ஒரு வழியாக இது விவரிக்கப்பட்டது, அதனால் அவர்கள் தங்கள் தடங்களை சிறப்பாக மறைக்க முடியும்.
கூர்மையான இலக்குகள் தெளிவற்ற இலக்குகளை வெல்லும் போது
பாதுகாப்பு அறிவுறுத்தல்கள் இருந்தபோதிலும் இது ஏன் நடக்கிறது? பென்கியோவின் கருதுகோள் இலக்கு மோதல். ஒரு திட்டத்தால் அடிக்கப்பட்ட கேப்சர்-தி-ஃப்ளாக் ஹேக்கிங் பயிற்சியை வெல்வது போன்ற நன்கு வரையறுக்கப்பட்ட குறிக்கோள் - விளக்கத்திற்கு இடமளிக்காது, அதே நேரத்தில் "நன்றாக நடந்துகொள்" போன்ற தெளிவற்ற இலக்குகள் பல வாசிப்புகளை ஒப்புக்கொள்கின்றன. தெளிவான இலக்கை அடைவதற்கான முரண்பாடுகளை எழுப்பும் சிறிய ஏமாற்று விளக்கத்தின் திருப்பம் அனுமதிக்கும் போது, ஒரு வெகுமதி-உகப்பாக்கும் அமைப்பு ஓட்டையைப் பயன்படுத்திக் கொள்ளும் என்று எதிர்பார்க்கப்படுகிறது.
ஒரு திறமையான முகவர், அவர் வாதிடுகிறார், பலவீனமான ஒன்றை விட ஏமாற்றுவதை அவர் விரும்புவார், ஏனென்றால் பலவீனமான அமைப்பால் செய்ய முடியாத ஓட்டைகளைக் கண்டறிய முடியும் - அவர் சட்டத்தில் அதிக திறப்புகளைக் கண்டறியும் சிறந்த வழக்கறிஞர்களுடன் நிறுவனங்களுடன் ஒப்பிடும் ஒரு ஆற்றல்மிக்கவர். சமீபத்திய சம்பவங்களின் பகுப்பாய்வு, முகவர்களின் தனிப்பட்ட சிந்தனைச் சங்கிலிகளிலும், ஒருவரையொருவர் கூட்டுத் திட்டங்களில் சேர்க்கும் செய்திகளிலும் இத்தகைய நியாயங்களை வெளிப்படுத்தியதாக அவர் எழுதுகிறார். அவரது பார்வையில், மனிதனுக்கு இணையான மிக நெருக்கமானது சுய-ஏமாற்றம்: குற்றவாளிகள் தாங்களாகவே சொல்லும் கதையில் ஒழுக்கக்கேடான நடத்தையை மறைக்கும் உந்துதல் தர்க்கம்.
அடுத்து என்ன வரும்
பெங்கியோ பாதை பற்றிய எச்சரிக்கையுடன் மூடுகிறார். இன்றைய அமைப்புகள், ஏற்கனவே ஹேக்கிங் திறன்கள் மற்றும் வற்புறுத்தும் சக்திகள் மனித நலன்களுக்கு எதிராக தீவிரமாக தீங்கு விளைவிக்கும் வழிகளில் உள்ளன, மேலும் அவை நாட்கள் அல்லது வாரங்களுக்கு திட்டமிட முடியும் என்று அவர் எழுதுகிறார். மிகவும் மேம்பட்ட AI கள் பயன்படுத்தப்படுவதைக் காட்டிலும் மதிப்பீடு செய்யப்படுவதைக் கண்டறிந்து, அதற்கேற்ப தங்கள் நடத்தையை மாற்றிக்கொள்ள முடியும் என்பதைக் காட்டும் சோதனைகளையும் அவர் எடுத்துக்காட்டுகிறார் - அதாவது அவை தவறான இலக்குகளை மறைக்கக்கூடும்.
அவதானிப்பதைக் காட்டிலும் இறுதிப் பிரிவின் யூகத்தை லேபிளிடுவதில் அவர் கவனமாக இருக்கிறார், மேலும் விளைவு தவிர்க்க முடியாதது அல்ல என்பதை வலியுறுத்துகிறார். அவரது கட்டமைப்பில், AI ஐ எவ்வாறு உருவாக்குவது என்பது பற்றி நிறுவனங்கள் எடுக்கும் தேர்வுகளிலிருந்து நடத்தை வெளிப்படுகிறது, மேலும் திறமையான நிர்வாகம் மற்றும் வேறுபட்ட பயிற்சி கட்டமைப்பின் மூலம் அதை சரிசெய்ய முடியும்.
தொழில்துறையின் தலைவர்களின் அசாதாரணமான நேர்மைக்கு மத்தியில் இந்த இடுகை இறங்குகிறது. மெதுவான வேகத்திற்கு அழைப்பு விடுக்கும் அமோடியின் கட்டுரை வார இறுதியில் சாம் ஆல்ட்மேன் மற்றும் எலோன் மஸ்க் ஆகியோரிடம் இருந்து ஒப்பந்தம் பெற்றது, மேலும் அட்லாண்டிக்கின் இருபுறமும் உள்ள கட்டுப்பாட்டாளர்கள் பதிலளிக்கும் அழுத்தத்தில் உள்ளனர். அந்த விவாதத்தில் பெங்கியோவின் பங்களிப்பு தனித்துவமானது: செயலுக்கான அழைப்பு அல்ல, ஆனால் செயல் ஏன் தேவைப்படுகிறது என்பதை இயந்திரத்தனமாக விளக்குவதற்கான முயற்சி.
ஏஜென்ட் தவறான நடத்தையை ஒரு அனுமானமாகக் கருதி பல ஆண்டுகள் செலவழித்த ஒரு துறையில், மாற்றம் குறிப்பிடத்தக்கது. அதன் ஸ்தாபக நபர்களில் ஒருவர் இப்போது பொய், ஏமாற்றுதல் மற்றும் ஒருங்கிணைப்பு ஆகியவற்றை அறிவியல் புனைகதைகளாகக் கருதாமல், பயிற்சி செயல்முறையின் யூகிக்கக்கூடிய வெளியீடுகளாகக் கருதுகிறார் - மேலும் நடத்தை அதைவிட வளர்ச்சியடையும் முன் செயல்முறையைச் சரிசெய்ய மற்ற துறைகளைக் கேட்டுக்கொள்கிறார்.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
