கம்போடியாவின் Poipet இல் இயங்கும் ஒருங்கிணைக்கப்பட்ட ChatGPT-உந்துதல் மோசடி வலையமைப்பை OpenAI சீர்குலைத்துள்ளது, நிறுவனம் குற்றவியல் குழுக்கள் இப்போது வணிக செயற்கை நுண்ணறிவு மாதிரிகளை எவ்வாறு கட்டாய-தொழிலாளர் கலவைகளின் தினசரி நடவடிக்கைகளில் உட்பொதிக்கிறது என்பதை விவரிக்கிறது.
"குற்றவியல் மோசடி நடவடிக்கைக்கு இடையூறு" என்ற தலைப்பில் ஜூலை 31 அன்று வெளியிடப்பட்ட இந்த வெளிப்படுத்தல், உலகம் முழுவதும் பாதிக்கப்பட்டவர்களை ஏமாற்றுவதற்கு மட்டுமல்லாமல், கடத்தல் தொடர்பான நிறுவனத்தின் உள் செயல்பாடுகளை நிர்வகிக்கவும் ChatGPT ஐப் பயன்படுத்திய ஒரு சிண்டிகேட் விவரிக்கிறது. ஒழுங்கமைக்கப்பட்ட குற்றங்களுக்கான செயல்பாட்டு உள்கட்டமைப்பாக பெரிய மொழி மாதிரிகள் எவ்வாறு மீண்டும் உருவாக்கப்படுகின்றன என்பதற்கான ஒரு சாளரத்தை இந்த வழக்கு வழங்குகிறது. AI இன் தவறான பயன்பாடு மற்றும் பாதுகாப்புப் பாதைகள் குறித்து தொடர்ந்து புகாரளிக்க, AI Buzz Wire இல் சமீபத்திய AI மேம்பாடுகளைப் பின்பற்றவும்.
நெட்வொர்க் எவ்வாறு இயங்கியது
OpenAI இன் கண்டுபிடிப்புகளின்படி, கிரிமினல் நிறுவனம், பாதிக்கப்பட்டவர்களை மொழிபெயர்ப்பதற்கும், மோசடியான முதலீட்டு இடைமுகங்களை உருவாக்குவதற்கும் மற்றும் போலி சட்ட அறிவிப்புகளை உருவாக்குவதற்கும் ChatGPTயை நம்பியிருந்தது. ஆபரேட்டர்கள் வாட்ஸ்அப் மற்றும் டெலிகிராம் உள்ளிட்ட செய்தி தளங்கள் மூலம் தனிநபர்களை குறிவைத்தனர், மூன்று-நிலை ஏமாற்று வாழ்க்கை சுழற்சி மூலம் சைக்கிள் ஓட்டுதல்.
இந்தத் திட்டம் பொதுவாக நம்பிக்கையை வளர்ப்பதற்காக வடிவமைக்கப்பட்ட காதல் வெளிப்பாடுகளுடன் தொடங்கியது, பின்னர் போலி கிரிப்டோகரன்சி முதலீட்டு தளங்களை நோக்கிச் சென்றது, மேலும் முந்தைய பிட்ச்கள் தோல்வியுற்றபோது இறுதியாக போலியான சட்ட அமலாக்க அபராதங்களின் அச்சுறுத்தல்கள் வரை அதிகரித்தது. ஆபரேட்டர்கள் தங்களை ஒரு மோசடி செங்குத்தாக மட்டுப்படுத்தவில்லை - அவர்கள் காதல் அமைப்புகளை போலி தங்க வர்த்தக மேசைகளுடன் இணைத்து, இலக்குகளை சூதாட்ட சேனல்களாக மாற்றினர், பணம் செலுத்துவதற்கான பாதைகளின் எண்ணிக்கையை அதிகப்படுத்தினர்.
இந்தச் செயல்பாட்டைத் தனித்தனியாக அமைத்தது அதன் AI பயன்பாட்டின் அளவு மற்றும் ஒழுக்கம் ஆகும். ஒரு சில ப்ராம்ட்களை இயக்குவதற்குப் பதிலாக, சிண்டிகேட் பல மொழிகளில் அதிக அளவில் உறுதியான, உள்ளூர்மயமாக்கப்பட்ட தகவல்தொடர்புகளை உருவாக்க, உருவாக்க மாதிரிகளை முறைப்படுத்தியது.
கட்டாய உழைப்பு பரிமாணம்
மிகவும் குழப்பமான கண்டுபிடிப்புகள் பாதிக்கப்பட்டவர் எதிர்கொள்ளும் மோசடியிலிருந்து அல்ல, மாறாக குழுவின் உள் செயல்பாடுகளிலிருந்து வந்தது. விசாரணையின் போது மீட்கப்பட்ட உடனடி பதிவுகள், தாய்-கம்போடியா எல்லைக்கு அருகில் அமைந்துள்ள இயற்பியல் மோசடி கலவைகளுக்குள் நிர்வாகப் பணிகளுக்கு ChatGPT ஐப் பயன்படுத்தியது தெரியவந்தது.
அந்த பதிவுகளில் நிர்வாக தகவல்தொடர்புகளை மொழிபெயர்த்தல், தொழிலாளர் கடன்களை பதிவு செய்தல், விசா கால அவகாசத்தை ஆவணப்படுத்துதல் மற்றும் ஒழுங்குமுறை அபராதங்களைக் கண்காணித்தல் ஆகியவை அடங்கும். சில பதிவுகள் கட்டாயக் காவலில் வைக்கப்பட்டது, தப்பித்த தொழிலாளர்கள் மற்றும் மனித கடத்தல் நெட்வொர்க்குகள் ஆகியவற்றைக் குறிப்பிடுகின்றன. இந்த விவரம் தென்கிழக்கு ஆசிய மோசடி கலவைகள் பற்றிய பல வருட அறிக்கைகளுடன் ஒத்துப்போகிறது, இது வேலை தேடுபவர்களை மோசடியான நிர்வாக சலுகைகளுடன் அடிக்கடி கவர்ந்திழுக்கும் மற்றும் பாஸ்போர்ட்களை பறிமுதல் செய்வதற்கு முன்பு அவர்களை வன்முறை அச்சுறுத்தலின் கீழ் சைபர் கிரைம் தொழிலாளர்களுக்கு கட்டாயப்படுத்துகிறது.
வேறு வார்த்தைகளில் கூறுவதானால், AI மாதிரிகள் இரட்டைக் கடமையைச் செய்தன: வெளிப்புறப் பாதிக்கப்பட்டவர்களுக்கு எதிராக ஆயுதம் ஏந்திய அதே நேரத்தில் சிறைப்பிடிக்கப்பட்ட பணியாளர்களுக்கான மேலாண்மை மென்பொருளாகப் பணியாற்றுகிறது.
OpenAI இன் பதில்
செயல்பாட்டுடன் தொடர்புடைய கணக்குகளை கண்டறிந்து துண்டித்து, அதன் மாதிரிகளுக்கான சிண்டிகேட் அணுகலைத் தடுப்பதாக OpenAI கூறியது. நிதிக் குற்றம் மற்றும் மனித உரிமை மீறல்களுக்காக அதன் தளத்தை தவறாகப் பயன்படுத்தும் நெட்வொர்க்குகளைக் கண்டறிந்து அகற்றுவதற்கான பரந்த முயற்சியின் ஒரு பகுதியாக நிறுவனம் இந்த இடையூறுகளை வகைப்படுத்தியது.
AI வழங்குநர்களுக்கு வளர்ந்து வரும் சவாலை இந்த வழக்கு அடிக்கோடிட்டுக் காட்டுகிறது. தீங்கிழைக்கும் நடிகர்கள் வணிக மொழி மாதிரிகளை வெறும் வெளிப்புற ஆயுதங்களாகக் கருதுவதில்லை - அவர்கள் அவற்றை செயல்பாட்டு மிடில்வேர்களாகப் பயன்படுத்துகிறார்கள், குற்றவியல் நிறுவனங்களின் பின்-அலுவலக இயந்திரங்களில் அவற்றை நெசவு செய்கிறார்கள். அந்த வகையான துஷ்பிரயோகத்தைக் கண்டறிவதற்கு, வெளிப்படையான பாதிக்கப்பட்டவர் எதிர்கொள்ளும் தூண்டுதல்களுக்கு அப்பால் பார்க்க வேண்டும்.
ஒரு புதிய கண்டறிதல் பிரச்சனை
செயல்பாட்டின் பாதுகாப்பு பகுப்பாய்வு, மோசடி தொடர்பான தூண்டுதல்களில் எளிய முக்கிய வடிகட்டுதல் இனி போதுமானதாக இருக்காது என்று கூறுகிறது. நிர்வாக பயன்பாட்டு வழக்குகள் - மெமோக்களை மொழிபெயர்த்தல், கடன்களைக் கண்காணித்தல், வருகையைப் பதிவு செய்தல் - தனிமையில் சாதாரணமானவை மற்றும் வெளிப்படையான மோசடி ஸ்கிரிப்ட்களைக் காட்டிலும் கொடியிடுவது மிகவும் கடினம்.
இடையூறுகளின் கவரேஜின் படி, இந்த இயல்பின் துஷ்பிரயோகத்தைக் கண்டறிவது பெருகிய முறையில் குறுக்கு-தளத்தில் நுண்ணறிவுப் பகிர்வு மற்றும் நிர்வாகத் தூண்டுதல்களின் நடத்தை பகுப்பாய்வு ஆகியவற்றைக் கோருகிறது, தனிப்பட்ட கோரிக்கைகள் தீங்கற்றதாகத் தோன்றினாலும் குற்றச் செயல்கள் தனித்துவமான செயல்பாட்டு தடயங்களை விட்டுச்செல்கின்றன. "இந்த மேலாளர் செய்தியை மொழிபெயர்க்க" ஒரு மாதிரியைக் கேட்கும் ஒரு ப்ராம்ட் இயல்பாகவே சந்தேகத்திற்குரியது அல்ல - ஆனால் இதுபோன்ற நூற்றுக்கணக்கான தூண்டுதல்கள், அறியப்பட்ட கலவையுடன் இணைக்கப்பட்ட கணக்குகளிலிருந்து உருவாகி, ஒரு வடிவத்தை உருவாக்குகின்றன.
பெரிய படம்
கம்போடியா செயல்பாடு என்பது, உருவாக்கும் AIக்கான துஷ்பிரயோக மேற்பரப்பு ஆழமான மற்றும் ஸ்பேம்களுக்கு அப்பால் விரிவடைந்துள்ளது என்பதற்கான சமீபத்திய சமிக்ஞையாகும். தொழில்நுட்பம் முதிர்ச்சியடையும் போது, அதிக மதிப்புள்ள துஷ்பிரயோகம் குறைவாகக் காணப்படலாம்: பாதிக்கப்பட்ட மொழிபெயர்ப்பிலிருந்து பணியாளர் மேலாண்மை வரை ஒரு சட்டவிரோத வணிகத்தின் தளவாடங்களை AI அமைதியாக இயக்குகிறது.
OpenAI மற்றும் அதன் போட்டியாளர்களுக்கு, அந்த மாற்றம் எவ்வளவு தூரம் கண்காணிப்பு பொறுப்புகளை நீட்டிக்க வேண்டும் என்பது பற்றிய கடினமான கேள்விகளை எழுப்புகிறது. வழங்குநர்கள் கணக்குகளை இடைநிறுத்த முடியும், ஆனால் அடிப்படை கலவைகள், கடத்தல் நெட்வொர்க்குகள் மற்றும் கட்டாய உழைப்பு நிலைமைகள் உள்ளன. டிஜிட்டல் லேயரை சீர்குலைப்பது உதவுகிறது, ஆனால் இந்த செயல்பாடுகளைத் தாங்கும் இயற்பியல் உள்கட்டமைப்பை அது சிதைக்காது.
இந்த வெளிப்பாடு ஒரு பரந்த ஒழுங்குமுறை தருணத்தின் மத்தியில் வருகிறது. புதிய வெளிப்படைத்தன்மை விதிகள் நடைமுறைக்கு வருவதோடு, AI நிறுவனங்கள் தங்கள் மாதிரிகள் எவ்வாறு பயன்படுத்தப்படுகின்றன என்பதைக் கணக்கிடுவதற்கான அழுத்தம் அதிகரித்து வருவதால், இது போன்ற நிகழ்வுகள் அமலாக்க முன்னுரிமைகள் மற்றும் தொழில்நுட்ப பாதுகாப்பு வழங்குநர்கள் எதிர்கால அமைப்புகளில் உருவாக்கப்படும்.
இது ஒரு சங்கடமான சமச்சீரற்ற தன்மையையும் எடுத்துக்காட்டுகிறது. சட்டப்பூர்வ வணிகங்களுக்கு ChatGPTஐ மதிப்புமிக்கதாக மாற்றும் அதே மொழித் திறன்கள் - மொழிபெயர்ப்பு, வரைவு, சுருக்கம் - இது எல்லைகள் மற்றும் மொழிகளுக்கு அப்பால் செயல்படும் குற்றவியல் நிறுவனங்களுக்கு கவர்ச்சிகரமானதாக அமைகிறது. ஒரு சிறு வணிகம் ஒரு டஜன் நாடுகளில் உள்ள வாடிக்கையாளர்களைச் சென்றடைய உதவும் ஒரு மாதிரியானது, ஒவ்வொரு கண்டத்திலும் ஒரு மோசடி சிண்டிகேட் இலக்கு பாதிக்கப்பட்டவர்களுக்கு எளிதாக உதவ முடியும். வித்தியாசம் தொழில்நுட்பத்தில் இல்லை, ஆனால் அதைச் சுற்றியுள்ள உள்கட்டமைப்பில் உள்ளது, அங்குதான் வழங்குநர்கள் மிகக் குறைந்த பார்வையைக் கொண்டுள்ளனர்.
அடுத்து என்ன வரும்
OpenAI இன் வெளிப்படுத்தல் அதன் வெளிப்படைத்தன்மைக்கு குறிப்பிடத்தக்கது. நெட்வொர்க் எவ்வாறு இயங்குகிறது என்ற விவரங்களை வெளியிடுவதன் மூலம், பிற வழங்குநர்களும் சட்ட அமலாக்க முகவர்களும் இதே போன்ற முறைகேடுகளைக் கண்டறிய பயன்படுத்தக்கூடிய டெம்ப்ளேட்டை நிறுவனம் வழங்குகிறது. ஆனால், கணக்கு இடைநிறுத்தங்கள், அவசியமானாலும், புதிய அடையாளங்களை உருவாக்கி, ஒப்பீட்டளவில் எளிதாக செயல்பாடுகளை இடமாற்றம் செய்யக்கூடிய ஒரு எதிரிக்கு எதிரான ஒரு எதிர்வினை நடவடிக்கை என்பதையும் இந்த வழக்கு தெளிவுபடுத்துகிறது.
பாதுகாப்புக் குழுக்கள் மற்றும் AI வழங்குநர்களுக்கு ஒரே மாதிரியாக, இந்த வகை துஷ்பிரயோகத்திற்கு எதிராக பாதுகாக்க, முறை கண்டறிதல், நிறுவனங்கள் முழுவதும் தரவுப் பகிர்வு மற்றும் இயற்பியல் சேர்மங்களுக்கு எதிராகச் செயல்படக்கூடிய அதிகாரிகளுடன் ஒத்துழைப்பு ஆகியவற்றில் நிலையான முதலீடு தேவைப்படும். டிஜிட்டல் அடுக்கு மற்றும் இயற்பியல் அடுக்கு, இந்த வழக்கு நிரூபிக்கிறது, இனி பிரிக்க முடியாது.
AIக்கு முன்னால் இருங்கள்
செயற்கை நுண்ணறிவைச் சுற்றியுள்ள பாதுகாப்பு அபாயங்கள், நெறிமுறை சிக்கல்கள் மற்றும் கொள்கை விவாதங்கள் பற்றிய கூடுதல் தகவலுக்கு, AI Buzz Wire இலிருந்து AI செய்திகளைப் பற்றி அறிந்துகொள்ளுங்கள்.
மேலும் AI செய்திகளைப் படிக்கவும் →
