OpenAI Inavuruga Pete ya Kashfa ya GPT yenye misingi ya Kambodia inayohusishwa na Kazi ya Kulazimishwa na Usafirishaji haramu wa binadamu

OpenAI imetatiza mtandao ulioratibiwa wa kashfa unaoendeshwa na ChatGPT unaofanya kazi nje ya Poipet, Kambodia, kampuni hiyo ilifichua katika ripoti inayoeleza jinsi vikundi vya wahalifu sasa vinavyopachika miundo ya kijasusi ya kibiashara katika shughuli za kila siku za kazi za kulazimishwa.

Ufichuzi huo, uliochapishwa Julai 31 chini ya kichwa "Kuvuruga Operesheni ya Ulaghai wa Jinai," unaelezea harambee iliyotumia ChatGPT sio tu kuwahadaa waathiriwa kote ulimwenguni lakini pia kudhibiti utendaji wa ndani wa biashara inayohusishwa na biashara haramu ya binadamu. Kesi hiyo inatoa kidirisha cha kuona jinsi miundo mikubwa ya lugha inavyotumika kama miundombinu ya uendeshaji wa uhalifu uliopangwa. Kwa ripoti inayoendelea kuhusu matumizi mabaya na ulinzi wa AI, fuata maendeleo ya hivi punde ya AI katika AI Buzz Wire.

Jinsi Mtandao Ulivyoendeshwa

Kulingana na matokeo ya OpenAI, biashara ya uhalifu ilitegemea ChatGPT kutafsiri mawasiliano ya wahasiriwa, kuzalisha miingiliano ya ulaghai ya uwekezaji, na kuandaa notisi za kisheria ghushi. Waendeshaji walilenga watu binafsi kupitia majukwaa ya ujumbe ikiwa ni pamoja na WhatsApp na Telegram, wakiendesha baiskeli kupitia mzunguko wa maisha wa udanganyifu wa hatua tatu.

Mpango huo kwa kawaida ulianza na miondoko ya kimapenzi iliyobuniwa kujenga uaminifu, kisha ikaegemea kwenye mifumo ya uwekezaji ya uwongo ya sarafu ya fiche, na hatimaye ikafikia vitisho vya kutozwa faini bandia za kutekeleza sheria wakati hatua za awali ziliposhindwa. Waendeshaji hawakuwa na ulaghai mmoja pekee - waliunganisha mipangilio ya kimapenzi na madawati bandia ya biashara ya dhahabu na kuelekeza malengo kwenye vituo vya kamari, na hivyo kuongeza idadi ya njia za malipo.

Kilichotenganisha operesheni hii ilikuwa kiwango na nidhamu ya matumizi yake ya AI. Badala ya kutekeleza vidokezo vichache vya mara moja, shirika hilo liliweka miundo ya uzalishaji ili kutoa mawasiliano ya uhakika, yaliyojanibishwa kwa sauti ya juu katika lugha nyingi.

Kipimo cha Kazi ya Kulazimishwa

Matokeo ya kutatanisha zaidi hayakuja kutokana na ulaghai unaowakabili waathiriwa bali kutokana na shughuli za ndani za kikundi. Kumbukumbu za haraka zilizopatikana wakati wa uchunguzi zilifichua kuwa waendeshaji walitumia ChatGPT kwa kazi za usimamizi ndani ya misombo ya ulaghai iliyo karibu na mpaka wa Thai na Kambodia.

Kumbukumbu hizo zilijumuisha kutafsiri mawasiliano ya usimamizi, madeni ya wafanyakazi kukata miti, kuweka kumbukumbu za visa vya kuchelewa, na kufuatilia faini za kinidhamu. Baadhi ya maingizo yalirejelea kuwekwa kizuizini kwa kulazimishwa, wafanyikazi waliotoroka, na mitandao ya ulanguzi wa binadamu. Maelezo hayo yanapatana na miaka ya kuripoti kuhusu misombo ya ulaghai ya Kusini-mashariki mwa Asia, ambayo mara nyingi huwavutia wanaotafuta kazi kwa ofa za ulaghai za kiutawala kabla ya kuwanyang'anya pasi na kuwalazimisha kufanya kazi ya uhalifu mtandaoni chini ya tishio la vurugu.

Kwa maneno mengine, miundo ya AI ilikuwa ikifanya kazi maradufu: ikiwa na silaha dhidi ya wahasiriwa wa nje wakati huo huo ikitumika kama programu ya usimamizi kwa wafanyikazi waliofungwa.

Majibu ya OpenAI

OpenAI ilisema ilitambua na kukata akaunti zinazohusiana na operesheni hiyo, na kuzuia ufikiaji wa syndicate kwa mifano yake. Kampuni hiyo ilibaini usumbufu huo kama sehemu ya juhudi pana za kugundua na kutenganisha mitandao inayotumia vibaya jukwaa lake kwa uhalifu wa kifedha na ukiukaji wa haki za binadamu.

Kesi hiyo inasisitiza changamoto inayokua kwa watoa huduma wa AI. Waigizaji hasidi hawachukulii tena modeli za lugha za kibiashara kama silaha za nje - wanazitumia kama vifaa vya kati vinavyofanya kazi, na kuziweka katika mifumo ya ofisi ya nyuma ya biashara ya uhalifu. Kugundua aina hiyo ya unyanyasaji kunahitaji kuangalia zaidi ya vidokezo dhahiri vinavyomkabili mwathirika.

Tatizo Jipya la Kugundua

Uchanganuzi wa usalama wa operesheni unapendekeza kuwa uchujaji wa maneno muhimu kwa vidokezo vinavyohusiana na ulaghai hautoshi tena. Kesi za matumizi ya kiutawala - kutafsiri memo, kufuatilia madeni, mahudhurio ya ukataji miti - husomwa kama kawaida kwa kutengwa na ni ngumu sana kuripoti kuliko hati za ulaghai.

Kulingana na habari kuhusu usumbufu huo, kugundua matumizi mabaya ya aina hii kunazidi kudai ugavi wa kijasusi katika mifumo mbalimbali na uchanganuzi wa kitabia wa vidokezo vya usimamizi, ambapo shughuli za uhalifu huacha alama tofauti za utendaji hata wakati maombi ya mtu binafsi yanaonekana kuwa sawa. Kidokezo cha kuuliza mwanamitindo "atafsiri ujumbe huu wa msimamizi" si cha kutiliwa shaka - lakini mamia ya vidokezo kama hivyo, vinavyotoka kwa akaunti zilizounganishwa na mchanganyiko unaojulikana, huunda muundo.

Picha Kubwa

Operesheni ya Kambodia ndiyo ishara ya hivi punde zaidi kwamba matumizi mabaya ya AI ya uzalishaji yamepanuka zaidi ya bandia na barua taka. Kadiri teknolojia inavyoendelea kukomaa, matumizi mabaya ya thamani ya juu zaidi yanaweza yasionekane zaidi: AI inaendesha taratibu za biashara haramu kwa utulivu, kutoka kwa tafsiri ya mwathiriwa hadi usimamizi wa nguvu kazi.

Kwa OpenAI na washindani wake, mabadiliko hayo yanazua maswali magumu kuhusu jinsi majukumu ya ufuatiliaji yanapaswa kupanuka. Watoa huduma wanaweza kusimamisha akaunti, lakini michanganyiko ya msingi, mitandao ya usafirishaji haramu wa binadamu, na masharti ya kulazimishwa kufanya kazi bado. Kutatiza safu ya kidijitali husaidia, lakini hakuondoi miundombinu halisi inayodumisha shughuli hizi.

Ufichuzi huo pia unakuja katikati ya wakati mpana wa udhibiti. Huku sheria mpya za uwazi zikianza kutumika na shinikizo linaloongezeka kwa kampuni za AI kuwajibika kwa jinsi miundo yao inavyotumiwa, kesi kama hii huenda zikaunda vipaumbele vya utekelezaji na watoa huduma wa ulinzi wa kiufundi hujiunda katika mifumo ya siku zijazo.

Pia inaonyesha asymmetry isiyo na wasiwasi. Uwezo sawa wa lugha unaoifanya ChatGPT kuwa ya thamani kwa biashara halali - tafsiri, kuandaa rasimu, muhtasari - ndiyo hasa inayoifanya ivutie makampuni ya uhalifu ambayo yanafanya kazi kuvuka mipaka na lugha. Muundo unaoweza kusaidia biashara ndogo kufikia wateja katika nchi kadhaa unaweza kusaidia kwa urahisi shirika la ulaghai kuwahangaisha walengwa katika kila bara. Tofauti haipo katika teknolojia bali katika miundombinu inayozungukwa nayo, na hapo ndipo watoa huduma wanaonekana kidogo zaidi.

Nini Kinafuata

Ufichuzi wa OpenAI unajulikana sana kwa uwazi wake kama vile usumbufu wenyewe. Kwa kuchapisha maelezo ya jinsi mtandao ulivyofanya kazi, kampuni inatoa kiolezo ambacho watoa huduma wengine na mashirika ya kutekeleza sheria wanaweza kutumia ili kutambua matumizi mabaya sawa. Lakini kesi hiyo pia inaweka wazi kuwa kusimamishwa kwa akaunti, hata hivyo ni lazima, ni hatua tendaji dhidi ya adui ambaye anaweza kuibua vitambulisho vipya na kuhamisha shughuli kwa urahisi.

Kwa timu za usalama na watoa huduma wa AI sawa, jambo la kuchukua ni kwamba kujilinda dhidi ya aina hii ya unyanyasaji kutahitaji uwekezaji endelevu katika kugundua muundo, kushiriki data kwenye makampuni yote, na ushirikiano na mamlaka zinazoweza kuchukua hatua dhidi ya viambajengo vyenyewe. Safu ya kidijitali na safu halisi, kama kesi hii inavyoonyesha, hazitengani tena.

Kaa Mbele ya AI

Kwa zaidi kuhusu hatari za usalama, matatizo ya kimaadili, na mijadala ya sera inayohusu akili bandia, endelea na habari zinazochipuka za AI kutoka AI Buzz Wire.

Soma habari zaidi za AI →