Akili Bandia inafanya ulaghai wa kuhadaa kwa kutumia mikuki kuwa mzuri zaidi, na watu wengi hawawezi kutofautisha chambo kilichoandikwa na AI na kilichoandikwa na binadamu. Hayo ndiyo matokeo ya msingi ya utafiti mpya kutoka Chuo Kikuu cha Brigham Young, kilichochapishwa katika Jarida lililopitiwa upya na marika la Cybersecurity na Faragha na kuangaziwa katika habari za hivi majuzi na KSL.com na Phys.org.
"Utafiti wetu ni wa hivi punde tu kuonyesha jinsi hali ya sasa ya AI ilivyo ya kisasa," alisema Jerson Francia, mtafiti wa usalama wa mtandao wa BYU aliyehusika katika kazi hiyo, kulingana na taarifa ya habari ya BYU.
Walichokifanya Watafiti
Utafiti huo, ulioidhinishwa na timu ya BYU na unapatikana kama nakala ya awali kwenye arXiv, ulianzisha ulinganisho unaodhibitiwa kati ya ujumbe wa maandishi wa kuhadaa uliobinafsishwa unaotolewa na GPT-4 na ujumbe ulioandikwa na wanovisi binadamu - wanafunzi kuandika chini ya vizuizi vya muda - kwa malengo sawa 25.
Washiriki kila mmoja alipokea seti ya jumbe 12 zilizobinafsishwa zilizoundwa mahususi kwa ajili yao. Baadhi zilitokana na AI, nyingine ziliandikwa na binadamu. Watafiti walitumia mbinu wanayoiita TRAPD - Njia ya Kuweka Daraja kwa Udanganyifu wa Kubinafsishwa - ambayo washiriki walipanga ujumbe, walionyesha hatua ambayo wangekusudia kubofya, walielezea hoja zao, na kutathmini ikiwa kila ujumbe ulikuwa umeandikwa na mtu au na GPT-4.
Muundo ni muhimu kwa sababu tafiti nyingi za awali za hadaa zilipima matokeo katika muhtasari. Huyu alipima majibu kwa jumbe zilizobinafsishwa kwa kila mshiriki mmoja mmoja, ambayo ndiyo hasa jinsi hadaa halisi ya kutumia mkuki inavyofanya kazi.
Mibofyo Zaidi, Hakuna Ugunduzi Bora
Nambari za kichwa: Ujumbe unaozalishwa na GPT-4 uliibua nia ya kubofya mara nyingi zaidi kuliko ujumbe ulioandikwa na wanafunzi - 28% dhidi ya 21% - ingawa watafiti wanabainisha kuwa tofauti hiyo ina kutokuwa na uhakika wa takwimu kutokana na ukubwa wa jaribio la majaribio.
Matokeo ya kusumbua zaidi ni yale ambayo washiriki hawakuweza kufanya. Walipoulizwa ikiwa ujumbe uliandikwa na binadamu au ulitolewa na AI, wapokeaji walitambua chanzo kwa usahihi zaidi kuliko bahati nasibu. Kwa maneno mengine, tahadhari ya ziada ambayo watu wanaamini kuwa inatumika kwa maandishi yaliyoandikwa na mashine haikuonekana kwenye matokeo - washiriki wa utafiti kimsingi walikuwa wakibadilisha uandishi.
Utafiti huo pia uligundua kuwa muktadha unashinda maudhui: jumbe zilizoandaliwa kuhusu masuala yanayohusiana na kazi zilikuwa na uwezekano mkubwa wa kusababisha nia ya kubofya kuliko ujumbe unaohusishwa na mambo ya kufurahisha au mitandao ya kijamii. Kwa washambuliaji, hiyo ni njia ya kuzidisha nguvu, kwa sababu maelezo ya ajira ni miongoni mwa taarifa za kibinafsi zilizo rahisi zaidi kupata mtandaoni.
Kwa Nini Vivutio Vinavyohusiana Na Kazi Hufanya Kazi Bora Zaidi
Ugunduzi wa ujumbe unaohusiana na kazi unastahili kuzingatiwa mahususi kutoka kwa watetezi. Kuhadaa kwa mkuki hufaulu kupitia ubinafsishaji - ujumbe unaorejelea mwajiri wako, jukumu lako, au miradi yako ya sasa unahisi kuwa halali kwa sababu ni mahususi.
Matokeo ya BYU yanapendekeza kwamba miundo mikubwa ya lugha inabana sana mtiririko huo wa ubinafsishaji. Kile ambacho hapo awali kilihitaji saa za utafiti wa mwongozo na uandishi makini wa mhandisi wa kijamii mwenye ujuzi sasa kinaweza kukadiriwa kutoka kwa vidokezo rahisi kwa gharama ya karibu na sufuri, watafiti wanaandika. Kizuizi cha kuendesha kampeni kubwa iliyobinafsishwa sio ujuzi tena. Ni ufikiaji wa chatbot na orodha inayolengwa.
Maana yake kwa Mabeki
Athari za kiutendaji ni za kutisha kwa timu za usalama. Mafunzo ya uhamasishaji mara nyingi huwafunza wafanyakazi kutambua misemo isiyo ya kawaida, sauti isiyo ya kawaida au lugha isiyo ya asili - huonyesha kwamba majaribio ya kuhadaa yaliyofichuliwa kihistoria. Kigunduzi ambacho kinategemea kuona maandishi ya "robotiki" sasa hakitegemeki kwa kiasi kikubwa, kwa kuwa wapokeaji katika utafiti huu hawakuweza kutofautisha AI-iliyoandikwa na ujumbe ulioandikwa na binadamu hata kidogo.
Timu ya BYU inaweka matokeo kama ushahidi kwamba ubinafsishaji unaopatikana kwa kutumia AI unaweza kuongeza kiwango cha vitendo cha vitisho vya uhandisi wa kijamii. Ulinzi unaodhani kuwa hadaa wa bei nafuu utasalia kuwa kawaida umejengwa kwa kudhani kuwa data haikubaliani tena.
Watafiti pia wanasisitiza mipaka ya utafiti. Ilikuwa majaribio ya watu 25 kwa kutumia jumbe za SMS, na waandishi wa wanafunzi badala ya walaghai kitaaluma - ulinganisho ambao, kama kuna chochote, unapunguza pengo kati ya matokeo ya AI na wastani wa ubora wa kashfa wa ulimwengu halisi. Timu inabaini kuwa ingawa majaji wa kibinadamu hawakuweza kutofautisha vyanzo, seti hizo mbili za ujumbe zilibaki kutofautishwa kwa hesabu, na kuacha nafasi ya mbinu za ugunduzi wa kiotomatiki.
Kwa mashirika, kuchukua ni kwa utaratibu badala ya kiufundi: thibitisha maombi kupitia njia tofauti, chukulia udharura na utungaji unaohusiana na kazi kama ishara za hatari bila kujali jinsi ujumbe ulivyosomwa, na kudhani kuwa kuandikwa vizuri hakumaanishi tena kuandikwa na binadamu.
Kaa Mbele ya AI
Kufuatilia jinsi AI inaunda upya usalama na jamii? Soma habari zaidi za AI kwenye AI Buzz Wire — utangazaji huru wa AI, kila siku.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
