Timu ya utafiti wa usalama ilipata njia ya kuchukua akaunti yoyote ya ChatGPT kwa kumfanya mwathiriwa afungue kiungo cha mazungumzo ya pamoja, kulingana na ufumbuzi wa kiufundi uliochapishwa na Parameter Labs mnamo Oktoba 28. Kampuni hiyo iliripoti kuwa OpenAI ilirekebisha uwezekano huo mnamo Oktoba 26 na kuainisha ripoti kama P1, ukadiriaji wake wa juu zaidi.
Ugunduzi huu ni unyakuzi wa nadra wa kutoka mwisho hadi mwisho dhidi ya mfumo mkuu wa AI, na ulikuja kama maendeleo ya hivi punde ya AI yanaendelea kuonyesha ni nyenzo ngapi ambazo watu sasa huweka ndani ya programu za gumzo. Parameta Labs zilisema shambulio hilo halihitaji usakinishaji wa programu, hakuna zana za wasanidi programu, na hakuna mwingiliano wowote zaidi ya kufungua URL ya ChatGPT iliyoshirikiwa ya mvamizi.
Jinsi Msururu wa Mashambulizi Ulivyofanya kazi
Msururu ulitumia vibaya vipengele viwili vya kawaida vya ChatGPT ambavyo vilionekana kuwa visivyo na madhara katika kutengwa: grafu inayoingiliana na kisanduku cha mchanga cha Onyesho la Kukagua HTML. Kipengele cha Muhtasari wa ChatGPT huendesha HTML iliyozalishwa katika fremu iliyowekewa vikwazo kwenye anwani tofauti ya wavuti, ambayo inapaswa kuizuia kugusa ukurasa wa chatgpt.com ulioingia ndani kuizunguka.
Mafanikio hayo yalitoka kwa grafu, ambayo ilipakia maktaba ya hesabu inayoitwa MathLive. Maktaba hiyo ilisakinisha kisikilizaji cha ujumbe katika ukurasa mkuu wa ChatGPT kwa kibodi yake ya skrini, lakini Maabara ya Parameta ilipata msikilizaji alikubali ujumbe kutoka asili yoyote bila kuthibitisha mtumaji. Aina moja ya ujumbe unaokubalika inaweza kuchukua nafasi ya mpangilio wa kibodi pepe na HTML inayodhibitiwa na mshambulizi, ambayo MathLive iliiingiza kwenye ukurasa halisi wa ChatGPT kupitia innerHTML.
Maandishi yaliyoingizwa kwa njia hiyo kawaida hayatekelezwi, kwa hivyo watafiti walifunga mzigo wao wa malipo katika iframe kwa kutumia sifa ya srcdoc. Kwa sababu ukurasa mkuu wa ChatGPT uliunda fremu hiyo bila kisanduku cha mchanga, kivinjari kilichukulia msimbo ulio ndani yake kama maudhui halisi ya chatgpt.com yenye ufikiaji wa ukurasa mzazi.
Kuepuka Sera ya Usalama wa Maudhui
Sera ya Usalama ya Maudhui ya ChatGPT bado imezuia hati za ndani, lakini Maabara ya Parameta ilipata pengo: sera iliruhusu hati kutoka kwa YouTube. Watafiti waligundua kuwa sehemu ya mwisho ya oEmbed ya YouTube ilionyesha kigezo batili cha kupiga simu cha JSONP katika jibu lake la hitilafu kabla ya uthibitishaji, na kuwaruhusu kutanguliza JavaScript inayoweza kutekelezwa kwa jibu ambalo kivinjari kingepakia kwa furaha kama hati.
Wakati huo timu ilikuwa na JavaScript isiyo halali inayoendeshwa na kitambulisho cha chatgpt.com ndani ya kipindi cha kuingia kwa mwathiriwa. Maabara ya Vigezo yalikuwa wazi kuhusu maana ya hilo katika mazoezi: upakiaji haukuwa tu kwa kurekebisha ukurasa au kuonyesha arifa - inaweza kuita moja kwa moja API zilizothibitishwa za ChatGPT kama mwathiriwa. Katika majaribio, malipo yanaweza kuorodhesha orodha ya mazungumzo ya mwathiriwa, kurejesha maudhui ya mazungumzo ya faragha ambayo hayajawahi kushirikiwa na mshambuliaji, na kutuma data hiyo kwa seva ya nje. Kivinjari kilitambua kila kitendo kuwa kinatoka kwa chatgpt.com yenyewe, na kumpa mwathirika ishara yoyote inayoonekana kuwa kuna kitu kibaya.
Kiungo Kimoja Kilitosha
Kilichogeuza mdudu wa utafiti kuwa silaha ya vitendo ilikuwa utoaji. Watafiti waliweka grafu na kizuizi cha HTML kinachoweza kuchunguliwa katika mazungumzo moja ya kawaida, wakaichapisha na kipengele cha kawaida cha kushiriki cha ChatGPT, na kutuma kiungo /share/ kwa njia sawa na ambazo mtu yeyote angetumia: barua pepe, gumzo, tikiti ya usaidizi, au chapisho la kijamii.
Katika uwasilishaji ulio thabiti zaidi, mwathirika alilazimika kubofya kitufe cha Hakiki cha ChatGPT mara baada ya kufungua kiungo. Toleo la baadaye lilitia alama kizuizi cha HTML kama cha kuchunguliwa, kwa hivyo ChatGPT iliifungua kiotomatiki na hatua pekee iliyohitajika ya mwathirika ilikuwa kutembelea URL. Timu ilizalisha tena njia hiyo kiotomatiki mara tatu katika akaunti tofauti, ikijumuisha baada ya kusasisha upya kwa bidii, huku mzigo wa malipo ukifyatua takribani sekunde 4.5 baada ya ukurasa kupakiwa.
Kwa sababu grafu na onyesho la kukagua lilipakiwa kwa kujitegemea, mzigo wa malipo unaweza kuwaka mara kwa mara kabla ya MathLive kuwa tayari. Toleo la mwisho lilijaribu tena ujumbe wake kwa muda mfupi ili kushughulikia hali hiyo ya mbio.
Kufichua na Kurekebisha
Parameta Labs iliripoti suala hilo kwa OpenAI, ambayo ilisafirisha marekebisho mnamo Oktoba 26 na kukadiria ripoti P1. Ufichuzi unakuja huku kukiwa na utafiti mpana wa usalama wa jukwaa la AI; mapema wiki hii Sajili iliripoti hitilafu katika zana tano za wasanidi wa AI, zingine bado hazijachapishwa wakati wa kuchapishwa.
Somo linajumuisha zaidi ya maktaba moja. Programu za kisasa za gumzo huunda vipengee vya wahusika wengine, onyesho la kukagua vilivyowekwa kwenye kisanduku cha mchangani, na vituo vya ujumbe ruhusu katika ukurasa mmoja ulioidhinishwa, na kipokezi chochote cha postMessage ambacho hakijathibitishwa kinaweza kuwa daraja kati yao. Kwa watumiaji, mwongozo wa vitendo haujabadilika kutoka kwa usalama wa kawaida wa wavuti: shughulikia viungo vya mazungumzo ya AI ya pamoja jinsi unavyoshughulikia kiungo kingine chochote ambacho haujaombwa, kwa sababu mfumo hauwezi tena kuahidi kuwa kufungua hakuna madhara.
Kwa upande wake, uainishaji wa P1 wa OpenAI na mabadiliko ya haraka yanapendekeza kampuni ichukue mashambulio ya kikao cha msingi cha kivinjari kwenye chatgpt.com kama vitisho vya kiwango cha kwanza. Tukio hili pia ni ukumbusho wa kiasi gani cha thamani hujilimbikizia katika akaunti hizi ambapo sasa watumiaji huhifadhi hati za kazi, maswali ya matibabu na miradi ya kibinafsi katika historia ya gumzo - hasa maudhui ambayo Parameta ya Maabara ilithibitisha kuwa mvamizi angeweza kutoa.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
