Tim riset keamanan nemokake cara kanggo njupuk alih akun ChatGPT apa wae mung kanthi njaluk korban mbukak link obrolan sing dienggo bareng, miturut pambocoran teknis sing diterbitake dening Parameter Labs tanggal 28 Oktober. Perusahaan kasebut nglaporake yen OpenAI mbenerake kerentanan kasebut ing 26 Oktober lan ngklasifikasikake laporan kasebut minangka P1, peringkat keruwetan paling dhuwur.
Panemuan kasebut minangka pengambilalihan akun end-to-end sing langka marang platform AI mainstream, lan ndharat minangka pangembangan AI paling anyar terus nuduhake sepira bahan sensitif sing saiki disimpen ing aplikasi chatting. Parameter Labs ujar manawa serangan kasebut ora mbutuhake instalasi aplikasi, ora ana alat pangembang, lan ora ana interaksi ngluwihi mbukak URL ChatGPT sing dienggo bareng penyerang.
Cara Kerja Rantai Serangan
Rantai kasebut nyiksa rong fitur ChatGPT biasa sing katon ora mbebayani ing kapisah: grafik interaktif lan kothak wedhi Pratinjau HTML. Fitur Pratinjau ChatGPT mbukak HTML sing digawe ing pigura sing diwatesi ing alamat web sing kapisah, sing kudu nyegah saka ndemek kaca chatgpt.com sing wis mlebu ing saubengé.
Terobosan kasebut teka saka grafik, sing ngemot perpustakaan matematika sing diarani MathLive. Pustaka kasebut nginstal pamiyarsa pesen ing kaca ChatGPT utama kanggo keyboard layar, nanging Parameter Labs nemokake pamireng nampa pesen saka asal-usul apa wae tanpa verifikasi pangirim. Siji jinis pesen sing ditampa bisa ngganti tata letak keyboard virtual nganggo HTML sing dikontrol penyerang, sing banjur dilebokake MathLive menyang kaca ChatGPT nyata liwat innerHTML.
Skrip sing dilebokake kaya ngono ora biasane dieksekusi, mula peneliti mbungkus muatan ing iframe nggunakake atribut srcdoc. Amarga kaca ChatGPT utama nggawe pigura kasebut tanpa kothak wedhi, browser kasebut nganggep kode ing njero minangka konten chatgpt.com asli kanthi akses menyang kaca induk.
Mlayu saka Kebijakan Keamanan Konten
Kabijakan Keamanan Konten ChatGPT isih mblokir skrip inline, nanging Lab Parameter nemokake jurang: kabijakan kasebut ngidini skrip saka YouTube. Peneliti nemokake manawa endpoint oEmbed YouTube nggambarake parameter callback JSONP sing ora valid menyang respon kesalahan sadurunge validasi, ngidini dheweke nyiyapake JavaScript sing bisa dieksekusi kanggo tanggapan sing bakal diunggah browser kanthi seneng minangka skrip.
Ing wektu kasebut, tim kasebut duwe JavaScript sewenang-wenang sing nganggo identitas chatgpt.com ing sesi mlebu korban. Parameter Labs eksplisit babagan apa tegese ing praktik: muatan kasebut ora diwatesi kanggo ngowahi kaca utawa nampilake tandha - bisa langsung nelpon API ChatGPT sing dikonfirmasi minangka korban. Ing tes, muatan kasebut bisa nyathet dhaptar obrolan korban, njupuk isi obrolan pribadi sing ora tau dienggo bareng karo penyerang, lan ngirim data kasebut menyang server eksternal. Browser ngenali saben tumindak minangka teka saka chatgpt.com dhewe, menehi korban ora ana sinyal sing katon ana apa-apa.
Siji Link Wis Cukup
Sing ngowahi bug riset dadi senjata praktis yaiku pangiriman. Para peneliti nempatake grafik lan blok HTML sing bisa dideleng menyang obrolan biasa siji, diterbitake nganggo fitur enggo bareng normal ChatGPT, lan ngirim link / nuduhake / asil kanthi rute sing padha digunakake sapa wae: email, chatting, tiket dhukungan, utawa kiriman sosial.
Ing reproduksi sing paling stabil, korban kudu ngeklik tombol Pratinjau ChatGPT sapisan sawise mbukak link kasebut. Versi mengko nandhani blok HTML minangka pratinjau, mula ChatGPT mbukak kanthi otomatis lan mung tumindak sing dibutuhake korban yaiku ngunjungi URL. Tim kasebut ngasilake jalur otomatis kanthi otomatis kaping telu ing akun sing kapisah, kalebu sawise refresh hard, kanthi muatan sing diluncurake kira-kira 4,5 detik sawise kaca dimuat.
Amarga grafik lan pratinjau dimuat kanthi mandiri, muatan bisa sok-sok murub sadurunge MathLive siap. Versi final nyoba maneh pesen kanggo wektu winates kanggo nangani kondisi balapan kasebut.
Pambocoran lan Ndandani
Parameter Labs nglaporake masalah kasebut menyang OpenAI, sing ngirim fix tanggal 26 Oktober lan menehi rating P1. Pambocoran kasebut teka ing tengah riset keamanan platform AI sing luwih akeh; awal minggu iki Register nglaporake kewan omo ing limang alat pangembang AI, sawetara sing isih durung dipasang ing publikasi.
Pawulangan generalizes ngluwihi siji perpustakaan. Aplikasi chatting modern nyusun komponen pihak katelu, pratinjau kothak wedhi, lan saluran pesen permisif ing siji kaca sing wis dikonfirmasi, lan panrima postMessage sing durung diverifikasi bisa dadi jembatan ing antarane. Kanggo pangguna, tuntunan praktis ora owah saka keamanan web klasik: nambani pranala menyang obrolan AI sing dienggo bareng karo cara sampeyan nambani tautan sing ora dikarepake, amarga platform kasebut ora bisa janji manawa mbukak ora mbebayani.
Kanggo bagean kasebut, klasifikasi P1 OpenAI lan turnaround cepet nyaranake perusahaan nganggep serangan sesi basis browser ing chatgpt.com minangka ancaman tingkat pertama. Kedadeyan kasebut uga minangka pangeling babagan jumlah konsentrasi ing akun kasebut saiki pangguna nyimpen dokumen kerja, pitakonan medis, lan proyek pribadi ing riwayat obrolan - persis isi Parameter Labs mbuktekake manawa penyerang bisa diekstrak.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
