OpenAI ngandika ana sing wis nglarang loro operasi pengaruh covert - siji asalé saka Rusia lan siji ing Iran - sing nggunakake ChatGPT kanggo mbukak canggih "palsu ngarep" entitas dirancang kanggo ngumbah propaganda geopolitik menyang toko media nyata. Perusahaan kasebut ujar manawa kampanye asal Rusia minangka operasi pengaruh sing paling adoh sing wis diganggu wiwit nerbitake laporan ancaman rong setengah taun kepungkur.

Pambocoran kasebut, sing diterbitake ing situs web OpenAI, minangka entri paling anyar ing serangkaian laporan babagan carane aktor sing selaras karo negara nyalahi panggunaan model AI komersial. Iki uga nandheske, kaya sing wis kacathet ing babak paling anyar [kabar AI] (https://aibuzzwire.news), pola OpenAI wis diamati ing 30 operasi rahasia sing wis dibukak wiwit awal 2024: kampanye sing sukses nempatake konten ing publikasi asli tekan pamirsa sing luwih akeh tinimbang sing ngandelake akun media sosial palsu.

Kategori 5 pisanan: Operasi "Dark Clark"

Operasi Rusia, sing OpenAI dijuluki "Dark Clark," pusate organisasi riset gaya dhewe ing Amerika Latin sing diarani Pusat Riset Sosial (SRC). Miturut OpenAI, operator ngontrol think tank kasebut liwat persona palsu sing jenenge "Mia Clark," nalika karyawan lokal ing Amerika Latin nindakake wawancara lan nyusun makalah riset tanpa ngerti yen dheweke kerja ing grup Rusia.

Nggunakake Skala Breakout - ukuran 1 nganti 6 saka jangkauan potensial operasi pengaruh sing dikembangake ing Brookings - OpenAI ngevaluasi Dark Clark ing Kategori 5, rating paling dhuwur sing diwenehake kanggo operasi apa wae wiwit laporan kasebut diwiwiti. Kampanye asal Iran tekan Kategori 4.

Akeh panggunaan ChatGPT operator menyang laporan internal menyang pawang sing ora dingerteni, ujare OpenAI, nggambarake kampanye kanggo ngremehake Ukraina, ngrusak rekrutmen kanggo angkatan bersenjata Ukraina, lan ngganggu politik domestik ing Argentina lan Bolivia. Operator biasane njaluk ing basa Rusia lan ngandelake VPN kanggo ngakses layanan kasebut, sing ngalangi lalu lintas saka Rusia.

Peneliti OpenAI ndhukung sawetara kampanye sing diklaim operasi liwat sumber terbuka. Salah sijine email palsu sing diduga asale saka direktur pendidikan regional Lima, menehi instruksi marang sekolah-sekolah ing ibukutha Peru supaya nganakake acara ngurmati Stepan Bandera - tokoh nasionalis Ukraina sing kontroversial - ing dina keragaman nasional. Toko Peru lan Polandia nutupi kontroversi kasebut, lan anggota Parlemen Eropa Polandia dikutip ing jangkoan kasebut. Ing Ekuador, operator nggunakake alamat email palsu kanggo ngapusi sekolah kanggo nyekeli janji setya marang Presiden Daniel Noboa lan mantan kepala Blackwater Erik Pangeran; stunt narik liputan media lan rebuttal umum saka menteri pendidikan Ekuador.

Operasi kasebut uga nyebarake rekaman audio sing digawe, kalebu salah sawijining karyawan ing perusahaan banyu negara Bolivia EPSAS sing ujar manawa pamrentah bakal nyuda pasokan menyang La Paz, lan liyane amarga konsul Ukraina ing Ekuador. Pemeriksa fakta ing loro negara kasebut mbantah klaim kasebut. Peneliti sumber terbuka sadurunge wis ngubungake kegiatan sing padha karo "Politology" utawa "La Compania," entitas sing diterangake minangka penerus operasi Yevgeniy Prigozhin pungkasan, lan laporan operator kasebut nyatakake kampanye sing nargetake Presiden Argentina Javier Milei sing cocog karo laporan umum kasebut.

Pitu wartawan palsu: Operasi "Bogus Bylines"

Operasi Iran njupuk rute sing beda menyang ekosistem media. Operator kasebut, sing nyurung ChatGPT ing basa Persia, nggunakake model kasebut kanggo nyaring artikel basa Inggris sing dawa babagan konflik AS-Iran, banjur dikirim menyang editor ing toko online cilik lan menengah nggunakake pitung personas wartawan sing digawe: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Jenny Williams, Alice Feusier, lan liya-liyane.

OpenAI ngenali meh 100 artikel sing diterbitake utawa disindikasi miturut garis kasebut ing kira-kira puluhan toko ing saindenging jagad, sing paling fokus ing urusan internasional lan Timur Tengah. Operasi kasebut uga ngasilake pirang-pirang komentar media sosial, sanajan OpenAI ujar manawa iki ora nggawe keterlibatan nyata - lan nyathet manawa operator nggunakake pitungan sing ngapusi ing laporan internal kanggo nambah pengaruh media sosial sing katon. Perusahaan kasebut ujar manawa kegiatan kasebut katon konsisten karo aktor komersial sing nindakake kampanye pengaruh kanggo nyewa, lan wis nuduhake informasi karo panguwasa sing relevan.

Tradecraft lawas, alat anyar

Sing paling nggegirisi para peneliti, OpenAI nulis, yaiku kepiye operasi kasebut meh padha karo pengaruh kampanye saka jaman pra-AI. Personas wartawan palsu nduweni resemblance kulawarga kanggo "Alice Donovan," wartawan fiktif sing ngarepake intelijen militer Rusia sing op-ed muncul ing toko Barat ing taun 2016 lan 2017. Staf lokal SRC sing ora ngerti "PeaceData," situs berita palsu sing milih wartawan nyata ing 2020.

AI ora nyipta teknik kasebut - nggawe luwih murah, luwih cepet, lan luwih lancar. Operator nggunakake model kanggo nyetel palsu kanggo kosakata lokal lan gaya institusional, nerjemahake skrip menyang varian Spanyol regional, lan gawé email pitch polesan kanggo editors. Nanging OpenAI negesake manawa operasi ngarep palsu sing rahasia, wong-wong-wong uga ndadekake dheweke gampang kena pajanan: Alice Donovan lan PeaceData ditutup sawise dijenengi umum.

Maca bukti kanthi ati-ati

OpenAI ati-ati kanggo ngeling-eling temuan kasebut. Operator kasebut kanthi rutin ngaku kredit kanggo acara sing ora ana hubungane, lan sawetara palsu sing dilaporake tanduran ora bisa ditemokake ing sumber terbuka. Apa sing bisa diverifikasi OpenAI - liwat pamriksa fakta, penolakan resmi, lan artikel sing diterbitake sing cocog karo deskripsi operator - nuduhake penetrasi media lan wacana politik ing paling ora papat negara.

Kanggo industri AI, laporan kasebut minangka pangeling yen panggunaan model sing paling efektif ing disinformasi asring sing paling ora katon: nyusun laporan internal, nyaring pitches, polishing terjemahan. Entitas sing paling apik kanggo ndeteksi kampanye kasebut, kaya sing ditampilake ing kasus OpenAI sadurunge, asring platform sing alat dhewe digunakake kanggo mbukak.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →