OpenAI ujar dina Kamis yen ngganggu operasi pengaruh sing ana gandhengane karo Iran sing nggunakake ChatGPT kanggo nempatake meh 100 artikel sing digawe AI ing ngisor garis jurnalis Barat palsu ing publikasi nyata ing saindenging jagad, kalebu sawetara toko Amerika Serikat.

Kampanye kasebut, sing diarani OpenAI minangka operasi "ngarep palsu", rinci ing laporan perusahaan sing diterbitake tanggal 8 Oktober lan ing laporan tindak lanjut dening The Washington Post, CNN, NPR lan Radio Free Europe/Radio Liberty. Iki minangka salah sawijining kasus sing didokumentasikake paling jelas nganti saiki babagan jaringan pengaruh asing nggunakake chatbot komersial mainstream ora mung kanggo ngrancang propaganda, nanging kanggo ngatur alur kerja editorial lengkap kanggo nandur ing media sing sah. For more context on this story, see our ongoing breaking AI news.

Wartawan Sing Ora Ana

Ing tengah operasi ana persona jenenge Ervin B. Hoskins, presented minangka wartawan freelance Amérika. Miturut RFE/RL, artikel sing digandhengake karo Hoskins nggawe Amerika Serikat minangka agresor ing konflik sing terus-terusan karo Iran, nggambarake Israel minangka sekutu sing ora bisa dipercaya, lan nggawe Iran minangka underdog sing nantang. Hoskins, OpenAI dikonfirmasi, ora tau ana.

Dheweke minangka salah siji saka pitung persona wartawan sing dikarang, kabeh ngaku saka negara-negara Kulon, sing digunakake operator kanggo ngirim lan nyelehake artikel. "Kita nemtokake meh 100 artikel sing diterbitake utawa disindikasi miturut garis operasi ing kira-kira rolas toko online ing saindenging jagad," ujare OpenAI ing laporan kasebut, nggambarake target kasebut minangka toko cilik lan medium sing umume fokus ing urusan internasional, geopolitik lan Timur Tengah.

Washington Post, sing pisanan nglaporake penetrasi kampanye media AS, nemokake manawa mingguan Florida cilik nerbitake salah sawijining op-eds palsu. Penempatan sing ditandhani liyane katon ing toko kalebu Monitor Timur Tengah, sing ngandhani CNN yen wis ngilangi artikel kasebut lan mriksa proses pengajuan.

Carane ChatGPT Digunakake

Miturut pambocoran OpenAI, operator kasebut nggunakake ChatGPT ing basa Farsi lan Inggris ing kabeh pipa penempatan: nyunting draf artikel kanthi bentuk dawa, nyelarasake pitch kanggo syarat editorial publikasi individu, nyiapake email kanggo panyunting, lan ngasilake batch komentar media sosial sing dirancang kanggo katon kaya reaksi maca independen.

Salah sawijining conto sing ditelusuri dening peneliti: op-ed kanthi judhul "Jared Kushner lan Privatisasi Strategi Iran Amerika," diterbitake tanggal 12 Juni dening PeaceVoice, layanan distribusi op-ed sing dikelola dening Oregon Peace Institute. Ing dina sabanjure artikel sing padha diterbitake maneh dening CounterPunch lan LA Progressive, miturut RFE / RL.

OpenAI ujar manawa aktivitas publikasi mundhak sawise konflik antarane Amerika Serikat lan Iran wiwit awal taun iki. Perusahaan kasebut ujar manawa wis nglarang akun ChatGPT sing melu kampanye kasebut lan menehi rating kemampuan operasi kanggo nyelehake konten ing toko editorial njaba minangka Kategori 4 ing skala operasi pengaruh enem titik, miturut laporan CNN.

Atribusi tetep mbukak

Utamane, OpenAI ujar manawa ora bisa ngenali aktor tartamtu ing mburi kampanye kasebut utawa ngonfirmasi arah saka pamrentah Iran. Assessment kasebut, kaya sing dilapurake dening CNN, nuding menyang operasi pengaruh komersial, kanggo disewakake tinimbang sing ditindakake langsung dening negara - struktur sing nggawe atribusi luwih angel lan gangguan kurang konklusif. Larangan akun kasebut ngganggu apa sing bisa diamati OpenAI; ora netepake manawa jaringan sing luwih amba dibongkar.

Jessica Brandt, sing mimpin Kantor Direktur Pusat Pengaruh Malign Asing Intelijen Nasional wiwit taun 2023 nganti 2025, ngandhani CNN operasi kasebut nuduhake kepiye AI mbantu aktor asing ndhelikake keterlibatan lan rute pesen liwat saluran asli.

Kampanye Iran ora mung siji-sijine kegiatan sing ditandhani OpenAI. Laporan perusahaan kasebut uga nyakup gangguan operasi pengaruh sing ana gandhengane karo Rusia sing nggunakake ChatGPT, kaya sing dilaporake Rekam saka Recorded Future News. Kapisah, RFE / RL nyathet yen Anthropic sadurunge ngganggu upaya Iran kanggo nyalahi panggunaan model Claude kanggo propaganda lan pengawasan para dissidents.

Publikasi Ora Maneh Bukti Kepengarangan

Kanggo ruangan warta, kasus kasebut ana ing bebener sing ora nyenengake: garis garis, beat sing koheren, biografi sing bisa dipercaya lan nada sing polesan ora nuduhake manawa ana kontributor. Penyunting sing ngandelake kiriman freelance - utamane meja op-ed lan komentar, sing kanthi desain nerbitake perspektif njaba - saiki ngadhepi masalah verifikasi sing ora bisa diatasi dening filter spam lan heuristik kualitas tulisan.

Tanggapan praktis sing ditandhani ing jangkoan laporan kasebut kalebu otentikasi kontributor sing luwih kuat, riwayat pitch sing didokumentasikan, pemeriksaan byline sing katon ing pirang-pirang toko ing jendhela sing cendhak, lan alat bukti sing nyambungake kiriman menyang identitas sing bisa diverifikasi.

Ekonomi uga penting. Operasi sing sadurunge mbutuhake staf panulis saiki bisa ditindakake dening tim cilik sing ngarahake chatbot, kanthi model nangani kabeh saka terjemahan nganti cocog karo gaya omah publikasi target. Laporan OpenAI nyaranake alangan kanggo mbukak kampanye penempatan multi-persona, multi-outlet wis mudhun menyang titik ing ngendi toko sing disewakake bisa nindakake minangka layanan komersial.

Ora ana outlet sing dijenengi ing laporan kasebut minangka organisasi warta utama, nanging sawetara sing nggawa pamirsa nyata. Intine, peneliti ujar: penempatan ing publikasi sing bisa dipercaya mindhah pesen menyang sirkulasi sing luwih akeh liwat sindikasi, agregasi lan telusuran - yaiku apa sing ditindakake kampanye sadurunge diganggu.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →