OpenAI mengatakan pada hari Kamis bahwa mereka mengganggu operasi pengaruh terkait Iran yang menggunakan ChatGPT untuk menempatkan hampir 100 artikel buatan AI di bawah tulisan jurnalis Barat palsu di publikasi nyata di seluruh dunia, termasuk beberapa outlet di Amerika Serikat.
Kampanye tersebut, yang oleh OpenAI disebut sebagai operasi "front palsu", dirinci dalam laporan yang diterbitkan perusahaan pada tanggal 8 Oktober dan dalam laporan lanjutan oleh The Washington Post, CNN, NPR dan Radio Free Europe/Radio Liberty. Ini adalah salah satu kasus terdokumentasi paling jelas hingga saat ini mengenai jaringan pengaruh asing yang menggunakan chatbot komersial arus utama tidak hanya untuk merancang propaganda, namun juga untuk mengelola alur kerja editorial penuh dalam menanamnya di media yang sah. For more context on this story, see our ongoing AI news.
Seorang Jurnalis yang Tak Pernah Ada
Inti dari operasi ini adalah seseorang bernama Ervin B. Hoskins, yang ditampilkan sebagai jurnalis lepas Amerika. Menurut RFE/RL, artikel-artikel yang dikaitkan dengan Hoskins menyebut Amerika Serikat sebagai agresor dalam konflik yang sedang berlangsung dengan Iran, menggambarkan Israel sebagai sekutu yang tidak dapat diandalkan, dan membingkai Iran sebagai negara yang tidak diunggulkan. Hoskins, OpenAI menegaskan, tidak pernah ada.
Dia adalah salah satu dari tujuh persona jurnalis yang dibuat-buat, semuanya mengaku berasal dari negara-negara Barat, yang digunakan oleh operator untuk memasarkan dan menempatkan artikel. “Kami mengidentifikasi hampir 100 artikel yang diterbitkan atau disindikasikan di bawah operasi ini di sekitar selusin media online di seluruh dunia,” kata OpenAI dalam laporannya, menggambarkan targetnya sebagai media kecil dan menengah yang umumnya berfokus pada urusan internasional, geopolitik, dan Timur Tengah.
The Washington Post, yang pertama kali melaporkan penetrasi kampanye tersebut ke media AS, menemukan bahwa sebuah mingguan kecil di Florida menerbitkan salah satu opini palsu tersebut. Penempatan bertanda lainnya muncul di media termasuk Middle East Monitor, yang mengatakan kepada CNN bahwa mereka telah menghapus artikel tersebut dan sedang meninjau proses penyerahannya.
Bagaimana ChatGPT Digunakan
Menurut pengungkapan OpenAI, operator menggunakan ChatGPT dalam bahasa Farsi dan Inggris di seluruh jalur penempatan: mengedit draf artikel panjang, menyesuaikan presentasi dengan kebutuhan editorial masing-masing publikasi, menyiapkan email penjangkauan ke editor, dan menghasilkan kumpulan komentar media sosial yang dirancang agar terlihat seperti reaksi pembaca independen.
Salah satu contoh yang ditelusuri oleh para peneliti: sebuah opini berjudul "Jared Kushner dan Privatisasi Strategi Amerika di Iran," yang diterbitkan pada 12 Juni oleh PeaceVoice, sebuah layanan distribusi opini yang dijalankan oleh Oregon Peace Institute. Pada hari-hari berikutnya artikel yang sama diterbitkan ulang oleh CounterPunch dan LA Progressive, menurut RFE/RL.
OpenAI mengatakan aktivitas publikasi meningkat setelah konflik antara Amerika Serikat dan Iran dimulai awal tahun ini. Perusahaan tersebut mengatakan telah melarang akun ChatGPT yang terlibat dalam kampanye dan menilai kemampuan operasi tersebut untuk menempatkan konten di outlet editorial luar sebagai Kategori 4 pada skala operasi pengaruh enam poin, menurut laporan CNN.
Atribusi Tetap Terbuka
OpenAI mengatakan pihaknya tidak dapat mengidentifikasi aktor spesifik di balik kampanye tersebut atau mengkonfirmasi arahan dari pemerintah Iran. Penilaiannya, seperti yang dilaporkan oleh CNN, mengarah pada operasi pengaruh yang bersifat komersial dan bersifat sewaan dibandingkan operasi yang dikelola langsung oleh negara – sebuah struktur yang membuat atribusi menjadi lebih sulit dan gangguan menjadi kurang meyakinkan. Pelarangan akun mengganggu apa yang dapat diamati oleh OpenAI; namun tidak menetapkan bahwa jaringan yang lebih luas telah dibongkar.
Jessica Brandt, yang memimpin Kantor Direktur Pusat Pengaruh Jahat Asing Intelijen Nasional dari tahun 2023 hingga 2025, mengatakan kepada CNN bahwa operasi tersebut menunjukkan bagaimana AI membantu aktor asing menyembunyikan keterlibatan mereka dan mengarahkan pesan melalui saluran otentik.
Kampanye Iran bukanlah satu-satunya aktivitas yang ditandai OpenAI. Laporan perusahaan juga mencakup gangguan terhadap operasi pengaruh terkait Rusia yang menggunakan ChatGPT, seperti yang dilaporkan The Record dari Recorded Future News. Secara terpisah, RFE/RL mencatat bahwa Anthropic sebelumnya telah mengganggu upaya Iran untuk menyalahgunakan model Claude untuk propaganda dan pengawasan terhadap para pembangkang.
Publikasi Bukan Lagi Bukti Kepengarangan
Bagi redaksi, kasus ini dihadapkan pada kenyataan yang tidak mengenakkan: tulisan yang ditulis dengan baik, tulisan yang masuk akal, biografi yang masuk akal, dan nada yang halus tidak lagi menyiratkan adanya kontributor. Editor yang mengandalkan kiriman lepas – khususnya kolom opini dan komentar, yang sengaja menerbitkan perspektif luar – kini menghadapi masalah verifikasi yang tidak dapat diselesaikan oleh filter spam dan heuristik kualitas tulisan.
Respons praktis yang ditandai dalam liputan laporan ini mencakup autentikasi kontributor yang lebih kuat, riwayat pitch yang terdokumentasi, pengawasan terhadap byline yang muncul di beberapa outlet dalam waktu singkat, dan alat asal yang menghubungkan kiriman dengan identitas yang dapat diverifikasi.
Perekonomian juga penting. Sebuah operasi yang dulunya membutuhkan staf penulis kini dapat dijalankan oleh tim kecil yang mengarahkan chatbot, dengan model yang menangani segalanya mulai dari penerjemahan hingga pencocokan nada dengan gaya publikasi target. Laporan OpenAI menunjukkan bahwa hambatan dalam menjalankan kampanye penempatan multi-persona dan multi-outlet telah berkurang hingga toko sewaan dapat melakukannya sebagai layanan komersial.
Tak satu pun dari media yang disebutkan dalam laporan tersebut merupakan organisasi berita utama arus utama, namun beberapa di antaranya membawa audiensi nyata. Hal inilah yang menjadi poin penting, kata para peneliti: penempatan di publikasi yang kredibel akan menggerakkan pesan ke dalam sirkulasi yang lebih luas melalui sindikasi, agregasi, dan pencarian – hal inilah yang dicapai oleh kampanye tersebut sebelum diganggu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
