OpenAI mengatakan pada hari Kamis bahwa mereka telah melarang dua operasi pengaruh rahasia – satu berasal dari Rusia dan satu lagi di Iran – yang menggunakan ChatGPT untuk menjalankan entitas “front palsu” canggih yang dirancang untuk mencuci propaganda geopolitik ke dalam outlet media nyata. Perusahaan tersebut mengatakan kampanye yang berasal dari Rusia adalah operasi pengaruh paling luas yang pernah mereka ganggu sejak perusahaan tersebut mulai menerbitkan laporan ancaman dua setengah tahun lalu.
Pengungkapan tersebut, yang dipublikasikan di situs web OpenAI, adalah entri terbaru dalam serangkaian laporan tentang bagaimana aktor-aktor pemerintah menyalahgunakan model AI komersial. Hal ini juga menggarisbawahi, seperti yang kami catat dalam rangkuman berita AI terkini terbaru kami, sebuah pola yang telah diamati OpenAI di 30 operasi rahasia yang telah mereka ungkap sejak awal tahun 2024: kampanye yang berhasil menempatkan konten mereka di publikasi asli akan menjangkau khalayak yang jauh lebih besar dibandingkan kampanye yang mengandalkan akun media sosial palsu.
Kategori A 5 pertama: Operasi "Dark Clark"
Operasi Rusia, yang OpenAI juluki "Dark Clark", berpusat pada organisasi penelitian gadungan di Amerika Latin yang disebut Social Research Center (SRC). Menurut OpenAI, para operator mengendalikan lembaga think tank tersebut melalui persona palsu bernama "Mia Clark", sementara karyawan lokal di Amerika Latin melakukan wawancara dan menyusun makalah penelitian tanpa mengetahui bahwa mereka bekerja untuk kelompok Rusia.
Dengan menggunakan Skala Breakout — ukuran 1 banding 6 dari potensi jangkauan operasi pengaruh yang dikembangkan di Brookings — OpenAI menilai Dark Clark pada Kategori 5, peringkat tertinggi yang diberikan pada operasi apa pun sejak pelaporannya dimulai. Kampanye asal Iran mencapai Kategori 4.
Sebagian besar penggunaan ChatGPT oleh operator dimasukkan ke dalam laporan internal ke pihak yang tidak dikenal, kata OpenAI, menggambarkan kampanye untuk merendahkan Ukraina, melemahkan perekrutan angkatan bersenjata Ukraina, dan mencampuri politik dalam negeri di Argentina dan Bolivia. Sebagian besar operator meminta dalam bahasa Rusia dan mengandalkan VPN untuk mengakses layanan, yang memblokir lalu lintas dari Rusia.
Peneliti OpenAI menguatkan beberapa kampanye yang diklaim operasi tersebut melalui sumber terbuka. Salah satunya melibatkan email palsu yang mengaku berasal dari direktorat pendidikan regional Lima, yang menginstruksikan sekolah-sekolah di ibu kota Peru untuk mengadakan acara untuk menghormati Stepan Bandera – tokoh nasionalis Ukraina yang kontroversial – pada hari keberagaman nasional. Media di Peru dan Polandia meliput kontroversi yang terjadi, dan seorang anggota Parlemen Eropa dari Polandia dikutip dalam liputannya. Di Ekuador, operator menggunakan alamat email palsu untuk mengelabui sekolah agar memegang janji setia kepada Presiden Daniel Noboa dan mantan kepala Blackwater Erik Prince; aksi tersebut menarik liputan media dan bantahan publik dari menteri pendidikan Ekuador.
Operasi tersebut juga menyebarkan rekaman audio yang dibuat-buat, termasuk rekaman audio yang dikaitkan dengan seorang pekerja di perusahaan air minum milik negara Bolivia, EPSAS, yang mengklaim bahwa pemerintah akan menghentikan pasokan ke La Paz, dan rekaman audio lainnya yang dikaitkan dengan konsul Ukraina di Ekuador. Pemeriksa fakta di kedua negara membantah klaim tersebut. Peneliti sumber terbuka sebelumnya telah menghubungkan aktivitas serupa dengan “Politology” atau “La Compania,” entitas yang digambarkan sebagai penerus operasi mendiang Yevgeniy Prigozhin, dan laporan operator tersebut mengklaim kampanye yang menargetkan Presiden Argentina Javier Milei cocok dengan pelaporan publik tersebut.
Tujuh jurnalis palsu: Operasi "Bogus Bylines"
Operasi Iran mengambil jalur berbeda dalam ekosistem media. Operatornya, yang menggunakan ChatGPT dalam bahasa Persia, menggunakan model tersebut untuk menyempurnakan artikel berbahasa Inggris panjang tentang konflik AS-Iran, lalu menyajikannya kepada editor di media online kecil dan menengah menggunakan tujuh persona jurnalis palsu: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams, dan Alice Johnson.
OpenAI mengidentifikasi hampir 100 artikel yang diterbitkan atau disindikasikan di bawah artikel tersebut di sekitar selusin outlet di seluruh dunia, sebagian besar berfokus pada urusan internasional dan Timur Tengah. Operasi ini juga menghasilkan banyak komentar di media sosial, meskipun OpenAI mengatakan bahwa hal ini hanya menghasilkan sedikit keterlibatan nyata – dan mencatat bahwa operator menggunakan perhitungan yang menipu dalam laporan internal mereka untuk memperbesar dampak nyata mereka di media sosial. Perusahaan tersebut mengatakan bahwa aktivitas tersebut tampaknya konsisten dengan adanya aktor komersial yang menjalankan kampanye pengaruh, dan perusahaan tersebut telah berbagi informasi dengan otoritas terkait.
Kerajinan lama, alat baru
Apa yang paling mengejutkan para peneliti, tulis OpenAI, adalah seberapa mirip kedua operasi tersebut dengan kampanye pengaruh dari era pra-AI. Persona jurnalis palsu ini memiliki kemiripan dengan "Alice Donovan", seorang reporter fiktif yang bekerja untuk intelijen militer Rusia yang opininya muncul di media Barat pada tahun 2016 dan 2017. Tanpa disadari, staf lokal SRC menggemakan "PeaceData", situs berita palsu yang mengkooptasi jurnalis sungguhan pada tahun 2020.
AI tidak menciptakan teknik-teknik ini – AI membuatnya lebih murah, lebih cepat, dan lebih lancar. Operator menggunakan model untuk menyesuaikan pemalsuan dengan kosa kata lokal dan gaya institusional, menerjemahkan skrip ke dalam varian bahasa Spanyol regional, dan menghasilkan email promosi yang bagus untuk editor. Namun OpenAI berargumentasi bahwa sifat operasi palsu yang bersifat rahasia dan bersifat pribadi juga membuat mereka rentan terhadap paparan: baik Alice Donovan dan PeaceData ditutup setelah disebutkan namanya secara publik.
Membaca bukti dengan hati-hati
OpenAI berhati-hati dalam memperingatkan temuannya sendiri. Para operator secara rutin mengklaim penghargaan atas peristiwa yang tidak ada hubungannya dengan mereka, dan beberapa informasi palsu yang mereka laporkan tentang penanaman tidak dapat ditemukan di sumber terbuka. Apa yang dapat diverifikasi oleh OpenAI – melalui pemeriksaan fakta, penolakan resmi, dan publikasi artikel yang sesuai dengan deskripsi operator – menunjukkan adanya penetrasi media dan wacana politik yang sebenarnya di setidaknya empat negara.
Bagi industri AI, laporan ini merupakan pengingat bahwa penggunaan model disinformasi yang paling efektif seringkali adalah model yang paling tidak terlihat: menyusun laporan internal, menyempurnakan presentasi, menyempurnakan terjemahan. Entitas yang memiliki posisi terbaik untuk mendeteksi kampanye ini, seperti yang ditunjukkan dalam kasus OpenAI sebelumnya, sering kali adalah platform yang alatnya digunakan untuk menjalankan kampanye tersebut.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
