OpenAI mengatakan pada hari Selasa bahwa mereka telah melarang sekelompok akun ChatGPT yang berasal dari Rusia yang digunakan untuk mendukung kampanye pengaruh online yang terselubung – sebuah operasi yang dibangun di sekitar organisasi penelitian fiktif bernama International Burke Institute yang memalsukan afiliasi dengan akademisi terkemuka dan menjiplak sebagian besar materi yang dipublikasikan.
Perusahaan tersebut mengungkapkan penghapusan tersebut dalam postingan blog berjudul "Mengganggu kampanye pengaruh terselubung baru dari Rusia," dan temuan tersebut dilaporkan oleh CNBC dan Quartz. Menurut OpenAI, akun tersebut digunakan untuk mempromosikan International Burke Institute, atau IBI, sebuah “komunitas ahli” yang situs webnya mencantumkan alamat jalan di Israel dan didaftarkan pada Februari 2025. For more context on this story, see our ongoing AI trends.
Sebuah Think Tank yang Belum Pernah Ada
Inti dari operasi ini adalah munculnya legitimasi institusional. Situs web IBI secara keliru mengklaim menampilkan akademisi terkemuka termasuk Francis Fukuyama dan Noam Chomsky, kata OpenAI. Dalam tinjauan terhadap 36 artikel yang ditautkan ke para ahli yang terdaftar di situs tersebut dan diterbitkan antara September 2025 dan Mei 2026, perusahaan menemukan bahwa 34 artikel telah disalin dari tempat lain di internet – terkadang dengan atribusi yang salah.
Fitur utama dari kampanye ini adalah "indeks kedaulatan" yang memberi peringkat pada negara-negara berdasarkan metrik yang dirancang untuk memberikan keunggulan bagi Rusia sekaligus mengkritik negara-negara Barat. Laporan yang menargetkan Perancis, Jerman, Amerika Serikat, dan Uni Eropa berubah menjadi polemik, kata OpenAI. Salah satu entri mengenai Amerika Serikat berbunyi: "Trump tiba [di Beijing] dengan indeks kedaulatan No. 1 di dunia dan pergi setelah mengambil sejumlah langkah yang [...] dapat dikualifikasikan sebagai pengurangan otonomi secara sukarela."
Cara Kerja Operasi
OpenAI mengatakan pihaknya menilai akun tersebut kemungkinan besar berasal dari Rusia meskipun disamarkan. Untuk menghindari larangan OpenAI terhadap akses model dari Rusia, operator mengalihkan koneksi mereka melalui VPN, kata perusahaan itu. Bekerja dalam bahasa Rusia, mereka menggunakan ChatGPT untuk menyusun konten media sosial yang muncul di Substack, Telegram, X, Facebook, dan LinkedIn — mengarahkan model tersebut untuk menghilangkan fitur teks apa pun yang mungkin mengkhianati asal-usulnya yang dihasilkan oleh AI. Sebagian besar konten yang dihasilkan ditulis dalam bahasa Inggris, sebuah pilihan yang menunjukkan bahwa operasi tersebut ditujukan untuk audiens Barat daripada pembaca domestik Rusia.
Operasi ini melampaui konten berbahasa Inggris. Salah satu operator membuat postingan berbahasa Jerman untuk saluran Telegram bernama "Lahme Ente" - bahasa Jerman untuk "bebek lumpuh" - yang mengkritik Ukraina, Uni Eropa, dan pemerintah Jerman sambil menganjurkan hubungan yang lebih erat dengan Rusia. Operator kedua membuat logo untuk sekitar selusin saluran Telegram yang berfokus di Jerman, Amerika Serikat, Prancis, Polandia, dan Turki, dan meminta ringkasan aktivitas mereka dalam bahasa Rusia.
Jangkauan Terbatas, Namun Cetak Birunya Mengkhawatirkan
Berdasarkan metrik keterlibatan konvensional, kampanye tersebut tidak berhasil. OpenAI mengakui bahwa sebagian besar postingan media sosial menerima jumlah penayangan yang rendah, akun resmi IBI memiliki sedikit pelanggan, dan saluran Telegram terkait masing-masing menarik antara 10.000 dan 20.000 pengikut.
Namun perusahaan tersebut berpendapat bahwa pentingnya operasi tersebut bukan terletak pada jangkauannya, melainkan pada peralatan yang dibangun oleh operatornya. Postingan yang dibuat dengan ChatGPT mengarahkan pembaca ke badan penelitian yang tampak sah — lengkap dengan alamat fisik, daftar nama ahli, dan aliran publikasi yang stabil. Struktur tersebut, kata OpenAI, menunjukkan bagaimana alat AI dapat membantu pelaku kejahatan membangun kredibilitas institusi, mengaburkan sumber sebenarnya dari narasi yang disukai, dan meletakkan dasar bagi operasi yang dapat berkembang jauh lebih besar.
Pertarungan Lebih Luas Melawan Pengaruh yang Dihasilkan AI
Penghapusan ini adalah yang terbaru dari serangkaian gangguan yang diumumkan OpenAI yang melibatkan pelaku ancaman yang berafiliasi dengan negara, dan hal ini terjadi di tengah semakin banyak bukti bahwa operasi pengaruh mengalihkan ambisi mereka dari umpan media sosial ke sistem AI itu sendiri. Sebelumnya pada bulan Agustus, penyelidikan terpisah oleh Responsible Statecraft mendokumentasikan sebuah wadah pemikir palsu yang menerbitkan lebih dari 100 laporan dalam seminggu dalam upaya nyata untuk memanipulasi jawaban yang diberikan chatbot AI tentang Israel dan Palestina.
Secara keseluruhan, kasus-kasus tersebut menggambarkan pedoman yang muncul: alih-alih hanya menyampaikan pesan kepada manusia, para operator justru membangun institusi palsu yang keluarannya dapat dikutip, dihapus, dan diserap oleh model AI yang semakin memediasi cara manusia mendapatkan informasi.
Bagi perusahaan AI, dampaknya tidak nyaman. Sifat-sifat yang sama yang membuat model bahasa besar berguna – penyusunan multibahasa yang lancar, biaya rendah, hasil yang tak kenal lelah – menjadikan model tersebut sebagai infrastruktur yang menarik untuk propaganda palsu. Respons OpenAI dalam kasus ini adalah penghapusan di tingkat konten: akun yang diblokir, taktik yang disebutkan, dan akuntabilitas publik tentang cara kerja operasi tersebut.
Apakah pengungkapan tersebut dapat mengimbangi operasi yang dijelaskan masih menjadi salah satu pertanyaan keamanan utama di era AI. Seperti yang dijelaskan dalam laporan hari Selasa, biaya untuk membangun lembaga palsu yang meyakinkan telah turun drastis – dan entitas yang paling mampu mendeteksi lembaga palsu tersebut adalah perusahaan yang modelnya digunakan untuk membangun lembaga tersebut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
