OpenAI berkata pada hari Selasa bahawa ia telah mengharamkan sekumpulan akaun ChatGPT yang berasal dari Rusia yang digunakan untuk menyokong kempen pengaruh dalam talian terselindung - operasi yang dibina di sekitar organisasi penyelidikan rekaan yang dipanggil Institut Burke Antarabangsa yang memalsukan hubungan dengan ahli akademik terkemuka dan menciplak sebahagian besar bahan terbitannya.
Syarikat itu mendedahkan penyingkiran itu dalam catatan blog bertajuk "Mengganggu kempen pengaruh rahsia baharu dari Rusia," dan penemuan itu dilaporkan oleh CNBC dan Quartz. Menurut OpenAI, akaun tersebut digunakan untuk mempromosikan Institut Burke Antarabangsa, atau IBI, sebuah "komuniti pakar" yang digambarkan sendiri yang laman webnya menyenaraikan alamat jalan di Israel dan didaftarkan pada Februari 2025. For more context on this story, see our ongoing AI trends.
Sebuah Badan Pemikir yang Tidak Pernah Ada
Bahagian tengah operasi itu ialah penampilan kesahihan institusi. Laman web IBI secara palsu mendakwa menampilkan ahli akademik terkemuka termasuk Francis Fukuyama dan Noam Chomsky, kata OpenAI. Dalam semakan 36 artikel yang dipautkan kepada pakar yang disenaraikan di tapak dan diterbitkan antara September 2025 dan Mei 2026, syarikat mendapati bahawa 34 telah disalin dari tempat lain di internet — kadangkala dengan atribusi yang salah.
Ciri utama kempen itu ialah "indeks kedaulatan" yang meletakkan negara pada metrik yang direka untuk memberikan Rusia yang baik sambil mengkritik negara Barat. Laporan yang menyasarkan Perancis, Jerman, Amerika Syarikat dan Kesatuan Eropah bertukar menjadi polemik, kata OpenAI. Satu entri mengenai Amerika Syarikat berbunyi: "Trump tiba [di Beijing] dengan indeks kedaulatan No. 1 di dunia dan pergi selepas mengambil beberapa langkah yang [...] boleh layak sebagai pengurangan sukarela dalam autonomi."
Bagaimana Operasi Berfungsi
OpenAI berkata ia menilai akaun itu berkemungkinan besar berasal dari Rusia walaupun terdapat penyamaran. Untuk mengelak larangan OpenAI terhadap akses model dari Rusia, pengendali mengarahkan sambungan mereka melalui VPN, kata syarikat itu. Bekerja dalam bahasa Rusia, mereka menggunakan ChatGPT untuk mendraf kandungan media sosial yang muncul di Substack, Telegram, X, Facebook dan LinkedIn — mengarahkan model itu untuk menanggalkan sebarang ciri teks yang mungkin mengkhianati asal usul yang dijana AI. Kebanyakan kandungan yang dijana ditulis dalam bahasa Inggeris, pilihan yang mencadangkan operasi itu ditujukan kepada khalayak Barat dan bukannya pembaca Rusia domestik.
Operasi itu melangkaui kandungan bahasa Inggeris. Seorang pengendali menjana siaran berbahasa Jerman untuk saluran Telegram yang dipanggil "Lahme Ente" — bahasa Jerman untuk "itik tempang" — yang mengkritik Ukraine, Kesatuan Eropah dan kerajaan Jerman sambil menyokong hubungan yang lebih erat dengan Rusia. Pengendali kedua mencipta logo untuk kira-kira sedozen saluran Telegram yang memfokuskan pada Jerman, Amerika Syarikat, Perancis, Poland dan Turki, dan meminta ringkasan berbahasa Rusia tentang aktiviti mereka.
Jangkauan Terhad, tetapi Pelan Tindakan Membimbangkan
Mengikut metrik penglibatan konvensional, kempen itu tidak berjaya. OpenAI mengakui bahawa kebanyakan siaran media sosial menerima kiraan tontonan yang rendah, akaun IBI rasmi mempunyai sedikit pelanggan, dan saluran Telegram yang berkaitan menarik antara 10,000 dan 20,000 pengikut setiap satu.
Tetapi syarikat itu berhujah bahawa kepentingan operasi itu bukan terletak pada jangkauannya tetapi pada radas yang dibina oleh pengendalinya. Siaran yang dihasilkan dengan ChatGPT mengarahkan pembaca ke arah badan penyelidikan yang sah — lengkap dengan alamat fizikal, senarai pakar dan aliran penerbitan yang berterusan. Struktur itu, kata OpenAI, menunjukkan bagaimana alat AI boleh membantu pelaku jahat menghasilkan kredibiliti institusi, mengaburkan sumber sebenar naratif pilihan, dan meletakkan asas untuk operasi yang boleh berkembang jauh lebih besar.
Pertempuran Lebih Luas Menghadapi Pengaruh Dijana AI
Alih keluar adalah yang terbaharu dalam siri gangguan yang diumumkan OpenAI melibatkan pelakon ancaman yang berkaitan dengan kerajaan, dan ia tiba di tengah-tengah bukti yang semakin meningkat bahawa pengaruh operasi mengalihkan cita-cita mereka daripada suapan media sosial ke arah sistem AI itu sendiri. Terdahulu pada bulan Ogos, penyiasatan berasingan oleh Responsible Statecraft mendokumentasikan kumpulan pemikir palsu yang menerbitkan lebih daripada 100 laporan dalam seminggu dalam usaha nyata untuk memanipulasi jawapan yang diberikan oleh chatbot AI tentang Israel dan Palestin.
Bersama-sama, kes-kes tersebut melakarkan buku permainan yang baru muncul: daripada hanya menolak mesej kepada manusia, pengendali membina institusi palsu yang outputnya boleh disebut, dikikis dan diserap oleh model AI yang semakin menjadi pengantara cara orang menghadapi maklumat.
Bagi syarikat AI, implikasinya tidak selesa. Sifat yang sama yang menjadikan model bahasa besar berguna — penggubalan berbilang bahasa yang fasih, kos rendah, keluaran tanpa jemu — menjadikannya infrastruktur yang menarik untuk propaganda yang dicuci. Respons OpenAI dalam kes ini ialah alih keluar peringkat kandungan: akaun yang dilarang, taktik dinamakan dan perakaunan awam tentang cara operasi itu berfungsi.
Sama ada pendedahan sedemikian boleh seiring dengan operasi yang mereka gambarkan kekal sebagai salah satu persoalan keselamatan utama era AI. Seperti yang dijelaskan oleh laporan Selasa, kos membina institusi palsu yang meyakinkan telah jatuh secara mendadak — dan entiti yang berada pada kedudukan terbaik untuk mengesannya ialah syarikat yang modelnya digunakan untuk membinanya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
