OpenAI berkata pada hari Khamis bahawa ia mengganggu operasi pengaruh berkaitan Iran yang menggunakan ChatGPT untuk meletakkan hampir 100 artikel jana AI di bawah garis kecil wartawan Barat palsu dalam penerbitan sebenar di seluruh dunia, termasuk beberapa cawangan Amerika Syarikat.
Kempen itu, yang digelar OpenAI sebagai operasi "depan palsu", diperincikan dalam laporan syarikat yang diterbitkan pada 8 Oktober dan dalam laporan susulan oleh The Washington Post, CNN, NPR dan Radio Free Europe/Radio Liberty. Ia adalah salah satu kes terdokumentasi yang paling jelas setakat ini mengenai rangkaian pengaruh asing menggunakan chatbot komersial arus perdana bukan sahaja untuk mendraf propaganda, tetapi untuk menguruskan aliran kerja editorial penuh untuk menanamnya dalam media yang sah. For more context on this story, see our ongoing more AI stories.
Seorang Wartawan Yang Tidak Pernah Wujud
Di tengah-tengah operasi itu ialah seorang persona bernama Ervin B. Hoskins, yang dipersembahkan sebagai wartawan bebas Amerika. Menurut RFE/RL, artikel yang dikaitkan dengan Hoskins menjadikan Amerika Syarikat sebagai penyerang dalam konflik berterusan dengan Iran, menggambarkan Israel sebagai sekutu yang tidak boleh dipercayai, dan membingkai Iran sebagai underdog yang menentang. Hoskins, OpenAI mengesahkan, tidak pernah wujud.
Dia adalah salah seorang daripada tujuh persona wartawan rekaan, semuanya kononnya berasal dari negara Barat, yang digunakan pengendali untuk melontar dan meletakkan artikel. "Kami mengenal pasti hampir 100 artikel yang diterbitkan atau disindiketkan di bawah garis kecil operasi merentasi kira-kira sedozen kedai dalam talian di seluruh dunia," kata OpenAI dalam laporannya, menyifatkan sasaran sebagai saluran kecil hingga sederhana secara amnya tertumpu kepada hal ehwal antarabangsa, geopolitik dan Timur Tengah.
The Washington Post, yang pertama kali melaporkan penembusan kempen media AS, mendapati bahawa mingguan kecil Florida menerbitkan salah satu op-ed palsu. Peletakan lain yang dibenderakan muncul di kedai termasuk Middle East Monitor, yang memberitahu CNN ia telah mengalih keluar artikel yang dipersoalkan dan sedang menyemak proses penyerahannya.
Cara ChatGPT Digunakan
Menurut pendedahan OpenAI, pengendali menggunakan ChatGPT dalam bahasa Farsi dan Inggeris merentasi keseluruhan saluran penempatan: mengedit draf artikel dalam bentuk panjang, menyesuaikan nada dengan keperluan editorial penerbitan individu, menyediakan e-mel jangkauan kepada editor, dan menjana kumpulan komen media sosial yang direka bentuk untuk kelihatan seperti reaksi pembaca bebas.
Satu contoh yang dikesan oleh penyelidik: op-ed bertajuk "Jared Kushner and the Privatization of America's Iran Strategy," diterbitkan pada 12 Jun oleh PeaceVoice, sebuah perkhidmatan pengedaran op-ed yang dikendalikan oleh Oregon Peace Institute. Pada hari-hari berikutnya artikel yang sama telah diterbitkan semula oleh CounterPunch dan LA Progressive, menurut RFE/RL.
OpenAI berkata aktiviti penerbitan meningkat selepas konflik antara Amerika Syarikat dan Iran bermula awal tahun ini. Syarikat itu berkata ia telah mengharamkan akaun ChatGPT yang terlibat dalam kempen itu dan menilai keupayaan operasi untuk meletakkan kandungan di luar editorial sebagai Kategori 4 pada skala operasi pengaruh enam mata, menurut laporan CNN.
Atribusi Kekal Terbuka
Khususnya, OpenAI berkata ia tidak dapat mengenal pasti aktor khusus di sebalik kempen itu atau mengesahkan arahan daripada kerajaan Iran. Penilaiannya, seperti yang dilaporkan oleh CNN, menjurus kepada operasi pengaruh komersial, untuk disewa dan bukannya operasi yang dikendalikan secara langsung oleh kerajaan — struktur yang menjadikan atribusi lebih sukar dan gangguan kurang muktamad. Mengharamkan akaun mengganggu apa yang boleh diperhatikan oleh OpenAI; ia tidak membuktikan bahawa rangkaian yang lebih luas telah dibongkar.
Jessica Brandt, yang mengetuai Pejabat Pengarah Pusat Pengaruh Jahat Asing Perisikan Kebangsaan dari 2023 hingga 2025, memberitahu CNN operasi itu menunjukkan bagaimana AI membantu pelakon asing menyembunyikan penglibatan mereka dan mengarahkan pemesejan melalui saluran yang tulen.
Kempen Iran bukanlah satu-satunya aktiviti yang dibenderakan OpenAI. Laporan syarikat itu juga meliputi gangguan operasi pengaruh berkaitan Rusia yang menggunakan ChatGPT, seperti yang dilaporkan oleh The Record dari Recorded Future News. Secara berasingan, RFE/RL menyatakan bahawa Anthropic sebelum ini telah mengganggu usaha Iran untuk menyalahgunakan model Claudenya untuk propaganda dan pengawasan penentang.
Penerbitan Bukan Lagi Bukti Kepengarangan
Untuk bilik berita, kes itu mendapat kebenaran yang tidak selesa: garis kecil, rentak yang koheren, biografi yang munasabah dan nada yang digilap tidak lagi membayangkan bahawa penyumbang wujud. Editor yang bergantung pada penyerahan bebas — terutamanya meja op-ed dan ulasan, yang mengikut reka bentuk menerbitkan perspektif luar — kini menghadapi masalah pengesahan yang tidak dapat diselesaikan oleh penapis spam dan heuristik kualiti penulisan.
Respons praktikal yang dibenderakan dalam liputan laporan termasuk pengesahan penyumbang yang lebih kukuh, sejarah nada yang didokumenkan, penelitian garis kecil yang muncul merentas berbilang cawangan dalam tetingkap pendek dan alat asal yang menghubungkan penyerahan dengan identiti yang boleh disahkan.
Ekonomi juga penting. Operasi yang dahulunya memerlukan kakitangan penulis kini boleh dijalankan oleh pasukan kecil yang mengarahkan chatbot, dengan model mengendalikan segala-galanya daripada terjemahan kepada pemadanan nada dengan gaya rumah penerbitan sasaran. Laporan OpenAI mencadangkan halangan untuk menjalankan kempen penempatan berbilang persona, berbilang outlet telah menurun ke tahap di mana kedai untuk disewa boleh melakukannya sebagai perkhidmatan komersial.
Tiada satu pun daripada cawangan yang dinamakan dalam pelaporan itu adalah organisasi berita arus perdana utama, tetapi beberapa daripadanya membawa khalayak sebenar. Itulah maksudnya, kata penyelidik: peletakan dalam mana-mana penerbitan yang boleh dipercayai memindahkan mesej ke dalam peredaran yang lebih luas melalui pensindiketan, pengagregatan dan carian — iaitu apa yang dicapai kempen sebelum ia terganggu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
