OpenAI berkata Khamis bahawa ia telah mengharamkan dua operasi pengaruh rahsia - satu berasal dari Rusia dan satu di Iran - yang menggunakan ChatGPT untuk menjalankan entiti "depan palsu" canggih yang direka untuk melancarkan propaganda geopolitik ke saluran media sebenar. Syarikat itu berkata kempen asal Rusia adalah operasi pengaruh paling meluas yang telah diganggu sejak ia mula menerbitkan laporan ancaman dua setengah tahun lalu.
Pendedahan itu, yang diterbitkan di laman web OpenAI, adalah entri terbaharu dalam rentetan laporan tentang cara pelakon bersekutu kerajaan menyalahgunakan model AI komersial. Ia juga menggariskan, seperti yang kami nyatakan dalam rangkupan berita terbaharu AI kami, corak yang OpenAI telah diperhatikan dalam 30 operasi rahsia yang telah didedahkan sejak awal 2024: kempen yang berjaya meletakkan kandungannya dalam penerbitan tulen menjangkau khalayak yang jauh lebih besar daripada yang bergantung pada akaun media sosial palsu.
Kategori 5 pertama: Operasi "Dark Clark"
Operasi Rusia, yang OpenAI digelar "Dark Clark," berpusat pada organisasi penyelidikan gaya sendiri di Amerika Latin yang dipanggil Pusat Penyelidikan Sosial (SRC). Menurut OpenAI, pengendali mengawal kumpulan pemikir itu melalui persona rekaan bernama "Mia Clark," manakala pekerja tempatan di Amerika Latin menjalankan temu bual dan merangka kertas penyelidikan tanpa mengetahui mereka bekerja untuk kumpulan Rusia.
Menggunakan Skala Breakout — ukuran 1 hingga 6 bagi jangkauan potensi operasi pengaruh yang dibangunkan di Brookings — OpenAI menilai Dark Clark pada Kategori 5, penarafan tertinggi yang telah diberikannya kepada mana-mana operasi sejak pelaporannya bermula. Kempen asal Iran mencapai Kategori 4.
Kebanyakan penggunaan ChatGPT pengendali dimasukkan ke dalam laporan dalaman kepada pengendali yang tidak dikenali, kata OpenAI, menggambarkan kempen untuk memburukkan Ukraine, melemahkan pengambilan untuk angkatan tentera Ukraine, dan campur tangan dalam politik domestik di Argentina dan Bolivia. Pengendali kebanyakannya menggesa dalam bahasa Rusia dan bergantung pada VPN untuk mengakses perkhidmatan, yang menyekat trafik dari Rusia.
Penyelidik OpenAI mengesahkan beberapa kempen yang didakwa operasi melalui sumber terbuka. Satu melibatkan e-mel palsu yang kononnya datang dari direktorat pendidikan serantau Lima, mengarahkan sekolah di ibu negara Peru untuk mengadakan acara menghormati Stepan Bandera — tokoh nasionalis Ukraine yang kontroversi — pada hari kepelbagaian negara. Cawangan Peru dan Poland membuat liputan mengenai kontroversi yang berlaku, dan seorang ahli Parlimen Eropah dari Poland dipetik dalam liputan mengenainya. Di Ecuador, pengendali menggunakan alamat e-mel palsu untuk menipu sekolah supaya mengadakan ikrar taat setia kepada Presiden Daniel Noboa dan bekas ketua Blackwater Erik Prince; aksi itu mendapat liputan media dan bantahan awam daripada menteri pendidikan Ecuador.
Operasi itu juga menyebarkan rakaman audio rekaan, termasuk satu yang dikaitkan dengan seorang pekerja di syarikat air negara Bolivia EPSAS yang mendakwa kerajaan akan memotong bekalan ke La Paz, dan satu lagi dikaitkan dengan konsul Ukraine di Ecuador. Penyemak fakta di kedua-dua negara menafikan dakwaan itu. Penyelidik sumber terbuka sebelum ini telah mengaitkan aktiviti serupa dengan "Politology" atau "La Compania," entiti yang disifatkan sebagai pengganti kepada operasi mendiang Yevgeniy Prigozhin, dan laporan pengendali sendiri mendakwa kempen yang menyasarkan Presiden Argentina Javier Milei yang sepadan dengan laporan awam itu.
Tujuh wartawan palsu: Operasi "Bogus Bylines"
Operasi Iran mengambil laluan berbeza ke dalam ekosistem media. Pengendalinya, yang mendorong ChatGPT dalam bahasa Parsi, menggunakan model itu untuk memperhalusi rencana berbahasa Inggeris dalam bentuk panjang tentang konflik AS-Iran, kemudian menghantarnya kepada editor di kedai dalam talian kecil dan sederhana menggunakan tujuh persona wartawan rekaan: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Jenny Williams, Alice Feusier dan Johnson.
OpenAI mengenal pasti hampir 100 artikel yang diterbitkan atau disindiketkan di bawah garis kecil tersebut merentasi kira-kira sedozen kedai di seluruh dunia, kebanyakannya tertumpu kepada hal ehwal antarabangsa dan Timur Tengah. Operasi itu juga menghasilkan kumpulan komen media sosial, walaupun OpenAI berkata ini menarik sedikit penglibatan sebenar - dan menyatakan bahawa pengendali menggunakan pengiraan yang mengelirukan dalam laporan dalaman mereka untuk meningkatkan kesan media sosial mereka yang jelas. Syarikat itu berkata aktiviti itu kelihatan konsisten dengan pelakon komersial yang menjalankan kempen pengaruh untuk disewa, dan ia telah berkongsi maklumat dengan pihak berkuasa yang berkaitan.
Kraf dagangan lama, alatan baharu
Apa yang paling menarik perhatian penyelidik, tulis OpenAI, ialah betapa rapatnya kedua-dua operasi itu menyerupai kempen pengaruh dari era pra-AI. Persona wartawan palsu mempunyai persamaan keluarga dengan "Alice Donovan," seorang wartawan rekaan yang memimpin perisikan tentera Rusia yang op-ednya muncul di kedai Barat pada 2016 dan 2017. Kakitangan tempatan SRC tanpa disedari menggemakan "PeaceData," laman berita palsu yang memilih wartawan sebenar pada 2020.
AI tidak mencipta teknik ini — ia menjadikannya lebih murah, lebih pantas dan lebih lancar. Operator menggunakan model untuk menyesuaikan palsu kepada perbendaharaan kata tempatan dan gaya institusi, menterjemah skrip ke dalam varian Sepanyol serantau dan menghasilkan e-mel nada yang digilap untuk editor. Tetapi OpenAI berhujah bahawa sifat rahsia, orang ke orang bagi operasi hadapan palsu juga menjadikan mereka terdedah kepada pendedahan: kedua-dua Alice Donovan dan PeaceData ditutup selepas dinamakan secara terbuka.
Membaca bukti dengan berhati-hati
OpenAI berhati-hati untuk membuat kaveat penemuannya sendiri. Pengendali secara rutin menuntut kredit untuk acara yang mereka tiada kaitan, dan beberapa palsu yang mereka laporkan penanaman tidak dapat ditemui dalam sumber terbuka. Perkara yang boleh disahkan oleh OpenAI — melalui semakan fakta, penafian rasmi dan artikel yang diterbitkan sepadan dengan penerangan pengendali — mencadangkan penembusan tulen media dan wacana politik di sekurang-kurangnya empat negara.
Bagi industri AI, laporan itu adalah peringatan bahawa penggunaan model yang paling berkesan dalam maklumat salah selalunya adalah yang paling tidak kelihatan: merangka laporan dalaman, memperhalusi nada, menggilap terjemahan. Entiti yang berada pada kedudukan terbaik untuk mengesan kempen ini, seperti yang ditunjukkan oleh kes OpenAI sebelum ini, selalunya adalah platform yang alatnya sendiri digunakan untuk menjalankannya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
