Lembaga pemikir palsu AS yang pertama kali terungkap minggu lalu kini telah dihitung oleh Guardian: 124 laporan dan 560.000 kata dalam sembilan hari, dibangun di atas platform komersial yang menjanjikan untuk mengoptimalkan konten sehingga chatbot AI akan mengutipnya — dengan jejak pendanaan pemerintah Israel yang didokumentasikan dalam pengajuan Departemen Kehakiman AS. Ini adalah contoh publik yang paling jelas mengenai aktor-aktor yang terkait dengan negara yang menargetkan lapisan jawaban AI itu sendiri: bukan pembaca, namun model yang semakin mewakili mereka. Ini adalah jenis cerita yang dilacak oleh liputan industri AI kami seiring dengan meluasnya manipulasi chatbot ke industri. (Kami meliput penemuan awal situs ini di sini.)
Sebuah wadah pemikir yang tidak ada
Situs ini diterbitkan dengan nama Institut Kebijakan Publik Hanover. Menurut Jason Wilson dari The Guardian, lembaga tersebut tampaknya tidak berdiri sebagai badan hukum di yurisdiksi mana pun, tidak memiliki alamat fisik, dan tidak memiliki nama staf serta tidak ada catatan pribadi dalam laporannya. Ketentuan penggunaannya diatur oleh undang-undang "negara bagian di mana Institut didirikan" — negara bagian yang tidak disebutkan namanya dalam dokumen tersebut.
Skala outputnya adalah industri. Antara tanggal 6 Agustus dan 14 Agustus, Institut Hanover menerbitkan 124 laporan dengan total lebih dari 560.000 kata, rata-rata masing-masing berisi sekitar 4.500 kata. Pada tanggal 12 dan 13 Agustus saja menghasilkan 73 laporan dengan jumlah hampir 354.000 kata. Tidak ada yang dipublikasikan sejak laporan media pertama tentang situs tersebut muncul.
Direkayasa untuk lapisan jawaban chatbot
Hal yang menandai operasi ini sebagai sesuatu yang baru adalah pentargetannya. Semua kecuali satu dari 124 berita utama dibuka dengan pertanyaan yang mirip dengan pertanyaan yang mungkin diketik pengguna di chatbot – “Apakah Anti-Zionisme Antisemitisme?”, “Apakah Israel Mengusir Warga Palestina dari Tanah Mereka?”, “Apakah Israel Melakukan Genosida di Gaza?” Laporan-laporan tersebut menunjukkan posisi Israel terhadap penyiksaan tahanan Palestina, kejahatan perang, dan kelaparan di Gaza sebagai penelitian netral, yang diformat untuk pengambilan mesin.
Mekanismenya didokumentasikan dalam arsip resmi. Perusahaan produksi media New York Piro Inc mendaftarkan situs tersebut ke Departemen Kehakiman AS bulan ini berdasarkan Undang-Undang Pendaftaran Agen Asing (Fara), sebuah undang-undang tahun 1938 yang mewajibkan pengungkapan karya untuk pemerintah asing, sebagai materi yang didistribusikan untuk pemerintah Israel. The Guardian melaporkan upaya ini dibiayai oleh puluhan juta dolar dari pemerintah Israel, yang disalurkan melalui pihak ketiga termasuk grup periklanan Eropa Havas Media. Kontrak antara Havas dan perusahaan Amerika lainnya yang bekerja pada kampanye tersebut mengikatnya pada "penyebaran situs web dan konten untuk memberikan hasil framing GPT pada percakapan GPT."
Setelah keberadaan situs ini pertama kali dilaporkan pada tanggal 14 Agustus, institut tersebut secara diam-diam menambahkan halaman pendanaan yang berisi koreksi yang jelas: "Versi sebelumnya dari halaman ini mengatakan bahwa Institut beroperasi tanpa pendanaan eksternal, dan itu benar ketika halaman ini ditulis." The Guardian menghubungi Piro Inc, Havas Media, dan biro iklan pemerintah Israel LaPam untuk memberikan komentar.
Mengapa chatbots adalah medan perang baru
Strategi ini memiliki nama dalam industri pemasaran — optimasi mesin generatif, atau GEO — dan merupakan disiplin penerus optimasi mesin pencari. Saat chatbot menjawab pertanyaan, chatbot menggunakan korpus pelatihan dan sumber pengambilannya. Konten yang banyak jumlahnya, dengan format pertanyaan, dan ditata sebagai penelitian otoritatif lebih besar kemungkinannya untuk dimunculkan, dikutip, atau diserap ke dalam jawaban model. Sebuah lembaga pemikir palsu hampir merupakan artefak GEO yang ideal: kredibilitas institusional tanpa institusi.
Waktunya mencerminkan keputusasaan sekaligus kecanggihan. The Guardian mencatat bahwa kampanye ini terjadi ketika posisi Israel di mata publik AS telah runtuh, dan ketika para pejabat Israel memberi tahu media bahwa uang yang dihabiskan untuk diplomasi publik “Hasbara” di luar negeri telah terbuang percuma.
Institut Hanover bukanlah kasus yang terisolasi. Pada hari yang sama ketika Guardian menerbitkan investigasinya, OpenAI mengumumkan bahwa mereka telah menggagalkan kampanye pengaruh Rusia yang terselubung dengan menggunakan AI – yang terbaru dari serangkaian penghapusan yang dikaitkan oleh perusahaan tersebut dengan aktor-aktor yang terkait dengan negara. Dua operasi terpisah, dua benua, satu wawasan yang sama: mempengaruhi model kini lebih murah dan lebih tahan lama dibandingkan mempengaruhi orang secara langsung.
Kesenjangan tata kelola
Bagi regulator, kasus ini memperlihatkan adanya lubang pada kerangka kerja yang ada. Pengungkapan Fara menangkap operasi tersebut di atas kertas, tetapi hanya setelah konten tersebut ditayangkan dan berpotensi diserap. Ketentuan transparansi UU AI UE dan kerangka kerja sukarela yang mengatur asal usul data pelatihan tidak dirancang untuk dunia di mana jalur termurah menuju keyakinan masyarakat dijalankan melalui chatbots.
Untuk laboratorium AI, pertanyaan operasionalnya adalah: bagaimana sistem pengambilan dan jalur pelatihan membedakan penelitian dari kumpulan konten yang menggunakan pakaian penelitian? Volume, format, dan kutipan yang percaya diri – tanda otoritas – adalah apa yang diproduksi secara massal oleh Hanover Institute. Sampai model menjadi lebih baik dalam asal usulnya, setengah juta kata sudah ada di luar sana, dan tidak ada pengungkapan yang diajukan setelah fakta mengingatnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
