Pemikir AS palsu yang pertama kali didedahkan minggu lalu kini telah dikira oleh Guardian: 124 laporan dan 560,000 perkataan dalam sembilan hari, dibina di atas platform komersial yang menjanjikan untuk mengoptimumkan kandungan supaya chatbots AI akan memetiknya — dengan jejak pendanaan kerajaan Israel yang didokumenkan dalam pemfailan Jabatan Kehakiman AS. Ia merupakan contoh awam yang paling jelas bagi pelakon berkaitan kerajaan yang menyasarkan lapisan jawapan AI itu sendiri: bukan pembaca, tetapi model yang semakin bercakap untuk mereka. Ia adalah jenis cerita liputan industri AI kami jejaki semasa manipulasi chatbot menjadi industri. (Kami meliputi penemuan awal tapak di sini.)
Sebuah thinktank yang tidak wujud
Tapak ini diterbitkan di bawah nama Institut Hanover untuk Dasar Awam. Menurut Jason Wilson dari Guardian, institut itu nampaknya tidak wujud sebagai entiti undang-undang dalam mana-mana bidang kuasa, tidak mempunyai alamat fizikal, dan tidak membawa kakitangan bernama dan tiada garis kecil pada mana-mana laporannya. Terma penggunaannya sendiri dikawal oleh undang-undang "negeri di mana Institut ditubuhkan" — keadaan yang enggan dinamakan oleh dokumen itu.
Skala pengeluaran adalah perindustrian. Antara 6 Ogos dan 14 Ogos, Institut Hanover menerbitkan 124 laporan berjumlah lebih daripada 560,000 patah perkataan, purata kira-kira 4,500 patah perkataan setiap satu. Pada 12 dan 13 Ogos sahaja ia menghasilkan 73 laporan berjumlah hampir 354,000 patah perkataan. Tiada apa-apa yang telah diterbitkan sejak laporan media pertama mengenai laman web itu muncul.
Direka untuk lapisan jawapan chatbot
Apa yang menandakan operasi itu sebagai novel ialah sasarannya. Semua kecuali satu daripada 124 tajuk utama dibuka dengan soalan yang menyerupai soalan yang mungkin ditaip oleh pengguna ke dalam chatbot — "Adakah Anti-Zionisme Antisemitisme?", "Adakah Israel Mengusir Rakyat Palestin dari Tanah Mereka?", "Adakah Israel Menjalankan Genocide di Gaza?" Laporan itu membentangkan pendirian Israel mengenai penyeksaan tahanan Palestin, jenayah perang, dan kebuluran di Gaza sebagai penyelidikan neutral, diformatkan untuk mendapatkan semula mesin.
Mekanik didokumenkan dalam pemfailan rasmi. Syarikat penerbitan media New York Piro Inc mendaftarkan laman web itu dengan Jabatan Kehakiman AS bulan ini di bawah Akta Pendaftaran Ejen Asing (Fara), undang-undang 1938 yang memerlukan pendedahan kerja untuk kerajaan asing, sebagai bahan yang diedarkan untuk kerajaan Israel. The Guardian melaporkan usaha itu dibiayai oleh puluhan juta dolar daripada kerajaan Israel, disalurkan melalui pihak ketiga termasuk kumpulan pengiklanan Eropah Havas Media. Kontrak antara Havas dan firma Amerika lain yang mengusahakan kempen itu menyerahkannya kepada "pengerahan tapak web dan kandungan untuk menyampaikan hasil pembingkaian GPT pada perbualan GPT."
Selepas kewujudan tapak itu mula-mula dilaporkan pada 14 Ogos, institut itu secara senyap-senyap menambah halaman pembiayaan yang mengandungi pembetulan yang jelas: "Versi awal halaman ini mengatakan Institut beroperasi tanpa pembiayaan luar, dan itu benar apabila ia ditulis." The Guardian menghubungi Piro Inc, Havas Media, dan agensi pengiklanan kerajaan Israel LaPam untuk mendapatkan komen.
Mengapa chatbots adalah medan perang baharu
Strategi ini mempunyai nama dalam industri pemasaran — pengoptimuman enjin generatif, atau GEO — dan ia adalah disiplin pengganti kepada pengoptimuman enjin carian. Apabila chatbot menjawab soalan, ia menggunakan korpus latihan dan sumber perolehannya. Kandungan yang banyak, berformat soalan dan digayakan sebagai penyelidikan berwibawa berkemungkinan besar akan muncul, disebut atau diserap ke dalam jawapan model. Pemikir palsu hampir merupakan artifak GEO yang ideal: kredibiliti institusi tanpa institusi.
Masa mencerminkan keputusasaan seperti kecanggihan. The Guardian mencatatkan kempen itu dibuat apabila pendirian Israel dalam pandangan umum AS telah runtuh, dan ketika pegawai Israel memberi taklimat kepada media bahawa wang yang dibelanjakan untuk diplomasi awam "Hasbara" di luar negara telah dibazirkan.
Institut Hanover bukanlah kes terpencil. Pada hari yang sama Guardian menerbitkan penyiasatannya, OpenAI mengumumkan ia telah mengganggu kempen pengaruh Rusia terselindung menggunakan AI - yang terbaru dalam siri penyingkiran yang syarikat itu telah dikaitkan dengan pelakon berkaitan kerajaan. Dua operasi berasingan, dua benua, satu cerapan dikongsi: mempengaruhi model kini lebih murah dan lebih tahan lama daripada mempengaruhi orang secara langsung.
Jurang tadbir urus
Bagi pengawal selia, kes itu mendedahkan lubang dalam rangka kerja sedia ada. Pendedahan Fara menangkap operasi di atas kertas, tetapi hanya selepas kandungan itu disiarkan secara langsung dan berpotensi ditelan. Peruntukan ketelusan Akta AI EU dan rangka kerja sukarela yang mengawal asal data latihan tidak direka untuk dunia yang laluan paling murah kepada kepercayaan penduduk melalui chatbotsnya.
Untuk makmal AI, persoalan operasi adalah segera: bagaimana sistem perolehan semula dan saluran paip latihan membezakan penyelidikan daripada ladang kandungan yang memakai pakaian penyelidikan? Kelantangan, pemformatan, dan petikan yakin — isyarat kuasa — adalah persis apa yang dihasilkan secara besar-besaran oleh Institut Hanover. Sehingga model menjadi lebih baik pada asalnya, setengah juta perkataan sudah ada, dan tiada pendedahan difailkan selepas fakta menarik baliknya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
