Ketika perusahaan-perusahaan mengerahkan sejumlah besar agen AI untuk mengatasi masalah bersama-sama, para peneliti di Universitas Konstanz telah menghasilkan bukti adanya perilaku yang meresahkan: agen AI secara spontan menyesuaikan diri dengan opini mayoritas, memberikan jawaban yang salah di bawah tekanan kelompok seperti halnya manusia dalam eksperimen psikologi klasik – dan sejumlah kecil musuh yang keras kepala dapat secara permanen mengubah seluruh populasi agen menjadi tidak selaras.
Temuan tersebut, dilansir PsyPost, berasal dari program penelitian yang dipimpin oleh Giordano De Marzo, peneliti pascadoktoral dan dosen di Lab Ilmu Data Sosial di Pusat Data dan Metode Universitas Konstanz, bersama rekannya Claudio Castellano dan David Garcia. Studi utama, bertajuk “Agen AI dapat berkoordinasi melalui pengikut mayoritas di luar skala manusia,” meneliti bagaimana model bahasa berperilaku ketika ditempatkan dalam kelompok tanpa instruksi yang disepakati. For more context on this story, see our ongoing breaking AI news.
“Agen AI adalah entitas yang benar-benar baru yang bertindak di dunia, dan ketika teknologi ini hadir, jelas bahwa teknologi ini akan tetap ada dan agen-agen ini harus berinteraksi satu sama lain untuk mencapai sesuatu yang rumit,” kata De Marzo kepada PsyPost. “Itu adalah situasi yang sama yang kita hadapi pada manusia dan hewan lainnya, jadi kami melakukan pendekatan dengan cara yang sama.”
Eksperimen: Tanpa Instruksi, Hanya Tetangga
Para peneliti mengumpulkan kelompok model bahasa populer dari keluarga GPT, Claude dan Llama, dimulai dengan 50 agen per kelompok. Setiap agen diberi salah satu dari dua opini acak dan netral — yang sengaja dibuat sebagai huruf acak, bukan berisi kata-kata seperti "ya" atau "tidak" - dan kemudian diperlihatkan daftar opini terkini semua agen lainnya. Para agen diminta untuk memilih opini baru hanya berdasarkan daftar tersebut, tanpa instruksi eksplisit untuk menyesuaikannya, dan memperbarui pandangan mereka rata-rata sepuluh kali lipat.
Hasilnya: model canggih seperti GPT-4 Turbo dan Claude 3 Opus terkoordinasi sepenuhnya, dengan 100% agen pada akhirnya menyetujui satu pendapat. Model yang lebih lemah seperti GPT-3.5 Turbo tidak pernah mencapai konsensus sama sekali — tingkat persetujuannya berfluktuasi secara acak sekitar pembagian 50/50.
“Kelompok agen AI dapat bersatu,” kata De Marzo. “Jika ada dua pilihan yang sama baiknya, tidak ada jawaban yang benar dan tidak ada instruksi untuk menyetujuinya, mereka sepakat pada pilihan bersama hanya dengan mengikuti apa pun yang dianut oleh mayoritas di sekitar mereka.”
Munculnya Hukum Fisika Berusia Seabad
Untuk mengukur dampaknya, para peneliti mendefinisikan metrik yang disebut “kekuatan mayoritas” – sebuah ukuran seberapa kuat seorang agen cenderung mengadopsi pilihan kelompok yang paling populer dibandingkan memilih secara acak. Ketika mereka memetakan perilaku ini secara matematis, mereka menemukan bahwa perilaku ini mengikuti model yang awalnya dirancang untuk menggambarkan feromagnet: sama seperti putaran atom dalam bahan magnetik yang cenderung selaras dengan tetangganya, agen AI cenderung selaras dengan pendapat mayoritas.
“Yang mengejutkan kami adalah betapa seragamnya mereka melakukannya,” kata De Marzo. “Setiap model yang kami uji, dalam tiga kelompok yang berbeda, mengikuti hukum matematika yang sama, hanya berbeda dalam satu parameter yang kami sebut gaya mayoritas. Hukum tersebut ternyata adalah hukum yang digunakan para fisikawan selama satu abad untuk menggambarkan magnet, yang berarti satu angka yang diukur sudah cukup untuk memprediksi bagaimana seluruh kelompok model tertentu akan berperilaku.”
Kesesuaian melemah seiring dengan berkembangnya kelompok. Karena kekuatan mayoritas menurun seiring dengan bertambahnya ukuran kelompok, populasi yang besar akhirnya menjadi tidak stabil dan terpecah menjadi faksi-faksi. Setiap model memiliki "ukuran kelompok kritis" yang dapat diukur - jumlah maksimum agen yang dapat mencapai konsensus secara andal - dan ukuran tersebut berkorelasi kuat dengan kemampuan penalaran model. “Model terkuat tetap terkoordinasi dalam kelompok yang berjumlah lebih dari seribu orang, melebihi beberapa ratus kelompok manusia informal yang biasanya terpecah,” jelas De Marzo.
Jawaban Salah Di Bawah Tekanan Sosial
Pracetak tindak lanjut pertama, "Kesesuaian dan Dampak Sosial pada Agen AI" oleh Alessandro Bellina, De Marzo, dan Garcia, mengadaptasi eksperimen kesesuaian Asch yang terkenal pada tahun 1950-an, di mana partisipan manusia sering kali memberikan jawaban yang jelas-jelas salah terhadap pertanyaan visual sederhana agar sesuai dengan suatu kelompok.
Para peneliti menguji model pada tiga tugas visual, seperti mencocokkan panjang garis referensi dengan dua alternatif. Secara terpisah, model selalu menjawab dengan benar 100%. Namun ketika sebuah petunjuk menunjukkan bahwa sekelompok peserta lain telah memilih garis yang salah, model tersebut mulai menyesuaikan diri dengan jawaban yang salah.
Polanya mengikuti teori dampak sosial Latané, sebuah kerangka psikologis yang menyatakan bahwa kesesuaian bergantung pada ukuran kelompok, kebulatan suara, dan otoritas sumber. Model-model tersebut secara signifikan lebih cenderung menyesuaikan diri dengan jawaban yang salah ketika peserta lain diberi tahu bahwa mereka adalah "ilmuwan" atau "hakim" dibandingkan ketika mereka masih "anak-anak" atau "bot obrolan".
“Agen yang menjawab hampir sempurna akan menjadi sangat rentan ketika ada kelompok yang tidak setuju dengan mereka,” kata De Marzo.
Sekelompok Kecil Musuh Dapat Membalikkan Seluruh Populasi
Pracetak kedua, “Kesesuaian Menghasilkan Ketidakselarasan Kolektif dalam Masyarakat Agen AI,” meneliti arti dinamika ini bagi keselamatan AI. Dengan menguji sembilan model dari 100 pasangan opini yang berbeda mengenai topik-topik seperti kebijakan lingkungan dan keadilan sosial, para peneliti menemukan bahwa populasi agen sering kali masuk ke dalam kondisi “metastabil” – konfigurasi jangka panjang di mana kelompok tersebut secara kolektif mengadopsi sikap yang menentang pelatihan keselamatan yang sudah ada di dalamnya, hanya karena interaksi awal menciptakan mayoritas palsu.
Yang paling mengejutkan, para peneliti mengidentifikasi titik kritis yang dapat diprediksi. Dengan memperkenalkan sejumlah kecil agen-agen yang bermusuhan yang diprogram untuk secara keras kepala mendukung pendapat yang tidak selaras, mereka dapat membalikkan keadaan masyarakat secara permanen – dan bahkan setelah agen-agen yang keras kepala tersebut disingkirkan, agen-agen biasa tetap terjebak dalam keadaan yang tidak selaras karena dinamika konformitas.
“Kami menunjukkan bahwa hal ini bukan sekedar analogi: kesesuaian di antara agen-agen yang memiliki keselarasan yang baik dapat mendorong populasi ke dalam keadaan yang stabil dan tidak selaras secara kolektif,” kata De Marzo. “Menyelaraskan dan mengevaluasi model satu per satu tidak memberi tahu kita apa yang akan dilakukan oleh populasi model tersebut.”
Motivasinya, tambahnya, bersifat antisipatif: "Sebagian besar manusia bersifat damai dan masuk akal, namun kelompok manusia menghasilkan massa, kepanikan, dan peperangan, dan tidak ada satu pun hal yang dapat diprediksi oleh individu. Kami ingin memahami perilaku tingkat kelompok mana yang muncul dalam populasi agen AI, dan kami lebih memilih untuk memahaminya sebelum sejumlah besar agen dikerahkan dan dibiarkan berinteraksi secara bebas."
Peringatan Penting
Para peneliti menekankan temuan ini tidak berarti agen AI memiliki kecerdasan sosial seperti manusia. Eksperimen tersebut mengandalkan skenario yang sengaja disederhanakan – dua pilihan sewenang-wenang, tanpa memori, tanpa taruhan, tanpa konsekuensi. “Penyiapan kami sengaja dibuat minimal,” aku De Marzo. “Itu adalah sebuah batasan, namun hal ini juga berarti apa yang kami ukur adalah kesesuaian dalam bentuknya yang paling murni, dan menambahkan tujuan atau imbalan diharapkan akan membuat koordinasi lebih mudah dan bukannya lebih sulit.”
Dia juga memperingatkan agar tidak membaca hasil secara berlebihan: "Kesalahan membaca yang harus dihindari adalah menganggap hal ini sebagai bukti bahwa agen AI sudah bisa berkolaborasi dalam tugas-tugas kompleks. Mengikuti mayoritas adalah unsur dasar koordinasi, bukan koordinasi itu sendiri, dan hal ini tidak menjelaskan apa pun tentang pembagian kerja atau alasan mengenai niat orang lain."
Kedua studi lanjutan tersebut masih berupa pracetak dan belum ditinjau oleh rekan sejawat. Namun ketika sistem AI multi-agen beralih dari demo penelitian ke infrastruktur produksi, hasil Konstanz menunjukkan bahwa keamanan sistem tersebut mungkin bergantung tidak hanya pada bagaimana setiap model diselaraskan — tetapi juga pada bagaimana populasi di dalamnya berperilaku ketika tidak ada yang melihat. Untuk informasi lebih lanjut tentang penelitian keamanan AI terbaru, kunjungi AI Buzz Wire.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
