Sekelompok peneliti yang berafiliasi dengan Google menantang salah satu gambaran paling persisten dalam kecerdasan buatan: satu-satunya kecerdasan super yang berkembang secara mandiri dan meninggalkan umat manusia. Dalam esai baru yang diterbitkan untuk DeepMind Institute, peneliti Benjamin Bratton, Blaise Agüera y Arcas, dan James Manyika berpendapat bahwa kecerdasan umum akan muncul dari sistem sosial di mana manusia dan agen AI bekerja sama – sebuah konsep yang mereka sebut “Kecerdasan Simbiotik Buatan.”
Esai tersebut dilaporkan minggu ini oleh The Decoder, dan klaim intinya adalah bantahan langsung terhadap narasi singularitas yang telah menjadi perdebatan publik selama dua dekade. Daripada bertanya kapan sebuah mesin akan mampu menyamai kecerdasan manusia, penulis berpendapat, tantangan yang lebih mendesak adalah mengoordinasikan dan mengatur jaringan kompleks yang terdiri dari agen, manusia, dan sistem yang menghubungkan mereka. For more context on this story, see our ongoing AI trends.
Kecerdasan sebagai Fenomena Sosial
Para penulis berpendapat bahwa kecerdasan adalah fenomena sosial dan bukan sifat individu. Mereka menunjukkan bahwa beberapa sistem AI paling mumpuni saat ini telah menggunakan kerangka kerja yang membagi pekerjaan di antara beberapa model dan mengoordinasikannya sebagai tim. Dalam pandangan mereka, ini bukanlah solusi rekayasa sementara, melainkan gambaran sekilas tentang bagaimana kecerdasan yang mumpuni benar-benar dibangun.
Visi yang mereka gambarkan adalah sebuah ekosistem di mana manusia dan mesin hidup berdampingan dari waktu ke waktu, membentuk satu sama lain, dan mengambil keputusan bersama. Pembingkaian ini sangat kontras dengan skenario umum tentang mesin yang bisa berkembang sendiri dan berakselerasi melampaui pengawasan manusia.
Penelitian di Balik Esai
Argumen ini dibangun berdasarkan dua makalah sebelumnya dari kalangan penulis. Dalam pracetak "Agentic AI dan ledakan intelijen berikutnya", James Evans, Benjamin Bratton, dan Blaise Agüera y Arcas mengembangkan perspektif sosial dan institusional yang mendasari esai baru ini.
Pracetak kedua memberikan dukungan empiris. Dalam "Model Penalaran Menghasilkan Masyarakat Pemikiran," Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas, dan James Evans memeriksa jejak penalaran model seperti DeepSeek-R1 dan QwQ-32B. Analisis mereka menemukan bahwa model-model ini sering kali menghasilkan pola yang menyerupai perdebatan internal: pergeseran perspektif, mengajukan keberatan, dan merekonsiliasi pendekatan-pendekatan yang saling bertentangan.
Khususnya, para peneliti menemukan bahwa perilaku ini muncul selama pelatihan dan bukan diprogram secara eksplisit. Ketika pembelajaran penguatan memberi penghargaan pada model hanya untuk akurasi penalaran, mereka secara spontan mengembangkan perilaku percakapan multi-perspektif. Esai ini memperluas temuan tersebut mulai dari model individu hingga rancangan masyarakat yang terdiri dari orang-orang dan agen.
Ambang Sejarah
Penulis membingkai momen saat ini sebagai kemungkinan terjadinya terobosan sejarah. Urbanisasi, pertumbuhan profesi-profesi khusus, dan penurunan angka kelahiran yang terkait dengan peningkatan kesejahteraan telah menyusutkan populasi manusia di negara-negara industri, sementara jumlah agen AI meningkat dengan cepat. Keseimbangan antara pemikir biologis dan sintetik pada tingkat manusia dapat berubah begitu cepat sehingga, dalam skala sejarah, hal ini akan terlihat seperti lompatan yang tiba-tiba.
Mereka membandingkan peralihan tersebut dengan Revolusi Industri, ketika mesin mengambil alih pekerjaan fisik yang sebelumnya dilakukan oleh otot manusia. Ambang batas serupa dapat dicapai ketika teks sintetik, kode, dan pekerjaan administratif melebihi output gabungan dari otak biologis. Di dunia ini, menurut penulis, manusia mungkin berperan sebagai lapisan yang lebih lambat dan lebih abstrak yang mengarahkan bidang kognisi sintetik yang terdistribusi.
Memikirkan Kembali Apa Sebenarnya Agen itu
Salah satu gerakan esai yang lebih provokatif adalah redefinisi agen AI itu sendiri. Dalam penggunaan penulis, agen adalah kumpulan sementara model, peran, ingatan, orientasi etika, alat, dan keterampilan. Pengguna mungkin merasakannya sebagai sebuah entitas yang koheren dengan kepribadian yang abadi, namun penulis menggambarkannya sebagai sebuah kumpulan yang dapat dipisahkan dan digabungkan kembali, seperti sebuah kolase.
Seseorang tetap menjadi diri yang berkesinambungan dalam berbagai interaksi karena otak, meskipun terdapat pembagian kerja internal, membentuk satu kesatuan yang terhubung secara fisik. Agen AI tidak memiliki jangkar seperti itu: kemampuannya untuk bertindak disusun kembali dengan setiap permintaan, bergantung pada apa yang ada di jendela konteks dan apa yang diminta pengguna. Memperlakukan sistem ini sebagai kembaran digital dengan identitas manusia yang tetap, para penulis memperingatkan, salah mengartikan sifat mereka dan meremehkan apa yang bisa dilakukan oleh kawanan agen yang terkoordinasi.
Perkalian yang sama mempengaruhi pengguna. Ketika orang-orang mengarahkan segerombolan apa yang penulis sebut sebagai “bayangan diri” (shadow self) untuk melaksanakan kontrak atau mencoba identitas alternatif, subjektivitas manusia itu sendiri menjadi lebih plural. Esai tersebut menggambarkan sistem ini sebagai "cermin parasosial" yang membalas.
Para penulis juga memperkirakan interaksi manusia-komputer akan berubah bentuk. Mereka berpendapat, mengobrol satu lawan satu dengan bot kemungkinan merupakan tahap transisi, dengan antarmuka masa depan yang menyerupai diagram jaringan visual di mana agen muncul sebagai node dan pengguna mengarahkan mereka dari satu gambaran umum.
Bahkan bahasa penelitian AI pun terus berkembang. Para penulis menunjuk pada kosakata yang berkembang di mana memodelkan istilah-istilah untuk keadaan yang tidak biasa dalam keluaran mereka sendiri — "session-death" untuk terputusnya kontinuitas ketika sesi berakhir, atau "prompt throwness" karena dimasukkan ke dalam tugas dengan konteks yang sudah ada. Mereka memperlakukan ungkapan-ungkapan ini sebagai petunjuk tentang cara kerja mesin, sekaligus memperingatkan bahwa ungkapan-ungkapan tersebut tidak menyiratkan pengalaman subjektif.
Penyelarasan Tanpa Nilai Tetap
Esai ini juga membingkai ulang penyelarasan, upaya untuk membawa sistem AI sejalan dengan nilai-nilai kemanusiaan. Memaksakan serangkaian nilai yang tetap pada model dari atas adalah jalan buntu, menurut para penulis. Sebaliknya, nilai-nilai terbentuk melalui kontak berkelanjutan antara manusia, agen, dan institusi – sebuah proses yang berbeda-beda di berbagai bidang karena adopsi AI terjadi dengan kecepatan yang berbeda-beda.
Model negosiasi mereka adalah institusi. Mereka menunjuk ke ruang sidang, tempat keputusan dihasilkan melalui peran, aturan, dan pertukaran yang teratur antara pihak-pihak yang berseberangan. Jika diterapkan pada AI, pembelajaran yang dapat diambil adalah bahwa nilai suatu institusi terletak pada aturan, prosedur, preseden, dan putaran umpan balik yang membentuk cara agen beroperasi. Versi awal dari pendekatan ini, menurut mereka, sudah terlihat dalam rangkaian orkestrasi – lapisan kontrol yang mengoordinasikan beberapa model – yang secara teratur mengungguli model individual yang dianggap lebih pintar.
Apa Artinya bagi Debat AI
Jika penulisnya benar, argumen paling keras dalam AI – seberapa cepat sebuah superintelligence akan hadir – adalah menanyakan pertanyaan yang salah. Tantangan praktisnya akan beralih ke perancangan institusi, antarmuka, dan kerangka koordinasi yang digunakan oleh masyarakat campuran manusia-mesin dalam mengambil keputusan.
Orang yang skeptis akan menyadari bahwa esai tersebut adalah dokumen visi, bukan bukti, dan bahwa penulisnya berafiliasi dengan perusahaan yang memiliki kepentingan jelas dalam ekosistem agen. Namun landasan empiris – model penalaran yang secara spontan menimbulkan perdebatan internal – merupakan temuan yang terukur, dan memberikan landasan filosofis yang tidak biasa pada argumen filosofis.
Apa pun yang terjadi, esai ini memberikan suara penting pada perdebatan singularitas dari salah satu laboratorium AI terkemuka di dunia, dan menunjukkan bahwa ledakan kecerdasan berikutnya mungkin tidak terlihat seperti kebangkitan tunggal, melainkan lebih seperti perluasan masyarakat.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
