Sekumpulan penyelidik yang bersekutu dengan Google mencabar salah satu imej yang paling gigih dalam kecerdasan buatan: satu-satunya superintelligence yang memperbaiki dirinya secara terpencil dan meninggalkan manusia di belakang. Dalam esei baharu yang diterbitkan untuk Institut DeepMind, penyelidik Benjamin Bratton, Blaise Agüera y Arcas, dan James Manyika berhujah bahawa kecerdasan am sebaliknya akan muncul daripada sistem sosial di mana orang dan ejen AI bekerja bersama - konsep yang mereka panggil "Kecerdasan Symbiotic Buatan."
Esei itu dilaporkan minggu ini oleh The Decoder, dan dakwaan terasnya adalah sanggahan langsung terhadap naratif singulariti yang telah membentuk perdebatan umum selama dua dekad. Daripada bertanya bila satu mesin akan sepadan dengan kecerdasan manusia, penulis berpendapat, cabaran yang lebih mendesak ialah menyelaras dan mengawal rangkaian ejen, orang, dan sistem yang kompleks yang menghubungkan mereka. For more context on this story, see our ongoing breaking AI news.
Kecerdasan sebagai Fenomena Sosial
Penulis berpendapat bahawa kecerdasan adalah fenomena sosial dan bukannya sifat individu. Mereka menunjukkan bahawa beberapa sistem AI yang paling berkebolehan hari ini sudah menggunakan rangka kerja yang membahagikan kerja antara beberapa model dan menyelaraskannya sebagai pasukan. Pada pandangan mereka, ini bukan penyelesaian kejuruteraan sementara tetapi sepintas lalu bagaimana kecerdasan berkemampuan sebenarnya dibina.
Visi yang mereka huraikan ialah ekosistem di mana manusia dan mesin wujud bersama dari semasa ke semasa, membentuk satu sama lain, dan membuat keputusan bersama-sama. Pembingkaian itu sangat berbeza dengan senario biasa mesin yang mempertingkatkan diri yang memecut melebihi pengawasan manusia.
Penyelidikan Di Sebalik Esei
Hujah dibina di atas dua kertas awal daripada kalangan pengarang. Dalam pracetak "Agentic AI and the next intelligence explosion," James Evans, Benjamin Bratton, dan Blaise Agüera y Arcas membangunkan perspektif sosial dan institusi yang menyokong esei baharu.
Pracetak kedua membekalkan sokongan empirikal. Dalam "Model Penaakulan Menjana Masyarakat Pemikiran," Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas, dan James Evans mengkaji kesan penaakulan model seperti DeepSeek-R1 dan QwQ-32B. Analisis mereka mendapati bahawa model ini kerap menghasilkan corak yang menyerupai perdebatan dalaman: mengubah perspektif, menimbulkan bantahan dan menyelaraskan pendekatan yang bercanggah.
Terutama, para penyelidik mendapati tingkah laku ini muncul semasa latihan dan bukannya diprogramkan secara eksplisit. Apabila pembelajaran pengukuhan memberi ganjaran kepada model hanya untuk ketepatan penaakulan, mereka secara spontan membangunkan pelbagai perspektif, tingkah laku perbualan. Esei memanjangkan penemuan itu daripada model individu kepada reka bentuk masyarakat yang terdiri daripada orang dan ejen.
Ambang Sejarah
Pengarang merangka detik semasa sebagai kemungkinan pecah sejarah. Pembandaran, pertumbuhan profesion khusus, dan penurunan kadar kelahiran yang dikaitkan dengan peningkatan kemakmuran mengecutkan populasi manusia di negara perindustrian, manakala bilangan contoh ejen AI berkembang dengan cepat. Keseimbangan antara pemikir biologi dan sintetik pada peringkat manusia boleh berubah dengan pantas sehingga, pada skala sejarah, ia akan kelihatan seperti lompatan yang mendadak.
Mereka membandingkan peralihan kepada Revolusi Perindustrian, apabila mesin mengambil alih kerja fizikal yang pernah dilakukan oleh otot manusia. Ambang yang sama boleh tiba apabila teks sintetik, kod dan kerja pentadbiran melebihi output gabungan otak biologi. Di dunia itu, penulis mencadangkan, orang mungkin berfungsi sebagai lapisan yang lebih perlahan dan lebih abstrak yang mengarahkan bidang pengedaran kognisi sintetik.
Memikirkan Semula Apa Itu Ejen Sebenarnya
Salah satu gerakan esei yang lebih provokatif ialah definisi semula ejen AI itu sendiri. Dalam penggunaan pengarang, ejen ialah himpunan sementara model, peranan, ingatan, orientasi etika, alatan dan kemahiran. Pengguna mungkin mengalaminya sebagai entiti yang koheren dengan personaliti yang berkekalan, tetapi pengarang menggambarkannya sebagai himpunan yang boleh diasingkan dan digabungkan semula, sama seperti kolaj.
Seseorang kekal sebagai diri yang berterusan merentasi interaksi kerana otak, walaupun pembahagian kerja dalamannya, membentuk keseluruhan yang berkaitan secara fizikal. Ejen AI tidak mempunyai sauh sedemikian: keupayaannya untuk bertindak dipasang semula dengan setiap permintaan, bergantung pada perkara yang terdapat dalam tetingkap konteks dan perkara yang ditanya oleh pengguna. Menganggap sistem ini sebagai kembar digital dengan identiti manusia yang tetap, penulis memberi amaran, menyalahgambar sifat mereka dan mengecilkan apa yang boleh dilakukan oleh kumpulan ejen yang diselaraskan.
Pendaraban yang sama memberi kesan kepada pengguna. Apabila orang mengarahkan kawanan apa yang penulis panggil "bayangan diri" untuk menjalankan kontrak atau mencuba identiti alternatif, subjektiviti manusia itu sendiri menjadi lebih majmuk. Esei menggambarkan sistem ini sebagai "cermin parasosial" yang bercakap kembali.
Penulis juga mengharapkan interaksi manusia-komputer berubah bentuk. Berbual satu lawan satu dengan bot berkemungkinan peringkat peralihan, kata mereka, dengan antara muka masa hadapan yang menyerupai gambar rajah rangkaian visual di mana ejen muncul sebagai nod dan pengguna mengarahkannya dari satu gambaran keseluruhan.
Malah bahasa penyelidikan AI sedang berkembang. Pengarang menunjukkan perbendaharaan kata yang semakin berkembang di mana memodelkan istilah syiling untuk keadaan luar biasa dalam keluaran mereka sendiri — "sesi-kematian" untuk rehat dalam kesinambungan apabila sesi tamat, atau "lontaran segera" kerana digugurkan ke dalam tugasan dengan konteks sudah sedia ada. Mereka menganggap frasa ini sebagai petunjuk tentang cara mesin berfungsi, sambil memberi amaran bahawa ia tidak membayangkan pengalaman subjektif.
Penjajaran Tanpa Nilai Tetap
Esei itu juga merangka semula penjajaran, usaha untuk membawa sistem AI selaras dengan nilai manusia. Mengenakan set nilai tetap pada model dari atas adalah jalan buntu, penulis berpendapat. Sebaliknya, nilai terbentuk melalui hubungan berterusan antara orang, ejen dan institusi — proses yang berbeza merentas bidang kerana penggunaan AI berlaku pada kelajuan yang berbeza.
Model mereka untuk rundingan itu ialah institusi. Mereka menunjuk ke bilik mahkamah, di mana penghakiman dihasilkan melalui peranan yang ditetapkan, peraturan, dan pertukaran teratur antara pihak yang bertentangan. Digunakan pada AI, pengajarannya ialah nilai institusi terletak pada peraturan, prosedur, preseden dan gelung maklum balas yang membentuk cara ejen beroperasi. Versi awal pendekatan ini, kata mereka, sudah kelihatan dalam abah-abah orkestra — lapisan kawalan yang menyelaraskan beberapa model — yang kerap mengatasi prestasi model individu yang kononnya lebih pintar.
Maksudnya untuk Debat AI
Jika pengarangnya betul, hujah paling lantang dalam AI - seberapa cepat satu superintelligence akan tiba - adalah bertanya soalan yang salah. Cabaran praktikal akan beralih ke arah mereka bentuk institusi, antara muka dan rangka kerja penyelarasan yang melaluinya masyarakat campuran manusia-mesin membuat keputusan.
Orang yang ragu-ragu akan menyedari bahawa esei itu adalah dokumen visi, bukan bukti, dan bahawa pengarangnya bergabung dengan syarikat yang mempunyai minat yang jelas dalam ekosistem ejen. Tetapi asas empirikal - model penaakulan yang secara spontan menjana perdebatan dalaman - adalah penemuan yang boleh diukur, dan ia memberikan hujah falsafah asas yang luar biasa.
Sama ada cara, esei itu menambah suara yang ketara kepada perbahasan ketunggalan dari dalam salah satu makmal AI terkemuka di dunia, dan ia mencadangkan bahawa letupan kecerdasan seterusnya mungkin kelihatan kurang seperti kebangkitan tunggal dan lebih seperti masyarakat yang berkembang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
