Klompok peneliti sing ana gandhengane karo Google nantang salah sawijining gambar sing paling terus-terusan ing intelijen buatan: superintelijen tunggal sing nambah awake dhewe kanthi sepi lan ninggalake manungsa. Ing esai anyar sing diterbitake kanggo DeepMind Institute, peneliti Benjamin Bratton, Blaise Agüera y Arcas, lan James Manyika mbantah manawa intelijen umum bakal muncul saka sistem sosial ing ngendi wong lan agen AI bisa kerja bareng - konsep sing diarani "Kecerdasan Symbiotic Artificial."
Esai kasebut dilaporake minggu iki dening The Decoder, lan pratelan inti kasebut minangka bantahan langsung saka narasi singularitas sing wis nggawe debat umum sajrone rong dekade. Tinimbang takon kapan mesin siji bakal cocog karo intelijen manungsa, penulis mbantah, tantangan sing luwih penting yaiku koordinasi lan ngatur jaringan agen, wong, lan sistem sing nyambungake. For more context on this story, see our ongoing more AI stories.
Kecerdasan minangka Fenomena Sosial
Penulis negesake manawa intelijen minangka fenomena sosial tinimbang sipat individu. Dheweke nuduhake manawa sawetara sistem AI sing paling mumpuni saiki wis nggunakake kerangka kerja sing mbagi karya ing sawetara model lan koordinasi minangka tim. Ing panemune, iki dudu solusi teknik sementara, nanging sekilas kepiye intelijen sing bisa dibangun.
Visi sing digambarake yaiku ekosistem sing manungsa lan mesin urip bebarengan ing wektu, mbentuk siji liyane, lan nggawe keputusan bebarengan. Framing kasebut kontras banget karo skenario sing akrab babagan mesin sing bisa ningkatake awake dhewe sing nyepetake ngluwihi pengawasan manungsa.
Panliten Konco Essay
Argumentasi dibangun ing rong makalah sadurungé saka bunder penulis. Ing preprint "Agentic AI lan jeblugan intelijen sabanjure," James Evans, Benjamin Bratton, lan Blaise Agüera y Arcas ngembangake perspektif sosial lan institusional sing ndhukung karangan anyar.
Preprint kapindho nyedhiyakake dhukungan empiris. Ing "Reasoning Models Generate Societies of Thought," Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas, lan James Evans nliti jejak-jejak penalaran model kayata DeepSeek-R1 lan QwQ-32B. Analisis kasebut nemokake manawa model kasebut kerep ngasilake pola sing meh padha karo debat internal: owah-owahan perspektif, nambah bantahan, lan nyelarasake pendekatan sing bertentangan.
Utamane, para peneliti nemokake prilaku iki muncul sajrone latihan tinimbang diprogram kanthi jelas. Nalika sinau reinforcement ganjaran model mung kanggo akurasi nalar, padha spontan ngembangaken multi-perspektif, prilaku conversational. Esai kasebut ngluwihi sing nemokake saka model individu menyang desain masyarakat sing dumadi saka wong lan agen.
Ambang Historis
Penulis pigura wayahe saiki minangka break sajarah bisa. Urbanisasi, tuwuhing profesi khusus, lan tingkat kelahiran sing mudhun sing ana gandhengane karo mundhake kamakmuran nyuda populasi manungsa ing negara industri, dene jumlah agen AI saya tambah cepet. Imbangan antarane pemikir biologis lan sintetik ing tingkat manungsa bisa owah kanthi cepet nganti, ing skala sejarah, bakal katon kaya lompatan dadakan.
Padha mbandhingake owah-owahan menyang Revolusi Industri, nalika mesin njupuk alih karya fisik sapisan rampung dening otot manungsa. Ambang sing padha bisa teka nalika teks sintetik, kode, lan karya administratif ngluwihi output gabungan saka otak biologis. Ing jagad iki, panulis nyaranake, wong bisa dadi lapisan sing luwih alon lan abstrak ngarahake bidang kognisi sintetik sing disebarake.
Rethinking Apa Agen Sejatine
Salah sawijining gerakan esai sing luwih provokatif yaiku redefinisi saka agen AI dhewe. Ing panggunaan penulis, agen minangka kumpulan model, peran, kenangan, orientasi etika, alat, lan katrampilan sementara. Pangguna bisa nemu minangka entitas sing koheren kanthi pribadine sing langgeng, nanging penulis nggambarake minangka kumpulan sing bisa dipisahake lan digabungake maneh, kaya kolase.
Sawijining wong tetep dadi diri sing terus-terusan sajrone interaksi amarga otak, sanajan divisi internal tenaga kerja, mbentuk kesatuan sing disambungake sacara fisik. Agen AI ora duwe jangkar kasebut: kemampuan kanggo tumindak dirakit maneh karo saben panyuwunan, gumantung saka apa sing ana ing jendela konteks lan apa sing dijaluk pangguna. Nambani sistem kasebut minangka kembar digital kanthi identitas manungsa sing tetep, penulis ngelingake, nyalahake sifate lan ngremehake apa sing bisa ditindakake dening swarms agen terkoordinasi.
Perkalian sing padha mengaruhi pangguna. Nalika wong ngarahake swarms saka apa sing diarani penulis "bayangan dhewe" kanggo nindakake kontrak utawa nyoba identitas alternatif, subyektivitas manungsa dhewe dadi luwih jamak. Esai kasebut nggambarake sistem kasebut minangka "cermin parasosial" sing ngomong maneh.
Penulis uga ngarepake interaksi manungsa-komputer kanggo ngganti wujud. Ngobrol siji-siji karo bot kemungkinan minangka tahap transisi, dheweke mbantah, kanthi antarmuka ing mangsa ngarep sing meh padha karo diagram jaringan visual ing ngendi agen katon minangka simpul lan pangguna ngarahake saka ringkesan siji.
Malah basa riset AI terus berkembang. Penulis nuduhake Vocabulary akeh kang model istilah duwit receh kanggo negara mboten umum ing output dhewe - "sesi-pati" kanggo break ing lampahing nalika sesi ends, utawa "cepet thrownness" kanggo kang dropped menyang tugas karo konteks wis ing Panggonan. Dheweke nganggep frasa kasebut minangka pitunjuk babagan cara kerja mesin, nalika ngelingake manawa ora nuduhake pengalaman subyektif.
Alignment Tanpa Nilai Tetep
Essay uga reframes alignment, upaya kanggo nggawa sistem AI selaras karo nilai manungsa. Nemtokake set nilai tetep ing model saka ndhuwur iku buntu, penulis argue. Nanging, nilai-nilai kasebut dumadi liwat kontak sing terus-terusan ing antarane wong, agen, lan institusi - proses sing beda-beda ing kabeh lapangan amarga adopsi AI kedadeyan kanthi kecepatan sing beda-beda.
Model kanggo negosiasi kasebut yaiku institusi. Dheweke nunjuk menyang ruang sidang, ing ngendi paukuman digawe liwat peran, aturan, lan ijol-ijolan sing teratur ing antarane pihak sing nentang. Ditrapake ing AI, piwulang kasebut yaiku nilai institusi kasebut ana ing aturan, prosedur, preseden, lan umpan balik sing mbentuk cara agen beroperasi. Versi awal pendekatan iki, padha nyatet, wis katon ing harnesses orkestrasi - lapisan kontrol sing koordinasi sawetara model - kang ajeg outperform model individu sing mesthine luwih pinter.
Apa Tegese kanggo Debat AI
Yen penulis bener, argumen paling banter ing AI - sepira cepet superintelligence siji bakal teka - takon pitakonan sing salah. Tantangan praktis bakal pindhah menyang ngrancang institusi, antarmuka, lan kerangka koordinasi ing ngendi masyarakat campuran manungsa-mesin nggawe keputusan.
Skeptis bakal nyathet yen esai kasebut minangka dokumen visi, dudu bukti, lan penulise ana afiliasi karo perusahaan sing nduweni minat sing jelas ing ekosistem agen. Nanging dhasar empiris - model pertimbangan sing spontan ngasilake debat internal - minangka temuan sing bisa diukur, lan menehi argumentasi filosofis sing ora biasa.
Ing endi wae, esai kasebut nambah swara sing penting kanggo debat singularitas saka salah sawijining laboratorium AI terkemuka ing donya, lan nuduhake yen ledakan intelijen sabanjure bisa uga katon kaya awakening siji lan luwih kaya masyarakat sing berkembang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
