Pengasas bersama Google Sergey Brin berkata pembangunan AI syarikat telah mencapai tahap di mana modelnya secara aktif membantu membina pengganti mereka sendiri — dinamik yang dikenali sebagai pembaikan diri rekursif, atau RSI. Bercakap dalam perbincangan meja bulat tentang penciptaan model Gemini 4 baharu Google, Argon, Brin berkata pembangunan AI semakin pesat secara dalaman dan syarikat itu "mula memasuki treadmill RSI itu."
"Dan kini penyelidik kami dan model bekerjasama untuk membuat versi model seterusnya," kata Brin semasa meja bulat, yang dikongsi Google pada hari Rabu. Komen beliau pertama kali dilaporkan oleh Business Insider. Kenyataan itu meletakkan pengasas bersama Google - yang telah mengambil peranan yang semakin praktikal dalam program Gemini - tepat di dalam perdebatan paling penting dalam industri: sama ada sistem AI tidak lama lagi akan memperbaiki diri mereka lebih cepat daripada yang boleh dilakukan oleh jurutera manusia. Untuk liputan berterusan tentang perdebatan itu, ikuti [berita penyelidikan AI] kami(https://aibuzzwire.news).
Apa yang Ditunjuk Brin Sebagai Bukti
Brin menunjuk kepada irama keluaran model Flash Google yang membawa kepada Gemini 4 sebagai bukti bahawa gelung maklum balas sudah berubah. Implikasinya ialah setiap generasi model memendekkan masa yang diperlukan untuk menghasilkan yang seterusnya, sebagai pengekodan automatik, penilaian dan kompaun alatan penyelidikan.
Dokumentasi keselamatan Google sendiri untuk Argon nampaknya menyokong bahagian gambar itu. Menurut laporan keselamatan model itu, "Ejen AI kini beroperasi sebagai pembantu leverage tinggi yang mengarang majoriti kod pengeluaran dan pembetulan pepijat, walaupun perubahan kod kekal tertakluk kepada semakan manusia sebelum penyerahan." Dalam erti kata lain, syarikat itu menerangkan aliran kerja di mana model menghasilkan sebahagian besar kod - sementara manusia mengekalkan keputusan akhir mengenai kapal apa.
Perbahasan RSI yang Lebih Luas
Anthropic dan OpenAI juga telah mengatakan bahawa AI mungkin berada di ambang RSI, dan laporan dari firma Gladstone AI yang diterbitkan minggu ini memaparkan cara syarikat AI bergerak ke arah itu. Menurut laporan Business Insider mengenai laporan itu, kebanyakan penyelidik yang ditemu bual — bekerja di syarikat termasuk Anthropic, OpenAI, dan Google DeepMind — percaya RSI akan bermula dalam tempoh 3 hingga 12 bulan akan datang, dan boleh tiba lebih awal jika tiada campur tangan kerajaan.
Mengapa Garis Masa Penting
Pembaikan diri secara rekursif bukan hanya satu lagi pencapaian keupayaan. Jika model menjadi tenaga buruh utama untuk penyelidikan AI itu sendiri, kadar kemajuan menjadi lebih sukar untuk diramal dan lebih sukar untuk ditadbir. Itulah sebabnya RSI duduk di tengah-tengah amaran daripada penyelidik AI terkemuka bulan lepas bahawa manusia boleh kehilangan kawalan teknologi jika pagar yang mencukupi tidak diletakkan.
Pembingkaian Brin sangat penting. Daripada menganggap treadmill RSI sebagai hipotesis yang jauh, beliau menyifatkan ia sebagai keadaan operasi program pembangunan model Google — penyelidik dan model bekerja "berganding bahu" pada setiap versi berturut-turut.
The Counterpoints
Tidak semua orang di dalam Google bersetuju tentang kelajuan roda tenaga berputar. Pelaporan dalam kitaran berita yang sama menyatakan bahawa Google DeepMind tidak menemui pecutan yang ketara dalam penyelidikan dan pembangunan pembelajaran mesin dalam penilaiannya sendiri, kesimpulan yang menyimpang daripada retorik yang lebih membimbangkan yang datang dari beberapa pesaing. Jurang antara kedua-dua bacaan tersebut — pengasas bersama Google menerangkan treadmill yang telah mula bergerak, dan penyelidik keselamatan Google tidak mengukur kelajuan dramatik — itu sendiri merupakan gambaran tentang ketidakpastian medan itu mengenai trajektorinya sendiri.
Terdapat juga kaveat struktur. Ejen yang mengarang majoriti kod pengeluaran masih beroperasi di bawah semakan manusia, dan kebanyakan perkara yang dianggap sebagai "AI mengautomasikan penyelidikan AI" hari ini melibatkan penyempitan ruang carian, menjana penyelesaian calon dan menjalankan penilaian — bantuan leverage tinggi dan bukannya penemuan autonomi.
Apa yang Perlu Dilihat
Tiga perkara akan memberitahu pemerhati sama ada metafora treadmill Brin berkesan. Pertama, kaden keluaran model Google sendiri, di mana selang yang lebih pendek antara generasi akan menjadi isyarat yang paling jelas kelihatan. Kedua, sama ada makmal sempadan lain mula mengukur jumlah penyelidikan dan saluran paip kejuruteraan mereka dilaksanakan model, seperti yang telah dilakukan oleh laporan keselamatan Argon Google. Ketiga, sama ada kerajaan bertindak atas laporan seperti Gladstone AI, yang penyelidik yang ditemu bual secara eksplisit menyatakan garis masa mereka mengenai ketiadaan campur tangan.
Ekonomi Di Sebalik Treadmill
Terdapat juga logik komersial yang jelas untuk komen Brin. Jika model memendekkan kitaran penyelidikan secara bermakna, kos marginal setiap penjanaan model baharu akan jatuh, dan syarikat yang menutup gelung itu mula-mula memperoleh kelebihan pengkompaunan dalam kedua-dua keupayaan dan harga. Google telah pun menunjukkan kesediaan untuk bersaing secara agresif pada paksi kedua, mengurangkan harga API pesaing dengan Argon sambil mengeluarkan model kelas Flash untuk beban kerja volum tinggi. Roda tenaga RSI yang tulen akan meningkatkan strategi itu — yang membantu menjelaskan sebab Google mempunyai setiap insentif untuk menggambarkannya sebagai sudah dijalankan.
Buat masa ini, kepentingan meja bulat ialah penentuan kedudukan: salah seorang pengasas Google secara terbuka menggambarkan peningkatan diri secara rekursif bukan sebagai senario risiko tetapi sebagai realiti kerja syarikat. Pembingkaian semula itu - daripada percubaan pemikiran kepada peta jalan - mungkin terbukti menjadi perkara yang paling penting tentang kitaran pelancaran Gemini 4, tidak kira di mana markah penanda aras mendarat.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
