Anthropic telah memberi amaran dalam pemfailan IPO S-1/A yang disemak semula bahawa ia mungkin "tidak lama lagi" memenuhi takrifan Dasar Penskalaan Bertanggungjawabnya sendiri mengenai "kemajuan yang dipercepatkan secara dramatik yang boleh dikaitkan dengan AI" — ambang yang secara meluas dirujuk sebagai peningkatan diri rekursif, atau RSI, titik di mana sistem AI menjadi cukup baik untuk meningkatkan keupayaan AI mereka sendiri. TechCrunch melaporkan pendedahan itu pada hari Isnin, menonjolkan bahasa yang terkubur dalam faktor risiko pemfailan yang merupakan salah satu kenyataan paling berbangkit yang telah dibuat oleh mana-mana makmal AI tentang trajektorinya sendiri.
Pemfailan menyatakan, dalam kata-kata Anthropic sendiri: "anggaran dalaman kami dan jangkaan kami mengenai model masa depan, bukannya model semasa kami, menunjukkan bahawa kami mungkin akan segera memenuhi takrifan Dasar Penskalaan Bertanggungjawab kami tentang 'kemajuan dipercepatkan secara dramatik yang dikaitkan dengan AI.' Kami tidak menetapkan mana-mana model semasa kami sebagai melebihi ambang ini, dan kami terus menilai data asas." For more context on this story, see our ongoing breaking AI news.
Apa yang Sebenarnya Dikatakan oleh Pemfailan
Amaran itu terletak di dalam faktor risiko yang lebih luas tentang peningkatan penggunaan sistem AI oleh Anthropic untuk mempercepatkan penyelidikan dan pembangunannya sendiri. Syarikat itu mendedahkan bahawa dinamik ini telah menghasilkan lonjakan keupayaan yang gagal dikenali dalam masa nyata. "Akibatnya, kami pada masa lalu tidak mengenal pasti, dan mungkin pada masa hadapan tidak mengenal pasti, pecutan ketara dalam kadar pembangunan kami sehingga selepas ia berlaku," kata pemfailan itu.
Anthropic membingkai dinamik asas sebagai kedua-dua enjin dan bahaya. "Menggunakan AI untuk membantu membina AI yang lebih berkebolehan juga boleh menimbulkan risiko keselamatan yang besar, terutamanya jika ia mempercepatkan kadar kemajuan secara mendadak," kata pemfailan itu. "Ini adalah salah satu bidang yang diliputi oleh Dasar Penskalaan Bertanggungjawab kami, yang menetapkan rancangan kami untuk memantau dan mengurangkan risiko semasa kami mendekati apa yang dipanggil 'pembaikan kendiri rekursif.'"
Pertaruhan adalah luar biasa untuk dokumen IPO. RSI ialah konsep yang memisahkan visi optimis dan pesimis AI dengan lebih tajam daripada hampir semua yang lain. Bagi penyelidik keselamatan AI, peningkatan diri secara rekursif ialah senario lari: sistem yang menjadi lebih baik dalam membina sistem yang lebih baik, mempercepatkan melebihi titik di mana pengawasan manusia kekal bermakna. Kepada penyokong AI, ini adalah janji: alat yang melancarkan jalannya kepada penemuan saintifik dan keuntungan produktiviti yang tidak dapat dipadankan oleh proses terarah manusia. Pemfailan Anthropic mengakui kedua-dua bacaan, sambil memberitahu pelabur secara berkesan bahawa syarikat percaya fenomena itu cukup dekat untuk menjamin garisnya sendiri dalam faktor risiko.
Anthropic Safeguards Menjanjikan
Di samping amaran itu, Anthropic komited untuk memastikan manusia berada dalam gelung pembangunan model sempadan untuk masa hadapan yang boleh dijangka. "Kami tidak menjangkakan dapat menggunakan Claude dengan selamat untuk mereka bentuk dan membina model sempadan generasi berturut-turut secara autonomi tanpa pengawasan atau pemahaman manusia yang bermakna, jika dan apabila ia menjadi mungkin secara teknikal," kata pemfailan. Syarikat itu menambah bahawa ia "mempertimbangkan kemas kini kepada Dasar Penskalaan Bertanggungjawab kami untuk memastikan manusia mengawal pembangunan model sempadan di Anthropic."
Syarikat itu berhati-hati tentang masa kini: tiada model Anthropic semasa telah ditetapkan sebagai melebihi ambang RSI. Tetapi frasa "mungkin akan bertemu" - digunakan untuk model masa depan dan bukannya model yang dihantar - adalah pengakuan yang menarik tentang cara makmal membaca anggaran dalaman sendiri dan latihan sedang dijalankan.
Pendedahan atau Pemasaran?
Mereka yang ragu-ragu dengan cepat menyedari bahawa S-1 memberi perkhidmatan kepada dua khalayak serentak: ia adalah pendedahan undang-undang dan nada. Dakwaan bahawa syarikat berada di puncak teknologi yang cukup berkuasa untuk membina dirinya boleh dibaca sebagai amaran atau hujah penilaian — atau kedua-duanya. Tidak ada cara luaran untuk mengaudit sama ada anggaran dalaman Anthropic mewajarkan perkataan "segera," dan syarikat itu tidak menetapkan mana-mana model semasa sebagai melintasi garisan, yang meninggalkan tuntutan terletak pada pengukuran makmal sendiri terhadap saluran penyelidikannya.
Namun, aliran asas yang diterangkan oleh pemfailan boleh diperhatikan dari luar. Keupayaan Claude dalam pengekodan, matematik dan keselamatan siber telah meningkat dengan pesat sehingga tahun 2026, dan Anthropic semakin terbuka secara progresif tentang menggunakan modelnya sendiri untuk melakukan penyelidikan, menjalankan eksperimen penjajaran dan membantu dalam kerja pembangunan. Apa yang baharu dalam pemfailan ialah syarikat memformalkan, dalam dokumen pendedahan yang mengikat secara sah, bahawa gelung maklum balas ini tidak lama lagi akan mendaftar pada skala rasminya sendiri untuk pecutan berbahaya.
Mengapa Ia Penting Melangkaui Anthropic
Pendedahan itu tiba pada saat apabila persoalan pembangunan AI yang pantas telah beralih daripada panel persidangan kepada agenda dasar. Jika makmal tertumpu keselamatan terkemuka mengatakan dalam pemfailan SEC bahawa ia mungkin akan melintasi ambangnya sendiri untuk pecutan dipacu AI - sambil pada masa yang sama mengakui ia telah terlepas pecutan sedemikian sehingga selepas ia berlaku - pengawal selia, pelabur dan makmal saingan kini mempunyai dokumen untuk ditunjukkan pada kedua-dua belah perbahasan.
Bagi Anthropic, yang sedang menyediakan salah satu IPO yang paling diperhatikan dalam sektor ini, pemfailan melakukan tindakan pengimbangan yang halus: amaran yang cukup untuk memastikan bahawa syarikat mengambil serius komitmen keselamatannya, dan keyakinan yang cukup dalam kawalannya untuk terus menjual kenaikan harga. Kemas kini Dasar Penskalaan Bertanggungjawab syarikat, sekiranya ia menjadi kenyataan, akan menunjukkan bahagian mana baki itu menjadi amalan sebenar makmal.
Jejaki liputan penyelidikan AI berterusan kami dan pelaporan keselamatan AI untuk perkembangan tentang peningkatan diri rekursif dan tadbir urus model sempadan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
