Anthropic telah memperingatkan dalam pengajuan IPO S-1/A yang telah direvisi bahwa mereka mungkin “segera” memenuhi definisi Kebijakan Penskalaan Bertanggung Jawab mereka sendiri yaitu “kemajuan yang dipercepat secara dramatis yang disebabkan oleh AI” – ambang batas yang secara luas disebut sebagai perbaikan diri secara rekursif, atau RSI, yaitu titik di mana sistem AI menjadi cukup baik dalam meningkatkan AI sehingga peningkatan kemampuan mulai bertambah dengan sendirinya. TechCrunch melaporkan pengungkapan tersebut pada hari Senin, menyoroti bahasa yang terkubur dalam faktor risiko pengajuan yang merupakan salah satu pernyataan paling penting yang dibuat oleh laboratorium AI mana pun tentang lintasannya sendiri.
Pengajuan tersebut menyatakan, dengan kata-kata Anthropic sendiri: "perkiraan internal kami dan ekspektasi kami mengenai model masa depan, bukan model kami saat ini, menunjukkan bahwa kami mungkin akan segera memenuhi definisi Kebijakan Penskalaan Bertanggung Jawab kami tentang 'kemajuan yang dipercepat secara dramatis yang disebabkan oleh AI.' Kami belum menetapkan satu pun model kami saat ini yang melebihi ambang batas ini, dan kami terus menilai data yang mendasarinya." For more context on this story, see our ongoing AI trends.
Apa yang Sebenarnya Dikatakan dalam Pengajuan
Peringatan tersebut berada dalam faktor risiko yang lebih luas mengenai meningkatnya penggunaan sistem AI oleh Anthropic untuk mempercepat penelitian dan pengembangannya sendiri. Perusahaan mengungkapkan bahwa dinamika ini telah menghasilkan lompatan kemampuan yang tidak dapat dikenali secara real time. “Akibatnya, kami di masa lalu tidak mengidentifikasi, dan mungkin di masa depan tidak mengidentifikasi, percepatan signifikan dalam laju pembangunan kami sampai hal tersebut terjadi,” demikian isi dokumen yang diajukan.
Antropis membingkai dinamika yang mendasarinya sebagai mesin dan bahaya. “Penggunaan AI untuk membantu membangun AI yang lebih mumpuni juga dapat menimbulkan risiko keselamatan yang cukup besar, terutama jika hal tersebut secara tajam mempercepat laju kemajuan,” demikian bunyi pengajuan tersebut. “Ini adalah salah satu bidang yang tercakup dalam Kebijakan Penskalaan Bertanggung Jawab kami, yang menetapkan rencana kami untuk memantau dan memitigasi risiko saat kami melakukan pendekatan yang disebut dengan 'perbaikan diri secara rekursif'.”
Taruhannya tidak biasa untuk sebuah dokumen IPO. RSI adalah konsep yang memisahkan visi AI yang optimis dan pesimistis dengan lebih tajam dibandingkan visi lainnya. Bagi para peneliti keselamatan AI, perbaikan diri secara rekursif adalah sebuah skenario yang tidak bisa dihindari: sebuah sistem yang menjadi lebih baik dalam membangun sistem yang lebih baik, melaju melampaui titik di mana pengawasan manusia tetap berarti. Bagi para pendukung AI, hal ini adalah sebuah janji: sebuah alat yang dapat membuka jalan menuju penemuan ilmiah dan peningkatan produktivitas yang tidak dapat ditandingi oleh proses yang dilakukan oleh manusia. Pengajuan Anthropic mengakui kedua pembacaan tersebut, sekaligus secara efektif memberi tahu investor bahwa perusahaan yakin fenomena tersebut cukup dekat untuk menjamin adanya faktor risiko.
Antropik Safeguards Menjanjikan
Bersamaan dengan peringatan tersebut, Anthropic berkomitmen untuk menjaga manusia tetap mengikuti perkembangan model terdepan di masa mendatang. “Kami tidak mengantisipasi dapat menggunakan Claude dengan aman untuk sepenuhnya merancang dan membangun generasi model perbatasan secara mandiri tanpa pengawasan atau pemahaman manusia yang berarti, jika dan ketika hal itu memungkinkan secara teknis,” kata pengajuan tersebut. Perusahaan menambahkan bahwa mereka "sedang mempertimbangkan pembaruan pada Kebijakan Penskalaan Bertanggung Jawab kami untuk menjaga manusia tetap mengendalikan pengembangan model terdepan di Anthropic."
Perusahaan berhati-hati dengan kondisi saat ini: tidak ada model Antropik saat ini yang ditetapkan melampaui ambang batas RSI. Namun ungkapan "mungkin akan segera bertemu" - yang diterapkan pada model masa depan dan bukan model yang dikirim - adalah pengakuan yang mencolok tentang cara laboratorium membaca perkiraan internalnya dan pelatihan yang sedang berjalan.
Pengungkapan atau Pemasaran?
Orang-orang yang skeptis dengan cepat menyadari bahwa S-1 melayani dua audiens sekaligus: ini adalah pengungkapan hukum dan promosi. Klaim bahwa suatu perusahaan berada di titik puncak teknologi yang cukup kuat untuk membangun dirinya sendiri dapat dianggap sebagai peringatan atau argumen penilaian – atau keduanya. Tidak ada cara eksternal untuk mengaudit apakah perkiraan internal Anthropic membenarkan kata "segera", dan perusahaan belum menetapkan model apa pun saat ini sebagai model yang melewati batas, sehingga klaim tersebut bergantung pada pengukuran laboratorium terhadap jalur penelitiannya.
Namun, tren mendasar yang dijelaskan dalam pengajuan tersebut dapat diamati dari luar. Kemampuan Claude dalam coding, matematika, dan keamanan siber telah meningkat tajam pada tahun 2026, dan Anthropic semakin lebih terbuka dalam menggunakan modelnya sendiri untuk melakukan penelitian, menjalankan eksperimen penyelarasan, dan membantu pekerjaan pengembangan. Hal baru dalam pengajuan ini adalah perusahaan meresmikan, dalam dokumen pengungkapan yang mengikat secara hukum, bahwa putaran umpan balik ini akan segera tercatat pada skala resminya sebagai percepatan yang berbahaya.
Mengapa Ini Penting Selain Antropis
Pengungkapan ini terjadi ketika pertanyaan tentang kecepatan pengembangan AI telah berpindah dari panel konferensi ke agenda kebijakan. Jika laboratorium terkemuka yang berfokus pada keselamatan mengatakan dalam pengajuan SEC bahwa mereka mungkin akan segera melewati ambang batasnya sendiri untuk akselerasi yang didorong oleh AI – dan pada saat yang sama mengakui bahwa mereka telah melewatkan akselerasi tersebut sampai hal tersebut terjadi – regulator, investor, dan laboratorium saingan kini memiliki dokumen untuk dijadikan acuan pada kedua sisi perdebatan.
Bagi Anthropic, yang sedang mempersiapkan salah satu IPO yang paling diawasi ketat di sektor ini, pengajuan tersebut melakukan tindakan penyeimbang yang rumit: peringatan yang cukup untuk membuktikan bahwa perusahaan menjalankan komitmen keselamatannya dengan serius, dan kepercayaan yang cukup pada kontrolnya untuk terus menjual keuntungannya. Pembaruan Kebijakan Penskalaan Bertanggung Jawab perusahaan, jika terwujud, akan menunjukkan sisi keseimbangan mana yang menjadi landasan praktik laboratorium sebenarnya.
Lacak cakupan penelitian AI kami yang berkelanjutan dan pelaporan keamanan AI untuk mengetahui perkembangan perbaikan diri secara rekursif dan tata kelola model frontier.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
