Pengajuan IPO Anthropic yang diubah menjadi berita utama pada hari Senin untuk keuangannya — sekitar $17 miliar dalam pendapatan kuartal ketiga dibandingkan $895,4 miliar dalam komitmen komputasi. Namun faktor risiko yang tersembunyi dalam revisi S-1A ini adalah pengungkapan yang mungkin terbukti lebih penting: perusahaan tersebut mengatakan bahwa mereka mungkin hampir melewati ambang batasnya sendiri untuk perbaikan diri secara rekursif, yaitu titik di mana sistem AI mampu mempercepat pengembangannya sendiri.
TechCrunch melaporkan bahwa pengajuan tersebut tampaknya memperingatkan bahwa Anthropic berada di titik puncak untuk menciptakan model yang mampu melakukan perbaikan diri secara rekursif, umumnya dikenal sebagai RSI – tahap di mana AI menjadi sangat baik dalam meningkatkan AI sehingga peningkatan kemampuan mulai bertambah secara dramatis. For more context on this story, see our ongoing more AI stories.
Apa yang Sebenarnya Dikatakan dalam Pengajuan
Anthropic sudah menggunakan AI untuk mempercepat penelitian dan pengembangannya sendiri. Dalam pengajuan yang telah diubah, perusahaan tersebut memperingatkan bahwa praktik ini berdampak pada dua hal: "Menggunakan AI untuk membantu membangun AI yang lebih mumpuni juga dapat menimbulkan risiko keselamatan yang cukup besar, terutama jika hal ini secara tajam mempercepat laju kemajuan. Ini adalah salah satu bidang yang tercakup dalam Kebijakan Penskalaan Bertanggung Jawab kami, yang menetapkan rencana kami untuk memantau dan memitigasi risiko saat kami melakukan pendekatan yang disebut dengan 'perbaikan diri secara berulang'."
Bahasa faktor risiko baru ini melangkah lebih jauh dari apa yang Anthropic nyatakan sebelumnya dalam dokumen publiknya. Perusahaan mengungkapkan bahwa mereka, di masa lalu, gagal mengenali lompatan kemampuan besar yang terjadi: "di masa lalu kami tidak mengidentifikasi, dan mungkin di masa depan tidak mengidentifikasi, percepatan signifikan dalam laju pengembangan kami hingga hal tersebut terjadi."
Kemudian muncul pernyataan yang menarik perhatian industri. Menurut pengajuan tersebut: "perkiraan internal kami dan ekspektasi kami mengenai model masa depan, dibandingkan model kami saat ini, menunjukkan bahwa kami mungkin akan segera memenuhi definisi Kebijakan Penskalaan Bertanggung Jawab kami tentang 'kemajuan yang dipercepat secara dramatis yang disebabkan oleh AI.'"
Anthropic menambahkan bahwa mereka "belum menetapkan model kami saat ini melebihi ambang batas" dan terus menilai data yang mendasarinya. Dengan kata lain: tidak ada model Claude saat ini yang memenuhi syarat, namun proyeksi internal perusahaan menunjukkan bahwa generasi berikutnya mungkin dapat memenuhi syarat tersebut.
Menjaga Manusia Tetap Terinformasi
Bersamaan dengan peringatan tersebut, Anthropic berkomitmen untuk menjaga orang-orang tetap mengendalikan pengembangan model. “Kami tidak mengantisipasi dapat menggunakan Claude dengan aman untuk sepenuhnya merancang dan membangun generasi model perbatasan secara mandiri tanpa pengawasan atau pemahaman manusia yang berarti, jika dan ketika hal itu memungkinkan secara teknis,” kata pengajuan tersebut. Oleh karena itu, kami sedang mempertimbangkan pembaruan pada Kebijakan Penskalaan yang Bertanggung Jawab agar manusia tetap mengendalikan pengembangan model terdepan di Anthropic.
Skala peran AI dalam penelitian Anthropic berkembang pesat. Business Insider melaporkan bahwa AI kini memimpin sekitar seperempat pekerjaan penelitian dan pengembangan internal Anthropic, naik dari 1 persen di bulan Maret – sebuah grafik yang oleh orang dalam industri disebut sebagai salah satu yang paling penting dalam AI.
Pergeseran Wacana: Dari Kata Kunci ke Neraca
Ketika istilah RSI menjadi populer pada awal tahun ini, banyak orang di industri ini mengabaikannya sebagai sebuah kata kunci – atau, paling banter, sebuah tujuan yang terlalu sulit didefinisikan untuk dicapai, dibuktikan atau diatur. Skeptisisme tersebut semakin sulit untuk dipertahankan sekarang karena konsep tersebut muncul, dengan definisi internal yang tepat, dalam sebuah dokumen yang secara hukum diwajibkan untuk diajukan oleh perusahaan ke SEC sebelum menjual sahamnya kepada publik.
Anthropic juga tidak sendirian dalam memperlakukan perbaikan diri sebagai asumsi perencanaan jangka pendek. Salah satu pendiri Google, Sergey Brin, menggambarkan industri ini sedang berlomba menuju "treadmill RSI" di mana model membantu membangun penerusnya, dan mantan salah satu pendiri OpenAI, John Schulman, mengatakan ia mengharapkan perbaikan diri secara rekursif dalam waktu sekitar tiga hingga empat tahun. Yang membedakan pengungkapan Anthropic adalah formalitasnya: ambang batas yang ditentukan, proses pengukuran internal, dan pernyataan publik tentang kapan perusahaan akan melewatinya.
Mengapa RSI Menjadi Pengawas Kedua Kamp Tripwire
RSI memiliki arti yang berbeda-beda tergantung siapa yang mendeskripsikannya. Bagi para peneliti keamanan AI, hal ini mewakili point of no return (titik yang tidak bisa kembali lagi) – sebuah skenario di mana sistem AI berkembang lebih cepat daripada yang dapat dipahami, divalidasi, atau diintervensi oleh manusia, sehingga berpotensi melampaui kendali manusia. Bagi orang-orang yang optimis terhadap AI, dinamika yang sama juga merupakan hadiahnya: sistem yang dapat meningkatkan kemampuannya secara andal akan menghasilkan produktivitas dan penemuan ilmiah yang luar biasa.
Pembingkaian Anthropic mengakui kedua kemungkinan tersebut. Pengungkapan ini terdapat dalam sebuah dokumen yang audiens utamanya adalah investor, dan para skeptis mencatat bahwa S-1 berfungsi baik sebagai pengungkapan maupun pemasaran – sebuah klaim bahwa perusahaan hampir membangun AI yang dapat mengembangkan diri dapat dengan mudah dibaca sebagai argumen untuk penilaiannya.
Namun, ada landasan konkrit untuk klaim tersebut. Kemampuan Claude dalam pengkodean, matematika, dan keamanan siber telah meningkat tajam pada tahun 2026, dan Kebijakan Penskalaan Bertanggung Jawab milik Anthropic mendefinisikan standar “kemajuan yang dipercepat secara dramatis yang disebabkan oleh AI” yang menurut perusahaan akan segera dipenuhi.
Ujian Tata Kelola AI
Pengungkapan ini terjadi di tengah semakin intensifnya perdebatan kebijakan mengenai pengawasan AI frontier, mulai dari kerangka kerja Gedung Putih untuk meninjau model frontier hingga diskusi internasional mengenai tata kelola komputasi. Jika laboratorium AI terkemuka secara resmi menunjuk suatu model yang memenuhi ambang batas percepatan kemajuannya, hal ini akan memicu kewajiban berdasarkan Kebijakan Penskalaan yang Bertanggung Jawab dari Anthropic — dan akan menjadi ujian nyata pertama apakah kerangka kerja industri tersebut dapat memperlambat atau membentuk perlombaan kemampuan dalam praktiknya.
Untuk saat ini, Anthropic mengatakan belum ada model yang melewati batas. Pengajuan tersebut menunjukkan bahwa perusahaan memperkirakan batas tersebut akan segera dilewati – dan meminta investor untuk memahami terlebih dahulu apa yang akan dilakukan perusahaan untuk mengatasi hal tersebut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
