Pemfailan IPO yang dipinda oleh Anthropic menjadi tajuk utama pada hari Isnin untuk kewangannya — kira-kira $17 bilion dalam hasil suku ketiga berbanding $895.4 bilion dalam komitmen pengiraan. Tetapi terkubur dalam faktor risiko S-1A yang disemak adalah pendedahan yang mungkin terbukti lebih penting: syarikat itu berkata ia mungkin berada di ambang melintasi ambangnya sendiri untuk peningkatan diri secara rekursif, titik di mana sistem AI menjadi mampu mempercepatkan pembangunan mereka sendiri.
TechCrunch melaporkan bahawa pemfailan itu nampaknya memberi amaran bahawa Anthropic berada di puncak untuk mencipta model yang mampu memperbaiki diri secara rekursif, biasanya dikenali sebagai RSI — peringkat di mana AI menjadi begitu baik dalam meningkatkan AI sehingga peningkatan keupayaan mula meningkat secara mendadak. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang Sebenarnya Dikatakan oleh Pemfailan
Anthropic sudah menggunakan AI untuk mempercepatkan penyelidikan dan pembangunannya sendiri. Dalam pemfailan yang dipinda, syarikat itu memberi amaran bahawa amalan ini mengurangkan kedua-dua cara: "Menggunakan AI untuk membantu membina AI yang lebih berkebolehan juga boleh menimbulkan risiko keselamatan yang besar, terutamanya jika ia mempercepatkan kadar kemajuan dengan mendadak. Ini adalah salah satu bidang yang diliputi oleh Dasar Penskalaan Bertanggungjawab kami, yang menetapkan rancangan kami untuk memantau dan mengurangkan risiko semasa kami mendekati apa yang diistilahkan sebagai 'penambahbaikan kendiri".
Bahasa faktor risiko baharu lebih jauh daripada yang dinyatakan sebelum ini oleh Anthropic dalam pemfailan awamnya. Syarikat itu mendedahkan bahawa ia telah, pada masa lalu, gagal untuk mengiktiraf lonjakan keupayaan utama seperti yang berlaku: "kami pada masa lalu tidak mengenal pasti, dan mungkin pada masa hadapan tidak mengenal pasti, pecutan ketara dalam kadar pembangunan kami sehingga selepas ia berlaku."
Kemudian muncul kenyataan yang menarik perhatian industri. Menurut pemfailan: "anggaran dalaman kami dan jangkaan kami mengenai model masa hadapan, bukannya model semasa kami, menunjukkan bahawa kami mungkin akan segera memenuhi definisi Dasar Penskalaan Bertanggungjawab kami tentang 'kemajuan dipercepatkan secara dramatik yang dikaitkan dengan AI.'"
Anthropic menambah bahawa ia "tidak menetapkan mana-mana model semasa kami sebagai melebihi ambang ini" dan terus menilai data asas. Dalam erti kata lain: tiada model Claude semasa yang layak, tetapi unjuran dalaman syarikat mencadangkan generasi akan datang mungkin.
Menjaga Manusia dalam Lingkaran
Di samping amaran itu, Anthropic komited untuk memastikan orang ramai mengawal pembangunan model. "Kami tidak menjangkakan dapat menggunakan Claude dengan selamat untuk mereka bentuk dan membina model sempadan generasi berturut-turut secara autonomi tanpa pengawasan atau pemahaman manusia yang bermakna, jika dan apabila ia menjadi mungkin secara teknikal," kata pemfailan. "Oleh itu, kami sedang mempertimbangkan kemas kini kepada Dasar Penskalaan Bertanggungjawab kami untuk memastikan manusia mengawal pembangunan model sempadan di Anthropic."
Skala peranan AI dalam penyelidikan Anthropic sendiri berkembang dengan cepat. Business Insider melaporkan bahawa AI kini mengetuai kira-kira satu perempat daripada kerja R&D dalaman Anthropic, meningkat daripada 1 peratus pada bulan Mac — carta yang dikenali oleh orang dalam industri sebagai salah satu yang paling penting dalam AI.
Anjakan Wacana: Daripada Kata Kunci kepada Kunci Kira-kira
Apabila istilah RSI menjadi popular awal tahun ini, ramai dalam industri menolaknya sebagai kata kunci — atau, paling baik, matlamat yang terlalu tidak ditentukan untuk dicapai, dibuktikan atau dikawal selia. Keraguan itu lebih sukar untuk dikekalkan sekarang kerana konsep itu muncul, dengan definisi dalaman yang tepat, dalam dokumen sebuah syarikat dikehendaki secara sah untuk memfailkan dengan SEC sebelum menjual saham kepada orang ramai.
Anthropic juga tidak bersendirian dalam menganggap peningkatan diri sebagai andaian perancangan jangka pendek. Pengasas bersama Google, Sergey Brin telah menyifatkan industri ini sedang berlumba ke arah "treadmill RSI" di mana model membantu membina pengganti mereka, dan bekas pengasas bersama OpenAI John Schulman telah berkata beliau menjangkakan peningkatan diri secara rekursif dalam masa kira-kira tiga hingga empat tahun. Apa yang membezakan pendedahan Anthropic ialah formalitinya: ambang yang ditetapkan, proses pengukuran dalaman dan kenyataan umum tentang masa syarikat menjangkakan untuk melepasinya.
Mengapa RSI Merupakan Tripwire Both Camps Watch
RSI membawa maksud yang berbeza bergantung kepada siapa yang menerangkannya. Bagi penyelidik keselamatan AI, ia mewakili titik tiada pulangan — senario di mana sistem AI memperbaiki diri mereka sendiri lebih cepat daripada manusia boleh memahami, mengesahkan atau campur tangan, yang berpotensi tergelincir di luar kawalan manusia. Bagi optimis AI, dinamik yang sama adalah hadiahnya: sistem yang boleh memperbaiki diri mereka sendiri akan digabungkan menjadi produktiviti dan penemuan saintifik yang luar biasa.
Pembingkaian Anthropic mengakui kedua-dua kemungkinan. Pendedahan itu terdapat dalam dokumen yang khalayak utamanya adalah pelabur, dan skeptik mencatatkan bahawa S-1 berfungsi sebagai pendedahan dan pemasaran — dakwaan bahawa syarikat hampir membina AI yang meningkatkan diri boleh dibaca dengan mudah sebagai hujah untuk penilaiannya.
Walau bagaimanapun, terdapat sauh konkrit untuk tuntutan itu. Keupayaan Claude dalam pengekodan, matematik dan keselamatan siber telah meningkat dengan pesat menjelang 2026, dan Dasar Penskalaan Bertanggungjawab Anthropic sendiri mentakrifkan piawaian "kemajuan yang dipercepatkan secara dramatik yang boleh dikaitkan dengan AI" yang kini dikatakan syarikat ia mungkin akan dicapai dengan segera.
Ujian untuk Tadbir Urus AI
Pendedahan itu berlaku di tengah-tengah perdebatan dasar yang semakin sengit mengenai pengawasan AI sempadan, daripada rangka kerja Rumah Putih untuk menyemak model sempadan kepada perbincangan antarabangsa mengenai tadbir urus pengiraan. Jika makmal AI terkemuka secara rasmi menetapkan model sebagai memenuhi ambang kemajuan dipercepatkannya sendiri, ia akan mencetuskan kewajipan di bawah Dasar Penskalaan Bertanggungjawab Anthropic — dan akan menjadi ujian dunia sebenar pertama sama ada rangka kerja industri tersebut boleh memperlahankan atau membentuk perlumbaan keupayaan dalam amalan.
Buat masa ini, Anthropic berkata tiada model yang melampaui batas. Pemfailan itu mencadangkan syarikat menjangkakan garis itu akan dilalui tidak lama lagi - dan meminta pelabur memahami, terlebih dahulu, apa yang ia merancang untuk lakukan mengenainya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
