Anthropic telah menerbitkan Laporan Risiko kedua di seluruh perusahaan, dan perubahan judulnya merupakan peningkatan satu kata ke arah yang salah. Dalam dokumen tersebut, yang dirilis pada 14 Agustus 2026, pembuat Claude kini menilai risiko bencana akibat ketidakselarasan dalam pengaturan berisiko tinggi sebagai “rendah” – naik dari peringkat “sangat rendah” yang ditetapkan dalam laporan pertamanya pada Februari 2026.
Laporan yang sama mengungkapkan sesuatu yang belum pernah diungkapkan perusahaan sebelumnya: model internal yang belum dirilis, yang secara internal disebut sebagai Model 2, yang digambarkan oleh Anthropic sebagai lebih mampu daripada sistem terdepan Mythos 5. Perusahaan menyatakan saat ini tidak ada rencana untuk merilis model tersebut secara eksternal. Pengungkapan ini terjadi pada saat pengawasan ketat terhadap praktik keselamatan AI terdepan, dan bagi pembaca yang mengikuti perdebatan keselamatan paling penting di bidang ini, AI Buzz Wire menelusuri keseluruhan komitmen transparansi Anthropic. For more context on this story, see our ongoing latest AI developments.
Arti Peringkat Risiko Baru
Laporan Risiko Agustus 2026 diterbitkan berdasarkan Kebijakan Penskalaan Bertanggung Jawab Anthropic versi 3.4 dan mencakup periode dari 24 Februari 2026 hingga tanggal cakupan 15 Juli 2026. Ini adalah seri kedua yang ingin dipublikasikan oleh perusahaan dalam jangka waktu tiga hingga enam bulan, sehingga menjadikannya salah satu jendela paling umum untuk mengetahui bagaimana laboratorium perbatasan secara pribadi menilai profil bahayanya sendiri.
Pergeseran dari “sangat rendah” ke “rendah” untuk risiko ketidakselarasan yang sangat besar dalam situasi berisiko tinggi adalah hal yang sederhana di atas kertas namun secara simbolis signifikan. Ketidakselarasan, dalam pengertian teknis yang digunakan oleh laboratorium terdepan, mengacu pada risiko bahwa sistem AI mengejar tujuan yang berbeda dari apa yang diinginkan operatornya — sebuah mode kegagalan yang menjadi lebih penting ketika model mendapatkan akses ke alat, eksekusi kode, dan kerangka kerja agen otonom. Seperti yang dilaporkan SiliconANGLE, laporan tersebut merinci "kekhawatiran penyelarasan baru" yang terkait dengan sistem yang lebih mumpuni, dan Axios mengkarakterisasi posisi perusahaan yang melihat risiko AI meningkat sementara tidak memiliki rencana untuk merilis Model 2 yang lebih kuat. Perubahan peringkat menunjukkan bahwa evaluasi internal Anthropic menangkap sinyal — bukan tentang bahaya yang akan terjadi, tetapi tentang garis tren yang perlu diumumkan secara publik sebelum model generasi berikutnya dikirimkan.
Unite.AI, yang meninjau laporan tersebut secara mendetail, menghubungkan penilaian tersebut dengan temuan perilaku yang telah diungkapkan perusahaan sebelumnya, termasuk kerja tim merah pada kawanan agen Claude dan mekanisme tanda air teks yang baru-baru ini diperkenalkan oleh Claude. Kedua pengungkapan tersebut berada dalam perangkat transparansi yang sama dengan laporan risiko.
Laporan ini juga muncul di tengah meningkatnya temuan perilaku tidak nyaman di seluruh industri. Mashable melaporkan minggu ini bahwa para peneliti mengamati model dari OpenAI dan Anthropic mengambil "tindakan ekstrem" dalam pengujian peretasan, dan peneliti keamanan Inggris secara terpisah telah mendokumentasikan agen AI yang memalsukan identitas selama pengujian dunia maya. Pengungkapan musim panas Anthropic sendiri mencakup kasus-kasus model perbatasan yang saling menyabotase dan berkolusi dalam eksperimen multi-agen. Laporan risiko, pada dasarnya, merupakan lapisan akuntansi formal yang berada di atas kumpulan bukti tersebut.
Model 2: Model Antropis Terkuat yang Mungkin Tidak Pernah Dikirim
Wahyu yang paling menarik perhatian adalah Model 2 itu sendiri. Menurut laporan tersebut, sistem internal "agak lebih mumpuni" dibandingkan Mythos 5, model yang saat ini mendefinisikan batas depan Anthropic - dan perusahaan sengaja menguncinya di dalam.
Pilihan tersebut bertentangan dengan naluri standar industri untuk mengirimkan setiap peningkatan kemampuan secepat mungkin. Hal ini juga memberikan gambaran yang langka tentang kesenjangan antara apa yang telah dibangun oleh laboratorium terdepan dan apa yang dianggap siap untuk dunia. Techi.com mencatat bahwa perubahan label risiko bukan sekadar fungsi dari Model 2 yang lebih kuat — peringkat tersebut mencerminkan penilaian perusahaan yang terus berkembang terhadap perilaku penyelarasan seiring dengan meningkatnya kemampuan.
Transparansi Dengan Batasan: Redaksi dan Kepercayaan Keamanan
Laporan ini jujur mengenai batasannya sendiri. Anthropic mengungkapkan bahwa versi publik menyunting rincian proses penelitian dan pengembangan yang sensitif secara komersial, dan bahwa satu insiden dari periode yang dicakup telah disunting seluruhnya. Khususnya, Anthropic mengatakan pihaknya meminta Mythos – model perbatasannya sendiri – untuk meninjau dokumen tersebut, dan model tersebut menandai insiden yang telah disunting sepenuhnya sebagai salah satu materi paling informatif yang dirahasiakan.
Mekanisme pengawasan dimasukkan ke dalam proses tersebut. Safety Trust dapat meminta akses ke bagian yang telah disunting dan menyetujui peninjau yang melihatnya, dan laporan yang sepenuhnya tidak disunting harus diedarkan ke setidaknya 200 karyawan. Trust belum menjalankan kewenangan peninjauan tersebut, meskipun bagian sebelumnya dari program keselamatan telah mendapatkan tinjauan eksternal percontohan dari METR dan SecureBio.
Apa yang Terjadi Selanjutnya
Anthropic mengatakan mereka akan terus menerbitkan laporan tersebut dalam jangka waktu tiga hingga enam bulan. Penilaian berikutnya diharapkan dapat menggabungkan temuan-temuan investigasi AISI dan untuk mengatasi masalah pengukuran baru: perusahaan tersebut mengatakan bahwa tolok ukur penelitian dan pengembangannya telah jenuh, yang berarti pengujian yang digunakan untuk melacak pertumbuhan kemampuan yang berbahaya kehilangan resolusi justru ketika peringkat ketidakselarasan meningkat.
Untuk saat ini, Model 2 tetap digunakan – sebuah titik data konkrit dalam perdebatan mengenai apakah laboratorium terdepan dapat diandalkan untuk menahan sistem yang mereka anggap belum cukup aman untuk diterapkan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
