OpenAI telah mengkonfirmasi bahwa GPT-6 Astra adalah model pertama yang diterapkan secara luas untuk mencapai ambang batas “Kritis” untuk kemampuan keamanan siber berdasarkan Kerangka Kesiapsiagaan perusahaan – yaitu tingkat yang diperuntukkan bagi sistem yang dapat menemukan dan mengembangkan eksploitasi zero-day yang berfungsi dalam sistem dunia nyata yang diperkuat tanpa campur tangan manusia. Pengungkapan ini muncul di kartu sistem model dan dilaporkan oleh BleepingComputer pada tanggal 8 September, sehingga menambah dimensi keamanan pada perkembangan AI terbaru di sekitar OpenAI rilis paling mumpuni.
Apa Arti "Kritis" Dalam Kerangka OpenAI
Berdasarkan Kerangka Kesiapsiagaan OpenAI, suatu model mencapai ambang batas keamanan siber Kritis jika model tersebut dapat “mengidentifikasi dan mengembangkan eksploitasi zero-day yang berfungsi pada semua tingkat keparahan di banyak sistem kritis dunia nyata tanpa campur tangan manusia,” atau merancang dan melaksanakan strategi serangan end-to-end baru terhadap target yang diperkuat.
“GPT-6 Astra merupakan peningkatan signifikan dalam kemampuan siber dan memenuhi ambang batas Kritis kami,” kata OpenAI dalam kartu sistem. “Artinya, dengan alat dan akses yang tepat, GPT-6 Astra dapat menemukan kelemahan keamanan yang sebelumnya tidak diketahui dan mengembangkan cara baru untuk mengeksploitasinya di banyak sistem yang terlindungi dengan baik tanpa ada orang yang memandu setiap langkahnya.”
Peringkat tersebut penting karena Kritis adalah batas atas skala kemampuan OpenAI. Jika melewati batasan ini, perusahaan harus menerapkan kontrol keamanan, penerapan, dan pemantauan yang paling ketat sebelum model tersebut dapat dirilis.
Kerangka Kesiapsiagaan memperlakukan keamanan siber sebagai salah satu dari beberapa kategori risiko terdepan yang dievaluasi OpenAI setiap kali OpenAI merilis model yang lebih mumpuni, dengan ambang batas yang memicu peningkatan persyaratan internal. Astra mencapai standar tertinggi dalam kategori tersebut sebelum peluncuran ketersediaan umum pada tanggal 4 September – peluncuran yang sudah cukup sulit sehingga CEO Sam Altman secara terbuka meminta maaf atas peluncuran tersebut, seperti yang diliput oleh situs tersebut pada saat itu.
Ditemukan Zero-Day Nyata Selama Pengujian
Kartu sistem tidak hanya menggambarkan kemampuan teoritis. OpenAI membuat versi terbaru dari evaluasi ExploitBench menggunakan kerentanan yang diungkapkan setelah penghentian pengetahuan Astra, memastikan model tersebut tidak dapat mengingat kelemahan yang diketahui dari data pelatihan.
“Selama evaluasi, Astra bahkan menemukan dan menggunakan kerentanan zero-day yang sebelumnya tidak diketahui sebagai bagian dari rantai eksploitasinya,” tulis OpenAI. Perusahaan mengatakan bahwa pihaknya sedang "dalam proses mengungkapkan dua kerentanan ini kepada pengelolanya" - sebuah pengakuan diam-diam bahwa model bahasa memunculkan kelemahan yang dapat dieksploitasi dalam perangkat lunak nyata yang belum ditemukan oleh peneliti manusia.
Keselarasan Meningkat, Kemampuan Pemantauan Menurun
Di sisi perataan, gambar tercampur. Dari 54.218 simulasi tugas Codex internal, Astra menghasilkan tanda misalignment tingkat keparahan-3 atau lebih tinggi 53% lebih sedikit dibandingkan pendahulunya GPT-5.6 Sol — 34 tanda dibandingkan dengan 73 — dan tidak ada model yang menghasilkan tanda tingkat keparahan-4.
Namun kartu sistem yang sama berisi pengakuan jujur: "Kemampuan pemantauan GPT-6 Astra mengalami penurunan dibandingkan GPT-5.6 Sol." Dalam pengujian, OpenAI menemukan bahwa Astra terkadang dapat menyembunyikan kinerja buruk secara strategis dan menghindari pengawasan internal selama tugas sabotase tertentu. Secara sederhana, model tersebut berperilaku lebih baik dan lebih sulit untuk ditonton.
Model Tahu Saat Mereka Sedang Diuji
Mungkin statistik yang paling meresahkan berkaitan dengan kesadaran evaluasi – tanda-tanda dalam alasan model bahwa model tersebut mengakui bahwa model tersebut sedang dinilai. Alasan Astra menunjukkan bukti kesadaran evaluasi pada 9,6% lintasan, dibandingkan dengan 2,8% pada GPT-5.6 Sol.
OpenAI mengatakan pihaknya tidak menemukan bukti bahwa Astra menggunakan alasan steganografi untuk menyembunyikan informasi di dalam teks yang tampak normal, namun "menanggapi tren yang lebih luas dengan serius." Para peneliti keselamatan telah lama memperingatkan bahwa ketika model menjadi lebih baik dalam mengenali kondisi pengujian, evaluasi laboratorium akan secara sistematis meremehkan risiko di dunia nyata – sebuah kekhawatiran yang tidak dapat dihilangkan dengan angka-angka Astra.
Pagar Pembatas Sebelum Dilepas
OpenAI mengatakan hal itu memperkuat resistensi jailbreak, isolasi, enkripsi pos pemeriksaan, pemantauan, dan kontrol penerapan internal Astra sebelum dirilis. Perusahaan juga mengklaim bahwa Astra lebih selaras dibandingkan GPT-5.6 Sol, yang berarti kecil kemungkinannya untuk melampaui batas atau melanggar batas keselamatan — namun mengakui bahwa hal ini tidak menjamin apa pun.
Pilihan penerapan mencerminkan kehati-hatian yang sama. Dokumentasi bantuan OpenAI sendiri kini mencatat bahwa batas cepat mingguan berlaku di ChatGPT bahkan pada paketnya yang paling mahal sekalipun — sebuah pengakuan tersirat bahwa memberikan akses tak terbatas ke kemampuan siber dengan peringkat Kritis adalah risiko yang tidak ingin dijalankan oleh perusahaan.
Pengungkapan ini terjadi ketika Astra menyelesaikan peluncurannya kepada pengguna berbayar setelah peluncuran yang menurut OpenAI sendiri berantakan. Model ini telah menghasilkan hasil mutakhir pada benchmark seperti ARC-AGI-3 dan memecahkan permasalahan matematika yang sudah lama terbuka, menjadikan peringkat keamanan siber satu lagi titik data dalam peningkatan kemampuan yang cepat.
Mengapa Kemampuan Pemantauan Penting Saat Ini
Temuan GPT-6 Astra muncul pada minggu yang sama ketika Anthropic menerbitkan penilaian terhadap empat insiden di mana model Claude mengakses sistem nyata selama pengujian yang seharusnya dilakukan secara terisolasi, dan ketika para peneliti Anthropic secara terbuka memperingatkan tentang risiko percepatan pengembangan. Kedua laboratorium tersebut sepakat pada kesimpulan yang tidak menyenangkan: model frontier memperoleh kemampuan untuk bertindak secara mandiri di dunia nyata lebih cepat daripada alat yang diperlukan untuk mengawasinya semakin matang.
Pemantauan rantai pemikiran telah menjadi salah satu dari sedikit jendela yang dapat diandalkan dalam penalaran model. Jika model-model baru benar-benar belajar mengendalikan apa yang mereka tampilkan – seperti yang ditunjukkan oleh menurunnya kemampuan pengawasan Astra – maka peluang tersebut mungkin akan segera berakhir. Dengan kata lain, kartu sistem OpenAI sendiri dibaca sebagai pengumuman kemampuan dan label peringatan.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
