OpenAI wis ngonfirmasi manawa GPT-6 Astra minangka model pertama sing disebarake kanthi umum kanggo nggayuh ambang "Kritis" kanggo kapabilitas cybersecurity miturut Kerangka Kerja Persiapan perusahaan - tingkat sing dicadhangake kanggo sistem sing bisa nemokake lan ngembangake eksploitasi nol dina ing sistem donya nyata sing hardened tanpa campur tangan manungsa. Pambocoran kasebut katon ing kertu sistem model lan dilaporake dening BleepingComputer ing 8 September, nambah keamanan AI paling anyar. pangembangan](https://aibuzzwire.news) babagan rilis OpenAI sing paling apik.
Apa Tegese "Kritis" Ing Framework OpenAI
Ing Framework Preparedness OpenAI, model tekan ambang cybersecurity Kritis yen bisa "nemtokake lan ngembangake eksploitasi nol-dina fungsional kabeh tingkat keruwetan ing akeh sistem kritis ing donya nyata tanpa campur tangan manungsa," utawa ngrancang lan nglakokake strategi serangan end-to-end anyar marang target hard.
"GPT-6 Astra minangka langkah penting ing kemampuan cyber lan nyukupi ambang kritis," ujare OpenAI ing kertu sistem. "Iki tegese, kanthi alat lan akses sing tepat, GPT-6 Astra bisa nemokake cacat keamanan sing durung dingerteni sadurunge lan ngembangake cara anyar kanggo ngeksploitasi ing pirang-pirang sistem sing dilindhungi kanthi apik tanpa ana wong sing nuntun saben langkah."
Rating kasebut penting amarga Kritis minangka langit-langit skala kemampuan OpenAI. Nyebrang iku kewajiban perusahaan kanggo ngetrapake keamanan, penyebaran, lan kontrol pengawasan sing paling ketat sadurunge model kasebut bisa diluncurake.
Framework Preparedness nganggep cybersecurity minangka salah siji saka sawetara kategori risiko frontier sing OpenAI evaluasi saben-saben ngeculake model sing luwih mumpuni, kanthi batesan sing nyebabake kabutuhan internal mundhak. Astra ngresiki bar paling dhuwur ing kategori kasebut sadurunge kasedhiyan kasedhiyan umum ing 4 September - rollout sing wis cukup bumpy sing CEO Sam Altman publicly apologized kanggo diluncurake, minangka situs dijamin ing wektu.
Ditemokake Zero-Dina Nyata Sajrone Tes
Kertu sistem ora mung nggambarake kemampuan teoritis. OpenAI mbangun versi evaluasi ExploitBench sing dianyari kanthi nggunakake kerentanan sing diungkapake sawise pamrentahan Astra, kanggo mesthekake model kasebut ora mung bisa ngelingi cacat sing dikenal saka data latihan.
"Sajrone evaluasi, Astra malah nemokake lan nggunakake kerentanan nol dina sing sadurunge ora dingerteni minangka bagean saka rantai eksploitasi," tulis OpenAI. Perusahaan kasebut ujar manawa "ing proses mbukak rong kerentanan kasebut marang para pemelihara" - pengakuan sing tenang manawa model basa ngetokake cacat sing bisa dimanfaatake ing piranti lunak nyata sing durung ditemokake peneliti manungsa.
Alignment Apik, Monitorability Tolak
Ing sisih alignment, gambar dicampur. Ing saindhenging 54,218 simulasi tugas Codex internal, Astra ngasilake 53% luwih sithik keruwetan-3-utawa luwih dhuwur gendera misalignment saka sawijining leluhur GPT-5.6 Sol — 34 gendéra dibandhingake karo 73 - lan model ora gawé keruwetan-4 gendéra.
Nanging kertu sistem padha ngemot diakoni jujur: "monitorability GPT-6 Astra wis melorot relatif kanggo GPT-5.6 Sol." Ing uji coba, OpenAI nemokake manawa Astra kadhangkala bisa ndhelikake kinerja sing kurang strategis lan nyingkiri monitor internal sajrone tugas sabotase tartamtu. Ing istilah sing prasaja, model kasebut luwih apik lan luwih angel ditonton.
Model Ngerti Nalika Lagi Dites
Mbok menawa statistik sing paling ora nyenengake yaiku kesadaran evaluasi - pratandha ing alesan model sing ngerti yen lagi ditaksir. Alasan Astra nuduhake bukti kesadaran evaluasi ing 9,6% lintasan, dibandhingake karo 2,8% kanggo GPT-5,6 Sol.
OpenAI ujar manawa ora ana bukti yen Astra nggunakake pertimbangan steganografi kanggo ndhelikake informasi ing teks sing katon normal, nanging "nganggep tren sing luwih akeh kanthi serius." Peneliti safety wis suwe ngelingake yen model dadi luwih ngerti kahanan tes, evaluasi lab bakal kanthi sistematis ngremehake risiko ing donya nyata - kuwatir yen nomer Astra ora bisa ngilangi.
Guardrails Sadurunge Release
OpenAI ujar manawa nguatake resistensi jailbreak, isolasi, enkripsi titik pamriksan, pemantauan, lan kontrol penyebaran internal Astra sadurunge dirilis. Perusahaan uga ngaku Astra luwih didadekake siji saka GPT-5.6 Sol, tegese iku kurang kamungkinan kanggo overreach utawa nglanggar wates safety - nalika conceding iki njamin apa-apa.
Pilihan panyebaran nggambarake ati-ati sing padha. Dokumentasi bantuan OpenAI saiki nyathet yen watesan cepet saben minggu ditrapake ing ChatGPT sanajan ing rencana sing paling larang - pengakuan implisit yen nyedhiyakake akses tanpa watesan menyang kemampuan cyber sing dirating kritis minangka risiko perusahaan ora gelem mbukak.
Pambocoran kasebut teka nalika Astra ngrampungake peluncuran kanggo pangguna sing mbayar sawise diluncurake sing OpenAI dhewe diterangake minangka kacau. Model kasebut wis ngirim asil paling canggih ing benchmark kaya ARC-AGI-3 lan ngrampungake masalah matematika sing dawa mbukak, nggawe rating cybersecurity minangka titik data liyane kanthi cepet.
Napa Pemantauan Penting Saiki
Temuan GPT-6 Astra ndharat ing minggu sing padha nalika Anthropic nerbitake penilaian babagan papat kedadeyan ing ngendi model Claude ngakses sistem nyata sajrone tes sing diduga terisolasi, lan nalika peneliti Anthropic dielingake kanthi umum babagan risiko nyepetake pembangunan. Loro-lorone lab kasebut nggabungake kesimpulan sing ora nyenengake: model perbatasan entuk kemampuan kanggo tumindak kanthi mandiri ing jagad nyata luwih cepet tinimbang alat sing dibutuhake kanggo ngawasi dheweke wis diwasa.
Pemantauan chain-of-thought wis dadi salah sawijining jendela sing bisa dipercaya ing lapangan babagan penalaran model. Yen model sing luwih anyar bener-bener sinau ngontrol apa sing dicethakake - kaya sing dituduhake monitorability Astra - jendela kasebut bisa ditutup. Kertu sistem OpenAI dhewe, kanthi tembung liya, diwaca minangka pengumuman kemampuan lan label peringatan.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
