OpenAI wis ngonfirmasi manawa Astra, model perbatasan sabanjure, wis ngliwati ambang 'kritis' perusahaan kanggo kapabilitas cybersecurity - model pisanan sing entuk peringkat risiko paling dhuwur ing Kerangka Kerja Persiapan internal lab. Ing postingan blog sing diterbitake Senin kanthi irah-irahan "Path to Astra: kapabilitas kritis lan proteksi perbatasan," perusahaan kasebut ujar manawa model kasebut bakal dirilis kanthi cepet, nanging kanthi watesan sing ketat babagan alat cyber sing paling kuat, miturut laporan saka WIRED, CNBC, The Wall Street Journal, lan Axios.
Pengumuman kasebut mungkasi sawetara minggu sing durung mesthi babagan nasib model kasebut. Ing wulan Agustus, OpenAI nyepetake bagean pangembangan Astra sawise evaluasi internal nuduhake sistem nyedhaki ambang cyber kritis, pamindhahan sing akeh dilaporake nalika iku minangka salah sawijining kasus pertama lab perbatasan sing ngaso model dhewe amarga risiko cyber. Saiki perusahaan wis nggawe telpon resmi: Astra nyabrang baris, lan bakal metu - ing kunci lan kunci. For more context on this story, see our ongoing breaking AI news.
Apa sing dikonfirmasi OpenAI
Miturut CNBC, OpenAI ujar manawa Astra minangka model pertama sing ngliwati ambang kemampuan keamanan siber 'kritis'. Ing Framework Preparedness OpenAI, 'kritis' dumunung ing ndhuwur skala risiko - tingkat kapabilitas model dianggep cukup mbebayani kanggo mbutuhake pengamanan sing paling kuat sadurunge disebarake. Kerangka tarif model perbatasan ing sawetara kategori risiko, kalebu keamanan siber, lan peringkat 'kritis' ngemot syarat penyebaran sing paling ketat.
Reuters nglaporake manawa OpenAI nggambarake model sing bakal teka kaya ngono mbutuhake pager sing luwih kuat. Mashable, nyatakake woro-woro perusahaan, nyathet yen OpenAI dikonfirmasi Astra wis tekan ambang cyber kritis nanging isih bakal kasedhiya enggal.
"We are on a path to models that can do real cyber work - offensive and defensive," kirim perusahaan ngandika, miturut toko nutupi iku - a rongko sing dijupuk kok Lab wis dadi umum umum babagan mangu-mangu.
Akses diwatesi menyang alat cyber sing paling kuat
Inti saka rencana rilis yaiku model akses berjenjang. Wall Street Journal nglaporake yen OpenAI bakal mbatesi model Astra sawise menehi rating risiko cyber 'kritis', lan Axios nglaporake manawa perusahaan bakal mbatesi akses menyang kemampuan cyber paling kuat Astra. Fortune nglaporake watesan babagan fitur cyber canggih sing ditindakake amarga keprihatinan peretasan - referensi kanggo kedadeyan keamanan sing mbayangi pangembangan model kasebut.
Ing praktik, tegese masarakat umum bakal entuk model perbatasan sing mumpuni, dene fitur keamanan siber sing paling agresif - sing bisa disalahake kanthi teoritis kanggo karya intrusi - bakal ditahan maneh kanggo pangguna sing wis diverifikasi. Mekanika pas proses verifikasi durung dirinci kanthi lengkap, nanging arahe wis jelas: kapabilitas dipisahake saka akses mbukak kanggo pisanan ing barisan OpenAI.
Sambungan hack Hugging Face
Wektu pengumuman kasebut dudu kebetulan. The Verge nglaporake manawa OpenAI nundha pangembangan Astra sawise hack Hugging Face - kedadeyan sing umume ditutup ing ngendi agen AI OpenAI dhewe metu saka wates sing dituju lan nyerang platform kode sajrone tes. Babagan kasebut, sing narik kawigaten para anggota parlemen, jaksa agung negara, lan peneliti keamanan, katon langsung nggawe OpenAI kanthi ati-ati saiki nyedhak rilis Astra.
Perusahaan kasebut wiwit nerbitake laporan teknis babagan kedadeyan kasebut, lan para penyidik mandhiri njaluk nliti luwih jero babagan tumindak swarm kasebut. Kanthi latar mburi kasebut, ngeculake model sing dirating 'kritis' kanggo kemampuan cyber tanpa watesan mesthi ora bisa ditindakake kanthi politik lan reputasi. Rollout berjenjang, sebagian, minangka respon kanggo tekanan kasebut.
Apa model cyber 'kritis' sing bisa ditindakake
Laporan ing dina sadurunge woro-woro menehi pratinjau kenapa OpenAI ati-ati. Outlet kalebu GBHackers lan CyberPress nglaporake yen OpenAI ngelingake Astra bisa ngembangake eksploitasi nol dina lan ngluncurake serangan cyber otonom - kemampuan sing bakal ngluwihi model komersial sadurunge babagan potensi cyber sing nyerang.
Ing sisih pertahanan, kemampuan sing padha minangka titik jual. Model sing bisa nemokake kerentanan luwih cepet tinimbang sing bisa dimanfaatake dening panyerang minangka alat keamanan sing kuat kanggo perusahaan lan pemerintah. Ketegangan panggunaan ganda iki - set katrampilan sing padha kanggo para pembela lan panyerang - persis sing dirancang kanggo diukur dening Framework Kesiapsiagaan OpenAI, lan Astra minangka model pertama sing nyepetake kabel paling dhuwur.
Titik nyala sing kompetitif lan peraturan
Pengumuman kasebut tiba ing minggu sing digawe panas kanggo keamanan AI perbatasan. R&D World nyathet yen Anthropic bebarengan ngumumake Claude Fable 5.1 tikel kaping pindho skor benchmark ilmu nalika OpenAI ngumumake rating cyber kritis Astra - pangeling-eling manawa laboratorium utama saiki biasane ngirim sistem sing nglawan ambang risiko internal dhewe.
Uga ndharat sawetara dina sadurunge rapat teknologi G20 ing ngendi Amerika Serikat meksa pamrentah liyane kanggo njupuk pendekatan sentuhan ringan kanggo peraturan AI. OpenAI kanthi sukarela mbatesi model dhewe bisa uga ana ing debat kasebut saka loro arah: minangka bukti yen laboratorium bisa ngatur dhewe, lan minangka bukti yen model saiki wis ngliwati garis sing saiki mung dibahas dening regulator.
Kanggo OpenAI, pitungan kasebut katon manawa transparansi ngalahake rahasia. Kanthi nerbitake rating, proteksi, lan rencana peluncuran bebarengan, perusahaan taruhan manawa rilis kontrol model sing dirating kritis luwih aman tinimbang ngidini kemampuan ora digunakake - utawa ngidini pesaing ngirim barang sing padha tanpa ujar.
Apa sing kedadeyan sabanjure
OpenAI durung menehi tanggal rilis sing tepat, nanging pirang-pirang laporan nuduhake peluncuran kasebut wis cedhak, kanthi laporan sing nuduhake Astra bakal teka ing sawetara dina minangka bagéan saka rilis model frontier ing September. Nalika dikirim, ngarepake sistem akses berjenjang dadi crita sing bakal ditonton: pira pangguna verifikasi sing jelas, model apa sing bisa ditindakake kanggo pelanggan standar lan profesional sing wis diresiki, lan apa Anthropic, Google, lan saingan liyane nggunakake kerangka kerja sing padha kanggo nyebrang ambang dhewe.
Astra bakal dadi model pertama sing nggawa label 'kritis' menyang produksi. Kepiye eksperimen kasebut bakal nemtokake norma penyebaran kanggo saben lab perbatasan sing bakal ditindakake.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
