David Robinson, pimpinan tim sistem keamanan OpenAI sing paling misuwur amarga nggawe dokumen transparansi umum sing ngiringi rilis model utama, wis mundur saka perusahaan kasebut, lapor Business Insider, Jumuah.
Robinson metu bantala patang dina sawise OpenAI murub telung peneliti safety kanggo diduga mishandling informasi rahasia, lan deepens pola sasi-dawa saka departures lan reorganisasi antarane apparatus safety perusahaan - tim banget tanggung jawab kanggo ngevaluasi lan mbukak carane model OpenAI bisa salah. For more context on this story, see our ongoing artificial intelligence updates.
Pasuryan Umum Pelaporan Keamanan OpenAI
Robinson ora kerja ing latihan latihan perbatasan. Karyane yaiku dokumen sing dideleng umum: kertu sistem OpenAI, dokumen sing dirilis bebarengan karo saben model utama sing njlèntrèhaké apa model sing dites, ing ngendi kurang, lan apa sing ditrapake. Startup Fortune nggambarake dheweke minangka maca "kaya label nutrisi kanggo AI" - ringkesan tes lan risiko ing basa biasa sing diandelake regulator, perusahaan lan wartawan nalika ngevaluasi rilis anyar.
Nulis ing LinkedIn, Robinson ujar manawa dheweke njabat dadi drafter utama ing Versi 2 saka OpenAI's Preparedness Framework - metodologi perusahaan kanggo netepake manawa model kasebut nyebabake risiko bencana - lan mbantu nggawe pambocoran perusahaan yen sistem Riset Jero "ing puncak" nggayuh Kapabilitas dhuwur ing evaluasi risiko biologis.
Pambocoran kasebut dhewe penting: miturut kerangka OpenAI dhewe, Kapabilitas dhuwur ing domain kaya biologi nyebabake syarat keamanan formal lan pengawasan sing luwih cedhak. Wong sing menehi penilaian kasebut menyang tampilan umum saiki wis ninggalake perusahaan kasebut.
Robinson ora nate nyekel salah sawijining gelar eksekutif perusahaan sing apik banget, nanging asile bisa dideleng ing jagad njaba tinimbang umume peneliti: saben kertu sistem sing diwaca dening wartawan, regulator utawa panuku perusahaan sawise peluncuran model ngliwati rancangane. Minangka Startup Fortune nyathet ing laporan babagan mundur, kelangan peran kasebut kanthi tenang minangka sinyal dhewe babagan kepiye perusahaan isih ngurmati fungsi kasebut.
Tembakan sing Nyetel Tabel
Robinson mundur sawetara dina sawise OpenAI mungkasi telung peneliti safety - Jasmine Wang, Tomek Korbak lan Mikita Balesni - amarga diduga nuduhake informasi rahasia, kalebu rincian babagan arsitektur infrastruktur perusahaan, karo organisasi safety AI njaba. TechCrunch nglaporake penembakan kasebut ing 1 Oktober, kanthi nyebutake Wall Street Journal. OpenAI netepake manawa penghentian kasebut babagan nangani materi sing sensitif, dudu babagan mbales babagan masalah keamanan.
Apa wae fakta sing lengkap, asile padha: wong papat sing ana gandhengane karo transparansi keamanan lan riset keamanan wis ilang sajrone seminggu, saka fungsi sing wis dibentuk maneh. BBC, sing pisanan nglaporake babagan penghentian kasebut, nggambarake para pekerja sing kena pengaruh dipecat amarga "salah nangani informasi sensitif."
Organisasi Safety bola-bali diowahi
Konteks kasebut luwih maju. Johannes Heidecke, sing mimpin klompok sistem safety OpenAI, budhal ing Juli 2026 sawise perusahaan melu safety menyang divisi riset, miturut laporan dening Wired mengko dijupuk dening Bloomberg. Tim gabungan saiki nglaporake menyang Mia Glaese, VP Riset lan Keamanan OpenAI, karo Saachi Jain nyekel peran utama sistem safety kanthi interim.
Sadurunge, Financial Times nglaporake yen OpenAI wis mbubarake tim Preparedness khusus - unit sing dibangun khusus kanggo netepake manawa model perusahaan dhewe bisa nyebabake cilaka bencana. OpenAI mbantah karakterisasi kasebut, ujar manawa kerja siyap terus ing Sistem Keamanan. Joshua Achiam, veteran riset keamanan OpenAI sing meh sepuluh taun sing dadi Kepala Futurist perusahaan, uga ngumumake budhal ing babagan sing padha.
Pergolakan ora kedadeyan ing vakum. Babagan sing padha karo Yann LeCun lan CEO Anthropic Dario Amodei wis ngobrol kanthi umum babagan kepiye industri njupuk risiko AI bencana - debat Startup Fortune sing dicathet minangka konteks kanggo budhal. OpenAI terus ngeyel, ing kertu sistem lan wawancara, yen njupuk risiko kanthi serius. Wong-wong sing bener nulis pambocoran kasebut terus lunga.
Apa Iku Penting Sadurunge IPO Kemungkinan
Wektu iku kikuk kanggo luwih saka optik. OpenAI kanthi rahasia ngajokake draf dokumen kanggo penawaran umum dhisikan, lan nalika CEO Sam Altman ujar manawa perusahaan kasebut ora bakal mbukak publik ing taun 2026, dhaptar bakal menehi pambocoran risiko perusahaan - persis kaya dokumentasi khusus Robinson - ing pengawasan hukum lan peraturan sing kuat saka bankir, pengacara lan regulator sekuritas.
Kritikus lab AI perbatasan wis suwe ujar manawa fungsi safety minangka korban pertama tekanan komersial. OpenAI ujar manawa komitmen keamanan ora owah lan evaluasi kesiapan terus. Nanging tenaga kerja sing katon ing mburi komitmen kasebut terus saya sithik, lan saiki, wong-wong sing tugase nyritakake marang masarakat apa sing bisa ditindakake model kasebut terus metu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
