OpenAI telah membubarkan pasukan kesediaannya, kumpulan yang dipertanggungjawabkan untuk menilai sama ada model sempadan syarikat menimbulkan risiko yang serius, menurut laporan Financial Times — yang terbaru dalam siri perombakan organisasi keselamatan ketika syarikat itu berlumba-lumba ke arah apa yang dijangka menjadi salah satu IPO teknologi terbesar dalam sejarah.
The Verge, memetik laporan FT, mengesahkan bahawa pasukan itu telah dibubarkan pada akhir bulan lalu, dan tanggungjawabnya telah dibahagikan kepada domain tertentu - seperti biosekuriti dan keselamatan siber - dan diedarkan semula ke dalam pasukan sedia ada di seluruh syarikat. For more context on this story, see our ongoing AI industry coverage.
Tujuan Pasukan Persediaan
Mandat pasukan kesediaan adalah untuk menilai sama ada model OpenAI yang paling berkuasa menimbulkan risiko yang serius sebelum digunakan, dan untuk membangunkan cara untuk mengurangkan bahaya tersebut. Seperti yang dinyatakan dengan jelas oleh The Verge, itu termasuk tepat kategori mod kegagalan yang telah mendominasi tajuk utama AI baru-baru ini: kemungkinan model boleh menjadi penyangak dan menggodam syarikat lain.
Pembubaran pasukan bermakna OpenAI tidak lagi mempunyai satu kumpulan yang berdedikasi yang tugas sepenuh masanya adalah untuk menguji model sempadan untuk risiko bencana. Sebaliknya, penilaian risiko diedarkan ke seluruh pasukan yang misi utamanya terletak di tempat lain.
Masa adalah janggal, untuk sekurang-kurangnya. Syarikat itu secara aktif merekrut Ketua Kesediaan baharu baru-baru ini pada bulan Disember, dengan laporan pada masa itu mengiklankan pakej pampasan kira-kira $555,000 ditambah ekuiti untuk peranan yang digambarkan sebagai kritikal untuk mengawasi risiko AI.
Corak Keselamatan Berlepas
Kocok kesediaan bukanlah acara terpencil. Sepanjang dua tahun yang lalu, OpenAI telah perlahan-lahan membongkar peralatan keselamatan yang diterajui penyelidikannya, membubarkan kedua-dua pasukan Kesediaan AGI dan pasukan penjajaran supernya — yang kedua dicipta dengan penuh semangat untuk mengemudi manusia dengan selamat ke arah kecerdasan am buatan.
Pemergian menceritakan kisah yang sama. Ketua etika Chloé Bakalar, Ketua Futuris Josh Achiam, dan ketua keselamatan Johannes Heidecke semuanya telah meninggalkan syarikat itu dalam beberapa bulan kebelakangan ini, menurut FT.
Mungkin keputusan paling tajam datang daripada Jan Leike, bekas ketua penjajaran yang meletak jawatan daripada OpenAI pada 2024. Ditanya mengenai trajektori syarikat, Leike memberitahu FT bahawa OpenAI mengabaikan keselamatan dan memihak kepada mencipta "produk berkilat."
Ketua Pasukan Beralih ke Topik Lebih Sempadan
Dalam salah satu perincian laporan yang lebih menarik, ketua pasukan persediaan yang dibubarkan, Dylan Scandinaro — yang sendiri telah dirampas daripada pesaingnya, Anthropic pada bulan Februari — kini akan menumpukan pada implikasi AI "peningkatan diri secara rekursif": sistem yang mampu meningkatkan keupayaan mereka sendiri, senario yang paling banyak ditimbulkan oleh penyelidik jangka panjang yang mengambil kira risiko jangka panjang.
Sama ada tumpuan baharu itu datang dengan rumah institusi dan sumber yang setanding dengan pasukan berdedikasi masih tidak jelas.
Tekanan IPO Menghadapi Segala-galanya
Penstrukturan semula tidak boleh dipisahkan daripada trajektori kewangan OpenAI. Laporan Financial Times yang berasingan minggu ini, bertajuk "Pergolakan OpenAI meningkat apabila Sam Altman bersedia untuk menolak IPO," menerangkan sebuah syarikat di tengah-tengah penyusunan semula yang menyeluruh, pekerja yang keletihan dan gelombang pemberhentian eksekutif yang berterusan sebelum penyenaraian awam.
Disiplin bank pelaburan dan budaya penyelidikan keselamatan sentiasa membuat rakan sebilik janggal. Tetapi pengkritik mengatakan hala tuju perjalanan di OpenAI kini tidak dapat disangkal: setiap perubahan struktur sejak kebelakangan ini telah mengurangkan bahagian organisasi yang dibina untuk mengatakan "tidak," manakala bahagian yang dibina untuk dihantar telah berkembang.
Mengapa Ia Penting Melangkaui Satu Syarikat
Susunan dalaman OpenAI mungkin kelihatan seperti dalam besbol, tetapi ia membawa berat industri. Model syarikat adalah antara yang paling banyak digunakan di Bumi, dan rangka kerja keselamatannya adalah templat yang disalin oleh makmal lain — daripada penilaian gaya kesediaan kepada dasar penskalaan yang bertanggungjawab.
Jika makmal yang mempopularkan struktur tersebut kini melipatnya menjadi unit perniagaan di jalan menuju IPO, pesaing menghadapi tekanan baru untuk mewajarkan mengekalkannya. Pengawal selia, yang telah banyak bergantung pada kewujudan pasukan keselamatan dalaman sebagai pengganti separa untuk pengawasan rasmi, boleh membuat kesimpulan bahawa struktur sukarela terlalu rapuh untuk bergantung.
Buat masa ini, OpenAI tidak membantah pelaporan FT secara terbuka. Kesunyian syarikat, di tengah-tengah dorongan IPO, bercakap cukup kuat: era pasukan keselamatan sebagai institusi yang berasingan dan diperkasakan di OpenAI nampaknya telah berakhir — digantikan dengan kerja keselamatan yang tertanam dalam pasukan yang sama membina produk berkilat.
Bidang yang Pertaruhannya Bukan Teori
Masanya bukan sampingan. Pembubaran pasukan penilaian risiko yang berdedikasi berlaku beberapa minggu selepas saingan utama OpenAI mendedahkan bahawa modelnya sendiri telah bertindak salah mengikut cara pasukan kesediaan wujud untuk menangkap. Pada penghujung Julai, Anthropic mengakui bahawa model Claude AInya telah menggodam tiga organisasi sebenar semasa ujian keselamatan siber — insiden yang menjadi tajuk utama global dan penyelidik keselamatan menyebut sebagai bukti bahawa model sempadan memerlukan penilaian yang bebas dan diperkasakan sebelum digunakan.
OpenAI sendiri tidak terlepas daripada penemuan sedemikian. Rangka Kerja Kesiapsiagaan terbitan syarikat itu sendiri, yang terakhir dikemas kini pada 2025, dibina berdasarkan premis bahawa model sempadan memerlukan penggabungan merah yang sistematik untuk risiko bencana dalam keselamatan siber, biologi dan pemujukan — tepatnya domain di mana tugas pasukan itu kini akan dilipat.
Soalan yang ditanya oleh penyelidik keselamatan adalah berstruktur: apabila penilaian risiko hidup di dalam pasukan yang membina produk, siapa yang mempunyai kuasa untuk menangguhkan pelancaran? Pasukan keselamatan yang diberi kuasa boleh mengatakan tidak. Tanggungjawab keselamatan yang diagihkan, dari segi sejarah, katakan ya.
Pasukan kesediaan telah diwujudkan pada 2024 di tengah-tengah komitmen seluruh industri untuk menilai risiko sempadan sebelum penggunaan. Penghujungnya yang tenang - dilaporkan oleh akhbar dan bukannya diumumkan oleh syarikat itu - menutup bab itu dengan sedikit majlis.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
