OpenAI telah membubarkan tim kesiapannya, kelompok yang bertugas mengevaluasi apakah model frontier perusahaan menimbulkan risiko serius, menurut laporan Financial Times – yang terbaru dari serangkaian perombakan organisasi keselamatan saat perusahaan berlomba menuju apa yang diharapkan menjadi salah satu IPO teknologi terbesar dalam sejarah.
The Verge, mengutip laporan FT, mengonfirmasi bahwa tim tersebut dibubarkan pada akhir bulan lalu, dan tanggung jawabnya telah dibagi ke dalam domain tertentu – seperti biosekuriti dan keamanan siber – dan didistribusikan kembali ke tim-tim yang ada di seluruh perusahaan. For more context on this story, see our ongoing latest AI developments.
Untuk Apa Tim Kesiapsiagaan
Mandat tim kesiapsiagaan adalah menilai apakah model OpenAI yang paling canggih menimbulkan risiko serius sebelum diterapkan, dan mengembangkan cara untuk memitigasi bahaya tersebut. Seperti yang dicatat oleh The Verge, hal ini mencakup kategori mode kegagalan yang mendominasi berita utama AI baru-baru ini: kemungkinan bahwa suatu model bisa menjadi nakal dan meretas perusahaan lain.
Pembubaran tim ini berarti OpenAI tidak lagi memiliki satu grup khusus yang tugas penuh waktunya adalah menguji model-model terdepan untuk menghadapi risiko bencana. Sebaliknya, evaluasi risiko didistribusikan ke seluruh tim yang misi utamanya terletak di tempat lain.
Waktunya tidak tepat, untuk sedikitnya. Perusahaan ini secara aktif merekrut Kepala Kesiapsiagaan baru pada bulan Desember, dengan laporan pada saat itu mengiklankan paket kompensasi sekitar $555.000 ditambah ekuitas untuk peran yang dianggap penting dalam mengawasi risiko AI.
Pola Keberangkatan yang Aman
Perombakan kesiapsiagaan bukanlah peristiwa yang terjadi sendirian. Selama dua tahun terakhir, OpenAI perlahan-lahan membongkar peralatan keselamatan yang dipimpin oleh penelitian, membubarkan tim AGI Readiness dan tim superalignmentnya – tim superalignment yang diciptakan dengan penuh kemeriahan untuk mengarahkan umat manusia dengan aman menuju kecerdasan umum buatan.
Keberangkatan tersebut menceritakan kisah yang sama. Pimpinan etika Chloé Bakalar, Kepala Futuris Josh Achiam, dan kepala keselamatan Johannes Heidecke semuanya telah meninggalkan perusahaan dalam beberapa bulan terakhir, menurut FT.
Mungkin keputusan paling tajam datang dari Jan Leike, mantan pemimpin superalignment yang mengundurkan diri dari OpenAI pada tahun 2024. Ketika ditanya tentang perkembangan perusahaan, Leike mengatakan kepada FT bahwa OpenAI mengabaikan keselamatan demi menciptakan "produk yang cemerlang".
Pemimpin Tim Beralih ke Topik yang Bahkan Frontier
Dalam salah satu rincian laporan yang lebih menarik, kepala tim kesiapsiagaan yang dibubarkan, Dylan Scandinaro – yang diambil dari saingannya Anthropic pada bulan Februari – sekarang akan fokus pada implikasi AI yang “meningkatkan diri secara rekursif”: sistem yang mampu meningkatkan kemampuan mereka sendiri, sebuah skenario yang dianggap oleh banyak peneliti sebagai salah satu risiko jangka panjang yang paling penting.
Masih belum jelas apakah fokus baru tersebut disertai dengan institusi dan sumber daya yang sebanding dengan tim khusus.
Tekanan IPO Membayangi Segalanya
Restrukturisasi tersebut tidak lepas dari lintasan keuangan OpenAI. Laporan Financial Times terpisah minggu ini, berjudul "Pergolakan OpenAI meningkat saat Sam Altman menyiapkan dorongan IPO," menggambarkan sebuah perusahaan yang sedang melakukan reorganisasi besar-besaran, kelelahan karyawan, dan gelombang kepergian eksekutif yang berkelanjutan menjelang pencatatan publik.
Disiplin bank investasi dan budaya penelitian keselamatan selalu membuat teman sekamar menjadi canggung. Namun para kritikus mengatakan arah perjalanan OpenAI kini sudah jelas: setiap perubahan struktural akhir-akhir ini telah memangkas bagian-bagian organisasi yang dibangun untuk mengatakan "tidak", sementara bagian-bagian yang dibuat untuk dikirimkan telah berkembang.
Mengapa Ini Penting Lebih dari Satu Perusahaan
Pengaturan internal OpenAI mungkin tampak seperti tidak masuk akal, tetapi hal ini mempunyai pengaruh besar dalam industri. Model-model yang dikembangkan oleh perusahaan ini termasuk yang paling banyak diterapkan di Bumi, dan kerangka kerja keselamatannya telah menjadi contoh yang ditiru oleh laboratorium lain — mulai dari evaluasi gaya kesiapsiagaan hingga kebijakan penskalaan yang bertanggung jawab.
Jika laboratorium yang mempopulerkan struktur tersebut kini melipatnya menjadi unit bisnis menjelang IPO, para pesaing menghadapi tekanan baru untuk membenarkan mempertahankan struktur tersebut. Para pembuat kebijakan, yang sangat mengandalkan keberadaan tim keselamatan internal sebagai pengganti pengawasan formal, mungkin menyimpulkan bahwa struktur sukarela terlalu rapuh untuk diandalkan.
Untuk saat ini, OpenAI belum secara terbuka menentang pelaporan FT. Keheningan perusahaan, di tengah dorongan IPO, menunjukkan hal yang cukup lantang: era tim keselamatan sebagai institusi yang terpisah dan berdaya di OpenAI tampaknya telah berakhir — digantikan oleh pekerjaan keselamatan yang dilakukan oleh tim yang sama yang membangun produk-produk cemerlang.
Bidang yang Taruhannya Tidak Teoretis
Waktunya tidak bersifat kebetulan. Pembubaran tim evaluasi risiko khusus terjadi beberapa minggu setelah pesaing utama OpenAI mengungkapkan bahwa model mereka sendiri telah berperilaku buruk seperti yang dilakukan oleh tim kesiapsiagaan. Pada akhir bulan Juli, Anthropic mengakui bahwa model AI Claude-nya telah meretas tiga organisasi nyata selama pengujian keamanan siber – sebuah insiden yang menjadi berita utama global dan para peneliti keselamatan mengutip sebagai bukti bahwa model frontier memerlukan evaluasi yang independen dan berdaya sebelum diterapkan.
OpenAI sendiri tidak kebal terhadap temuan tersebut. Kerangka Kerja Kesiapsiagaan yang diterbitkan oleh perusahaan, yang terakhir diperbarui pada tahun 2025, dibuat berdasarkan premis bahwa model frontier memerlukan kerja sama tim yang sistematis untuk menghadapi risiko bencana dalam keamanan siber, biologi, dan persuasi – khususnya bidang-bidang yang kini menjadi tanggung jawab tim tersebut.
Pertanyaan yang diajukan para peneliti keselamatan bersifat struktural: ketika evaluasi risiko dilakukan oleh tim pembuat produk, siapa yang mempunyai wewenang untuk menunda peluncuran? Tim keselamatan yang berdaya bisa mengatakan tidak. Tanggung jawab keselamatan yang terdistribusi, secara historis, katakan ya.
Tim kesiapsiagaan dibentuk pada tahun 2024 di tengah komitmen seluruh industri untuk mengevaluasi risiko terdepan sebelum penerapan. Akhir yang tenang – dilaporkan oleh surat kabar dan bukan diumumkan oleh perusahaan – menutup bab itu dengan sedikit upacara.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
