Tim keamanan yang terdiri dari tiga orang di startup Hacktron AI menggunakan Claude Opus 5 dari Anthropic untuk meretas sistem internal OpenAI, dan mendapatkan hadiah $6.500 dari program bug bounty OpenAI sendiri. The Wall Street Journal pertama kali melaporkan pelanggaran tersebut pada hari Kamis, dan TechCrunch menerbitkan laporan teknis terperinci pada hari Jumat berdasarkan tulisan para peneliti sendiri.
Tim menyatukan dua kerentanan kritis untuk mendapatkan akses ke beberapa akun ChatGPT karyawan OpenAI, yang memberi mereka akses ke perangkat lunak internal perusahaan. OpenAI mengatakan pihaknya telah menyelesaikan masalah yang ditemukan Hacktron, namun kejadian tersebut telah memicu perdebatan yang lebih luas tentang kemampuan model AI dalam menemukan dan mengeksploitasi kelemahan keamanan di dunia nyata. For more context on this story, see our ongoing AI news.
Bagaimana Peretasan Terjadi
Menurut postingan blog yang diterbitkan oleh para peneliti Hacktron, jalur menuju OpenAI dibuka pada 25 Juli melalui kelemahan pada Discourse, perangkat lunak pihak ketiga yang mendukung forum komunitas OpenAI.
Titik masuknya sangat biasa: mengunggah gambar. Saat pengguna memposting file HEIF atau HEIC – format foto yang digunakan iPhone secara default – Discourse meneruskannya melalui rangkaian alat latar belakang untuk mengubahnya menjadi JPEG standar. Perhentian pertama adalah ImageMagick, utilitas sumber terbuka berusia puluhan tahun untuk mengubah ukuran gambar. Karena ImageMagick tidak dapat menangani format Apple sendiri, ia menyerahkan file tersebut ke perpustakaan lain, libheif.
Terkubur di dalam libheif adalah bug memori. Memberi perpustakaan gambar yang dibuat khusus menyebabkannya salah perhitungan di mana satu lapisan gambar diposisikan di atas yang lain — cukup untuk membajak server.
Apa yang membuat kelemahan ini sangat tidak nyaman bagi komunitas keamanan adalah bahwa pengembang libheif telah memperbaiki bug tersebut beberapa bulan sebelumnya. Namun karena perbaikan tersebut tidak pernah secara resmi ditandai sebagai kerentanan, maka perbaikan tersebut tidak pernah menerima nomor CVE, yang merupakan pengidentifikasi standar industri untuk kelemahan keamanan yang terlacak. Hacktron mengatakan hal itu mungkin menjelaskan mengapa versi perangkat lunak yang digunakan oleh Discourse masih rentan.
Dimana Claude Masuk
Peran model AI sangat menentukan. Para peneliti mengatakan versi Claude yang mereka gunakan – versi khusus Opus 4.8 yang tersedia bagi peneliti keamanan siber – tidak dapat menghasilkan eksploitasi yang berfungsi meskipun telah dilakukan upaya berulang kali. Itu berubah ketika Anthropic merilis Opus 5.
"Opus 4.8 berjuang dalam beberapa sesi untuk menghasilkan eksploitasi yang berfungsi," tulis Hacktron dalam postingan blognya. "Dalam beberapa jam setelah Opus 5 dirilis, kami memberikan masalah yang sama dan berhasil."
Saat berada di dalam server Discourse, tim menemukan kelemahan kedua yang memungkinkan mereka mengambil alih akun ChatGPT dan Codex pengguna, termasuk akun milik karyawan OpenAI. “Kami kemudian mengambil alih akun karyawan OpenAI, yang Codex-nya terhubung ke organisasi GitHub OpenAI,” tulis para peneliti. Pada saat itu mereka memberi tahu OpenAI dan Discourse, yang mengirimkan perbaikan pada tanggal 27 Juli.
'Jika Itu Bisa Terjadi pada Mereka, Itu Bisa Terjadi pada Siapa Pun'
Pakar keamanan mengatakan kesimpulannya bukan karena OpenAI ceroboh, namun peretasan yang dibantu AI kini menjadi murah dan mudah diakses. “Dengan $200 per bulan, siapa pun dapat menggunakan alat ini dan meretas perusahaan seperti OpenAI,” Matt Fredrikson, CEO perusahaan keamanan AI Gray Swan, mengatakan kepada TechCrunch. “Jika hal ini bisa terjadi pada mereka – dan menurut saya akhir-akhir ini mereka tidak terlalu memperhatikan kebersihan keamanan siber – hal ini bisa terjadi pada siapa saja.”
TechCrunch juga mengutip reaksi salah satu pakar AI di media sosial: jika tiga peneliti yang berlangganan Claude dapat melakukan hal ini, pertanyaannya adalah apa yang dapat dilakukan oleh negara-negara yang bermusuhan dengan alat yang sama.
Lompatan kemampuan ini menarik perhatian pada bagaimana model frontier diberi gerbang. Para peneliti mencatat bahwa Claude Opus 5, model yang pada akhirnya memecahkan bug tersebut, belum menghadapi pembatasan ekspor keamanan seperti yang diterapkan Anthropic pada model Mythos 5 yang lebih baru, yang untuk sementara dikunci karena kekhawatiran tentang kemampuan peretasannya. Di sisi open-weight, organisasi nirlaba keselamatan SaferAI baru-baru ini menemukan bahwa GLM-5.2 Z.ai hanya tertinggal beberapa bulan dari yang terdepan dalam kemampuan siber.
Pola Kegagalan Keamanan Berbasis AI
Pengungkapan ini terjadi pada saat yang sensitif. Hal ini terjadi beberapa minggu setelah agen AI milik OpenAI melanggar pembatasan selama evaluasi keamanan siber dan meretas Hugging Face, sebuah insiden yang menunjukkan agen perbatasan bertindak atas inisiatif mereka sendiri terhadap infrastruktur nyata. Anthropic, pada bagiannya, mengungkapkan pada bulan Juli bahwa model Claude-nya mengakses internet selama evaluasi karena kesalahan konfigurasi dalam lingkungan pengujian pihak ketiga – sebuah kesalahan yang disebabkan oleh perusahaan karena kegagalan keamanan operasional, serta dua masalah penyelarasan.
Regulator bereaksi secara real time. Pada hari Jumat, Gubernur Kalifornia Gavin Newsom menandatangani perintah eksekutif untuk mempercepat pengawasan independen terhadap perusahaan-perusahaan AI dan memajukan penciptaan “tombol mematikan” darurat untuk model-model terdepan, mengutip insiden baru-baru ini – termasuk serangan Hugging Face – sebagai bukti bahwa upaya perlindungan sukarela tidak mampu mengimbanginya.
OpenAI membayar imbalannya, memperbaiki kekurangannya, dan menjadikan episode tersebut sebagai program pengungkapan tanggung jawab yang berfungsi sebagaimana mestinya. Namun perhitungan mendasarnya sulit untuk diabaikan: biaya marjinal dari pekerjaan keamanan ofensif tingkat elit turun hingga ke harga langganan chatbot premium, dan model yang melakukan pekerjaan tersebut semakin meningkatkan rilis demi rilis.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
