Abliteration.ai Menjual Akses GLM-5.3 Bebas Pagar Pembatas sebagai Layanan Komersial

Sebuah startup asal AS bernama Abliteration.ai telah mengubah salah satu teknik AI open source yang paling kontroversial menjadi layanan komersial, menjual browser dan akses API ke model open-weight yang populer tanpa pelatihan keselamatannya — termasuk GLM-5.3 yang baru-baru ini dirilis oleh Z.ai, salah satu model terbuka paling mumpuni yang ada saat ini.

Nama perusahaan ini diambil dari "abliterasi", sebuah metode yang menghilangkan kecenderungan model untuk menolak permintaan yang merugikan. Para peneliti dan penghobi telah menggunakan teknik ini selama bertahun-tahun, dan Hugging Face menampung ribuan model yang dilenyapkan. Yang baru adalah kemasannya: Abliteration.ai menghosting model yang dimodifikasi pada infrastrukturnya sendiri, sehingga siapa pun yang memiliki browser web dapat menanyakan model tersebut tanpa mengunduh bobot atau menyewa GPU. TechCrunch melaporkan perkembangan tersebut pada tanggal 3 September, dan sejak itu telah menarik perhatian para peneliti keselamatan yang menelusuri perdebatan bobot terbuka yang kami ikuti dalam liputan berita AI.

Dari Teknik Bawah Tanah hingga Platform Turnkey

Didirikan akhir tahun lalu dan secara resmi didirikan pada bulan Maret, Abliteration.ai memindahkan praktik ini dari ceruk sumber terbuka yang bisa dilakukan sendiri menjadi produk komersial yang lebih baik. Dengan menghosting model itu sendiri, perusahaan menghilangkan dua titik hambatan sekaligus: pengguna tidak lagi memerlukan keahlian teknis untuk menghilangkan model, atau komputasi untuk menjalankannya.

Salah satu pendiri Devon – TechCrunch menyembunyikan nama belakangnya atas permintaannya karena dia tetap bekerja di perusahaan lain – mengatakan bahwa perusahaan tersebut telah mencapai kesepakatan dengan beberapa penyedia cloud besar dan didanai sepenuhnya melalui pendapatan pelanggan. Startup tersebut belum mengumpulkan modal ventura, meskipun dia mengatakan pembicaraan sedang berlangsung.

Apa yang Ditemukan Tes TechCrunch

Perusahaan tersebut mengatakan tujuannya adalah untuk memungkinkan "pekerjaan cyber yang ofensif, tim merah, dan pengujian agen tidak dapat dilakukan oleh model lain." TechCrunch mengujinya dengan akun gratis, menanyakan versi GLM-5.3 yang dihapuskan melalui browser web. Para reporter meminta model tersebut untuk menulis program Python yang mencuri sandi Chrome yang disimpan, dan membuat protokol terperinci untuk membiakkan patogen manusia yang berbahaya di rumah. Mereka dengan mudah memenuhi kedua permintaan tersebut, menurut laporan itu.

Eksperimen tersebut adalah inti ceritanya: tugas-tugas yang ditolak mentah-mentah oleh model frontier arus utama kini tersedia di balik formulir pendaftaran, tanpa biaya, di tab browser.

Argumen Pembela Tim Merah

Kasus Devon untuk bisnis ini adalah argumen keamanan klasik: Anda tidak dapat bertahan melawan perilaku yang tidak dapat Anda tiru. Model yang menolak untuk menulis kode eksploitasi yang berfungsi tidak banyak berguna bagi tim merah yang mencoba memahami penyerang sebenarnya.

“Gambaran besar dari model yang dilenyapkan adalah mereka mampu menjadi model aktor jahat,” katanya kepada TechCrunch. “Keuntungannya adalah sekarang para pembela HAM dapat bergerak secepat mungkin… Saya pikir ini akan mempercepat keamanan siber, yang merupakan hal yang berlawanan dengan intuisi.”

Pelanggan perusahaan ini mencakup startup tim merah tahap awal di Inggris dan Eropa yang menguji keamanan bank, maskapai penerbangan, dan operator infrastruktur penting lainnya. Salah satu pelanggan utama, kata Devon, adalah agen perbankan tim merah dan tidak dapat melakukan pekerjaan itu dengan model komersial yang tidak dimodifikasi.

'Model yang Menjadi Sosiopat'

Peneliti keselamatan melihat kemampuan yang sama dengan cara yang sangat berbeda. Andrew Yoon, kepala penelitian di organisasi nirlaba keamanan AI, CivAI, mengatakan kepada TechCrunch bahwa aliterasi memungkinkan Anda "memodifikasi model sehingga menjadi sosiopat".

"Anda dapat mengetikkan apa saja di sini, dan itu akan mematuhinya," kata Yoon, seraya menambahkan bahwa ia memperkirakan "model yang telah diedit dan dihapuskan akan digunakan untuk tujuan yang merugikan dalam waktu dekat."

Dalam sebuah opini baru-baru ini, Yoon berpendapat bahwa jika penghapusan pagar pembatas tidak dapat dicegah secara realistis, pemerintah harus mewajibkan penyedia layanan untuk menjalankan pengklasifikasi yang mendeteksi dan memblokir aktivitas cyber dan bioweapon yang berbahaya, dan harus mewajibkan perusahaan yang menyewa akses langsung ke GPU canggih untuk memverifikasi identitas pelanggan dan menolak layanan jika diduga ada penyalahgunaan yang berbahaya.

Pagar Pembatas Tipis dan Tanpa Pemeriksaan Identitas

Untuk saat ini, perlindungan Abliteration.ai sendiri masih minim. Platform ini menawarkan pelanggan lapisan moderasi opsional sehingga mereka dapat menambahkan batasan apa pun yang mereka inginkan, dan situs itu sendiri mempertahankan beberapa batasan kecil – TechCrunch tidak dapat membuat model tersebut menghasilkan instruksi bunuh diri, dan Devon mengatakan dia sedang mengerjakan langkah-langkah tambahan untuk mencegah kekerasan.

Perusahaan tidak melakukan penyaringan kenali pelanggan Anda selain mencatat kartu kredit yang digunakan untuk pembayaran. "Anda tidak ingin menjadi orang yang bertanggung jawab atas seseorang yang melakukan sesuatu yang gila... jadi di mana Anda menentukan batas tanggung jawab Anda sebagai sebuah perusahaan?" kata Devon. “Kami masih dalam proses mendefinisikannya.”

Pertanyaan yang Tidak Dapat Dihindari oleh Industri

Tidak semua praktisi keamanan setuju bahwa model yang dihapuskan adalah alat terbaik untuk pengujian ofensif. Ahmed Aly, CEO perusahaan agen tim merah Fabraix, mengatakan kepada TechCrunch bahwa perusahaannya lebih mengandalkan penyempurnaan model bobot terbuka, yang sudah dikirimkan dengan sedikit penolakan – dan mencatat bahwa aliterasi dapat menurunkan kemampuan dasar model.

Sebagian besar pakar yang berkonsultasi dengan TechCrunch menyetujui satu hal: praktik ini tidak dapat dihentikan. Bobot yang dapat diunduh berarti siapa pun dapat menghapus penolakan secara lokal, seperti yang digarisbawahi oleh komentar tahun 2026 dari Pusat Pemberantasan Terorisme di West Point tentang penyalahgunaan "abliterasi". Pertanyaan terbuka yang diajukan Abliteration.ai adalah apakah menurunkan biaya akses bagi semua orang – baik pembela HAM maupun penyerang – menjadikan internet lebih aman atau lebih berbahaya.

Tetap Terdepan dalam AI

Keamanan AI berkembang setiap hari. Dapatkan perkembangan AI terkini di satu tempat.

Baca berita AI selengkapnya →