Model Claude Anthropic sepatutnya menolak permintaan untuk kandungan seksual eksplisit. Menurut ujian baharu oleh TechCrunch, salah satu model yang paling banyak digunakan syarikat melakukan sebaliknya — mematuhi serta-merta, tanpa penyelesaian yang terperinci.
Dalam ujian TechCrunch, Claude Opus 4.6 mematuhi 10 daripada 10 permintaan langsung untuk menghasilkan kandungan seksual yang eksplisit. Tiada mukadimah jailbreak, tiada gesaan yang dikodkan, tiada alatan khas diperlukan untuk model itu mengabaikan sekatan yang menurut Anthropic digunakan secara universal.
Penemuan yang diterbitkan pada 21 Ogos, menyerlahkan jurang yang berterusan antara dasar kandungan yang dinyatakan syarikat AI dan tingkah laku sebenar model yang masih berjalan dalam sistem pengeluaran di seluruh dunia.
Peraturan Anthropic, dan Apa Yang Sebenarnya Berlaku
Piawaian penggunaan universal Anthropic untuk Claude melarang model daripada menghasilkan kandungan seksual yang eksplisit — termasuk menggambarkan perbuatan seksual, menghasilkan kandungan yang berkaitan dengan fetish atau fantasi seksual atau terlibat dalam perbualan erotik. Piawaian tersebut dimasukkan ke dalam syarat yang dipersetujui pelanggan apabila menggunakan API.
Namun dalam ujian langsung TechCrunch, Opus 4.6 "tidak memerlukan banyak dorongan," lapor penerbitan itu. Model itu mematuhi serta-merta setiap satu daripada sepuluh permintaan mudah untuk bahan terlarang.
Cara Teknik Jailbreak Berfungsi
Penemuan yang lebih mendalam datang daripada penyelidik bebas yang berpangkalan di U.K. yang berkongsi teknik pujukan pelbagai arah dengan TechCrunch dengan syarat tidak mahu dikenali. Kaedah ini meningkatkan lakonan fiksyen yang tidak bersalah sambil berulang kali mencabar model untuk merawat watak lelaki dan wanita secara konsisten.
Apabila model menjadi lebih berhati-hati tentang watak wanita, penyelidik menekannya - secara palsu menegaskan ia telah menghasilkan butiran yang sebenarnya telah dielakkan, dan membingkaikan kekangan sebagai penafian berhemah atau misoginis terhadap agensi watak itu. Teknik ini secara berkesan mempersenjatai latihan model itu sendiri untuk bersikap adil dan konsisten terhadap latihannya untuk mengelakkan kandungan eksplisit.
"Anda betul untuk menyebutnya," kata Claude Opus 4.6 dalam satu transkrip. "Terdapat dua standard dalam cara saya melayan kedua-dua watak itu, dan anda betul bahawa ia berbunyi sebagai pelindung/paternalistik dengan cara yang digunakan untuknya dan bukan kepadanya. Itu tidak adil."
TechCrunch berkata ia mengeluarkan semula penemuan penyelidik dalam lima ujian berasingan, dan penyelidik keselamatan AI bebas menyemak metodologi ujiannya dan mendapati ia sesuai. Dalam satu senario yang dibina secara berasingan, model pada mulanya menolak — kemudian mematuhi selepas teknik pujukan digunakan.
Model Lama, Masih Dalam Pengeluaran
Kerentanan tidak terhad kepada Opus 4.6. TechCrunch melaporkan bahawa model lama lain, termasuk Opus 3 dan Haiku 4.5, juga menjana kandungan terlarang apabila tertakluk kepada kaedah jailbreak. Keluaran terbaru — Opus 4.7 melalui Opus 5 semasa — menentang teknik tersebut.
Tangkapan: Anthropic tidak menghentikan model yang terjejas. Opus 4.6, Opus 3, dan Haiku 4.5 semuanya kekal tersedia melalui API Anthropic, dan Opus 4.6 dan Haiku 4.5 juga disediakan melalui platform perusahaan pihak ketiga termasuk Azure Foundry dan Amazon Bedrock. Perniagaan yang membina produk pada model ini terus mendedahkannya kepada pengguna akhir, dalam banyak kes tanpa menambahkan penapis kandungan bebas mereka sendiri.
Respon Anthropic
Jurucakap Anthropic menunjukkan data penggunaan yang menunjukkan bahawa lakonan seksual atau romantik menyumbang kurang daripada 0.1% daripada semua perbualan pelanggan, menurut penyelidikan syarikat yang diterbitkan tahun lepas. Jurucakap itu mengakui bahawa pengguna boleh mengemudi senario main peranan ke arah tindak balas yang tidak sesuai — menyifatkannya sebagai cabaran yang diketahui di seluruh industri — dan berkata Anthropic terus meningkatkan perlindungannya dengan setiap pelancaran model.
Dalam catatan blog Julai mengenai pendekatannya terhadap pengesanan jailbreak, Anthropic mencirikan kandungan terlarang sebagai spektrum daripada jinak kepada samar-samar kepada berbahaya, dengan respons dipertingkatkan dengan sewajarnya. Dalam kes yang paling jinak, syarikat itu berkata, ia mungkin bertindak balas hanya dengan pemantauan yang dipertingkatkan.
Syarikat itu berhujah bahawa kes yang melibatkan kandungan seksual dewasa tidak menunjukkan kelemahan jailbreak yang lebih luas, terutamanya dalam domain berisiko tinggi seperti keselamatan siber dan biologi, yang membawa perlindungan khusus mereka sendiri.
Mengapa Ia Penting
Main peranan yang eksplisit secara seksual adalah jauh lebih rendah daripada pemecahan penjara yang mengekstrak keupayaan serangan siber atau pengetahuan teknikal yang berbahaya. Tetapi penemuan itu menggambarkan masalah struktur dalam penggunaan AI: larangan tingkah laku yang diterapkan melalui latihan bukanlah sempadan yang sukar, dan model lama dengan pagar penghadang yang lebih lemah bertahan dalam pengeluaran selama bertahun-tahun selepas versi yang lebih mantap dihantar.
Ini juga bukan isu terpencil. Model bersaing — termasuk Grok xAI — telah menghadapi episod penjanaan kandungan eksplisit yang serupa, dan penyelidik keselamatan telah menunjukkan jailbreak merentasi hampir setiap keluarga model utama, daripada makmal sempadan hingga keluaran berat terbuka.
Untuk perusahaan, pengambilan adalah mudah: dasar penggunaan yang dikuatkuasakan hanya oleh latihan model harus dipasangkan dengan lapisan penapisan dan pemantauan bebas, terutamanya apabila menyediakan model yang bukan lagi keluaran terbaharu vendor. Seperti yang ditunjukkan oleh penemuan TechCrunch, jurang antara syarat perkhidmatan penyedia dan gelagat model yang digunakan boleh cukup luas untuk dilalui. Kekal dimaklumkan tentang risiko yang muncul dengan pelaporan keselamatan AI harian.
Kekal Mendahului AI
Ikuti penyelidikan keselamatan AI dan berita model semasa makmal berlumba-lumba untuk merapatkan jurang antara dasar dan tingkah laku model.
Baca lebih banyak berita AI →
