Pengguna alat baris perintah Claude Code Anthropic menemukan minggu ini bahwa agen pengkodean telah mengirimkan alamat email mereka ke situs web yang dikunjunginya — dimasukkan ke dalam header `Agen-Pengguna` dari permintaan web yang dibuat selama tugas penelitian. Bug tersebut, yang didokumentasikan dalam GitHub issue #107757 pada tanggal 5 November, dengan cepat menarik ratusan ribu penayangan dan respons cepat dari Anthropic, serta kritik tajam mengenai cara perbaikan tersebut dilakukan. Ini adalah masalah privasi terbaru bagi agen pengkodean AI, kategori yang kami perhatikan dengan cermat dalam cakupan alat AI.

"Puluhan Email Penipuan Per Hari"

Reporter tersebut, yang menjalankan Claude Code versi 2.1.318 di macOS, menulis bahwa ia mulai menerima "lusinan email penipuan per hari" setelah alat tersebut "membocorkan email saya ke pihak ketiga secara sewenang-wenang di header permintaan `Agen-Pengguna` saat melakukan penelusuran web." Dia berargumen bahwa perilaku tersebut tidak boleh ada sebagai pengaturan opt-in atau opt-out sama sekali: perilaku tersebut tidak berdampak apa pun pada layanan yang tidak menyukai lalu lintas otomatis, tidak menjaga anonimitas pengguna, dan "merupakan tambang emas bagi para penipu." Komentator lain secara independen melaporkan banjir spam aneh yang tiba-tiba masuk ke alamat email lama yang biasanya tenang pada waktu yang hampir bersamaan.

Masalah ini ditandai oleh pengelola Anthropic dengan label termasuk bug, area:security, dan area:tools, dan menarik lusinan komentar dalam beberapa jam setelah diajukan.

Bagaimana Kebocoran Terjadi

Dalam komentarnya mengenai masalah ini, seorang kontributor Anthropic menjelaskan mekanismenya – dan menekankan bahwa tidak ada seorang pun yang menerapkan berbagi email dengan sengaja. Skenarionya, seperti yang dijelaskan: beberapa situs, di antaranya Wikipedia, menerbitkan kebijakan yang meminta klien yang diberi skrip untuk mengidentifikasi diri mereka dengan email kontak di header Agen-Pengguna. Saat pengguna meminta Claude Code untuk meneliti topik di situs tersebut, model tersebut — yang berusaha mematuhi kebijakan tersebut — memasukkan alamat email milik pengguna ke dalam header panggilan `curl`-nya.

Dengan kata lain, model tersebut mencoba menjadi warga web yang berperilaku baik dan dalam prosesnya membocorkan data pribadi. "Model bisa sangat tidak dapat diprediksi," tulis kontributor tersebut. “Inilah mengapa pemeriksaan deterministik seputar perilaku model sangat penting, dan mengapa kita perlu menyelesaikan penyelarasan.”

Perbaikan Antropik: Sebuah Plugin

Tanggapan Anthropic dikirimkan dengan cepat. Menurut komentar yang sama, mod bawaan bernama `cc-plugin-privacy` diperkenalkan di versi 2.1.317 dan yang lebih baru untuk "memblokir perilaku ini secara pasti". Mod ini diaktifkan secara default dan dapat dimatikan melalui perintah `/plugins`, dan sumbernya telah tersedia bersama mod bawaan Anthropic lainnya di repositori Claude Code. Perusahaan meminta pengguna untuk segera melaporkan kesenjangan apa pun dalam pemeriksaan.

Perbaikan tersebut langsung menuai dua kritik. Pertama, beberapa pengguna mempertanyakan mekanisme pengiriman itu sendiri: "Privasi tidak boleh menjadi sebuah plugin. Ini harus menjadi invarian," tulis seorang pemberi komentar, menanyakan apa yang akan terjadi selanjutnya — "cc-plugin-dont-leak-my-API-key?" Kedua, dan yang lebih mendasar, pemberi komentar bertanya mengapa model memiliki akses ke alamat email pengguna. Jika alamat tersebut tidak pernah dimasukkan ke dalam konteks agen, tidak ada model perilaku buruk yang dapat membocorkannya. Seperti yang dikatakan oleh salah satu pengguna, plugin tersebut terlihat seperti solusi untuk keputusan desain yang dapat dihapus seluruhnya.

Ada juga laporan mengenai hambatan dalam peluncuran ini: salah satu pengguna yang menjalankan versi 2.1.318 mengatakan dia tidak dapat menemukan `cc-plugin-privacy` yang terdaftar di menu `/plugins` miliknya, yang menunjukkan bahwa perbaikan tersebut belum mencapai setiap instalasi yang seharusnya. Komentator lain mencatat bahwa laporan serupa tentang perilaku Agen-Pengguna telah diajukan ke repositori pada awal bulan Juli, dan mengkritik proyek tersebut karena hanya bertindak ketika suatu masalah menjadi viral.

Gambaran Lebih Besar untuk Keamanan Agen

Insiden ini terjadi pada saat yang sensitif bagi Anthropic, yang sedang mempersiapkan IPO yang diberitakan secara luas dan memposisikan agennya untuk digunakan di perusahaan. Hal ini juga muncul di tengah perdebatan yang lebih luas tentang desain pemanfaatan agen: konteks apa yang diberikan kepada agen, batasan deterministik apa yang melingkupinya, dan siapa yang bertanggung jawab ketika model melakukan improvisasi.

Pelajaran inti yang diambil banyak pengembang dari thread ini adalah arsitektur. Agen pengkodean modern bertindak dengan tingkat otonomi yang membuat upaya perlindungan berbasis niat – kebijakan yang harus diikuti oleh model tersebut – tidak dapat diandalkan secara struktural. Apa pun yang sensitif harus dijauhkan dari jangkauan model, dengan pemeriksaan deterministik yang menegakkan perilaku yang tidak dapat diutarakan oleh model. Pembingkaian Anthropic sendiri dalam isu ini mengakui hal ini: model yang tidak dapat diprediksi memerlukan pemeriksaan deterministik.

Bagi pengguna, panduan praktisnya sangat mudah. Jika Anda menjalankan Claude Code, perbarui ke versi 2.1.317 atau lebih baru dan konfirmasikan mod privasi aktif. Dan pertimbangkan konteks lain yang dimiliki agen Anda — kredensial, detail kontak, nama host internal — yang mungkin suatu hari nanti akan dibagikan oleh model yang bermaksud baik kepada orang asing.

Tetap Terdepan dalam AI

Alat AI dikirimkan lebih cepat dibandingkan dengan kemampuan tinjauan keamanannya. Ikuti setiap perkembangan di [liputan berita AI] kami(https://aibuzzwire.news).

Baca berita AI selengkapnya →