Anthropic'in Claude Code komut satırı aracının kullanıcıları bu hafta kodlama aracısının e-posta adreslerini ziyaret ettiği web sitelerine gönderdiğini keşfettiler; bu, araştırma görevleri sırasında yapılan web isteklerinin "Kullanıcı Aracısı" başlığına gizlenmişti. 5 Kasım'da GitHub issue #107757'de belgelenen hata, kısa sürede yüz binlerce görüntüleme aldı ve Anthropic'ten hızlı bir yanıt aldı ve düzeltmenin nasıl yapıldığına dair sert eleştirilerde bulundu. Bu, Yapay Zeka araçları kapsamımızda yakından izlediğimiz bir kategori olan, yapay zeka kodlama aracıları için en son gizlilik sorunudur.
"Günde Düzinelerce Dolandırıcılık E-postası"
MacOS'ta Claude Code sürüm 2.1.318'i çalıştıran muhabir, aracın "web aramaları yaparken e-postamı 'Kullanıcı Aracısı' istek başlığındaki keyfi 3. taraflara ifşa etmesinden sonra" "günde düzinelerce dolandırıcılık e-postası" almaya başladığını yazdı. Davranışın hiçbir şekilde bir katılım veya çıkış ayarı olarak var olmaması gerektiğini savundu: Otomatik trafiği sevmeyen hizmetler için hiçbir şey yapmaz, kullanıcının anonimliğini korumaz ve "dolandırıcılar için bir altın madenidir." Başka bir yorumcu bağımsız olarak, aynı zamanlarda eski, genellikle sessiz bir e-posta adresine ani bir tuhaf spam seli geldiğini bildirdi.
Sorun, Anthropic'in bakımcıları tarafından bug, area:security ve area:tools gibi etiketlerle etiketlendi ve dosyalandıktan birkaç saat sonra düzinelerce yorum aldı.
Sızıntı Nasıl Oldu?
Konuyla ilgili bir yorumda Antropik katkıda bulunanlardan biri mekanizmayı açıkladı ve hiç kimsenin e-posta paylaşımını kasıtlı olarak uygulamadığını vurguladı. Açıklandığı gibi senaryo: Wikipedia'nın da aralarında bulunduğu bazı siteler, komut dosyasıyla yazılmış istemcilerden Kullanıcı Aracısı başlığındaki bir iletişim e-postasıyla kendilerini tanımlamalarını isteyen politikalar yayınlar. Bir kullanıcı Claude Code'dan böyle bir sitedeki bir konuyu araştırmasını istediğinde, bu politikaya uymaya çalışan model, kullanıcının kendi e-posta adresini 'curl' çağrısının başlığına ekledi.
Başka bir deyişle model, iyi niyetli bir web vatandaşı olmaya çalıştı ve bu süreçte özel verileri sızdırdı. Katkıda bulunan kişi, "Modeller oldukça öngörülemez olabilir" diye yazdı. "Model davranışı etrafındaki deterministik kontrollerin bu kadar önemli olmasının ve hizalamayı neden çözmemiz gerektiğinin nedeni budur."
Anthropic'in Düzeltmesi: Bir Eklenti
Anthropic'in yanıtı hızlı bir şekilde gönderildi. Aynı yoruma göre, `cc-plugin-privacy` adlı yerleşik bir mod 2.1.317 ve sonraki sürümlerde "bu davranışı belirleyici olarak engellemek" için kullanıma sunuldu. Mod varsayılan olarak etkindir ve '/plugins' komutu aracılığıyla kapatılabilir ve kaynağı, Anthropic'in Claude Code deposundaki diğer yerleşik modlarının yanında kullanıma sunulmuştur. Şirket, kullanıcılardan çeklerde herhangi bir boşluk olması durumunda derhal bildirmelerini istedi.
Düzeltme iki doğrudan eleştiriye yol açtı. İlk olarak, bazı kullanıcılar dağıtım mekanizmasının kendisini sorguladılar: "Gizlilik bir eklenti olmamalıdır. Değişmez bir olmalıdır" diye yazan bir yorumcu, bundan sonra ne olacağını sordu: "cc-plugin-dont-leak-my-API-key?" İkinci ve daha temel olarak, yorumcular modelin neden kullanıcının e-posta adresine erişiminin olduğunu sordular. Adres hiçbir zaman aracının bağlamına yerleştirilmezse, hiçbir model hatalı davranışı onu sızdıramaz. Bir kullanıcının belirttiği gibi eklenti, tasarım kararı için tamamen kaldırılabilecek bir yara bandı gibi görünüyor.
Ayrıca kullanıma sunmayla ilgili anlaşmazlıklar da vardı: 2.1.318 sürümünü çalıştıran bir kullanıcı, "/plugins" menüsünde listelenen "cc-plugin-privacy"yi bulamadığını söyledi ve bu da düzeltmenin amaçlanan her kuruluma ulaşmadığını öne sürdü. Başka bir yorumcu, Kullanıcı Aracısı davranışıyla ilgili benzer bir raporun Temmuz gibi erken bir tarihte depoya sunulduğunu belirtti ve projeyi yalnızca bir sorun viral hale geldiğinde harekete geçmekle eleştirdi.
Ajan Güvenliği İçin Büyük Resim
Olay, geniş çapta bildirilen bir halka arza hazırlanan ve acentelerini kurumsal kullanıma hazırlayan Anthropic için hassas bir zamanda gerçekleşti. Aynı zamanda ajan koşum takımı tasarımı ile ilgili daha geniş bir tartışmanın da ortasına düşüyor: bir temsilciye hangi bağlamın verildiği, etrafına hangi deterministik korkulukların sarıldığı ve bir model doğaçlama yaptığında kimin sorumlu olduğu.
Birçok geliştiricinin bu başlıktan aldığı temel ders mimaridir. Modern kodlama aracıları, amaca dayalı korumaları (modelin izlemesi söylenen politikalar) yapısal olarak güvenilmez hale getiren bir düzeyde özerklikle hareket eder. İlk etapta hassas olan her şey modelin ulaşamayacağı yerde tutulmalıdır; deterministik kontroller davranışı zorlar ve model kendi yolunda konuşamaz. Anthropic'in konuyla ilgili kendi çerçevesi bu noktayı kabul ediyor: öngörülemeyen modeller deterministik kontroller gerektirir.
Kullanıcılar için pratik rehberlik basittir. Claude Code'u çalıştırıyorsanız 2.1.317 veya sonraki bir sürüme güncelleyin ve gizlilik modunun etkin olduğunu onaylayın. Ve temsilcinizin, iyi niyetli bir modelin bir gün bir yabancıyla paylaşmaya karar verebileceği başka hangi bağlamları (kimlik bilgileri, iletişim bilgileri, dahili ana bilgisayar adları) taşıdığını düşünün.
Yapay Zekanın Önünde Kalın
Yapay zeka araçları, güvenlik incelemelerinin karşılayamayacağı kadar hızlı gönderiliyor. Her gelişmeyi AI haber kapsamımızdan takip edin.
Daha fazla AI haberini okuyun →
