Claude Code a scurs adresele de e-mail ale utilizatorilor către site-uri web prin antetele agentului utilizator, generând un val de spam

Utilizatorii instrumentului de linie de comandă Claude Code de la Anthropic au descoperit săptămâna aceasta că agentul de codare a trimis adresele lor de e-mail către site-urile web pe care le-a vizitat - încadrate în antetul `User-Agent` al solicitărilor web făcute în timpul sarcinilor de cercetare. Bug-ul, documentat în Numărul Github #107757 pe 5 noiembrie, a atras rapid sute de mii de vizualizări și un răspuns rapid din partea Anthropic, împreună cu critici ascuțite asupra modului în care a fost livrată remedierea. Este cea mai recentă poticnire privind confidențialitatea agenților de codare AI, o categorie pe care o urmărim îndeaproape în acoperirea instrumentelor AI.

„Zezi de e-mailuri înșelătorii pe zi”

Reporterul, care rulează Claude Code versiunea 2.1.318 pe macOS, a scris că a început să primească „zeci de e-mailuri înșelătorii pe zi” după ce instrumentul „mi-a difuzat e-mailul către terțe părți arbitrare în antetul cererii „User-Agent” în timp ce efectua căutări pe web”. El a susținut că comportamentul nu ar trebui să existe deloc ca o setare de opt-in sau opt-out: nu face nimic pentru serviciile cărora le displace traficul automat, nu păstrează anonimatul utilizatorilor și „este o mină de aur pentru escroci”. Un alt comentator a raportat în mod independent un flux brusc de spam bizar care a sosit la o adresă de e-mail veche, de obicei silențioasă, cam în același timp.

Problema a fost etichetată de menținătorii Anthropic cu etichete care includ bug, area:security și area:tools și a atras zeci de comentarii în câteva ore de la depunere.

Cum s-a întâmplat scurgerea

Într-un comentariu cu privire la această problemă, un colaborator Anthropic a explicat mecanismul – și a subliniat că nimeni nu a implementat în mod deliberat distribuirea de e-mailuri. Scenariul, așa cum este descris: unele site-uri, Wikipedia printre ele, publică politici care cer clienților scriptați să se identifice cu un e-mail de contact în antetul User-Agent. Când un utilizator i-a cerut lui Claude Code să cerceteze un subiect pe un astfel de site, modelul - încercând să respecte această politică - a inserat adresa de e-mail a utilizatorului în antetul apelului său „curl”.

Cu alte cuvinte, modelul a încercat să fie un cetățean de internet bine comportat și a scurs date private în acest proces. „Modelele pot fi foarte imprevizibile”, a scris colaboratorul. „De aceea verificările deterministe în jurul comportamentului modelului sunt atât de importante și de ce trebuie să rezolvăm alinierea.”

Remedierea lui Anthropic: un plugin

Răspunsul lui Anthropic a fost rapid. Conform aceluiași comentariu, un mod încorporat numit `cc-plugin-privacy` a fost introdus în versiunea 2.1.317 și mai târziu pentru a „bloca în mod determinist acest comportament”. Modul este activat implicit și poate fi dezactivat prin comanda `/plugins`, iar sursa sa a fost pusă la dispoziție alături de celelalte moduri încorporate ale Anthropic în depozitul Claude Code. Compania a cerut utilizatorilor să raporteze imediat orice lacune în verificări.

Remedierea a atras două linii imediate de critică. În primul rând, unii utilizatori au pus la îndoială mecanismul de livrare în sine: „Confidențialitatea nu ar trebui să fie un plugin. Ar trebui să fie un invariant”, a scris un comentator, întrebând ce va urma – „cc-plugin-dont-leak-my-API-key?” În al doilea rând, și mai fundamental, comentatorii au întrebat de ce modelul are acces la adresa de e-mail a utilizatorului. Dacă adresa nu este niciodată plasată în contextul agentului, nici un fel de comportament greșit al modelului nu o poate scurge. După cum a spus un utilizator, pluginul arată ca un ajutor pentru o decizie de proiectare care ar putea fi eliminată complet.

Au existat, de asemenea, rapoarte de frecare cu lansarea: un utilizator care rulează versiunea 2.1.318 a spus că nu a găsit `cc-plugin-privacy` listat în meniul său `/plugins`, sugerând că remedierea nu a ajuns la fiecare instalare pentru care era destinată. Un alt comentator a menționat că un raport similar despre comportamentul User-Agent a fost depus în depozit încă din iulie și a criticat proiectul pentru că acționează numai odată ce o problemă devine virală.

Imaginea de ansamblu pentru securitatea agentului

Incidentul aterizează într-un moment sensibil pentru Anthropic, care se pregătește pentru o IPO raportată pe scară largă și își poziționează agenții pentru uzul întreprinderilor. De asemenea, aterizează pe fondul unei dezbateri mai ample despre designul cablajului pentru agenți: ce context este dat unui agent, ce balustrade deterministe îl înconjoară și cine este responsabil atunci când un model improviză.

Lecția de bază pe care mulți dezvoltatori au luat-o din fir este arhitecturală. Agenții moderni de codificare acționează cu un grad de autonomie care face ca garanțiile bazate pe intenții – politicile modelului i se spune să le urmeze – să fie structural nefiabile. Orice lucru sensibil trebuie ținut departe de la îndemâna modelului, în primul rând, cu verificări deterministe care impun comportamentul pe care modelul nu poate vorbi. Înscrierea lui Anthropic în chestiune admite ideea: modelele imprevizibile necesită verificări deterministe.

Pentru utilizatori, îndrumările practice sunt simple. Dacă rulați Claude Code, actualizați la versiunea 2.1.317 sau o versiune ulterioară și confirmați că modulul de confidențialitate este activ. Și luați în considerare ce alt context are agentul dvs. - acreditări, detalii de contact, nume de gazdă interne - pe care un model bine intenționat ar putea decide într-o zi să îl împărtășească cu un străin.

Rămâi înaintea AI

Instrumentele AI se livrează mai repede decât pot ține pasul cu recenziile lor de siguranță. Urmărește fiecare dezvoltare în acoperirea știrilor AI.

Citiți mai multe știri AI →