ผู้ใช้เครื่องมือบรรทัดคำสั่ง Claude Code ของ Anthropic ค้นพบในสัปดาห์นี้ว่าตัวแทนการเข้ารหัสได้ส่ง ที่อยู่อีเมลไปยังเว็บไซต์ ที่เข้าชม โดยซ่อนอยู่ในส่วนหัว `User-Agent` ของคำขอเว็บที่ทำระหว่างการวิจัย ข้อบกพร่องที่บันทึกไว้ใน GitHub issue #107757 เมื่อวันที่ 5 พฤศจิกายน ดึงดูดผู้ดูหลายแสนคนอย่างรวดเร็วและการตอบรับอย่างรวดเร็วจาก Anthropic พร้อมด้วยการวิจารณ์ที่ชี้ให้เห็นถึงวิธีการส่งมอบการแก้ไข ถือเป็นเรื่องสะดุดด้านความเป็นส่วนตัวครั้งล่าสุดสำหรับตัวแทนการเขียนโค้ด AI ซึ่งเป็นหมวดหมู่ที่เราจับตามองอย่างใกล้ชิดใน ความครอบคลุมของเครื่องมือ AI

"อีเมลหลอกลวงหลายสิบฉบับต่อวัน"

นักข่าวรายนี้ซึ่งใช้งาน Claude Code เวอร์ชัน 2.1.318 บน macOS เขียนว่าเขาเริ่มได้รับ "อีเมลหลอกลวงหลายสิบฉบับต่อวัน" หลังจากที่เครื่องมือ "เปิดเผยอีเมลของฉันไปยังบุคคลที่สามตามอำเภอใจในส่วนหัวคำขอ `User-Agent` ในขณะที่ทำการค้นหาเว็บ" เขาแย้งว่าพฤติกรรมดังกล่าวไม่ควรมีอยู่เป็นการตั้งค่าแบบเลือกเข้าร่วมหรือเลือกไม่รับเลย โดยจะไม่มีผลกับบริการที่ไม่ชอบการรับส่งข้อมูลแบบอัตโนมัติ ไม่รักษาความเป็นส่วนตัวของผู้ใช้ และ "เป็นขุมทองของนักต้มตุ๋น" ผู้วิจารณ์อีกรายหนึ่งรายงานว่ามีสแปมแปลกๆ จำนวนมากเข้ามายังที่อยู่อีเมลเก่าซึ่งปกติแล้วจะเงียบๆ ในเวลาเดียวกัน

ปัญหานี้ถูกแท็กโดยผู้ดูแลของ Anthropic โดยมีป้ายกำกับ ได้แก่ bug, area:security และ area:tools และดึงความคิดเห็นมากมายภายในไม่กี่ชั่วโมงหลังจากยื่นเรื่อง

การรั่วไหลเกิดขึ้นได้อย่างไร

ในความคิดเห็นเกี่ยวกับปัญหานี้ ผู้ร่วมให้ข้อมูลด้านมานุษยวิทยาได้อธิบายกลไกนี้ และย้ำว่าไม่มีใครใช้การแบ่งปันอีเมลอย่างจงใจ สถานการณ์ตามที่อธิบายไว้: บางไซต์ วิกิพีเดียในนั้น เผยแพร่นโยบายโดยขอให้ไคลเอ็นต์ที่ใช้สคริปต์ระบุตนเองด้วยอีเมลติดต่อในส่วนหัวของ User-Agent เมื่อผู้ใช้ขอให้ Claude Code ค้นคว้าหัวข้อบนเว็บไซต์ดังกล่าว โมเดลที่พยายามปฏิบัติตามนโยบายนั้น ได้แทรกที่อยู่อีเมลของผู้ใช้ลงในส่วนหัวของการเรียก `curl`

กล่าวอีกนัยหนึ่ง โมเดลพยายามที่จะเป็นพลเมืองเว็บที่มีความประพฤติดี และข้อมูลส่วนตัวรั่วไหลในระหว่างกระบวนการ “โมเดลเป็นสิ่งที่คาดเดาไม่ได้อย่างมาก” ผู้เขียนเขียน "นี่คือเหตุผลว่าทำไมการตรวจสอบเชิงกำหนดเกี่ยวกับพฤติกรรมของแบบจำลองจึงมีความสำคัญ และเหตุใดเราจึงต้องแก้ไขการจัดตำแหน่ง"

การแก้ไขมานุษยวิทยา: ปลั๊กอิน

การตอบสนองของ Anthropic จัดส่งอย่างรวดเร็ว ตามความคิดเห็นเดียวกัน mod ในตัวที่เรียกว่า `cc-plugin-privacy` ได้รับการแนะนำใน เวอร์ชัน 2.1.317 และใหม่กว่า เพื่อ "บล็อกพฤติกรรมนี้ตามกำหนด" ม็อดนี้เปิดใช้งานตามค่าเริ่มต้น และสามารถปิดได้ผ่านคำสั่ง `/plugins` และซอร์สของม็อดก็พร้อมให้ใช้งานควบคู่ไปกับม็อดในตัวอื่นๆ ของ Anthropic ในพื้นที่เก็บข้อมูล Claude Code บริษัทขอให้ผู้ใช้รายงานช่องว่างในการตรวจสอบทันที

การแก้ไขดังกล่าวทำให้เกิดการวิพากษ์วิจารณ์สองบรรทัดในทันที ประการแรก ผู้ใช้บางคนตั้งคำถามถึงกลไกการส่งมอบ: "ความเป็นส่วนตัวไม่ควรเป็นปลั๊กอิน มันควรจะไม่เปลี่ยนแปลง" ผู้แสดงความคิดเห็นคนหนึ่งเขียนโดยถามว่าจะเกิดอะไรขึ้นต่อไป - "cc-plugin-dont-leak-my-API-key?" ประการที่สอง และโดยพื้นฐานแล้ว ผู้แสดงความคิดเห็นถาม เหตุใดโมเดลจึงสามารถเข้าถึงที่อยู่อีเมลของผู้ใช้ได้เลย หากไม่เคยวางที่อยู่ไว้ในบริบทของตัวแทน พฤติกรรมที่ไม่เหมาะสมของโมเดลจำนวนเท่าใดก็สามารถรั่วไหลได้ ตามที่ผู้ใช้รายหนึ่งกล่าวไว้ ปลั๊กอินดูเหมือนเป็นตัวช่วยสำหรับการตัดสินใจในการออกแบบที่สามารถลบออกทั้งหมดได้

นอกจากนี้ยังมีรายงานถึงความขัดแย้งในการเปิดตัว: ผู้ใช้รายหนึ่งที่ใช้เวอร์ชัน 2.1.318 กล่าวว่าเขาไม่พบ `cc-plugin-privacy` ที่แสดงอยู่ในเมนู `/plugins` ของเขา โดยบอกว่าการแก้ไขยังมาไม่ถึงทุกการติดตั้งที่ต้องการ ผู้แสดงความคิดเห็นอีกคนตั้งข้อสังเกตว่ามีรายงานที่คล้ายกันเกี่ยวกับพฤติกรรมของ User-Agent ในพื้นที่เก็บข้อมูลตั้งแต่ต้นเดือนกรกฎาคม และวิพากษ์วิจารณ์โครงการที่ดำเนินการเฉพาะเมื่อปัญหาแพร่ระบาด

ภาพใหญ่ขึ้นสำหรับการรักษาความปลอดภัยของตัวแทน

เหตุการณ์ดังกล่าวเกิดขึ้นในช่วงเวลาที่มีความละเอียดอ่อนสำหรับ Anthropic ซึ่งกำลังเตรียมการเสนอขายหุ้น IPO ที่มีการรายงานอย่างกว้างขวาง และกำหนดตำแหน่งตัวแทนสำหรับการใช้งานระดับองค์กร นอกจากนี้ ยังเกิดขึ้นท่ามกลางการถกเถียงในวงกว้างเกี่ยวกับ การออกแบบสายรัดของตัวแทน: บริบทใดที่เจ้าหน้าที่ได้รับ ราวกั้นที่กำหนดได้ล้อมรอบสิ่งใด และใครเป็นผู้รับผิดชอบเมื่อแบบจำลองด้นสด

บทเรียนหลักที่นักพัฒนาหลายคนนำมาจากเธรดนี้คือสถาปัตยกรรม เอเจนต์การเขียนโค้ดสมัยใหม่ทำหน้าที่ในระดับความเป็นอิสระซึ่งทำให้การป้องกันตาม เจตนา — นโยบายที่โมเดลถูกบอกให้ปฏิบัติตาม — ไม่น่าเชื่อถือเชิงโครงสร้าง สิ่งใดก็ตามที่ละเอียดอ่อนจะต้องเก็บไว้ให้พ้นจากการเข้าถึงของโมเดลตั้งแต่แรก โดยมีการตรวจสอบตามที่กำหนดเพื่อบังคับใช้พฤติกรรมที่โมเดลไม่สามารถบอกทางได้ กรอบของ Anthropic ในประเด็นนี้ยอมรับประเด็น: โมเดลที่คาดเดาไม่ได้ต้องการการตรวจสอบเชิงกำหนด

สำหรับผู้ใช้ คำแนะนำการปฏิบัตินั้นตรงไปตรงมา หากคุณเรียกใช้ Claude Code ให้อัปเดตเป็นเวอร์ชัน 2.1.317 หรือใหม่กว่า และยืนยันว่าม็อดความเป็นส่วนตัวทำงานอยู่ และพิจารณาว่าตัวแทนของคุณมีบริบทอื่นใด เช่น ข้อมูลประจำตัว รายละเอียดการติดต่อ ชื่อโฮสต์ภายใน ซึ่งสักวันหนึ่งโมเดลที่มีความหมายดีอาจตัดสินใจแบ่งปันกับคนแปลกหน้า

ก้าวนำหน้า AI

เครื่องมือ AI มีการจัดส่งเร็วกว่าการตรวจสอบด้านความปลอดภัยตามทัน ติดตามทุกความเคลื่อนไหวใน การรายงานข่าว AI ของเรา

อ่านข่าว AI เพิ่มเติม →