การดำเนินการต่อยขนาดใหญ่ต่อระบบประปาของอุตสาหกรรม AI ได้บันทึกสิ่งที่เกิดขึ้นกับข้อความแจ้งเตือนที่ผู้ใช้ส่งทุกวัน และคำตอบคือ: ข้อความเหล่านั้นรั่วไหล นักวิจัยด้านความปลอดภัย HD Moore ประธานเจ้าหน้าที่ฝ่ายวิจัยของบริษัทรักษาความปลอดภัยทางอุตสาหกรรม Dragos ได้ส่งข้อความแจ้ง AI เกือบสองล้านรายการที่มีความลับที่เป็นเอกลักษณ์และติดตามได้ไปยังผู้ให้บริการ AI จากนั้นดูว่าความลับเหล่านั้นเปิดเผยที่ไหน “สิ่งที่เราพบเผยให้เห็นการละเมิดความปลอดภัย การโจรกรรมทันที และความล้มเหลวในการปกป้องข้อมูลลูกค้าในวงกว้าง” มัวร์เขียนในรายงานที่เผยแพร่เมื่อวันพฤหัสบดี
การค้นพบที่รายงานโดยละเอียดโดย Ars Technica มาถึงเมื่อเราเตอร์ AI ซึ่งเป็นบริการนายหน้า เช่น OpenRouter และ Vercel ที่ยอมรับการแจ้งเตือนจากผู้ใช้ปลายทางและกำหนดเส้นทางไปยังผู้ให้บริการการอนุมานใดก็ตามที่ถูกที่สุดหรือเหมาะสมที่สุด ได้กลายเป็นโครงสร้างพื้นฐานหลักสำหรับแอปพลิเคชันหลายพันรายการ พวกเขายังกระตุ้นให้เกิดการตอบสนองในอุตสาหกรรมอย่างรวดเร็ว: OpenRouter เผยแพร่ประกาศเหตุการณ์ของตัวเองเมื่อวันที่ 22 พฤศจิกายน โดยระบุว่าได้เลิกใช้ผู้ให้บริการสามรายแล้ว ลบจุดสิ้นสุด 125 จุดออกจากสิทธิ์ Zero Data Retention และแจ้งให้ลูกค้าที่อาจได้รับผลกระทบทราบ
กับดักนกขมิ้นทำงานอย่างไร
Moore รวบรวมชุดคีย์การเข้าถึง AWS ที่ใช้งานได้ซึ่งเชื่อมโยงกับบัญชีว่าง รหัสผ่าน SSH ที่ใช้งานได้ และ URL ที่ไม่ซ้ำกัน ชื่อ DNS และการอ้างอิงที่เก็บ Git ส่วนตัว ไม่เคยมีการใช้ความลับใด ๆ มาก่อน และมัวร์ควบคุมโครงสร้างพื้นฐานในส่วนรับ แต่ละความลับถูกรวบรวมไว้ในข้อความแจ้งเดียวที่ส่งไปยังผู้ให้บริการรายเดียว ดังนั้น หากความลับถูกเปิดเผยในภายหลังที่ใดก็ตาม การเดินทางของมันจะย้อนกลับไปที่ลิงก์ที่แน่นอนในห่วงโซ่ที่รับผิดชอบ
การออกแบบมีความสำคัญเนื่องจากวิธีที่ระบบนิเวศ AI เคลื่อนย้ายข้อมูลจริงๆ พรอมต์ได้รับการเข้ารหัสระหว่างการส่ง แต่จะถูกถอดรหัสทุกครั้งที่กระโดด เราเตอร์ AI อ่านข้อความธรรมดาเพื่อเลือกผู้ให้บริการการอนุมานที่เหมาะสม พรอมต์มักจะถูกส่งต่อไปยังกลุ่มโมเดล ซึ่งบางครั้งทำงานอยู่ในบริษัทโฮสติ้งที่แตกต่างกัน พรอมต์สามารถส่งผ่านจากเราเตอร์ตัวหนึ่งไปยังอีกตัวหนึ่งได้ เช่น Vercel ไปยัง OpenRouter โดยตัวกลางแต่ละรายมีอิสระในการบันทึกและจัดเก็บเนื้อหาภายใต้นโยบายของตนเอง
ผู้ให้บริการสามรายถูกละเมิด คีย์ถูกใช้ภายในไม่กี่ชั่วโมง
การค้นพบที่น่าตกใจที่สุดเกี่ยวข้องกับผู้ให้บริการโฮสติ้งสามรายที่ถูกโจมตีระหว่างการทดสอบ ตามที่ Moore ผู้โจมตีที่ละเมิดผู้ให้บริการรายหนึ่งได้นำคีย์ AWS ที่ปลูกไว้ "สองสามร้อย" มาใช้ซ้ำ แต่ละคีย์ถูกส่งไปในคำขอเดียวไปยังผู้ให้บริการรายเดียว ภายในช่วงเวลาสั้นๆ ไม่กี่ช่วงปลายเดือนตุลาคม — และ “ทุกคำขอที่เราส่งระหว่างหน้าต่างเหล่านั้นถูกขโมย” ที่สำคัญคือ กุญแจที่ถูกขโมยบางส่วนมาจากคำขอที่ผู้ให้บริการปฏิเสธก่อนที่จะเรียกใช้โมเดล ซึ่งบ่งชี้ว่าผู้โจมตีกำลังคัดลอกการรับส่งข้อมูลที่ประตูหน้าของผู้ให้บริการ แทนที่จะลึกลงไปในสแต็กการอนุมาน
ในการละเมิดอีกสองครั้ง คำขอที่ถูกขโมยบางส่วนถูกตั้งค่าสถานะเป็น Zero Data Retention “ธงความเป็นส่วนตัวไม่ได้ช่วยอะไรเมื่อผู้โจมตีอยู่ข้างในแล้ว” มัวร์เขียน ฝ่ายที่อยู่เบื้องหลังการบุกรุกได้ทดสอบคีย์เหยื่อภายในไม่กี่ชั่วโมงในบางกรณี เจาะเข้าไปในบัคเก็ต S3 ผู้จัดการความลับ และที่เก็บพารามิเตอร์เพื่อรับข้อมูลประจำตัวเพิ่มเติม พยายามเปิดใช้งานโมเดลที่โฮสต์ใน AWS Bedrock และเพิ่มผู้ใช้ IAM ของตนเองเพื่อรักษาการเข้าถึง ทั้งหมดบอกว่าคีย์ที่ถูกขโมยถูกใช้ "หมื่นครั้ง" ในการเรียก AWS API ความลับที่ถูกขโมยจากผู้ให้บริการที่ถูกแฮ็กสองรายถูกนำมาใช้ร่วมกันเกือบจะในทันทีจากเซิร์ฟเวอร์เช่าเดียวกัน — เป็นหลักฐานที่ชัดเจนว่าฝ่ายตรงข้ามรายหนึ่งโจมตีทั้งสองเซิร์ฟเวอร์
ผู้ค้าปลีกที่ขโมยของและห้องแล็บที่ขูดขีด
ไม่ใช่ผู้รั่วไหลทุกคนจะเป็นแฮ็กเกอร์ ผู้จำหน่ายเอกสารของ Moore ที่ล่อลวงการแจ้งเตือนด้วยราคาที่ต่ำ เปิดการบันทึกคำขอและเพียงแต่รอ เขาระบุได้โดยส่งคำขอที่เหมือนกันไปยังรุ่นเดียวกันผ่านทางผู้ขายที่แตกต่างกัน: เมื่อข้อมูลประจำตัวถูกนำมาใช้ซ้ำจากผู้ขายรายหนึ่งแต่ไม่ได้ใช้อีกรายหนึ่ง ผู้กระทำผิดก็ชัดเจน
มัวร์เขียนกรณีการขูดที่ชัดเจนที่สุด เกี่ยวข้องกับห้องปฏิบัติการ AI ของจีน ซึ่งระบบดึง URL ที่เป็นความลับจากการแจ้งเตือนมากกว่าครึ่งหนึ่งที่ส่งไปยังโมเดลระหว่างเดือนกรกฎาคมถึงตุลาคม ซึ่งรวมถึงประมาณสองในสามของคำขอที่ระบุอย่างชัดเจนว่า "ไม่มีการรวบรวมข้อมูล" หรือ Zero Data Retention โดยทั่วไปแล้วมีดโกนจะปรากฏขึ้นสองหรือสามวันหลังจากการร้องขอแต่ละครั้ง ไม่ได้จำกัดอยู่เพียงลูกค้าโดยตรง: ผู้ให้บริการโฮสติ้งในสหรัฐฯ หลายรายขายโมเดลของแล็บนั้นต่อ และการแจ้งเตือนที่ส่งผ่านตัวกลางในอเมริกาเหล่านั้นก็กระตุ้นให้เกิดสแครปเปอร์แบบเดียวกัน ลูกค้าที่เลือกผู้ให้บริการในสหรัฐอเมริกามาเก็บข้อมูลในสถานะโดยเฉพาะ กล่าวคือ ไม่ได้รับสิ่งที่พวกเขาจ่ายเงินไป แยกกัน ไคลเอ็นต์ git บนคลาวด์อื่นเริ่มพยายามโคลนพื้นที่เก็บข้อมูลส่วนตัวที่อ้างอิงในข้อความแจ้ง - แต่สำหรับข้อความแจ้งที่ใช้แบบจำลองของห้องปฏิบัติการนั้นเท่านั้น
OpenRouter ตอบสนอง
การทดลองทำให้เกิดผลที่ตามมาในโลกแห่งความเป็นจริงอย่างรวดเร็ว Ars Technica รายงานในการอัปเดตว่า OpenRouter ส่งอีเมลถึงลูกค้าเมื่อวันที่ 21 พฤศจิกายน เตือนว่าข้อความแจ้งบางส่วนอาจถูกอ่านแล้ว โดยอ้างถึงการวิจัย: การเปิดเผยที่อาจเกิดขึ้นเกี่ยวข้องกับข้อความแจ้งที่ส่งไปยัง MiniMax ซึ่งเป็นผู้ให้บริการโมเดลในจีน ไม่ว่าจะโดยตรงหรือผ่านผู้ค้าปลีกสามราย ได้แก่ AtlasCloud, Novita และ StreamLake OpenRouter ลบป้ายกำกับ "Zero Data Retention" ออกจากจุดสิ้นสุดรุ่น MiniMax
ในบล็อกโพสต์อย่างเป็นทางการเมื่อวันที่ 22 พฤศจิกายน OpenRouter ยืนยันว่าได้เลิกใช้ผู้ให้บริการ 3 รายแล้ว ลบจุดสิ้นสุด 125 จุดออกจากสิทธิ์ ZDR และแจ้งให้ผู้ใช้ที่ได้รับผลกระทบทราบว่าผู้ให้บริการได้โพสต์แบบสาธารณะหรือไม่ บริษัทกล่าวว่าการค้นพบนี้ "ไม่ได้แสดงให้เห็นถึงการละเมิดหรือการเข้าถึง OpenRouter โดยไม่ได้รับอนุญาต" กล่าวขอบคุณทีม Dragos และกล่าวว่าผู้ให้บริการที่ต้องการอยู่บนแพลตฟอร์ม "จะต้องพบกับ" แถบความปลอดภัยที่เพิ่มขึ้น เนื่องจาก OpenRouter ผสานรวมเทคนิคการทดสอบที่คล้ายกัน
มัวร์ยังพบการรั่วไหลของหางยาวที่หลงเหลืออยู่: ผู้ให้บริการโฮสติ้งในสหรัฐฯ รายหนึ่งรวบรวมข้อมูล URL ที่เป็นความลับนานกว่าสองเดือนหลังจากการเรียกอนุมานครั้งเดียวไปยังจุดสิ้นสุดการค้นหา และอีกรายหนึ่งเรียกใช้โปรแกรมขูดที่ส่งคืน URL ที่ฝังไว้หลายวันหลังจากแต่ละคำขอ ไม่ว่าเราเตอร์ตัวใดจะส่งข้อความแจ้งก็ตาม
สิ่งที่ผู้ใช้สามารถทำได้
มัวร์กล่าวว่าการป้องกันที่มีประสิทธิภาพมากที่สุดคือการโฮสต์โมเดลภายในองค์กร ซึ่งเป็นตัวเลือกราคาแพงที่องค์กรไม่กี่แห่งเท่านั้นที่สามารถพิสูจน์ได้ มาตรการที่ดีที่สุดถัดไปคือการซื้อโดยตรงจากผู้ให้บริการชั้นหนึ่ง โดยมี "สัญญาเดียวและนโยบายความเป็นส่วนตัวที่ต้องอ่าน" และหลีกเลี่ยงผู้ให้บริการเริ่มต้นหรือกลุ่มผู้ค้าปลีกโดยการเลือกผู้ให้บริการต้นทางด้วยตัวคุณเอง ถึงอย่างนั้นเขาก็เตือนว่าไม่มีข้อมูลรับประกันว่าจะไม่รั่วไหล
การทดลองนี้เป็นข้อกล่าวหาที่คมชัดที่สุดสำหรับแนวทางปฏิบัติด้านความเป็นส่วนตัวในตลาดอนุมานที่เติบโตอย่างรวดเร็ว: ห่วงโซ่ระหว่างแอปและโมเดลสามารถเกี่ยวข้องกับเราเตอร์ ผู้ค้าปลีก และเลเยอร์โฮสติ้งในหลายทวีป โดยแต่ละแห่งมีนโยบายการบันทึกของตัวเอง และป้ายกำกับที่มีจุดมุ่งหมายเพื่อสร้างความมั่นใจให้กับลูกค้า เช่น Zero Data Retention สามารถถูกทำลายหรือลอกออกได้โดยไม่ต้องแจ้งให้ทราบ สำหรับอุตสาหกรรมที่ขอให้องค์กรต่างๆ วางเอกสาร รหัส และข้อมูลประจำตัวของตนลงในข้อความแจ้ง ข้อความของนกคีรีบูนสองล้านตัวนั้นไม่น่าสบายใจ จนกว่าท่อประปาจะเปลี่ยนไป ให้ถือว่าทุกฮ็อปสามารถอ่านทุกคำได้
ก้าวนำหน้า AI
ความปลอดภัยและความเป็นส่วนตัวกลายเป็นข้อกังวลหลักสำหรับทุกคนที่สร้างบน AI หากต้องการทราบข่าวด่วนเกี่ยวกับ AI และการรายงานข่าวอิสระเกี่ยวกับเรื่องราวที่ใหญ่ที่สุดของอุตสาหกรรม โปรดไปที่ AI Buzz Wire](https://aibuzzwire.news)
อ่านข่าว AI เพิ่มเติม →