Fireworks AI ซึ่งเป็นบริษัทสตาร์ทอัพการอนุมานที่ได้รับการสนับสนุนจาก Nvidia ได้แจ้งให้ลูกค้าทราบว่าเหตุการณ์ด้านความปลอดภัยที่เปิดเผยก่อนหน้านี้นั้นกว้างกว่าที่รายงานครั้งแรกอย่างมาก โดยผู้โจมตีเข้าถึงบัญชีและข้อมูลการเรียกเก็บเงิน และสำหรับชุดบัญชี ความลับ ชุดข้อมูล และน้ำหนักโมเดลที่จำกัดจำนวนหนึ่ง ตามประกาศด้านความปลอดภัยที่อัปเดตซึ่งเผยแพร่บนเว็บไซต์เมื่อวันที่ 9 พฤศจิกายน Bloomberg และ Forbes รายงานการเปิดเผยเมื่อวันจันทร์ โดย Forbes อธิบายว่าการโจมตีทางไซเบอร์เป็นการเปิดเผยข้อมูลลูกค้าและโมเดล AI

บริษัทเปิดเผยเหตุการณ์ดังกล่าวเป็นครั้งแรกเมื่อวันที่ 9 ตุลาคม โดยระบุว่ามีการเข้าถึงเฉพาะความลับที่จัดเก็บดอกไม้ไฟซึ่งใช้ในการประเมินผลเท่านั้น การอัปเดตใหม่ทำให้การประเมินดังกล่าวกว้างขึ้นอย่างมากและเชื่อมโยงการบุกรุกกับกลุ่มอาชญากรไซเบอร์ที่มีแรงจูงใจทางการเงินซึ่งติดตามสิ่งที่อุตสาหกรรมเรียกว่า "LLMJacking" - การขโมยการเข้าถึงโมเดลภาษาขนาดใหญ่และการขายโทเค็นให้กับเกตเวย์การกำหนดเส้นทางที่ผิดกฎหมาย สำหรับบริษัทที่ติดตาม ข่าวความมั่นคงในอุตสาหกรรม AI กรณีนี้กำลังกลายเป็นเหตุการณ์อ้างอิงสำหรับการโจมตีประเภทใหม่บนโครงสร้างพื้นฐาน AI

การละเมิดครั้งที่สองเกิดขึ้นได้อย่างไร

ตามประกาศดังกล่าว ผู้ให้บริการคลาวด์บุคคลที่สามที่โฮสต์เครื่องวิจัยและพัฒนาของ Fireworks ประสบกับเหตุการณ์ด้านความปลอดภัยของตนเองเมื่อวันที่ 23 ตุลาคม ในวันรุ่งขึ้น บุคคลที่ไม่ได้รับอนุญาตใช้ฐานที่มั่นนั้นเพื่อเข้าถึงเครื่องพัฒนา Fireworks และรันเวิร์กโหลดที่ไม่ได้รับอนุญาตซึ่งนำไปสู่ผลกระทบต่อข้อมูลลูกค้าเพิ่มเติม Fireworks กล่าวว่าตรวจพบกิจกรรมดังกล่าวในวันเดียวกันและดำเนินมาตรการแก้ไข และ ณ วันที่ 25 ตุลาคม ไม่พบหลักฐานเพิ่มเติมเกี่ยวกับการเข้าถึงแพลตฟอร์มที่ลูกค้าใช้โดยไม่ได้รับอนุญาตสำเร็จ

บริษัทกำลังทำงานร่วมกับหน่วย 42 ของพาโล อัลโต เน็ตเวิร์กส์ ซึ่งกำลังดำเนินการวิเคราะห์ทางนิติวิทยาศาสตร์ และกล่าวว่าบริษัทได้แจ้งหน่วยงานบังคับใช้กฎหมายหลังจากเหตุการณ์เริ่มแรก Google Threat Intelligence Group และ Mandiant เผยแพร่บล็อกโพสต์เมื่อวันที่ 2 พฤศจิกายน ซึ่งบันทึกการเพิ่มขึ้นของ LLMJacking แรงจูงใจเบื้องหลัง และเทคนิคที่ใช้ - ดอกไม้ไฟบริบทที่อ้างถึงในการเปิดเผยของตัวเอง

ข้อมูลใดที่ถูกนำไปใช้

แอปพลิเคชันภายในที่ได้รับผลกระทบเปิดเผยข้อมูลหลายประเภทตามกระดานข่าว:

  • ข้อมูลเมตาของทรัพยากร รวมถึงตัวระบุทรัพยากรดอกไม้ไฟ ชื่อที่แสดง คำอธิบาย และเวลาในการสร้าง
  • ข้อมูลการเรียกเก็บเงิน รวมถึงที่อยู่สำหรับการเรียกเก็บเงินและการจัดส่ง ประวัติใบแจ้งหนี้และการชำระเงิน ยอดคงเหลือในบัญชี และการใช้เครดิต
  • น้ำหนักโมเดลและชุดข้อมูล: สำหรับลูกค้าบางราย มีการเข้าถึงชุดย่อยของน้ำหนักโมเดลและชุดข้อมูลที่ไม่สมบูรณ์

ดอกไม้ไฟกล่าวว่าหมายเลขบัตรชำระเงินไม่ได้ถูกเก็บไว้ในระบบและไม่ได้รับผลกระทบ นอกจากนี้ ยังระบุด้วยว่าตรวจไม่พบผลกระทบต่อบริการการอนุมานหลัก SDK การฝึกอบรม และบริการ Nexus ซึ่งทำงานโดยไม่มีการเก็บข้อมูลเป็นศูนย์ตามค่าเริ่มต้น ซึ่งหมายความว่าจะไม่มีการจัดเก็บข้อมูลการฝึกอบรมหรือการอนุมานของลูกค้าไว้ บริษัทกล่าวว่ากำลังแจ้งให้ลูกค้าทราบโดยตรงว่าข้อมูลที่ได้รับผลกระทบพร้อมรายละเอียดเกี่ยวกับผลกระทบและการดำเนินการตอบสนองที่แนะนำ

การบรรจุและคำถามเปิด

ส่วนหนึ่งของการตอบสนอง โดยทำงานร่วมกับหน่วย 42 นั้น Fireworks กล่าวว่าได้เพิกถอนและแทนที่ข้อมูลรับรองและบัญชีบริการ ลบสิทธิ์การยกระดับที่ไม่จำเป็น เส้นทางเครือข่ายที่ถูกจำกัด และระบบที่ได้รับผลกระทบแบบแยกเดี่ยว เพิ่มการเข้าถึงการจัดเก็บข้อมูลและระบบการวิเคราะห์อย่างเข้มงวด และทำให้การบันทึกและการตรวจสอบแข็งแกร่งขึ้น นอกจากนี้ยังปิดใช้งานการอัปโหลดและดาวน์โหลดชุดข้อมูลแบบบริการตนเองที่ใช้โดยการอนุมานแบบกลุ่มและการฝึกอบรมตามชุดข้อมูลในขณะที่การตรวจสอบดำเนินต่อไป

คำถามสำคัญสองข้อยังคงเปิดอยู่ ประการแรก "ตุ้มน้ำหนักโมเดลที่ไม่สมบูรณ์" ที่เข้าถึงได้นั้นสามารถใช้งานได้จริงมากน้อยเพียงใด - ตุ้มน้ำหนักบางส่วนหรือที่อยู่ระหว่างดำเนินการที่ถูกขโมยจากไปป์ไลน์การฝึกอบรมอาจยังคงเปิดเผยข้อมูลการแข่งขันเกี่ยวกับโมเดลของลูกค้าที่อยู่ระหว่างการพัฒนา และ Fireworks ไม่ได้ระบุว่าลูกค้ารายใดหรือจำนวนเท่าใดที่ได้รับผลกระทบ ประการที่สอง ภาระผูกพันที่ต้องปฏิบัติตามสำหรับลูกค้าที่มีการเปิดเผยชุดข้อมูลที่เป็นกรรมสิทธิ์ บริษัทกล่าวว่าการสอบสวนยังดำเนินอยู่และอาจเปิดเผยข้อมูลเพิ่มเติม

ทำไม LLMJacking ถึงเติบโต

การโจมตี LLMJacking มุ่งเป้าไปที่บริการ AI ที่โฮสต์บนคลาวด์เพื่อเก็บเกี่ยวการเข้าถึงโมเดลที่ใช้งานได้แทนที่จะเป็นข้อมูลแบบเดิม ข้อมูลรับรองหรือโทเค็นที่ถูกขโมยจะถูกขายต่อผ่านเกตเวย์การกำหนดเส้นทางเงาที่ให้การเข้าถึงโมเดลเชิงพาณิชย์ในราคาประหยัด Threat Intelligence Group และ Mandiant ของ Google ได้อุทิศรายงานเมื่อวันที่ 2 พฤศจิกายนเกี่ยวกับแนวโน้มดังกล่าว ซึ่งนักวิจัยด้านความปลอดภัยได้ติดตามมาประมาณสองปีแล้ว เนื่องจากการใช้การอนุมานแบบโฮสต์ขององค์กรได้แพร่หลายมากขึ้น

การเปิดเผยข้อมูล Fireworks เป็นหนึ่งในกรณีแรกที่ได้รับการยืนยันว่าผู้โจมตีดูเหมือนจะรวม Playbook นั้นเข้ากับการขโมยสิ่งประดิษฐ์โมเดลของลูกค้าที่ผู้ให้บริการโครงสร้างพื้นฐาน AI มันเกิดขึ้นท่ามกลางเหตุการณ์ด้านความปลอดภัยที่เกิดขึ้นในวงกว้างทั่วทั้งระบบนิเวศ AI และเพิ่มแรงกดดันต่อผู้ให้บริการการอนุมานเพื่อแสดงให้เห็นว่าแพลตฟอร์มที่มีผู้เช่าหลายรายสามารถแยกปริมาณงานของลูกค้าได้ สตาร์ทอัพที่ประเมินผู้จำหน่ายอนุมานมีแนวโน้มที่จะถามคำถามที่ยากขึ้นเกี่ยวกับการแยกผู้เช่า สุขอนามัยข้อมูลประจำตัว และการพึ่งพาระบบคลาวด์ของบุคคลที่สาม ซึ่งเป็นเส้นทางที่แน่นอนที่ใช้ที่นี่

ดอกไม้ไฟกล่าวว่ากำลังตรวจสอบระบบของตนตลอดเวลา และจะเผยแพร่การอัปเดตเพิ่มเติมเมื่อการสืบสวนดำเนินไป ลูกค้าที่มีข้อกังวลควรตอบกลับอีเมลแจ้งเตือนเหตุการณ์หรือติดต่อที่อยู่การแจ้งเตือนด้านความปลอดภัยของบริษัท

เหตุการณ์ดังกล่าวยังแสดงให้เห็นว่าบรรทัดฐานในการเปิดเผยข้อมูลของบริษัท AI เติบโตขึ้นอย่างไร Fireworks เผยแพร่ประกาศฉบับแรกภายในไม่กี่วันหลังจากการบุกรุกครั้งแรกในต้นเดือนตุลาคม จากนั้นแก้ไขสองครั้งเมื่อนิติเวชขยายภาพ ทีมรักษาความปลอดภัยตามลำดับจะรับรู้จากการละเมิดซอฟต์แวร์องค์กรครั้งล่าสุด แต่ยังคงพบไม่บ่อยในหมู่ผู้ให้บริการโครงสร้างพื้นฐาน AI ซึ่งหลายแห่งไม่เคยจัดการกับเหตุการณ์สาธารณะเลย ตัวเลือกในการปิดใช้งานคุณลักษณะชุดข้อมูลแบบบริการตนเองในขณะที่ปล่อยให้ผลิตภัณฑ์อนุมานหลักทำงานอยู่ แสดงว่าความเสี่ยงนั้นกระจุกตัวอยู่ในระบบเสริมมากกว่าเส้นทางการให้บริการลูกค้าเอง

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →