การโจมตีห่วงโซ่อุปทานในแพ็คเกจโอเพ่นซอร์สเดียวได้ลดหลั่นเป็นหนึ่งในเหตุการณ์ด้านความปลอดภัยที่ยุ่งเหยิงที่สุดในอุตสาหกรรม AI รุ่นเยาว์ โดยเปิดเผยข้อมูลที่จัดขึ้นโดย Mercor สตาร์ทอัพที่ติดป้ายกำกับข้อมูล และบังคับให้ Meta ต้องหยุดการทำงานกับบริษัทอย่างไม่มีกำหนด

การละเมิดซึ่ง Mercor ยืนยันเมื่อวันที่ 31 มีนาคม สืบย้อนไปถึงการประนีประนอมของ LiteLLM ซึ่งเป็นเครื่องมือโอเพ่นซอร์สที่ใช้กันอย่างแพร่หลายซึ่งมีการดาวน์โหลดหลายล้านครั้งต่อวัน เป็นเวลาประมาณ 40 นาทีที่ LiteLLM เวอร์ชันวางยาพิษได้กักเก็บมัลแวร์ที่ขโมยข้อมูลรับรองการเข้าสู่ระบบ จากนั้นจึงนำไปใช้เพื่อเจาะลึกเข้าไปในระบบที่เชื่อมต่อกัน ตอนนี้ได้แพร่กระจายไปสู่การฟ้องร้อง การหยุดสัญญา และการพิจารณาที่กว้างขึ้นเกี่ยวกับความไว้วางใจที่อุตสาหกรรม AI มีต่อซอฟต์แวร์ตัวกลางที่ตนไม่ได้ควบคุม หากต้องการข้อมูลเพิ่มเติม ข่าวด่วน AI เกี่ยวกับความปลอดภัยและความไว้วางใจ โปรดติดตามการรายงานข่าวที่กำลังดำเนินอยู่ของเรา

การโจมตีทำงานอย่างไร

กลไกเป็นการประนีประนอมในห่วงโซ่อุปทานของซอฟต์แวร์ตำราเรียน ตามรายงานของ TechJuice และ TechCrunch ผู้โจมตีสามารถพุชโค้ดที่เป็นอันตรายลงใน LiteLLM ซึ่งเป็นไลบรารีโอเพ่นซอร์สที่บริษัท AI หลายแห่งใช้เพื่อกำหนดเส้นทางคำขอระหว่างโมเดลภาษาต่างๆ เนื่องจาก LiteLLM ถือเป็นโครงสร้างพื้นฐานที่เชื่อถือได้และถูกดึงเข้าสู่สภาพแวดล้อมการใช้งานจริงโดยอัตโนมัติ บิลด์ที่เป็นอันตรายจึงแพร่กระจายอย่างรวดเร็ว

ใช้เวลาประมาณ 40 นาที เครื่องมือที่ถูกดัดแปลงจะรวบรวมข้อมูลประจำตัวจากใครก็ตามที่ใช้งานมันอย่างเงียบๆ จากนั้นข้อมูลประจำตัวเหล่านั้นจะถูกนำมาใช้เพื่อเข้าถึงระบบเพิ่มเติม ซึ่งทำให้เกิดความเสียหายมากกว่าการตั้งหลักเริ่มแรก Mercor ซึ่งธุรกิจต้องอาศัยการจัดการข้อมูลผู้รับเหมาและข้อมูลลูกค้าที่มีความละเอียดอ่อนจำนวนมาก เป็นหนึ่งในกลุ่มที่ถูกเปิดเผยมากที่สุด

การเรียกร้องการขู่กรรโชก 4 เทราไบต์

หลังจากการเปิดเผย กลุ่มแฮกเกอร์อ้างว่าเก็บข้อมูลประมาณ 4 เทราไบต์ที่ถูกขโมยจากระบบของ Mercor การขนย้ายที่อ้างสิทธิ์นั้นรวมถึงโปรไฟล์ของผู้สมัคร ข้อมูลส่วนบุคคลที่สามารถระบุตัวตนได้ ข้อมูลนายจ้าง ซอร์สโค้ด และคีย์ API ซึ่งเป็นรายการวัสดุที่ครอบคลุมทุกประเภทที่บริษัทจัดการป้ายกำกับข้อมูลรวบรวมไว้ที่ศูนย์กลาง Mercor ไม่ได้ยืนยันหรือปฏิเสธความถูกต้องของข้อมูลที่อ้างสิทธิ์ โดยระบุเพียงว่ากำลังตรวจสอบอยู่

ความคลุมเครือเป็นปัญหาในตัวมันเอง สำหรับผู้รับเหมา นายจ้าง และหุ้นส่วนที่อาจมีการเผยแพร่ข้อมูล ความไม่แน่นอนเกี่ยวกับสิ่งที่ได้นำไปใช้จริง ทำให้ไม่สามารถประเมินความเสี่ยงของพวกเขาได้

เมตาดึงกลับ

ผลกระทบทางการค้าเกิดขึ้นอย่างรวดเร็ว Meta ได้หยุดสัญญากับ Mercor ชั่วคราวโดยไม่มีกำหนด ซึ่งเป็นการตัดสินใจที่โดดเด่นยิ่งขึ้นในประวัติศาสตร์ระหว่างทั้งสองบริษัท จากข้อมูลของ TechJuice นั้น Meta ยังคงทำงานร่วมกับ Mercor ต่อไปแม้ว่าจะใช้เงิน 14.3 พันล้านดอลลาร์เพื่อซื้อ Scale AI คู่แข่งของ Mercor ซึ่งเป็นสัญญาณบ่งบอกว่ามันให้ความสำคัญกับความสัมพันธ์มากแค่ไหน การละเมิดที่ส่งผ่านเครื่องมือของบุคคลที่สามสามารถตัดความสัมพันธ์ดังกล่าวได้ เป็นการตอกย้ำว่าความสัมพันธ์ของผู้ขายเหล่านี้เปราะบางเพียงใด

OpenAI ยืนยันว่ากำลังตรวจสอบความเสี่ยงของตัวเองในการละเมิด แต่ในขณะที่รายงานยังไม่ได้หยุดสัญญา Mercor ชั่วคราว มีรายงานว่าผู้ผลิตโมเดลรายใหญ่หลายรายกำลังชั่งน้ำหนักความสัมพันธ์ของตนกับสตาร์ทอัพ แม้ว่าจะไม่มีการยืนยันชื่อเพิ่มเติมต่อสาธารณะก็ตาม

คำถามคดีความและความรับผิด

ผลทางกฎหมายกำลังรวบรวมอย่างรวดเร็วพอๆ กับผลทางการค้า ผู้รับเหมาห้ารายของ Mercor ได้ยื่นฟ้องต่อการเปิดเผยข้อมูลส่วนบุคคลที่ถูกกล่าวหา คดีหนึ่งที่ได้รับการตรวจสอบโดย TechCrunch ระบุว่า LiteLLM และ Delve สตาร์ทอัพการปฏิบัติตามข้อกำหนด AI เป็นจำเลยร่วม โดยอ้างว่า LiteLLM ใช้ Delve เพื่อขอรับใบรับรองความปลอดภัย การเชื่อมโยงดังกล่าวทำให้เกิดคำถามที่ยุ่งยากว่าผู้ให้บริการด้านการปฏิบัติตามกฎระเบียบจะต้องรับผิดชอบหรือไม่เมื่อเครื่องมือที่พวกเขารับรองนั้นถูกนำไปใช้เป็นอาวุธในภายหลัง

การฟ้องร้องเหล่านี้สามารถช่วยกำหนดได้ว่าความรับผิดจะเกิดขึ้นที่ใดเมื่อมีการส่งการละเมิดผ่านซอฟต์แวร์โอเพ่นซอร์ส ซึ่งเป็นคำถามที่อุตสาหกรรม AI หลีกเลี่ยงที่จะตอบมาจนถึงตอนนี้

พื้นผิวการโจมตีที่ไม่ได้รับการตรวจสอบของอุตสาหกรรม

นักวิจัยด้านความปลอดภัยกล่าวว่าบทเรียนที่ลึกซึ้งยิ่งขึ้นนั้นมีโครงสร้าง ขณะนี้ AI Stack ขึ้นอยู่กับเว็บของเครื่องมือตัวกลางที่เชื่อถือได้ เราเตอร์ ผู้ประเมิน เลเยอร์การปฏิบัติตามกฎระเบียบ และแพลตฟอร์มการติดป้ายกำกับที่อยู่ระหว่างผู้ให้บริการโมเดลและลูกค้า แต่ละอันอาจเป็นจุดติดขัดได้ และส่วนใหญ่ได้รับการตรวจสอบข้อเท็จจริงน้อยกว่ารุ่นชายแดนเองมาก

LiteLLM เป็นตัวอย่าง มีการดาวน์โหลดหลายล้านครั้งต่อวัน จัดการข้อมูลประจำตัวตามการออกแบบ และทำงานภายในสภาพแวดล้อมการผลิตของบริษัทที่ได้รับทุนสนับสนุนดีที่สุดในโลก แต่การงัดแงะหน้าต่าง 40 นาทีก็เพียงพอที่จะเปลี่ยนมันให้กลายเป็นกุญแจโครงกระดูก ลำดับดังกล่าวทำให้ห่วงโซ่อุปทาน AI ทั้งหมดอยู่ภายใต้การตรวจสอบอย่างละเอียด โดยนักวิจัยเตือนว่าเครื่องมือตัวกลางที่เชื่อถือได้เป็นตัวแทนของพื้นผิวการโจมตีที่อุตสาหกรรมได้ตรวจสอบต่ำเกินไปอย่างเป็นระบบ

จะเกิดอะไรขึ้นต่อไป

คำถามเร่งด่วนคือ Mercor สามารถตรวจสอบขอบเขตของการรั่วไหลได้หรือไม่ ผู้ผลิตโมเดลรายอื่นจะติดตาม Meta ในการถอนตัวหรือไม่ และคดีฟ้องร้องของ LiteLLM และ Delve สร้างแบบอย่างสำหรับความรับผิดของบุคคลที่สามหรือไม่ ในระยะยาว เหตุการณ์ดังกล่าวมีแนวโน้มที่จะเร่งให้เกิดการเรียกร้องให้อุตสาหกรรม AI ปรับใช้รายการวัสดุซอฟต์แวร์และแนวปฏิบัติในการลงนามการพึ่งพาที่ภาคส่วนซอฟต์แวร์ที่เติบโตเต็มที่ต้องพึ่งพาอยู่แล้ว

ในตอนนี้ การละเมิดดังกล่าวถือเป็นการเตือนว่าช่องโหว่ที่อันตรายที่สุดใน AI อาจไม่ได้อยู่ภายในโมเดลเลย แต่อยู่ในท่อประปาที่ไม่สวยงามที่เชื่อมต่อพวกมันเข้าด้วยกัน

ก้าวนำหน้า AI

ความปลอดภัยของ AI Stack กำลังกลายเป็นผลสืบเนื่องเช่นเดียวกับตัวโมเดลเอง บุ๊กมาร์ก AI Buzz Wire สำหรับ การพัฒนา AI ล่าสุด และ ความครอบคลุมของอุตสาหกรรม AI

อ่านข่าว AI เพิ่มเติม →