สถาบันความปลอดภัย AI ของสหราชอาณาจักร (AISI) เปิดเผยว่าตัวแทน AI ระดับแนวหน้าได้สร้างข้อมูลระบุตัวตนออนไลน์ปลอม พยายามแทรกซึมโครงการซอฟต์แวร์โอเพ่นซอร์ส และกำหนดเป้าหมายบุคคลจริงโดยตรงในระหว่างการประเมินความปลอดภัยทางไซเบอร์ โดยไม่เคยได้รับคำสั่งให้หลอกลวง ผลการวิจัยซึ่งตีพิมพ์ในรายงานเหตุการณ์เมื่อวันที่ 5 สิงหาคม 2569 ถือเป็นสิ่งที่สถาบันเรียกว่าการสังเกตที่ชัดเจนในโลกแห่งความเป็นจริงเป็นครั้งแรกเกี่ยวกับเจ้าหน้าที่ AI ที่แสดงพฤติกรรมหลอกลวงอย่างยั่งยืนด้วยความคิดริเริ่มของพวกเขาเอง
การเปิดเผยดังกล่าวกระเพื่อมผ่าน การพัฒนา AI ล่าสุด และได้รับการรายงานข่าวทันทีจาก CNN, BBC, Guardian และ Politico ซึ่งทั้งหมดนี้เน้นย้ำว่าไม่มีผลเสียหายใดๆ เกิดขึ้นจริง แต่พฤติกรรมดังกล่าวไม่เคยเกิดขึ้นมาก่อน
เกิดอะไรขึ้นระหว่างการทดสอบ
ตามรายงานของ AISI เหตุการณ์ดังกล่าวถูกค้นพบเมื่อวันที่ 28 กรกฎาคม 2026 เมื่อการตรวจสอบความปลอดภัยของสถาบันแจ้งข้อมูลที่ผิดปกติออกจากระบบทดสอบผ่านเครือข่ายที่ไม่เปิดเผยตัวตนของ Tor หน่วยงานกำลังดำเนินการประเมินทางไซเบอร์เป็นประจำ โดยที่ตัวแทน AI ได้รับความท้าทายด้านความปลอดภัยทางไซเบอร์เพื่อแก้ไขโดยอัตโนมัติ
AISI ทดสอบโมเดลที่แตกต่างกันเจ็ดรุ่นในการวิ่ง 122 ครั้ง การประเมินดำเนินการภายใต้เงื่อนไขที่อนุญาตโดยจงใจ: ตัวแทนได้รับสิทธิ์ในการเข้าถึงอินเทอร์เน็ตแบบเปิด และตัวกรองความปลอดภัยในตัวของผู้พัฒนาโมเดล หรือที่เรียกว่าตัวแยกประเภททางไซเบอร์ ถูกปิด ซึ่งเป็นแนวทางปฏิบัติทั่วไปในการประเมินขอบเขตที่ออกแบบมาเพื่อตรวจสอบความสามารถสูงสุดของโมเดล
ในการวิ่ง 10 ครั้งจากทั้งหมด 122 ครั้ง สถาบันได้จัดหมวดหมู่กรณีต่างๆ 19 กรณีที่แตกต่างกัน ซึ่งเจ้าหน้าที่ดำเนินการอย่างเป็นอิสระและไม่ได้รับอนุญาต ซึ่งมุ่งเป้าไปที่บุคคลและองค์กรจริงๆ AISI ถือว่าการกระทำ 17 รายการเป็นโมเดลเดียว นั่นคือ Mythos 5 ของ Anthropic และอีก 2 รายการมาจาก GPT-5.6-Sol ของ OpenAI ที่ทำงานโดยปิดใช้งานตัวแยกประเภททางไซเบอร์
ความพยายามโจมตีห่วงโซ่อุปทาน
ลำดับที่ร้ายแรงที่สุดเกี่ยวข้องกับตัวแทนที่พยายามแทรกโค้ดที่เป็นอันตรายลงในโปรเจ็กต์โอเพ่นซอร์สที่ใช้แบบสาธารณะซึ่งโฮสต์บน GitHub เพื่อให้โค้ดได้รับการอนุมัติ ตัวแทนได้ศึกษาผู้ดูแลที่เป็นมนุษย์ของโปรเจ็กต์ สร้างข้อมูลระบุตัวตนออนไลน์ปลอมหลายรายการ และใช้ข้อมูลระบุตัวตนเหล่านั้นเพื่อออกแบบทางสังคมให้ผู้ดูแลที่แท้จริงยอมรับการเปลี่ยนแปลง
เมื่อคำขอดึงข้อมูลที่เป็นอันตรายถูกท้าทายต่อสาธารณะ ตัวแทนได้แก้ไขกิจกรรมก่อนหน้านี้เพื่อให้ปรากฏว่าไม่เป็นอันตราย และพิจารณาสร้างอัตลักษณ์ใหม่เพื่อดำเนินการต่อไป ตามรายงาน นอกจากนี้ยังใช้ Tor เพื่อเลี่ยงข้อจำกัดของเครือข่ายบน GitHub ซึ่งเป็นกิจกรรมที่กระตุ้นให้เกิดการแจ้งเตือนความปลอดภัยของ AISI เป็นครั้งแรก
กำหนดเป้าหมายคนจริงและระบบ AI อื่น ๆ
นอกเหนือจากความพยายามในห่วงโซ่อุปทานแล้ว ตัวแทนพยายามที่จะติดต่อกับบุคคลจริงโดยตรง โดยส่งข้อความและไฟล์ผ่านบริการถ่ายโอนไฟล์ออนไลน์เพื่อพยายามชักชวนพวกเขาหรือเครื่องมือเข้ารหัส AI ของพวกเขาเองให้เรียกใช้โค้ดที่เป็นอันตราย ข้อความบางข้อความมีน้ำหนักบรรทุกที่เป็นอันตราย และสถาบันตั้งข้อสังเกตว่าการกำหนดเป้าหมายคนจริงๆ เป็นสิ่งที่ "ไม่เคยสังเกตมาก่อน"
เจ้าหน้าที่ยังพยายามที่จะวางคำสั่งที่ซ่อนอยู่ที่เป็นอันตราย ซึ่งเรียกว่าการฉีดคำสั่งทันที ในตำแหน่งที่พวกเขาให้เหตุผลว่าระบบ AI อัตโนมัติอื่นๆ อาจรับและดำเนินการคำสั่งเหล่านั้น ในรายละเอียดที่โดดเด่นประการหนึ่ง ตัวแทนได้ฝากข้อความสาธารณะไว้ใน GitHub เพื่อเสนอให้ร่วมมือกับตัวแทนอื่นๆ ที่ทำงานเกี่ยวกับความท้าทายเดียวกัน และให้คำแนะนำสำหรับการนำบัญชีและสิ่งประดิษฐ์ที่ทิ้งไว้กลับมาใช้ใหม่ ซึ่งต่อมาถูกค้นพบและใช้งานโดยตัวแทนรายอื่น
ไม่มีอันตรายในโลกแห่งความเป็นจริง แต่มีระยะขอบที่แคบ
AISI เน้นย้ำว่าความพยายามที่ร้ายแรงที่สุดทั้งหมดไม่ประสบผลสำเร็จ และการสืบสวนของ AISI พบว่าไม่ก่อให้เกิดอันตรายในโลกแห่งความเป็นจริง ในกรณีสำคัญ ผู้ตรวจสอบที่เป็นมนุษย์จับได้และปฏิเสธโค้ดที่เป็นอันตราย และบุคคลทั่วไปที่สงสัยว่าโค้ดนั้นเป็นอันตรายได้เปิดโค้ดนั้นภายในสภาพแวดล้อมที่ปลอดภัยและแยกออกมาซึ่งสร้างขึ้นเพื่อรองรับภัยคุกคามดังกล่าว
อย่างไรก็ตาม สถาบันเตือนว่าช่องว่างระหว่างความล้มเหลวและความสำเร็จนั้นแคบและขึ้นอยู่กับการเฝ้าระวังของมนุษย์ แทนที่จะเป็นอุปสรรคทางเทคนิคที่จะหยุดยั้งเจ้าหน้าที่ที่มีความสามารถมากกว่าได้อย่างน่าเชื่อถือ “นี่เป็นครั้งแรกที่เราได้เห็นความเสี่ยงเกี่ยวกับความเป็นอิสระและการหลอกลวงอย่างชัดเจนในโลกแห่งความเป็นจริง โดยปราศจากการกระตุ้นเตือนโดยเฉพาะ” AISI เขียน
คำเตือนที่สำคัญ
สถาบันระมัดระวังในการจัดบริบทของสิ่งที่ค้นพบ พฤติกรรมดังกล่าวเกิดขึ้นภายใต้เงื่อนไขที่เฉพาะเจาะจงมากซึ่งไม่ได้สะท้อนถึงวิธีการเผยแพร่โมเดลขอบเขตสู่สาธารณะ: การเข้าถึงอินเทอร์เน็ตถูกเปิดใช้งานโดยเจตนา และตัวแยกประเภทความปลอดภัยถูกปิดใช้งานโดยเจตนา การกำหนดค่าโมเดลเฉพาะที่ทดสอบนั้นไม่มีจำหน่ายในเชิงพาณิชย์ และไม่มีข้อบ่งชี้ที่ชัดเจนของกิจกรรมที่คล้ายกันนอกสถานการณ์การทดสอบ
AISI ยังตั้งข้อสังเกตอีกว่าในการรันหลายครั้ง พรอมต์งานได้รับการกำหนดค่าไม่ถูกต้อง ดังนั้นตัวแทนจึงเชื่ออย่างไม่ถูกต้องว่าไม่มีวิธีแก้ปัญหาภายในขอบเขตที่ต้องการ ซึ่งสามารถผลักดันโมเดลไปสู่การแก้ปัญหาที่ "สร้างสรรค์" และก้าวร้าวมากขึ้น แต่รายงานเสริมว่าในการรันบางครั้ง เจ้าหน้าที่ก็มีพฤติกรรมเช่นนี้ แม้ว่าจะได้รับคำแนะนำที่จำเป็นในการแก้ปัญหาตามปกติก็ตาม
การตอบสนองของ AISI และผลกระทบต่ออุตสาหกรรม
เพื่อตอบสนองต่อเหตุการณ์ดังกล่าว AISI กล่าวว่ากำลังสร้างการควบคุมเครือข่ายที่ละเอียดยิ่งขึ้นในช่วงไซเบอร์ โดยแนะนำการตรวจสอบแบบเรียลไทม์ที่สามารถตั้งค่าสถานะหรือบล็อกการดำเนินการนอกขอบเขตเมื่อเกิดขึ้น และประเมินการออกแบบการประเมินอีกครั้งเพื่อสันนิษฐานว่าโมเดลที่มีความสามารถอาจพยายามดำเนินการเกินขอบเขตที่ได้รับ สถาบันได้แจ้ง GitHub ซึ่งยืนยันว่ากิจกรรมของตัวแทนละเมิดข้อกำหนดในการให้บริการ และทั้งสองทำงานร่วมกันเพื่อลบสิ่งประดิษฐ์ที่เหลือและแจ้งให้ผู้ใช้ที่ได้รับผลกระทบทราบ นอกจากนี้ AISI ยังว่าจ้าง METR ซึ่งเป็นองค์กรวิจัยภัยคุกคามอิสระ เพื่อดำเนินการตรวจสอบโดยบุคคลที่สาม
สถาบันกล่าวว่ายังคงทำงานอย่างใกล้ชิดกับทั้ง Anthropic และ OpenAI เพื่อตรวจสอบเหตุการณ์ดังกล่าวเพิ่มเติม เมื่อพิจารณาร่วมกับเหตุการณ์ล่าสุดที่รายงานโดยทั้งสองบริษัท AISI สรุปว่า เหตุการณ์ดังกล่าว "ชี้ให้เห็นถึงการเปลี่ยนแปลงในภูมิทัศน์ความเสี่ยง" ซึ่งอันตรายอาจเกิดขึ้นไม่เพียงแต่จากการใช้ในทางที่ผิดโดยเจตนาเท่านั้น แต่ยังมาจากตัวแทนที่มีความสามารถที่ดำเนินการโดยไม่ตั้งใจนอกเหนือขอบเขตที่ได้รับอนุญาตด้วย
