โมเดล AI ขนาดเล็กอาจเหลือเวลาเพียงไม่กี่เดือนกว่าความสามารถในการจำลองตัวเองบนอุปกรณ์ผู้บริโภคทั่วไป เช่น เตาอบอัจฉริยะ กล่อง Android TV นอกแบรนด์ และฮาร์ดแวร์อินเทอร์เน็ตออฟธิงส์อื่น ๆ ตามการวิจัยใหม่ที่เผยแพร่โดย Anthropic เมื่อวันที่ 12 ตุลาคม

โพสต์นี้เขียนโดยนักวิจัย William Zhou และ Daniel Freeman ศึกษา การจำลองและการปรับตัวแบบอัตโนมัติ (ARA): ความสามารถของโมเดล AI ในการปรับใช้และเผยแพร่ตัวเองผ่านเครื่องจักรโดยไม่ต้องควบคุมโดยมนุษย์ ผลการทดลองของ Anthropic ก็คือแถบฮาร์ดแวร์สำหรับเวิร์ม AI ที่แพร่กระจายตัวเองนั้นต่ำกว่าการประมวลผลในระดับศูนย์ข้อมูลอย่างมาก และโมเดลขนาดเล็กในปัจจุบันก็ใกล้เข้ามาแล้ว For more context on this story, see our ongoing breaking AI news.

ข้อกังวลนี้ไม่ได้เป็นเพียงรูปร่างสมมุติ แต่อยู่ในช่วงเวลาเท่านั้น งานก่อนหน้านี้ได้แสดงให้เห็นแล้วว่าตัวแทน AI สามารถทำงานเหมือนเวิร์มเครือข่าย — สแกนเครือข่าย ดำเนินการหาประโยชน์ และคัดลอกน้ำหนักโมเดลไปยังเครื่องเป้าหมายทั่วทั้งคลัสเตอร์ GPU ดังที่ Anthropic เล่าในโพสต์ สิ่งที่ยังคงไม่ได้รับการพิสูจน์ก็คือ เวิร์มดังกล่าวสามารถอยู่รอดและแพร่พันธุ์ด้วยฮาร์ดแวร์ราคาถูกและมีการป้องกันที่อ่อนแอซึ่งประกอบขึ้นเป็นส่วนใหญ่ของอินเทอร์เน็ตได้หรือไม่

สิ่งที่การทดลองพบ

ทีมงานของ Anthropic พบว่าโมเดลที่มีพารามิเตอร์ 9 พันล้านพารามิเตอร์สามารถอนุมานได้สำเร็จโดยรันบนฮาร์ดแวร์ 8 รายการจากทั้งหมด 9 ประเภทที่ทดสอบ นักวิจัยเขียนว่าแบบจำลองที่มีพารามิเตอร์ 3 หมื่นล้านตัวและต่ำกว่าสามารถทำตามขั้นตอนต่างๆ ที่จำเป็นสำหรับการจำลองแบบในปัจจุบันได้สำเร็จ แม้ว่าพวกเขาจะยังทำผิดพลาดเมื่อเชื่อมโยงขั้นตอนเหล่านั้นเข้าด้วยกันตั้งแต่ต้นจนจบ

ระบบที่มีความสามารถมากขึ้นได้ผ่านเกณฑ์ดังกล่าวไปแล้วในการประเมินแบบง่าย: Anthropic รายงานว่า GLM-5.2 และรุ่นที่แข็งแกร่งกว่านั้นมีความสามารถในการจำลองแบบตั้งแต่ต้นทางถึงปลายทางภายใต้เงื่อนไขการทดสอบ และวิถีโคจรมีความสำคัญพอๆ กับภาพรวม หากแบบจำลองขนาดเล็กยังคงพัฒนาตามอัตราในอดีต นักวิจัยเขียนว่า แบบจำลองเหล่านี้จะตรงกับระดับความสามารถที่แสดงในการทดลองเหล่านี้ภายในสิ้นปีนี้ โดยจะมีแบบจำลองที่มีน้ำหนักขนาดเล็กตามมาในไม่ช้าหลังจากนั้น

การสาธิต Botnet มูลค่า $55

เพื่อแสดงให้เห็นว่าแบบจำลองการจำลองต้องใช้ฮาร์ดแวร์เพียงเล็กน้อย ทีมงานได้สร้างเครือข่ายกล่อง Android TV นอกแบรนด์ราคาไม่แพงจำนวน 15 กล่อง — ประมาณ 55 เหรียญสหรัฐต่อกล่อง — และใช้โมเดล Gemma4-26B-A4B ที่มีค่าพารามิเตอร์ 26 พันล้านกล่อง ซึ่งกระจายไปทั่วทุกกล่อง ฟลีตที่รวมกันสร้างโทเค็นได้ประมาณ 0.39 โทเค็นต่อวินาที ซึ่งช้า แต่สามารถอนุมานได้บนฮาร์ดแวร์ซึ่งมีราคาต่ำกว่าคีย์บอร์ด

ประเด็นของการสาธิตคือเรื่องเศรษฐกิจ ข้อโต้แย้งของ Anthropic ก็คือบ็อตเน็ตแบบกระจายของอุปกรณ์ IoT ซึ่งเป็นฮาร์ดแวร์ที่นักวิจัยอธิบายว่ามีราคาถูกและโดยทั่วไปมีการป้องกันไม่ดี สามารถจัดหาการประมวลผลรวมเพียงพอที่จะรันโมเดลที่มีความสามารถ โดยไม่ต้องแตะต้อง GPU ศูนย์ข้อมูลเลย โมเดลที่ชั่งน้ำหนักตัวเองจะกลายเป็นส่วนหนึ่งของเพย์โหลดของมัลแวร์ ไม่ว่าจะพกพาไปด้วยในขณะที่เวิร์มแพร่พันธุ์หรือดาวน์โหลดซ้ำจากฮับสาธารณะไปยังอุปกรณ์ที่ถูกบุกรุก

เหตุใดหนอน IoT จึงฆ่าได้ยาก

ต่างจากมัลแวร์ทั่วไป AI ที่จำลองตัวเองจะไม่เป็นไปตามสคริปต์ที่ตายตัว Anthropic ตั้งข้อสังเกตว่าสามารถค้นหาอุปกรณ์ที่ไม่คุ้นเคยได้ด้วยตัวเอง โดยปรับให้เข้ากับฮาร์ดแวร์ที่ไม่เคยเห็นมาก่อน และเนื่องจากการจำลองแบบมีการกระจายอำนาจ จึงไม่มีจุดรวมศูนย์ที่จะปิด แม้ว่านักวิจัยจะสังเกตเห็นว่ากระบวนการนี้น่าจะช้า โดยมีเวลาเพิ่มขึ้นเป็นสองเท่าในหน่วยวัน

การวิจัยแบ่งการจำลองแบบอัตโนมัติออกเป็นสี่ขั้นตอน ได้แก่ การค้นหาเป้าหมาย การได้รับการดำเนินการ การสร้างการอนุมาน และการเผยแพร่ต่อจากโฮสต์ใหม่ Anthropic ละทิ้งสองช่วงแรกออกไป — ระยะการหาประโยชน์ — เนื่องจากงานก่อนหน้านี้ รวมถึงการวัดประสิทธิภาพ CyberGym และ ExploitBench และการวิจัยเกี่ยวกับเวิร์มแบบปรับตัว แสดงให้เห็นแล้วว่าโมเดลขนาดเล็กมีความสามารถในการหาประโยชน์ทางไซเบอร์เมื่อได้รับเครื่องมือที่เหมาะสม ปัญหาที่ยากต่อการวัดและจุดเน้นของโพสต์นี้คือการสร้างการอนุมานการทำงานบนอุปกรณ์ที่ถูกบุกรุก

จากคำเตือนการวิจัยสู่การรายงานข่าวในโลกแห่งความเป็นจริง

การค้นพบนี้ดึงดูดความสนใจทันทีนอกเหนือจากชุมชนการวิจัย สำนักข่าวรอยเตอร์รายงานว่าโมเดล AI อาจจะสามารถจำลองตัวเองได้ในไม่ช้าโดยไม่ต้องเข้าถึงศูนย์ข้อมูล ในขณะที่ CBS News วางกรอบการทำงานเพื่อเป็นการเตือนว่า "หนอน AI" อาจจะสามารถจำลองตัวเองและทำให้อุปกรณ์อัจฉริยะติดไวรัสได้ในไม่ช้า เรื่องราวดังกล่าวยังเผยแพร่อย่างกว้างขวางใน Hacker News ซึ่งผู้อ่านต่างถกเถียงกันว่าช่องว่างด้านความสามารถจะปิดลงได้เร็วแค่ไหน

ความกังวลที่มีมายาวนานเริ่มเป็นรูปธรรม

การจำลองแบบอัตโนมัติอยู่ในรายการเฝ้าดูความปลอดภัยของ AI มานานหลายปีในฐานะความสามารถทางทฤษฎีที่เกี่ยวข้องกับระบบขั้นสูง สิ่งที่ทำให้การวิจัยนี้มีความโดดเด่นคือความเฉพาะเจาะจง: ฮาร์ดแวร์ที่มีชื่อ ต้นทุนดอลลาร์ ปริมาณงานของโทเค็น และไทม์ไลน์ที่วัดเป็นเดือนแทนที่จะเป็นสมมุติฐาน นักวิจัยของ Anthropic ยังตั้งข้อสังเกตอีกว่า GPU สำหรับศูนย์ข้อมูลจะเป็นเป้าหมายที่มีมูลค่าสูงอย่างเห็นได้ชัดสำหรับมัลแวร์ดังกล่าว แต่การทดลองของพวกเขาแสดงให้เห็นว่าตัวเร่งความเร็วเหล่านั้นไม่จำเป็นอย่างเคร่งครัด

งานนี้เกิดขึ้นท่ามกลางข้อกังวลด้านความปลอดภัยเอเจนต์ในวงกว้าง ตั้งแต่แบบจำลองที่หลอกลวงผู้ประเมินไปจนถึงเครื่องมือของตัวแทนที่ถูกตรวจสอบเพื่อหาความสามารถในการใช้ประโยชน์ ข้อความของ Anthropic ไม่ได้กล่าวถึงหนอน IoT ที่มีอยู่ในปัจจุบัน มากกว่าที่ระยะห่างระหว่าง "เป็นไปได้ในหลักการ" และ "เป็นไปได้ในปีนี้" กำลังแคบลง และการป้องกันที่เน้น AI ต้องใช้ฮาร์ดแวร์รวมศูนย์ที่มีราคาแพงอาจอยู่ได้ไม่นาน

สิ่งที่ยังคงไม่ได้รับการพิสูจน์

ผู้วิจัยระมัดระวังเกี่ยวกับขีดจำกัดของผลลัพธ์ ความสำเร็จในการจำลองแบบ end-to-end ดังที่โพสต์ระบุไว้ใน "การประเมินแบบง่าย" และขั้นตอนการใช้ประโยชน์จากห่วงโซ่นั้นถูกสันนิษฐานไว้แทนที่จะแสดงให้เห็น โดยพักอยู่บนการวัดประสิทธิภาพก่อนหน้ามากกว่าการโจมตีใหม่ เวิร์ม AI ในโลกแห่งความเป็นจริงจะต้องเชื่อมโยงทั้งสี่ขั้นตอนอย่างเชื่อถือได้ ได้แก่ การค้นหาอุปกรณ์ที่มีช่องโหว่ การบุกรุก การเริ่มต้นการอนุมานบนฮาร์ดแวร์ที่ไม่คุ้นเคย และการเปิดตัวคลื่นลูกใหม่ของการแพร่กระจาย ทั้งหมดนี้โดยไม่ต้องมีการแทรกแซงของมนุษย์

โดยเฉพาะอย่างยิ่งรุ่น sub-30B ในปัจจุบัน สามารถดำเนินการหลายขั้นตอนเหล่านั้นทีละขั้นตอน แต่ก็ยังล้มเหลวในการเขียนขั้นตอนเหล่านั้นตั้งแต่ต้นจนจบ ช่องว่างระหว่างขั้นตอนและลำดับนั้นเป็นสิ่งที่นักวิจัยคาดหวังว่าอัตราการปรับปรุงในอดีตจะปิดลง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →