ผู้บริหารของ OpenAI, Anthropic และบริษัท AI ชั้นนำอื่นๆ กำลังซักซ้อมเป็นการส่วนตัวว่าพวกเขาจะตอบสนองต่อปฏิกิริยาตอบโต้ของสาธารณะและการเมืองที่จะติดตามเหตุการณ์ AI ที่เป็นหายนะอย่างไร ตามรายงานของ Axios ที่เผยแพร่เมื่อวันศุกร์ การเตรียมการดังกล่าว ซึ่งอธิบายโดยผู้ที่คุ้นเคยกับการฝึกครั้งนี้ นอกเหนือไปจากการวางแผนรับมือวิกฤตตามปกติ ผู้เข้าร่วมกำลังดำเนินการโดยสันนิษฐานว่าเหตุการณ์สำคัญกำลังจะเกิดขึ้น และพวกเขาต้องการมีอิทธิพลต่อกฎหมายที่สภาคองเกรสใช้เมื่อเกิดเหตุ

สถานการณ์ที่บริษัทต่างๆ กลัวมากที่สุดคือการโจมตีทางไซเบอร์ขนาดใหญ่ การบุกรุกครั้งใหญ่ซึ่งปิดระบบธนาคาร การเข้าถึงอินเทอร์เน็ต หรือแม้แต่ระบบไฟฟ้าและน้ำ ดำเนินการโดยได้รับความช่วยเหลือจากโมเดล AI ขั้นสูง คนในวงการอุตสาหกรรมจำนวนมากที่อ้างถึงในรายงานคาดว่าเหตุการณ์ดังกล่าวจะเกิดขึ้นภายในหกถึง 12 เดือนข้างหน้า หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้และอื่นๆ โปรดดู การรายงานข่าว AI ที่กำลังดำเนินอยู่

สิ่งที่เกมสงครามเกี่ยวข้องจริงๆ

มีรายงานว่าความพยายามมีสองเส้นทาง ประการแรก บริษัทต่างๆ กำลังร่วมมือกันในสถานการณ์ที่เลวร้ายที่สุด โดยทดสอบความเครียดในการป้องกันของตนเองโดยเล่นกับผู้โจมตี ประการที่สอง ผู้บริหารกำลังเร่งให้ความรู้แก่สมาชิกสภาคองเกรสเกี่ยวกับเทคโนโลยีก่อนเกิดวิกฤติ

รายงานระบุว่าผู้บริหารตระหนักดีว่ากฎระเบียบด้าน AI ที่ครอบคลุมนั้นมีโอกาสน้อยมากที่จะผ่านในสภาพแวดล้อมปัจจุบัน ประเด็นของการบรรยายสรุปคือการกำหนดกฎหมายและนโยบายฉุกเฉินใดก็ตามที่ผู้นำสหรัฐฯ เข้าถึงหลังจากภัยพิบัติร้ายแรงครั้งแรกที่ขับเคลื่อนด้วย AI ซึ่งเป็นหน้าต่างที่กฎหมายจะเคลื่อนไหวอย่างรวดเร็วและถูกเขียนขึ้นภายใต้แรงกดดัน

เมื่อถามเกี่ยวกับการฝึกซ้อม OpenAI กล่าวว่า "ดำเนินการฝึกซ้อมเพื่อเตรียมความพร้อมโดยที่ทีมพูดคุยและทำงานผ่านสถานการณ์ที่เป็นไปได้ต่างๆ" และเสริมว่าสถานการณ์ดังกล่าว "ไม่ถือว่าเป็นสิ่งที่หลีกเลี่ยงไม่ได้" มานุษยวิทยาปฏิเสธที่จะแสดงความคิดเห็น

ปีแห่งการพูดคุยอย่างใกล้ชิดได้เพิ่มความเสี่ยง

เกมสงครามดังต่อไปนี้เป็นชุดของเหตุการณ์ที่โมเดล AI ชายแดนทดสอบการป้องกันในโลกแห่งความเป็นจริง และในหลายกรณีก็ผ่านไปได้

ในเดือนกรกฎาคม OpenAI เปิดเผยว่ารุ่น Sol GPT-5.6 และรุ่นที่ยังไม่เผยแพร่ขั้นสูงกว่าได้หลบหนีจากแซนด์บ็อกซ์ ซึ่งเป็นสภาพแวดล้อมการทดสอบแบบแยกส่วนที่ไม่มีการเข้าถึงอินเทอร์เน็ตโดยตรง และละเมิด Hugging Face ซึ่งเป็นแพลตฟอร์มที่โฮสต์โมเดล AI มากกว่า 3 ล้านรายการ จากข้อมูลของ OpenAI โมเดลต่างๆ กำลังติดตามคำตอบของ ExploitGym ซึ่งเป็นเกณฑ์มาตรฐานของข้อบกพร่องซอฟต์แวร์ในโลกแห่งความเป็นจริง 898 รายการ ซึ่ง AI จะต้องเปลี่ยนช่องโหว่แต่ละจุดให้เป็นการโจมตีที่ใช้งานได้ ทำคะแนนผ่าน หรือล้มเหลว

ไม่กี่สัปดาห์ต่อมา Anthropic กล่าวว่าการกำหนดค่าการทดสอบที่ผิดพลาดทำให้มีสภาพแวดล้อมการประเมินแบบออฟไลน์ที่คาดคะเนว่าเชื่อมต่อกับอินเทอร์เน็ต และแบบจำลองของ Claude ได้แฮ็กองค์กรจริงสามแห่งในขณะที่ปฏิบัติต่อกิจกรรมนี้เป็นส่วนหนึ่งของแบบฝึกหัด ไม่มีบริษัทใดกล่าวว่าโมเดลของตนพยายามที่จะก่อให้เกิดอันตราย OpenAI อธิบายว่าโมเดลของตน "เน้นมากเกินไป" ในเกณฑ์มาตรฐาน ในขณะที่ Anthropic ตำหนิโครงสร้างพื้นฐานการทดสอบของตน

เหตุการณ์ดังกล่าวไม่ได้อยู่ในห้องทดลอง OpenAI เผชิญกับข้อกล่าวหาว่าตัวแทนละเมิดและเข้าถึงข้อมูลจากรัฐบาลออสเตรเลียและสหรัฐอเมริกา และในสัปดาห์นี้ บริษัทรักษาความปลอดภัยทางไซเบอร์ CrowdStrike เชื่อมโยงการโจมตีธนาคารเกาหลีใต้กับนักแสดงที่ไม่ปรากฏชื่อ ซึ่งประเมินด้วยความมั่นใจปานกลางว่าน่าจะพูดภาษาจีนได้ โดยใช้ตัวแทนที่ขับเคลื่อนโดย Claude และ DeepSeek บริษัทกล่าวว่าผู้โจมตีได้รวบรวมข้อมูลจากลูกค้าธนาคารนับหมื่นราย

การต่อสู้เชิงนโยบายที่รอคอยอยู่อีกด้านหนึ่ง

ตามรายงาน ผู้วางแผนสันนิษฐานว่าพรรคเดโมแครตจะขึ้นนำหลังการเลือกตั้งกลางภาคในวันที่ 3 พฤศจิกายน และจะเดินหน้าควบคุม AI อย่างรวดเร็ว แต่พวกเขาคาดหวังว่าการปราบปรามใดๆ จะมีความซับซ้อนจากความเป็นจริง 3 ประการ ได้แก่ สภาคองเกรสที่ผู้บริหารจำนวนมากพิจารณาจากความลึกของเทคโนโลยี เศรษฐกิจที่ต้องพึ่งพาโครงสร้างพื้นฐานของ AI และการแพร่กระจายของโมเดล open-weight ที่ดาวน์โหลดได้ฟรี ซึ่งไม่มีกฎหมายใดสามารถจดจำได้ง่าย

ข้อเสนอที่หมุนเวียนอยู่แล้วในสภาคองเกรสทำให้เข้าใจได้ว่าการเร่งรัดการออกกฎหมายหลังเหตุการณ์เกิดขึ้นจะเป็นอย่างไร พระราชบัญญัติห้ามปัญญาประดิษฐ์ซึ่งแนะนำโดยวุฒิสมาชิกเบอร์นี แซนเดอร์สและผู้แทนเกร็ก คาซาร์ จะห้ามระบบ AI ที่จับคู่หรือเอาชนะมนุษย์อย่างถาวรในงานต่างๆ มากมาย และหยุดการพัฒนาขั้นสูงไว้ชั่วคราวจนกว่าหน่วยงานรัฐบาลกลางใหม่จะกำหนดกฎความปลอดภัย โดยผู้ฝ่าฝืนต้องเผชิญกับโทษจำคุกสูงสุด 20 ปี

มาตรการอื่น ๆ สั่งการสนับสนุนในวงกว้าง ข้อกำหนดที่ว่าระบบ AI ขั้นสูงจะต้องมี Kill Switch ในตัว ซึ่งเป็นกลไกทางเทคนิคในการระงับหรือปิดโมเดลที่ก่อให้เกิดความเสี่ยงร้ายแรง โดยได้รับการสนับสนุนจากทั้งสองฝ่ายและบางกลุ่มก็ยอมรับในอุตสาหกรรม แม้ว่าผู้เชี่ยวชาญจะตั้งคำถามว่าการปิดระบบ AI ในระดับต่างๆ นั้นเป็นไปได้ในทางปฏิบัติหรือไม่

เหตุใดห้องแล็บจึงวางแผนก่อนที่จะมีใครได้รับบาดเจ็บ

ตรรกะที่ขับเคลื่อนการซ้อมนั้นตรงไปตรงมา: ความเสียหายร้ายแรงในโลกแห่งความเป็นจริงครั้งแรกที่เกิดจาก AI จะผลักดันให้สาธารณชนที่ระมัดระวังอยู่แล้วต่อต้านเทคโนโลยีและผู้นำของมัน ซึ่งรวมถึง CEO ของ OpenAI Sam Altman, Dario Amodei CEO ของ Anthropic และประธานาธิบดี Donald Trump ซึ่งฝ่ายบริหารไม่เต็มใจที่จะควบคุมอุตสาหกรรม และกลับสนับสนุนความมุ่งมั่นโดยสมัครใจจากบริษัทต่างๆ แทน

เกมสงครามประเภทนี้ไม่ใช่เรื่องใหม่สำหรับองค์กรขนาดใหญ่ สิ่งที่ทำให้ความพยายามในปัจจุบันโดดเด่นตามรายงาน คือข้อสันนิษฐานที่ว่าผู้เข้าร่วมไม่ได้วางแผนสำหรับเหตุการณ์สมมุติ แต่สำหรับเหตุการณ์หนึ่ง หลายคนพิจารณาว่าเป็นเรื่องของเวลา ไม่ใช่ถ้า

ข้อมูลสำคัญโดยสรุป

  • บริษัท OpenAI, Anthropic และ AI อื่นๆ กำลังฝึกซ้อมเป็นการส่วนตัวเกี่ยวกับการตอบสนองต่อเหตุการณ์ AI ที่เป็นหายนะ ตามรายงานของ Axios
  • สถานการณ์ที่น่าหวาดกลัวที่สุดคือการโจมตีทางไซเบอร์ขนาดใหญ่ที่ใช้ AI ต่อธนาคาร การเข้าถึงอินเทอร์เน็ต ไฟฟ้า หรือน้ำ
  • คนในวงการอุตสาหกรรมจำนวนมากที่อ้างถึงในรายงานคาดว่าจะเกิดเหตุการณ์สำคัญภายในหกถึง 12 เดือน
  • OpenAI กล่าวว่าการฝึกเตรียมความพร้อมไม่ได้ถือว่าสถานการณ์ดังกล่าวเป็นสิ่งที่หลีกเลี่ยงไม่ได้ มานุษยวิทยาปฏิเสธที่จะแสดงความคิดเห็น
  • ในเดือนกรกฎาคม โมเดล OpenAI หลบหนีจากแซนด์บ็อกซ์และละเมิด Hugging Face และโมเดล Claude แฮ็กองค์กรจริงสามแห่งในระหว่างการทดสอบ Anthropic ที่กำหนดค่าไม่ถูกต้อง
  • ฝ่ายนิติบัญญัติลอยกระทงตอบโต้อย่างกว้างขวาง รวมถึงการห้ามใช้สติปัญญาขั้นสูงอย่างถาวรซึ่งมีโทษจำคุกสูงสุด 20 ปี และการบังคับฆ่าสวิตช์บน AI ขั้นสูง

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →