นักวิทยาศาสตร์ประมาณ 400 คนจาก 34 ประเทศ ในจำนวนนี้เป็นผู้บุกเบิกด้าน AI เจฟฟรีย์ ฮินตัน และโยชัว เบนจิโอ ได้ลงนามในจดหมายเปิดผนึกเรียกร้องให้รัฐบาลต่างๆ สร้างองค์กรระหว่างประเทศที่จะกำหนดมาตรฐานการกักกัน และติดตามเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับระบบ AI ขั้นสูงที่มีความสามารถทางไซเบอร์ จดหมายดังกล่าวรายงานโดยสำนักข่าวรอยเตอร์เมื่อวันที่ 13 ตุลาคม พ.ศ. 2569 ระบุว่าคำมั่นสัญญาของอุตสาหกรรมโดยสมัครใจไม่เพียงพอที่จะจัดการระบบที่หลุดพ้นจากมาตรการป้องกันที่ตั้งใจจะกักกันซ้ำแล้วซ้ำเล่า

สิ่งที่นักวิทยาศาสตร์กำลังเสนอ For more context on this story, see our ongoing AI trends.

ผู้ลงนามเรียกร้องให้มีหน่วยงานกำกับดูแลระดับนานาชาติโดยเฉพาะ โดยมีหน้าที่หลัก 2 ประการ ได้แก่ การสร้างมาตรฐานการควบคุมทั่วทั้งอุตสาหกรรมสำหรับโมเดลชายแดน และการบำรุงรักษาบันทึกเหตุการณ์ด้านความปลอดภัยที่สำคัญ ซึ่งนักวิทยาศาสตร์กล่าวว่าในที่สุดควรเปิดเผยต่อสาธารณะ

“พวกเราซึ่งเป็นนักวิทยาศาสตร์ที่ลงนามด้านล่าง ยืนยันว่าจำเป็นต้องมีทั้งการวิจัยด้านความปลอดภัยของ AI และการเน้นที่เทคโนโลยีและขั้นตอนการกักกันมากขึ้น” จดหมายระบุ

ข้อเสนอนี้ไปไกลกว่ากรอบการกำกับดูแลในปัจจุบันส่วนใหญ่ ผู้ลงนามโต้แย้งว่าโมเดล AI ระดับแนวหน้าควรเริ่มต้นจากช่องว่างทางอากาศจากเครือข่ายภายนอก และอยู่ภายใต้การควบคุมดูแลที่เป็นอิสระ ซึ่งเป็นความท้าทายโดยตรงต่อวิธีที่ห้องปฏิบัติการชั้นนำในการทดสอบและปรับใช้ระบบที่มีความสามารถมากที่สุดในปัจจุบัน

“หากไม่มีการเปลี่ยนแปลงทันทีในการพัฒนาและแนวทางปฏิบัติในการใช้งาน AI เหตุการณ์ดังกล่าวจะยังคงเกิดขึ้น และเหตุการณ์ในอนาคตจะสร้างความเสียหายให้กับโครงสร้างพื้นฐานที่สำคัญที่ถูกเปิดเผยของเรามากยิ่งขึ้น” นักวิจัยเตือน

จดหมายที่เกิดจากเหตุการณ์ความมั่นคงมากมาย

จดหมายดังกล่าวเป็นไปตามชุดของตอนที่ผู้ลงนามเปิดเผยถึงจุดอ่อนในการทดสอบและบรรจุระบบ AI ขั้นสูง รวมถึงกรณีที่โมเดล AI ข้ามสภาพแวดล้อมแบบแซนด์บ็อกซ์ที่ไม่เพียงพอและระบบภายนอกที่ถูกบุกรุก

ความต้องการกฎการกักกันอย่างเป็นทางการเกิดขึ้นหนึ่งเดือนหลังจากที่ Anthropic, OpenAI, Google, Meta, xAI และ Nvidia ลงนามในข้อตกลงทำเนียบขาวที่มุ่งมั่นที่จะใช้มาตรการความปลอดภัยโดยสมัครใจ นักวิทยาศาสตร์ตั้งข้อสังเกตว่าข้อตกลงดังกล่าวไม่มีกลไกการบังคับใช้อย่างเป็นทางการ

จดหมายมุ่งเน้นไปที่ระบบที่มีความสามารถทางไซเบอร์โดยเจตนา แทนที่จะคาดการณ์เกี่ยวกับความเสี่ยงที่ห่างไกลและสมมุติฐาน ผู้ลงนามมุ่งเน้นไปที่แบบจำลองที่มีอยู่แล้วและได้แสดงให้เห็นถึงความสามารถในการดำเนินการนอกสภาพแวดล้อมที่ตั้งใจไว้แล้ว คำขอของพวกเขาเป็นรูปธรรมในทำนองเดียวกัน: นำการกักกันที่มีความเชื่อมั่นสูงมาใช้ตอนนี้ บันทึกสิ่งที่ผิดพลาดในทะเบียนที่ใช้ร่วมกัน และให้ฝ่ายอิสระตรวจสอบว่าการกักกันนั้นใช้งานได้จริง ในการวางกรอบ การวิจัยด้านความปลอดภัยเพิ่มเติม และการเน้นที่เทคโนโลยีและขั้นตอนการควบคุมการกักกันมากขึ้นเป็นแนวทางเสริม ไม่ใช่ทางเลือกอื่น และทั้งสองไม่สามารถคงไว้ซึ่งการฝึกหัดโดยสมัครใจล้วนๆ ได้

สนามที่แบ่งแยกอย่างลึกซึ้ง

ไม่ใช่ทุกคนในชุมชนการวิจัย AI ที่เห็นด้วยกับการวินิจฉัยหรือการเยียวยา Yann LeCun ผู้ร่วมรับรางวัล Turing Award ประจำปี 2018 ร่วมกับ Hinton และ Bengio ไม่ได้ลงนามในจดหมาย LeCun แย้งว่าเหตุการณ์ด้านความปลอดภัยล่าสุดสะท้อนถึงความล้มเหลวทางวิศวกรรมเป็นหลักมากกว่าความเสี่ยงที่มีอยู่จาก AI เอง

หน่วยงานกำกับดูแลของยุโรปยังได้ผลักดันความต้องการโครงสร้างใหม่อีกด้วย Henna Virkkunen หัวหน้าฝ่ายเทคโนโลยีของสหภาพยุโรปกล่าวกับรอยเตอร์ว่ากฎหมาย AI ของกลุ่มนี้เพียงพอที่จะจัดการกับความเสี่ยงที่เกิดจากระบบ AI อันธพาลได้แล้ว

บรรยากาศทางการเมืองในสหรัฐอเมริกาเพิ่มความซับซ้อนอีกชั้นหนึ่ง ฝ่ายบริหารของทรัมป์คัดค้านกฎระเบียบที่มีผลผูกพันซึ่งอาจชะลอการสร้างสรรค์นวัตกรรมท่ามกลางการแข่งขันที่รุนแรงกับจีน โดยส่งเสริมหลักจรรยาบรรณโดยสมัครใจแทน และไม่มีกฎหมายของรัฐบาลกลางที่ควบคุมโมเดลชายแดนโดยเฉพาะ โดยเฉพาะอย่างยิ่งในวันอาทิตย์ก่อนที่จดหมายจะเผยแพร่ ฝ่ายบริหารได้ยกเลิกการปิดกั้นห้องปฏิบัติการของสหรัฐฯ โดยให้สถาบันความปลอดภัยด้าน AI ของอังกฤษสามารถเข้าถึงแบบจำลองสำหรับการทดสอบความปลอดภัยได้ก่อนใคร ซึ่งเป็นสัญญาณว่าการตรวจสอบภายนอกบางรูปแบบกำลังได้รับความสนใจแม้ว่าจะไม่ได้รับคำสั่งจากภายในประเทศก็ตาม

คำเตือนที่เพิ่มขึ้นของฮินตัน

สำหรับเจฟฟรีย์ ฮินตัน จดหมายฉบับนี้ถือเป็นการต่อเนื่องของการรณรงค์ที่เร่งด่วนมากขึ้น เมื่อเร็วๆ นี้เขาได้เตือนสมาชิกสภานิติบัญญัติของสหรัฐฯ ว่าพวกเขาอาจมีเวลาเพียงหนึ่งปีในการสร้างมาตรการป้องกัน ก่อนที่ปัญญาประดิษฐ์จะก้าวไปนอกเหนือการควบคุมของมนุษย์ Hinton และ Bengio ร่วมกับ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI, Jack Clark ผู้ร่วมก่อตั้ง Anthropic และ Eric Horvitz หัวหน้าเจ้าหน้าที่วิทยาศาสตร์ของ Microsoft ยังได้ร่วมเขียนบทความล่าสุดเตือนว่า AI ที่ปรับปรุงตนเองอาจก่อให้เกิด "การระเบิดของสติปัญญา" โดยเรียกร้องให้รัฐบาลต่างๆ กำกับดูแลก่อนที่การพัฒนาอย่างรวดเร็วจะแซงหน้าความสามารถของสังคมในการปรับตัว

ผู้ลงนามในจดหมายไม่เรียกร้องให้มีการชะลอตัวในการพัฒนา AI แต่พวกเขาเรียกร้องให้องค์กรต่างๆ พัฒนาหรือทดสอบโมเดลที่มีความสามารถทางไซเบอร์ ให้ใช้มาตรฐานการควบคุมที่มีความเชื่อมั่นสูงทันที ในขณะที่รัฐบาลทำงานเพื่อมุ่งสู่ระบอบการกำกับดูแลที่เป็นทางการมากขึ้น

จะเกิดอะไรขึ้นต่อไป

ข้อเสนอนี้เผชิญกับโอกาสที่สูงชัน องค์กรระหว่างประเทศที่มีอำนาจควบคุมการกักกัน AI จะต้องมีการประสานงานระหว่างรัฐบาลซึ่งปัจจุบันยังไม่สามารถตกลงได้ว่ากฎที่มีผลผูกพันนั้นจำเป็นหรือไม่ สหภาพยุโรปยืนยันว่าพระราชบัญญัติ AI นั้นเพียงพอแล้ว สหรัฐฯ สนับสนุนข้อผูกพันโดยสมัครใจ และจีนกำลังดำเนินตามแนวทางการกำกับดูแลของตนเอง

อย่างไรก็ตาม จดหมายดังกล่าวยังเพิ่มน้ำหนักที่สามารถวัดผลได้ให้กับการอภิปรายที่เคลื่อนตัวอย่างรวดเร็วจากชายขอบไปสู่กระแสหลัก เมื่อนักวิทยาศาสตร์ประมาณ 400 คนใน 34 ประเทศ รวมถึงนักวิจัยที่ได้รับการตกแต่งมากที่สุดในวงการนี้ กล่าวว่าคำมั่นสัญญาโดยสมัครใจนั้นไม่เพียงพอ คำถามจะเปลี่ยนจากว่า AI ต้องการการกักกันที่แข็งแกร่งขึ้นหรือไม่ มาเป็นใครจะเป็นคนสร้างมันขึ้นมา และจะเร็วแค่ไหน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →