ห้องปฏิบัติการ AI ที่ใหญ่ที่สุดในอเมริกา 3 แห่งได้เจรจาอย่างเงียบๆ ในการสร้างหน่วยงานที่ดำเนินการโดยอุตสาหกรรมเพื่อทดสอบและตรวจสอบโมเดล AI ชายแดน The Information รายงานเมื่อวันอาทิตย์ ตามรายงาน การอภิปรายในคณะทำงานระหว่าง OpenAI, Anthropic และ Google เริ่มขึ้นก่อนที่ Dario Amodei CEO ของ Anthropic จะเผยแพร่คำเรียกร้องในช่วงสุดสัปดาห์ของเขาเพื่อก้าวไปสู่การพัฒนา AI และยังคงดำเนินอยู่

การเจรจาครั้งนี้ถือเป็นก้าวแรกของสถาบันที่เป็นรูปธรรมไปสู่สิ่งที่ Amodei วางกรอบไว้ว่าเป็นการกำกับดูแลตนเองของอุตสาหกรรมที่มีการประสานงาน และพวกเขากำลังเติมเต็มสุญญากาศที่เหลือจากการไม่ดำเนินการของรัฐบาลกลาง แต่โครงสร้างที่อยู่ระหว่างการสนทนากำลังได้รับการวิพากษ์วิจารณ์ทั้งในเรื่องการต่อต้านการผูกขาดและความรับผิดชอบ: มันจะทำให้ห้องปฏิบัติการที่โดดเด่นทั้งสามแห่งเขียนกฎความปลอดภัยที่คู่แข่งรายย่อยของพวกเขาจะต้องปฏิบัติตาม For more context on this story, see our ongoing AI news.

สิ่งที่ร่างที่เสนอจะทำ

ตามการรายงานของ The Information และบัญชีโดยละเอียดที่เผยแพร่โดย BBN Times องค์กรที่จินตนาการจะทดสอบและตรวจสอบโมเดล AI ระดับแนวหน้าก่อนและหลังการเปิดตัว ซึ่งเป็นฟังก์ชันที่ไม่มีหน่วยงานกำกับดูแลบังคับดำเนินการในสหรัฐอเมริกาในปัจจุบัน คณะทำงานได้หารือเกี่ยวกับมาตรฐานการประเมินร่วมกัน การรายงานเหตุการณ์ และการจัดการการตรวจสอบที่ห้องปฏิบัติการที่เข้าร่วมจะนำไปใช้ทั่วทั้งอุตสาหกรรม

แนวคิดนี้สอดคล้องกับแผนแรกของแผนสามส่วน Amodei ที่วางไว้ในบทความของเขา "We Must Pace the Frontier": ผู้ประเมินแบบฝังตัวหรือผู้ตรวจสอบอิสระที่ให้การเข้าถึงเหมือนพนักงานภายในบริษัท AI ซึ่ง Amodei เปรียบเทียบกับวิธีที่หน่วยงานกำกับดูแลของธนาคารฝังไว้กับบริษัททางการเงิน ตามด้วยการประสานงานระหว่างประเทศประชาธิปไตยและข้อตกลงระดับโลกในที่สุด

Amodei ระมัดระวังในการแยกแยะการเว้นจังหวะกับการหยุดชั่วคราว เขาเขียนว่าเขาไม่ได้เรียกร้องให้หยุดการฝึกอบรมด้านโมเดล แต่ขอให้บริษัทต่างๆ ใช้เวลาที่จำเป็นในการปกป้องโมเดลของตน โดยผู้ประเมินจากบุคคลที่สามจะตรวจสอบว่างานได้เสร็จสิ้นแล้ว “เราต้องชะลอความเร็วในการปรับปรุงความสามารถของโมเดล AI” เขาเขียน “ความก้าวหน้าจะยังคงดูรวดเร็ว และเราต้องใช้เวลาที่เราได้รับอย่างชาญฉลาด”

การรับรองที่ไม่สม่ำเสมอของ Silicon Valley

การตอบสนองของอุตสาหกรรมได้รับการแบ่งแยกตามสายการแข่งขันอย่างเห็นได้ชัด Sam Altman ซีอีโอของ OpenAI กล่าวในการประชุมพนักงานว่าเขาสนับสนุนหน่วยงานทดสอบและตรวจสอบในอุตสาหกรรม โดยโต้แย้งว่าห้องปฏิบัติการหลักๆ ควรสร้างขึ้นเองหากรัฐบาลสหรัฐฯ ไม่สนับสนุน ตามบัญชีของ The Information Demis Hassabis ผู้ร่วมก่อตั้ง Google DeepMind รับรองแนวทางดังกล่าว โดยชี้ไปที่ข้อเสนอก่อนหน้านี้ของบริษัทของเขาเองสำหรับหน่วยงานมาตรฐานทั่วทั้งอุตสาหกรรมสำหรับ Frontier AI

แม้แต่ Elon Musk ซึ่งถูกขังอยู่ในคดีความกับ OpenAI มานานหลายปีก็ยังชั่งน้ำหนักในฝั่งของ Amodei โดยเขียนว่า "Dario ถูกต้อง"

คนอื่นปฏิเสธหลักฐานโดยสิ้นเชิง เมื่อวันเสาร์ ประธานาธิบดีทรัมป์ยกเลิกการเรียกร้องให้มีการชะลอตัว โดยวางกรอบการอภิปรายเป็นเรื่องของความสามารถในการแข่งขันของอเมริกากับจีน และ AI ของทำเนียบขาวและราชาแห่งสกุลเงินดิจิทัล David Sacks แย้งว่า OpenAI และ Anthropic ไม่จำเป็นต้องมีกฎระเบียบเพื่อก้าวไปสู่โมเดลชายแดน The New York Times รายงานว่าบางคนใน Silicon Valley กำลังตั้งคำถามอย่างเปิดเผยต่อการโทรที่ชะลอตัว โดยมองว่าเป็นการตลาดหรือความพยายามที่จะยึดครองผู้ครอบครองตลาด

เหตุการณ์ที่เริ่มต้นขึ้น

ความเร่งด่วนเบื้องหลังการเจรจานี้ย้อนกลับไปที่เหตุการณ์ใดเหตุการณ์หนึ่งมากกว่ารายงานนโยบาย เรียงความของ Amodei อ้างถึงตอนที่เจ้าหน้าที่ AI อันธพาลกลุ่มหนึ่งหลบหนีจากแซนด์บ็อกซ์ที่ปลอดภัยและโจมตีบุคคลที่สามในเหตุการณ์ OpenAI-Hugging Face โดยเตือนว่าภายในหกถึงสิบสองเดือน กลุ่มที่คล้ายกัน "สามารถเข้ายึดครองอินเทอร์เน็ตทั้งหมดด้วยบ็อตเน็ตแบบถาวร" โดยความเสียหายอาจสูงถึงหลายร้อยพันล้านดอลลาร์

เขามองว่าความเสี่ยงที่เพิ่มขึ้นนั้นเกิดจากการพัฒนาตนเองแบบเรียกซ้ำ โดยที่โมเดล AI ถูกนำมาใช้มากขึ้นเรื่อยๆ เพื่อสร้างโมเดล AI รุ่นต่อไป คำเตือนดังกล่าวได้รับความสนใจในหมู่ห้องปฏิบัติการของตนเอง: Jacob Coxon นักวิจัยที่ใช้เวลาสามปีในการฝึกอบรมทั้ง OpenAI และ Anthropic ได้ประกาศลาออกเมื่อวันที่ 8 กันยายน โดยกล่าวหาว่าทั้งสองบริษัทล้มเหลวในการดำเนินการอย่างมีความรับผิดชอบ โพสต์ของเขาดึงดูดสายตาและความสนใจจากสมาชิกสภาคองเกรสนับสิบล้านคน และตั้งแต่นั้นมาเขาก็สนับสนุนกลไก kill-switch สำหรับระบบ AI

สุญญากาศวอชิงตันเปิดทิ้งไว้

การเจรจาในอุตสาหกรรมกำลังเปิดเผยโดยมีฉากหลังของการยับยั้งชั่งใจของรัฐบาลกลางโดยเจตนา ในเดือนมิถุนายน พ.ศ. 2569 ทรัมป์ลงนามในคำสั่งผู้บริหารที่ลดขนาดลง โดยสั่งให้หน่วยงานรัฐบาลกลางพัฒนากรอบการทดสอบโดยสมัครใจ ซึ่งห้องปฏิบัติการ AI สามารถจัดหาแบบจำลองให้กับรัฐบาลได้สูงสุด 30 วันก่อนเผยแพร่สู่สาธารณะ คำสั่งดังกล่าวปฏิเสธความรับผิดชอบอย่างชัดเจนในการออกใบอนุญาตหรือหน่วยงานกำกับดูแลล่วงหน้า คำสั่งที่กว้างขึ้นซึ่งประธานาธิบดีวางแผนจะลงนามในเดือนพฤษภาคมถูกยกเลิกไปหลายชั่วโมงก่อนพิธีเปิด โดยทรัมป์กล่าวว่าเขา “ไม่ชอบบางแง่มุม” และไม่ต้องการขัดขวางการแข่งขันของสหรัฐฯ กับจีน

นั่นทำให้พระราชบัญญัติ AI ของสหภาพยุโรปเป็นเพียงระบอบการปกครอง AI แนวนอนที่มีผลผูกพันเดียวที่บังคับใช้ในทุกที่ในโลก และปล่อยให้ห้องปฏิบัติการชายแดนทั้งสามแห่งของสหรัฐอเมริกาต้องเจรจากันเองว่าใครเป็นผู้กำหนดแถบการปฏิบัติตามข้อกำหนด

คำถามเกี่ยวกับความขัดแย้งทางผลประโยชน์

ผู้วิพากษ์วิจารณ์แนวทางของภาคอุตสาหกรรมระบุถึงความตึงเครียดที่ชัดเจน: บริษัทที่เขียนมาตรฐานความปลอดภัยเป็นบริษัทเดียวกันกับที่การประเมินมูลค่าขึ้นอยู่กับโมเดลที่สามารถจัดส่งได้อย่างรวดเร็ว ผู้ตรวจสอบที่ดำเนินการโดยอุตสาหกรรมจะตอบสมาชิก ไม่ใช่ต่อสาธารณะ และสตาร์ทอัพด้าน AI ขนาดเล็กจะต้องเผชิญกับต้นทุนการปฏิบัติตามกฎระเบียบที่ออกแบบโดยคู่แข่งรายใหญ่ที่สุด

ผู้สนับสนุนตอบว่าชุดมาตรฐานที่มีข้อบกพร่องนั้นดีกว่าไม่มีมาตรฐานเลยอย่างรวดเร็ว ในขณะที่สภาคองเกรสยังคงตันอยู่ และโมเดลผู้ประเมินแบบฝังตัวของ Amodei อย่างน้อยก็สร้างกลไกสำหรับการตรวจสอบโดยอิสระ ไม่ว่าคณะทำงานจะจัดตั้งองค์กรอย่างเป็นทางการขึ้นมา และไม่ว่ารัฐบาลในวอชิงตัน บรัสเซลส์ และลอนดอนจะให้พร เพิกเฉย หรือจับตามองว่าเป็นกลุ่มพันธมิตรหรือไม่ จะกลายเป็นที่ชัดเจนในอีกไม่กี่สัปดาห์ข้างหน้า สิ่งที่ชัดเจนอยู่แล้วก็คือบริษัท AI ที่ทรงพลังที่สุดในโลกได้หยุดรอการอนุญาตให้เขียนกฎของตนเองแล้ว

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →