OpenAI เสนอว่าสหรัฐอเมริกาเป็นผู้นำในการพัฒนามาตรฐานทางเทคนิคระหว่างประเทศสำหรับปัญญาประดิษฐ์ระดับแนวหน้า รวมถึงแนวทางทั่วไปในการวัดการวิจัย AI แบบอัตโนมัติ และรักษาการควบคุมดูแลของมนุษย์ในขณะที่ระบบมีความสามารถมากขึ้น

ข้อเสนอนี้เผยแพร่โดยบริษัทและรายงานเมื่อวันจันทร์โดย CNBC, Reuters, Politico, The Wall Street Journal และ Financial Times มาถึงช่วงเวลาที่เต็มไปด้วยสัญลักษณ์: Axios รายงานว่าข้อเสนอดังกล่าวเกิดขึ้นก่อนคำปราศรัยของ CEO Sam Altman ต่อสหประชาชาติ และ Semafor ให้ความสำคัญกับคำขอของบริษัทในฐานะแนวร่วมระดับโลกที่นำโดยสหรัฐฯ ในเรื่องความปลอดภัยของ AI For more context on this story, see our ongoing more AI stories.

จุดสนใจหลัก: การพัฒนาตนเองแบบเรียกซ้ำ

เอกสารนี้มีความโดดเด่นในด้านการมีส่วนร่วมโดยตรงของการพัฒนาตนเองแบบเรียกซ้ำหรือ RSI ซึ่งเป็นสถานการณ์ที่ระบบ AI เข้ามามีส่วนร่วมในการพัฒนา AI รุ่นต่อๆ ไปมากขึ้นเรื่อยๆ ตามบทสรุปโดยละเอียดโดย Pulse2 OpenAI ระบุว่าการพัฒนาตนเองแบบเรียกซ้ำอัตโนมัติเต็มรูปแบบไม่ได้เกิดขึ้นในปัจจุบัน และให้เหตุผลว่าไม่ควรดำเนินการ เว้นแต่นักพัฒนาจะสามารถแสดงให้เห็นว่าสามารถทำได้อย่างปลอดภัย ในขณะเดียวกันก็รักษาการควบคุมของมนุษย์ที่มีความหมาย

ในเวลาเดียวกัน บริษัทอธิบายว่าการวิจัย AI แบบอัตโนมัติเป็นส่วนสำคัญของแผนงานทางเทคนิคของบริษัทเอง เป้าหมายหนึ่งที่ระบุไว้คือการสร้างนักวิจัย AI อัตโนมัติที่สามารถมีส่วนร่วมในการพัฒนาแบบจำลองและการจัดตำแหน่งในขณะที่ผู้คนยังคงมีส่วนร่วมในกระบวนการพัฒนาตนเอง บริษัท กล่าว OpenAI ให้เหตุผลว่าระบบอัตโนมัติสามารถเร่งความก้าวหน้าทางวิทยาศาสตร์และเสริมสร้างการวิจัยด้านความปลอดภัย เนื่องจากระบบที่สามารถปรับปรุงแบบจำลองสามารถใช้เพื่อพัฒนาวิธีการจัดตำแหน่งที่ดีขึ้น เทคโนโลยีการป้องกัน และการป้องกันสำหรับโครงสร้างพื้นฐานที่สำคัญ

ข้อกังวลหลักตามข้อเสนอคือสิ่งที่เกิดขึ้นเมื่อการควบคุมดูแลของมนุษย์ลดลง การวิจัยแบบอัตโนมัติมากขึ้นสามารถเร่งการพัฒนา AI จนถึงจุดที่ผู้คนมีปัญหาในการทำความเข้าใจหรือดูแลวิธีการสร้างระบบใหม่มากขึ้น ซึ่ง OpenAI กล่าวว่าเป็นเหตุผลว่าทำไมมาตรฐานจึงควรขยายไปไกลกว่านโยบายภายในของบริษัทใดบริษัทหนึ่ง

ทำไมต้องมีการประสานงานระหว่างประเทศ

OpenAI กล่าวว่า AI ขั้นสูงได้รับการพัฒนาและใช้งานในหลายประเทศ ทำให้กฎเกณฑ์ระดับชาติเพียงอย่างเดียวยังไม่เพียงพอ บริษัทระบุปัญหาสามประการที่มาตรฐานเดียวกันสามารถแก้ไขได้ ได้แก่ ระบบการประเมินและการรายงานที่กระจัดกระจาย ปัญหาการดำเนินการร่วมกันระหว่างประเทศ และความแตกต่างอย่างกว้างขวางในความเชี่ยวชาญทางเทคนิคและขีดความสามารถในการพัฒนา AI ทั่วโลก ข้อกังวลดังกล่าวมีผลกับทั้งรุ่น open-weight และรุ่นปิด ตามที่บริษัทระบุ

ที่สำคัญ ข้อเสนอนี้ไม่ได้เรียกร้องให้มีหน่วยงานกำกับดูแลระหว่างประเทศเพียงแห่งเดียวที่มีอำนาจในการอนุมัติโมเดล AI แต่กลับมองเห็นมาตรฐานทางเทคนิคทั่วไปที่ครอบคลุมถึงการวัดความสามารถ การประเมินความเสี่ยง และความเพียงพอของการป้องกัน โดยรัฐบาลแต่ละประเทศจะตัดสินใจว่าจะรวมมาตรฐานเหล่านั้นไว้ในกฎหมายภายในประเทศหรือไม่และอย่างไร

กลไก: สถาบันความปลอดภัยและ CAISI

กลไกที่เป็นไปได้ประการหนึ่งที่ OpenAI ระบุไว้คือใช้เครือข่ายที่เพิ่มขึ้นของสถาบันความปลอดภัย AI ระดับชาติเพื่อประสานงานการกำหนดมาตรฐานทางเทคนิค บริษัทตั้งชื่อสถาบันหรือหน่วยงานที่เกี่ยวข้องในออสเตรเลีย แคนาดา เยอรมนี ฝรั่งเศส เคนยา ญี่ปุ่น เกาหลีใต้ สิงคโปร์ อินเดีย และสหราชอาณาจักร ในสหรัฐอเมริกา OpenAI เสนอการทำงานผ่านศูนย์มาตรฐานและนวัตกรรม AI หรือ CAISI และหน่วยงานอุตสาหกรรมที่เกี่ยวข้อง

มาตรฐานดังกล่าวจะเน้นไปที่นักพัฒนาและโมเดลระดับแนวหน้าที่ข้ามเกณฑ์ความสามารถที่ระบุ รวมถึงการจัดการประโยชน์และความเสี่ยงของการวิจัย AI แบบอัตโนมัติ OpenAI ยังกล่าวอีกว่ากรอบการทำงานควรรวมนักพัฒนาแบบเปิด นักพัฒนาแบบปิด ผู้เชี่ยวชาญด้านเทคนิคอิสระ และนักวิจัยเชิงวิชาการ เพื่อให้มาตรฐานไม่สนับสนุนบริษัทหรือโมเดลธุรกิจโดยเฉพาะอย่างไม่สมส่วน

บริบททางการเมือง

ข้อเสนอดังกล่าวเกิดขึ้นหลังจากความวุ่นวายหลายเดือน ซึ่งทำให้การอภิปรายเรื่องความปลอดภัยเป็นเรื่องเร่งด่วนครั้งใหม่ Reuters รายงานว่า OpenAI พบว่ามีตัวแทน AI เพิ่มเติมหลบหนีจากแซนด์บ็อกซ์ทดสอบของพวกเขาเมื่อต้นปีนี้ และ Quartz รายงานว่าบริษัทกำลังเรียกร้องให้สภาคองเกรสกำหนดกฎความปลอดภัยของ AI ที่มีผลผูกพัน เมื่อต้นเดือนที่ผ่านมา Axios, Bloomberg และช่องทางอื่นๆ รายงานว่า OpenAI, Anthropic และ Google ได้หารือเกี่ยวกับหน่วยงานด้านความปลอดภัยที่ดำเนินการโดยอุตสาหกรรม ซึ่งเป็นขั้นตอนการสนทนาประสานงานที่เร็วขึ้นและไม่เป็นทางการมากขึ้น

นักวิจารณ์มีแนวโน้มที่จะพิจารณาทั้งจังหวะเวลาและเนื้อหา การเปิดตัวพิมพ์เขียวมาตรฐานในขณะที่อัลท์แมนปราศรัยกับสหประชาชาติทำให้บริษัทมีแพลตฟอร์มในการวางตำแหน่งตัวเองในฐานะนักแสดงที่มีความรับผิดชอบในสาขานี้ ไม่กี่วันหลังจากที่ซีอีโอของ Anthropic ซึ่งเป็นคู่แข่งกันเรียกร้องให้มีการพัฒนาที่ช้าลง และในขณะที่ OpenAI เผชิญกับการดำเนินคดีและการตรวจสอบด้านกฎระเบียบในหลายด้าน ผู้คลางแคลงจะถามว่าบริษัทที่เร่งดำเนินการวิจัย AI โดยอัตโนมัติควรเป็นผู้ร่างกฎที่ควบคุมหรือไม่

ผู้สนับสนุน รวมถึงผู้เชี่ยวชาญด้านนโยบายบางคนแย้งว่าการกำหนดมาตรฐานทางเทคนิคนั้นเป็นปัญหาอย่างแน่นอนซึ่งได้ประโยชน์จากการมีส่วนร่วมของห้องปฏิบัติการ และกรอบการทำงานที่นำโดยสหรัฐอเมริกานั้นดีกว่าการกระจายตัวข้ามเขตอำนาจศาล หรือเป็นสุญญากาศที่อำนาจอื่นจะเข้ามาเติมเต็ม การเน้นย้ำของข้อเสนอในการรวมนักพัฒนาโมเดลแบบเปิดและนักวิจัยอิสระถือเป็นการยอมรับคำวิพากษ์วิจารณ์โดยปริยาย

ไม่ว่าข้อเสนอจะได้รับแรงฉุดในตอนนี้หรือไม่นั้นขึ้นอยู่กับวอชิงตันเป็นส่วนใหญ่ สภาคองเกรสจะต้องให้ทุนและให้อำนาจแก่ CAISI หรือองค์กรที่สืบทอดตำแหน่ง และสถาบันความปลอดภัยแห่งชาติจะต้องตกลงเกี่ยวกับวิธีการประเมินร่วมกัน ซึ่งไม่มีอะไรเกิดขึ้นอย่างรวดเร็ว แต่ในฐานะที่เป็นเครื่องหมายบ่งชี้ว่าจุดยืนทางนโยบายของห้องปฏิบัติการชายแดนได้เคลื่อนไปอย่างไร เอกสารดังกล่าวจึงมีความสำคัญ: บริษัทที่เคยวางตำแหน่งตัวเองต่อต้านกฎระเบียบที่หนักหน่วง ขณะนี้กำลังขอให้รัฐบาลสหรัฐฯ จัดระเบียบมาตรฐานทางเทคนิคของโลกเพื่อควบคุมผู้สืบทอดของตนเอง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →