ผู้บริหารระดับสูงของ OpenAI และ Anthropic ปราศรัยต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติเมื่อวันพุธ ในการบรรยายสรุปคู่ที่ไม่ค่อยพบนัก ซึ่งวางอนาคตของการกำกับดูแล AI ต่อหน้าคณะทูตที่ทรงอิทธิพลที่สุดในโลก แม้ว่าประธานาธิบดีโดนัลด์ ทรัมป์จะปฏิเสธการกำกับดูแล AI ระหว่างประเทศว่าเป็น "โครงการระดับโลก"

Sam Altman พูดต่อหน้าที่โต๊ะรูปเกือกม้าของสภา และ Dario Amodei ที่เข้าร่วมทางวิดีโอคอล ใช้การบรรยายสรุปแยกต่างหากระหว่างสัปดาห์ระดับสูงของสมัชชาใหญ่แห่งสหประชาชาติ เพื่อโต้แย้งว่าปัญญาประดิษฐ์กำลังก้าวหน้าเร็วกว่าที่รัฐบาลใด ๆ จะสามารถจัดการได้ ตามรายงานจาก The Guardian, Reuters และช่องทางอื่น ๆ For more context on this story, see our ongoing more AI stories.

ยุคฟื้นฟูศิลปวิทยาหรือการปฏิวัติอุตสาหกรรม

อัลท์แมนซึ่งพูดประมาณสิบนาที มองว่าช่วงเวลาดังกล่าวเป็นทางแยกสำหรับเทคโนโลยีที่บริษัทของเขากำลังเร่งสร้าง

“เรามีทางเลือกอยู่ตรงหน้า” อัลท์แมนบอกกับสภา "AI อาจเป็นเหมือนการฟื้นฟูใหม่แห่งความคิดสร้างสรรค์และการค้นพบ หรือเหมือนการปฏิวัติอุตสาหกรรมครั้งใหม่แห่งการเปลี่ยนแปลงครั้งใหญ่และความระส่ำระสาย"

เขาจับคู่คำเตือนดังกล่าวกับการขาย: หัวหน้า OpenAI อ้างถึงประโยชน์ของ AI ในด้านประสิทธิภาพการทำงาน ขณะเดียวกันก็ยอมรับถึงศักยภาพในการละเมิด ตามรายงานของ The Guardian และเขาแย้งว่าหาก AI ต้องการพัฒนาตามระบอบประชาธิปไตย การตัดสินใจที่สำคัญที่สุดไม่สามารถกระทำได้โดยห้องปฏิบัติการในซานฟรานซิสโกเพียงลำพัง แต่จะต้องได้รับการกำหนดรูปแบบผ่านกระบวนการประชาธิปไตยและโดยรัฐบาลที่รับผิดชอบต่อผู้คนที่พวกเขาให้บริการ อนาคตที่ AI ได้รับการชี้นำโดยสถาบันประชาธิปไตย แทนที่จะเป็นที่ที่ผู้คนรู้สึกว่าเทคโนโลยีคือ "บางสิ่งบางอย่างที่ทำเพื่อพวกเขา"

อัลท์แมนยังเตือนสภาไม่ให้จมอยู่กับสิ่งที่เขาเรียกว่าลัทธิดูเมอร์นิยม แทนที่จะสนับสนุนสิ่งที่เขาอธิบายว่าเป็นทางสายกลางที่สร้างขึ้นจากหลักการสามประการ ได้แก่ ระบบ AI จะต้องอยู่ภายใต้การควบคุมของมนุษย์ AI ต้องเป็นประโยชน์ต่อผู้คน ตั้งแต่การช่วยเหลือแพทย์ในการรักษาผู้ป่วยไปจนถึงการส่งเสริมผู้ประกอบการ และเทคโนโลยีจะต้องให้อำนาจแก่ผู้คนเป็นรายบุคคล

จากหุ่นยนต์นักฆ่าสู่ความฉลาดขั้นสูง

การบรรยายสรุปครอบคลุมหนึ่งสัปดาห์ซึ่งวาระของ UN เกี่ยวกับ AI ครอบคลุมความกลัวเกือบทั้งหมดที่เทคโนโลยีกระตุ้น การรายงานข่าวของการประชุม Associated Press ระบุว่าผู้นำพบว่าตัวเองกำลังพูดคุยกันทุกอย่างตั้งแต่ "หุ่นยนต์นักฆ่า" — อาวุธอัตโนมัติที่สามารถเลือกเป้าหมายได้โดยไม่ต้องมีการแทรกแซงของมนุษย์ ไปจนถึงโอกาสของระบบอัจฉริยะที่อาจหลุดลอยไปเหนือการควบคุมของใครก็ตาม

ช่วงนั้นจึงเป็นเหตุผลว่าทำไมการประชุมคณะมนตรีความมั่นคงจึงมีความสำคัญต่อผู้เข้าร่วม AI ได้ย้ายจากประเด็นด้านกฎระเบียบเฉพาะที่จัดการโดยกระทรวงการค้าไปสู่ประเด็นที่มีการถกเถียงกันโดยหน่วยงานเดียวกันที่จัดการการแพร่กระจายของอาวุธนิวเคลียร์และความขัดแย้งทางอาวุธ โดยมหาอำนาจของสหรัฐฯ จีน และยุโรปต่างมีวิสัยทัศน์ที่แตกต่างกันอย่างมากว่าใครควรเป็นผู้กำหนดกฎเกณฑ์

คำเตือนของ Amodei จากลิงก์วิดีโอ

คำปราศรัยของ Amodei ทำให้เกิดเสียงเตือนมากขึ้น ประเด็นย้ำจากบล็อกโพสต์เมื่อวันที่ 12 กันยายนที่เรียกร้องให้เพิ่มความร่วมมือระดับโลกในด้าน AI ผู้บริหารระดับสูงของ Anthropic สนับสนุนข้อตกลงระหว่างประเทศที่เฉพาะเจาะจง รวมถึงการห้ามใช้ AI เพื่อพัฒนาอาวุธชีวภาพและมาตรฐานระดับโลกสำหรับการทดสอบโมเดล AI ใหม่ก่อนที่จะนำไปใช้งาน

“หากจัดการได้ไม่ดี ฉันยังเชื่อว่า AI อาจเป็นอันตรายต่อมนุษยชาติโดยรวมได้” Amodei กล่าว ตามรายงานของ The Guardian นอกจากนี้เขายังยืนยันว่า "ที่ Anthropic เราเชื่อว่าเรามีประวัติที่ดีที่สุดในอุตสาหกรรมในการป้องกันความเสี่ยงเหล่านี้"

ตามรายงานของ Anadolu Agency ผู้บริหารทั้งสองคนบอกกับสภาว่าไม่มีประเทศหรือบริษัทใดควรควบคุมเทคโนโลยีนี้

ไหล่เย็นของวอชิงตัน

การบรรยายสรุปเปิดเผยโดยมีฉากหลังชัดเจน: ทรัมป์ปฏิเสธต่อสาธารณะเกี่ยวกับแนวคิดเรื่องการกำกับดูแล AI ระหว่างประเทศในสัปดาห์นี้ โดยมองว่ามันเป็น "โครงการระดับโลก" ตามที่ CNBC และช่องทางอื่นๆ รายงาน สหรัฐอเมริกาได้คัดค้านข้อตกลง AI ระหว่างประเทศที่มีผลผูกพัน และจุดยืนของฝ่ายบริหารก็ได้รับการสะท้อนจากนักการทูตสหรัฐฯ ในการประชุมของสหประชาชาติเกี่ยวกับ AI และความมั่นคงระหว่างประเทศ

นอกจากนี้ยังมีช่องว่างระหว่างวาทศิลป์ทางการทูตของอัลท์แมนกับกิจกรรมทางการเมืองของบริษัทของเขาที่บ้าน The Guardian ตั้งข้อสังเกตว่า Greg Brockman ประธานของ OpenAI อยู่ในเครือของคณะกรรมการดำเนินการทางการเมืองชั้นนำแห่งอนาคต ซึ่งมีรายได้มากกว่า 100 ล้านดอลลาร์ และใช้เงินหลายล้านเพื่อกำหนดเป้าหมายผู้สมัครที่สนับสนุนกฎระเบียบที่เข้มงวดยิ่งขึ้นของอุตสาหกรรม AI

จากตัวอย่างสู่แท่น

การบรรยายสรุปในวันพุธครอบคลุมมากกว่าหนึ่งสัปดาห์ในการเพิ่มการทูตเกี่ยวกับความเสี่ยงด้าน AI รอยเตอร์รายงานครั้งแรกเมื่อวันที่ 18 กันยายนว่าอัลท์แมนจะบรรยายสรุปต่อสภาในช่วงสัปดาห์สมัชชาใหญ่ การประชุมดังกล่าวเป็นไปตามคำเตือนจากนักวิจัยด้านมานุษยวิทยาเมื่อต้นเดือนที่ผ่านมาว่า AI ขั้นสูงอาจก่อให้เกิดความเสี่ยงร้ายแรง รวมถึงการอยู่รอดของมนุษยชาติภายในทศวรรษ คำเตือนที่กระตุ้นให้ Amodei เรียกร้องให้ชะลอการพัฒนา AI ซึ่งเป็นตำแหน่งที่ได้รับการสนับสนุนจาก OpenAI, Google และ Elon Musk ตามรายงานของ The Guardian

DeepSeek ซึ่งเป็นบริษัท AI ของจีน มีกำหนดจะบรรยายสรุปให้กับสภาในสัปดาห์นี้ ตามที่ AI Buzz Wire รายงานเมื่อวันอังคาร ซึ่งเป็นการขยายเวลาที่ผิดปกติซึ่งคณะมนตรีความมั่นคงได้ยินจากผู้นำของบริษัท AI ที่เป็นคู่แข่งกันในอเมริกาและจีนในเวลาไม่กี่วัน

สัญลักษณ์กับสาร

คณะมนตรีความมั่นคงไม่มีอำนาจควบคุมการพัฒนา AI และการประชุมเมื่อวันพุธไม่มีข้อผูกมัดใดๆ แต่สัญลักษณ์นั้นยากที่จะกล่าวเกินจริง: หัวหน้าของบริษัท AI ที่มีค่าที่สุดสองแห่งในโลกสมัครใจเข้าร่วมซักถามที่โต๊ะเดียวกับที่ประเทศต่างๆ ถกเถียงเรื่องสงครามและการคว่ำบาตร โดยขอให้ได้รับการควบคุมในระดับสากล

ช่วงเวลาดังกล่าวเป็นการตอกย้ำว่าพื้นดินมีการเปลี่ยนแปลงเร็วแค่ไหน ในวันเดียวกับการบรรยายสรุป นายกรัฐมนตรีออสเตรเลีย Anthony Albanese เปิดเผยว่าตัวแทน OpenAI ได้ละเมิดพอร์ทัล Medicare ของรัฐบาลออสเตรเลียเมื่อต้นปีนี้ ซึ่งเป็นเครื่องเตือนใจ นักวิจารณ์กล่าวว่า พฤติกรรมของอุตสาหกรรมอยู่ภายใต้การตรวจสอบอย่างละเอียดจากหลายทิศทางพร้อมกัน

สิ่งที่การบรรยายสรุปอาจเกิดขึ้นนั้นยากต่อการคาดเดา ข้อเสนอสำหรับหน่วยงานด้านความปลอดภัย AI ระหว่างประเทศ ระบอบการทดสอบแบบจำลอง และการห้ามใช้อาวุธชีวภาพ ได้รับการอนุมัติจากผู้นำในอุตสาหกรรมแล้ว ไม่ว่าพวกเขาจะรอดจากการติดต่อกับคณะมนตรีความมั่นคงที่มีการแบ่งแยกทางภูมิรัฐศาสตร์ — และฝ่ายบริหารของสหรัฐฯ ที่เป็นปฏิปักษ์ต่อทั่วทั้งองค์กรหรือไม่ — เป็นคำถามที่จะกำหนดระยะต่อไปของการกำกับดูแล AI

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →