OpenAI ยืนยันว่า Anthropic และ Google DeepMind ได้จัดการเจรจาเกี่ยวกับการประสานงานด้านความปลอดภัยของ AI เป็นเวลาหลายสัปดาห์ และกล่าวว่าสนับสนุนกฎหมายที่จะบังคับให้ห้องปฏิบัติการชายแดนเปิดประตูสู่องค์กรตรวจสอบอิสระ

Chris Lehane ประธานเจ้าหน้าที่ฝ่ายกิจการทั่วโลกของ OpenAI เปิดเผยในการประชุมเมื่อวันอังคารตาม TechCrunch Reuters และ Bloomberg อ้างถึงคำพูดเดียวกัน รายงานว่า OpenAI กำลังทำงานร่วมกับ Anthropic และ Google ในเรื่องความปลอดภัยของ AI การยืนยันเปลี่ยนคำแนะนำหลายสัปดาห์ รวมถึงการสัมภาษณ์ Fortune ที่ Sam Altman รับทราบการสนทนาส่วนตัวกับผู้นำ AI คนอื่นๆ ให้เป็นการยอมรับอย่างชัดเจนว่าห้องปฏิบัติการชายแดนชั้นนำของโลกสามแห่งกำลังประสานงานเกี่ยวกับความเร็วที่พวกเขาเคลื่อนที่และวิธีตรวจสอบแบบจำลองของพวกเขา

สำหรับผู้อ่านที่ติดตามการสู้รบทางการเมืองในวงกว้างเกี่ยวกับการชะลอตัวของ AI การรายงานข่าวของ [การอัปเดตปัญญาประดิษฐ์] (https://aibuzzwire.news) ในสัปดาห์นี้มีตั้งแต่ Jack Clark ผู้ร่วมก่อตั้ง Anthropic ที่สนับสนุนการบังคับฆ่าสวิตช์ถึงประธานาธิบดีทรัมป์ที่บอกว่าความปลอดภัยกลัวการหลอกลวงระหว่างการโทรบนเวทีกับ Jensen Huang จาก Nvidia

สัปดาห์แห่งการยืนยันในการสร้าง

การเจรจาดังกล่าวเป็นไปตามบทความที่ตีพิมพ์เมื่อวันเสาร์โดย Dario Amodei ซีอีโอ Anthropic เรียกร้องให้อุตสาหกรรมทำงานร่วมกันเพื่อชะลอการพัฒนา AI ชายแดน เพื่อหลีกเลี่ยงความเสี่ยงจากภัยพิบัติ จดหมายดังกล่าวได้รับการสนับสนุนจากทั่วทั้งอุตสาหกรรม โดย Altman, Demis Hassabis ของ Google และ Elon Musk ต่างสนับสนุนคำกระตุ้นการตัดสินใจ และ Altman บอกว่า OpenAI จะเข้าร่วมความพยายามนี้

ข้อมูลดังกล่าวรายงานในเวลาต่อมาว่าทั้งสามบริษัทกำลังทำงานเพื่อสร้างหน่วยงานมาตรฐานสำหรับอุตสาหกรรม AI Hassabis มีประวัติเกี่ยวกับแนวคิดนี้ โดยในเดือนกรกฎาคมเขาได้เรียกร้องให้สหรัฐฯ จัดตั้งหน่วยงานมาตรฐานใหม่เพื่อทำหน้าที่เป็นหน่วยงานเฝ้าระวัง AI โดยมีอำนาจในการคัดกรองโมเดลที่ทันสมัยที่สุดในโลก และประสานงานการชะลอตัวทั่วทั้งอุตสาหกรรม หากอันตรายคืบหน้า

สิ่งที่คำพูดของ Lehane เพิ่มคือการยืนยันอย่างเป็นทางการ จนถึงขณะนี้ โฆษกของห้องปฏิบัติการแสดงท่าทีต่อการเจรจาอย่างไม่เป็นทางการเป็นส่วนใหญ่ หัวหน้าฝ่ายกิจการระดับโลกของ OpenAI ได้บันทึกการประสานงานไว้แล้ว

เงาต่อต้านการผูกขาด

ข้อตกลงใดๆ ระหว่างคู่แข่งโดยตรงในเรื่องการพัฒนาที่ช้าทำให้เกิดคำถามเกี่ยวกับการต่อต้านการผูกขาดที่ชัดเจน และห้องปฏิบัติการก็ทราบดี อัลท์แมนตั้งข้อสังเกตว่าการเจรจาดังกล่าวอาจทำให้บริษัทต่างๆ เสี่ยงต่อการละเมิดกฎหมายต่อต้านการผูกขาด หากพบว่ามีการประสานงานเพื่อระงับการแข่งขัน เรียงความของ Amodei เสนอการสละสิทธิ์ของรัฐบาลในขอบเขตแคบๆ ที่จะอนุญาตให้มีการประสานงานด้านความปลอดภัยโดยไม่ก่อให้เกิดกฎหมายการแข่งขันทางการค้า ซึ่งเป็นสัญญาณบ่งชี้ว่าปัญหานี้กำลังเกิดขึ้นภายในบริษัทต่างๆ อย่างจริงจังเพียงใด

นักวิจารณ์ได้ชี้ให้เห็นถึงความตึงเครียดที่เป็นหัวใจสำคัญของข้อตกลงนี้อย่างรวดเร็ว: บริษัท ทั้งสามที่มีส่วนแบ่งการตลาดที่ใหญ่ที่สุดใน AI ชายแดนร่วมกันตัดสินใจแบ่งปันความคืบหน้าในการปันส่วน สำหรับผู้คลางแคลงใจ เช่น พฤติกรรมของกลุ่มพันธมิตรที่มีกระดาษห่อนิรภัย ผู้สนับสนุนตอบโต้ว่าความเสี่ยงจากหายนะเป็นปัญหาประเภทที่คู่แข่งไม่สามารถแก้ไขได้เพียงฝ่ายเดียว เนื่องจากห้องปฏิบัติการใดก็ตามที่ช้าลงเพียงอย่างเดียวก็เพียงยกขอบเขตให้กับคู่แข่ง

OpenAI รวบรวมการตรวจสอบของบุคคลที่สาม

ข่าวนโยบายที่เป็นรูปธรรมที่สุดในคำพูดของ Lehane เกี่ยวข้องกับกฎหมาย เขากล่าวว่า OpenAI สนับสนุนข้อกำหนดในพระราชบัญญัติ FRONTIER Act ซึ่งกำหนดให้ห้องปฏิบัติการชายแดนชั้นนำอนุญาตให้ "องค์กรตรวจสอบอิสระ" เข้ามาในบริษัทของตน เพื่อให้แน่ใจว่าแบบจำลองได้รับการพัฒนาอย่างปลอดภัย Politico รายงานว่า OpenAI สนับสนุนแผนสภาสองฝ่ายที่สร้างขึ้นจากการประเมินความปลอดภัยของบุคคลที่สาม

ตำแหน่งนั้นคงเป็นเรื่องที่คิดไม่ถึงสำหรับสนามเมื่อสองปีก่อน เมื่อความมุ่งมั่นโดยสมัครใจและทีมสีแดงภายในคือมาตรฐานอุตสาหกรรม ตอนนี้ทำให้ OpenAI สอดคล้องกับท่าทีที่เน้นการตรวจสอบเป็นอันดับแรก Anthropic ได้ส่งเสริมมานานแล้ว และสร้างข้อตกลงที่หาได้ยากระหว่างห้องปฏิบัติการและฝ่ายอภิปรายการนโยบายที่ใช้เวลาตลอดทั้งปีเพื่อเรียกร้องให้มีการกำกับดูแลที่บังคับใช้

นอกจากนี้ยังทำให้เกิดการปะทะกันกับทำเนียบขาว ประธานาธิบดีทรัมป์ มองว่าข้อกังวลด้านความปลอดภัยเป็นเพียงเรื่องหลอกลวง และแย้งว่าการชะลอตัวใดๆ ก็ตามจะทำให้จีนได้เปรียบในการแข่งขันด้าน AI David Sacks ที่ปรึกษาด้าน AI ของเขา ซึ่งเป็นนักลงทุนมายาวนานและมีส่วนได้ส่วนเสียในอุตสาหกรรมนี้ มองว่าความกลัวความเสี่ยงที่มีอยู่มีมากเกินไป ในสหราชอาณาจักร รัฐมนตรียังคงแตกแยกต่อสาธารณะเกี่ยวกับคำถามเดียวกัน โดยมีฝ่ายหนึ่งเรียกร้องให้รัฐบาลเอาใจใส่คำเตือนของผู้เชี่ยวชาญ ในขณะที่รัฐมนตรีกระทรวงธุรกิจ เรย์โนลด์ส ปฏิเสธการพูดถึง Kill Switch สำหรับระบบขั้นสูง

การต่อสู้เชิงนโยบายโดยไม่มีพื้นฐานเป็นกลาง

สัปดาห์ต่อๆ ไปจะเป็นการทดสอบว่าการประสานงานของห้องปฏิบัติการยังคงอยู่จากการติดต่อกับหน่วยงานด้านการแข่งขันและฝ่ายบริหารที่ไม่เชื่อหรือไม่ หน่วยงานมาตรฐานที่สร้างขึ้นโดยบริษัท 3 แห่งที่ควบคุมเขตแดนจะต้องเผชิญกับข้อเรียกร้องในการรวมกรรมการอิสระ เผยแพร่หลักเกณฑ์ และส่งให้รัฐบาลพิจารณา หรือไม่ก็ถูกไล่ออกจากกลุ่มพันธมิตรเอกชนโดยแต่งกายในที่สาธารณะ

สำหรับพระราชบัญญัติ FRONTIER การรับรองของ OpenAI ทำให้ผู้สนับสนุนร่างกฎหมายเป็นพาดหัวข่าว แต่ยังเป็นการโจมตีแนวใหม่สำหรับฝ่ายตรงข้ามที่โต้แย้งว่าห้องปฏิบัติการที่ใหญ่ที่สุดนั้นเป็นเพียงการยึดครองกฎระเบียบโดยการเขียนกฎเท่านั้นที่พวกเขาสามารถที่จะปฏิบัติตามได้ ห้องปฏิบัติการขนาดเล็กและชุมชน open-weights ซึ่งไม่มีที่นั่งในการเจรจา กำลังจับตาดูอย่างใกล้ชิด: ไม่ว่าระบบการตรวจสอบใดๆ ก็ตามจะเกิดขึ้นจะกำหนดค่าใช้จ่ายในการปฏิบัติตามข้อกำหนดสำหรับทุกคนที่อยู่นอกเขตแดน

สิ่งที่ไม่เป็นข้อโต้แย้งอีกต่อไปคือข้อเท็จจริงของการประสานงานนั่นเอง บริษัททั้งสามที่กำหนดความล้ำหน้าของ AI กำลังพูดคุยอย่างเปิดเผยถึงความรวดเร็วในการทำงาน และเชิญชวนให้รัฐบาลช่วยผู้ตัดสิน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →