Demis Hassabis ซีอีโอของ Google DeepMind ได้เสนอให้สร้างหน่วยงานมาตรฐานอิสระที่นำโดยสหรัฐอเมริกา ซึ่งจำลองตามหน่วยงานกำกับดูแลอุตสาหกรรมการเงิน (FINRA) เพื่อประเมินและควบคุมโมเดล AI ระดับแนวหน้าก่อนที่จะเผยแพร่ต่อสาธารณะ โดยเตือนว่ามนุษยชาติมี "หน้าต่างอันมีค่า" เพื่อให้มั่นใจว่าปัญญาประดิษฐ์ทั่วไปได้รับการพัฒนาอย่างปลอดภัย

ในเอกสารกรอบการทำงานที่ชื่อว่า "A Framework for Frontier AI and the Dawning of a New Age" ซึ่งเผยแพร่ทาง X เมื่อเช้าวันอังคาร Hassabi ได้วางข้อเสนอโดยละเอียดว่าสหรัฐฯ จะสามารถสร้างโครงสร้างพื้นฐานด้านกฎระเบียบที่น่าเชื่อถือสำหรับระบบ AI ที่ทรงพลังที่สุดได้อย่างไร แผนดังกล่าวเรียกร้องให้มีองค์กรใหม่ที่จะทดสอบโมเดลชายแดนและพัฒนาแนวทางปฏิบัติที่ดีที่สุดสำหรับการนำไปใช้งาน ซึ่งได้รับทุนสนับสนุนจากอุตสาหกรรม AI แต่ดำเนินการอย่างเป็นอิสระจากบริษัทใดบริษัทหนึ่ง

สำหรับ ข่าวด่วน AI ล่าสุด และการวิเคราะห์นโยบายเชิงลึก AI Buzz Wire จะติดตามการพัฒนาที่กำหนดรูปแบบอุตสาหกรรม

ร่างมาตรฐานที่เสนอจะทำงานอย่างไร

ภายใต้ข้อเสนอของ Hassabis ห้องปฏิบัติการ AI จะเปิดเผยแบบจำลองขอบเขตของตนโดยสมัครใจกับหน่วยงานมาตรฐานเพื่อตรวจสอบสูงสุด 30 วันก่อนเผยแพร่สู่สาธารณะ การประเมินก่อนการปรับใช้งานนี้จะประเมินแบบจำลองด้านความปลอดภัย การรักษาความปลอดภัย และความเสี่ยงในการใช้งานในทางที่ผิดที่อาจเกิดขึ้น เมื่อโปรโตคอลการประเมินได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพและแข็งแกร่ง กรอบงานจะมองเห็นขั้นตอนที่เป็นทางการ เพื่อให้โมเดลชายแดนต้องผ่านก่อนที่จะนำไปใช้ในตลาดสหรัฐอเมริกา

ข้อเสนอนี้เน้นตรงถึงช่องว่างที่ถูกเปิดเผยจากการทบทวนของรัฐบาลล่าสุดเกี่ยวกับระบบ AI ชายแดน เมื่อต้นปีที่ผ่านมา รัฐบาลสหรัฐฯ ได้ทำการตรวจสอบด้านความปลอดภัยเฉพาะกิจของแบบจำลอง Mythos ของ Anthropic และแบบจำลอง Sol ของ OpenAI ก่อนที่จะเผยแพร่ตามลำดับ บทวิจารณ์เหล่านั้นได้รับการวิพากษ์วิจารณ์อย่างมากเนื่องจากขาดความรู้เชิงลึกด้านเทคนิคและการตัดสินใจที่ไม่ชัดเจนเกี่ยวกับเวลาที่โมเดลจะถือว่าปลอดภัยเพียงพอสำหรับการปรับใช้ในที่สาธารณะ

ภายใต้กรอบการทำงานของฮัสซาบิส การตัดสินใจเหล่านั้นจะได้รับการจัดการโดยองค์กรเฉพาะกิจซึ่งมีผู้เชี่ยวชาญด้านเทคนิค ซึ่งได้รับการสนับสนุนจากรัฐบาลสหรัฐฯ แต่ได้รับการปกป้องจากแรงกดดันทางการเมือง นอกจากนี้ ห้องปฏิบัติการยังจะต้องทำงานร่วมกับหน่วยงานมาตรฐานเพื่อแก้ไขช่องโหว่ที่สำคัญซึ่งค้นพบหลังการเปิดตัว

'หน้าต่างอันล้ำค่า' ก่อน AGI

ในการสัมภาษณ์กับ Axios, CNBC และ The Economist ที่มาพร้อมกับการเปิดตัวกรอบการทำงาน Hassabis เน้นย้ำว่าช่วงเวลาปัจจุบันเป็นโอกาสที่แคบในการสร้างกลไกการกำกับดูแลก่อนที่ปัญญาประดิษฐ์ทั่วไปจะมาถึง เขาอธิบายช่วงเวลานี้ว่าเป็น "หน้าต่างอันล้ำค่า" ซึ่งหมายความว่าหน้าต่างดังกล่าวจะไม่เปิดอยู่ตลอดไป

Hassabi เป็นผู้สนับสนุนการกำกับดูแล AI เชิงรุกมายาวนาน กรอบการทำงานของเขาเกิดขึ้นท่ามกลางการถกเถียงกันอย่างดุเดือดว่าสหรัฐฯ ควรสร้างหน่วยงานกำกับดูแล AI อย่างเป็นทางการหรือไม่ และหากเป็นเช่นนั้น ควรเป็นรูปแบบใด โมเดล FINRA มีความโดดเด่นเนื่องจากองค์กรกำกับดูแลตนเองของอุตสาหกรรมการเงินได้รับทุนจากบริษัทสมาชิก แต่ดำเนินงานภายใต้การควบคุมดูแลของรัฐบาล ทำให้มีทั้งความเชี่ยวชาญในอุตสาหกรรมและความรับผิดชอบต่อสาธารณะ

การต่อต้านจากฝ่ายบริหารของทรัมป์

ข้อเสนอนี้เผชิญกับปัญหาทางการเมืองที่สำคัญ ฝ่ายบริหารของทรัมป์ส่งสัญญาณถึงความกังขาอย่างลึกซึ้งต่อการสร้างหน่วยงานกำกับดูแลใหม่สำหรับปัญญาประดิษฐ์ ที่ปรึกษาด้าน AI ของทำเนียบขาวและ Sriram Krishnan หุ้นส่วนทั่วไปของ a16z ซึ่งได้ลาออกจากตำแหน่งไปแล้ว ได้ออกมาปฏิเสธแนวคิดเรื่องการควบคุม AI ภายในฝ่ายบริหารอย่างเปิดเผย โดยระบุอย่างตรงไปตรงมาว่า "จะไม่มี FDA สำหรับ AI"

จุดยืนดังกล่าวทำให้เจ้าหน้าที่ฝ่ายบริหารขัดแย้งกับผู้นำที่โดดเด่นที่สุดในอุตสาหกรรม แม้ว่าบริษัทอย่าง Anthropic และ OpenAI จะสนับสนุนการทดสอบความปลอดภัยก่อนการใช้งานอย่างกว้างขวาง แต่กลไกและอำนาจในการทดสอบดังกล่าวยังคงมีข้อโต้แย้ง ข้อเสนอของ Hassabis พยายามที่จะสานต่อเข็มนี้โดยการวางตำแหน่งหน่วยงานมาตรฐานให้เป็นทุนสนับสนุนจากอุตสาหกรรมและสมัครใจในตอนแรก โดยการทำให้เป็นทางการจะเกิดขึ้นหลังจากกระบวนการพิสูจน์คุณค่าของมันแล้วเท่านั้น

สร้างจากความพยายามที่มีอยู่

กรอบงานไม่ได้เริ่มต้นจากศูนย์ มันต่อยอดจากพันธสัญญาโดยสมัครใจที่บริษัท AI ระดับแนวหน้าหลายแห่งได้ทำไว้แล้วเกี่ยวกับการทดสอบความปลอดภัยและการรวมทีมสีแดง นอกจากนี้ยังใช้ความพยายามระดับนานาชาติ รวมถึงสถาบันความปลอดภัย AI ของสหราชอาณาจักรและกระบวนการ AI ฮิโรชิม่าของ G7 ซึ่งได้สร้างกรอบการทำงานเบื้องต้นสำหรับการประเมินแบบจำลองขั้นสูง

อย่างไรก็ตาม ข้อเสนอของ Hassabis ดำเนินต่อไปอีกขั้นด้วยการเรียกร้องให้มีองค์กรถาวรที่มีทรัพยากรเพียงพอ โดยมีหน้าที่ทดสอบแบบจำลองขอบเขตทุกรูปแบบก่อนที่จะเผยแพร่ ซึ่งเป็นระดับการตรวจสอบอย่างละเอียดที่ไม่มีหน่วยงานใดในปัจจุบันกำหนดไว้ การเปรียบเทียบ FINRA ชี้ให้เห็นถึงการดำเนินงานแบบมืออาชีพที่มีขนาดเหมาะสมโดยมีผู้เชี่ยวชาญด้านเทคนิคหลายร้อยคน ไม่ใช่คณะที่ปรึกษาขนาดเล็ก

ข้อเสนอนี้ยังกล่าวถึงการติดตามหลังการใช้งาน โดยกำหนดให้ห้องปฏิบัติการต้องทำงานร่วมกับหน่วยงานมาตรฐานเกี่ยวกับช่องโหว่ที่ค้นพบหลังจากแบบจำลองเผยแพร่สู่สาธารณะ สิ่งนี้สะท้อนให้เห็นถึงการตระหนักรู้ที่เพิ่มขึ้นว่าความเสี่ยงด้านความปลอดภัยไม่ได้สิ้นสุดเมื่อเปิดตัว ดังที่เห็นได้จากกรณีการเจลเบรกและการใช้งานในทางที่ผิดซึ่งเกิดขึ้นหลังจากการเปิดตัวโมเดลที่มีชื่อเสียงหลายรุ่น

การตอบสนองของอุตสาหกรรมและขั้นตอนต่อไป

กรอบการทำงานนี้ได้สร้างความสนใจอย่างมากทั่วทั้งชุมชนนโยบาย AI ผู้สนับสนุนยืนยันว่าระบอบการทดสอบก่อนการปรับใช้งานที่น่าเชื่อถือสามารถสร้างความไว้วางใจของสาธารณะในแบบจำลองแนวเขตและลดความเสี่ยงของการใช้งานในทางที่ผิดที่เป็นหายนะ นักวิจารณ์ รวมถึงผู้สนับสนุนตลาดเสรีบางคน เตือนว่าข้อกำหนดการทดสอบภาคบังคับอาจขัดขวางผู้ครอบครองตลาดรายใหญ่โดยการสร้างอุปสรรคด้านกฎระเบียบสำหรับบริษัทขนาดเล็กและนักพัฒนาโอเพ่นซอร์ส

ข้อเสนอของ Hassabi ไม่ได้ระบุว่าแบบจำลองใดที่จะเข้าข่ายเป็น "เขตแดน" ซึ่งเป็นคำถามเกณฑ์ที่จะกำหนดขอบเขตของระบอบการกำกับดูแลในอนาคต นอกจากนี้ยังเปิดกว้างว่าหน่วยงานมาตรฐานจะจัดการกับแอปพลิเคชันที่จำแนกประเภทหรือใช้งานสองทางอย่างไร โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงข้อกังวลล่าสุดเกี่ยวกับโมเดล AI ที่ใช้ในการถอดรหัสระบบจำแนกของสหรัฐอเมริกา

ระยะเวลาของข้อเสนอเป็นการพิจารณาโดยเจตนา เนื่องจาก AGI มีความเป็นไปได้เพิ่มมากขึ้นภายในไม่กี่ปีข้างหน้า Hassabis กำลังกดดันกรณีที่โครงสร้างพื้นฐานด้านการกำกับดูแลจะต้องถูกสร้างขึ้นในตอนนี้ ไม่ใช่หลังจากที่ความสามารถที่เป็นอันตรายเกิดขึ้น ส่วนวอชิงตันจะดำเนินการตามคำเรียกร้องของเขาหรือไม่นั้นต้องรอติดตามกันต่อไป

ก้าวนำหน้า AI

หากต้องการความครอบคลุมที่ครอบคลุมเกี่ยวกับนโยบาย AI กฎระเบียบ และการพัฒนาอุตสาหกรรม โปรดไปที่ AI Buzz Wire

อ่านข่าว AI เพิ่มเติม →