ตัวแทน Ro Khanna จากพรรคเดโมแครตใน Silicon Valley จะเสนอกฎหมายที่จะห้ามโมเดล AI ที่สามารถปรับปรุงตนเองแบบวนซ้ำได้จนกว่ารัฐบาลกลางจะสร้างระบบการกำกับดูแลที่สามารถดูแลพวกเขาได้ ซึ่งเป็นข้อเสนอด้านความปลอดภัยของ AI ที่กว้างขวางที่สุดเท่าที่เคยมีมาในสภาคองเกรส

ร่างกฎหมายดังกล่าวซึ่งมีชื่อว่าพระราชบัญญัติการควบคุมมนุษย์เหนือ AI ได้รับการแชร์กับ CNBC โดยเฉพาะในรูปแบบสรุปก่อนการเปิดตัว สิ่งนี้เกิดขึ้นท่ามกลางความกังวลด้านความปลอดภัยที่ทวีความรุนแรงขึ้นซึ่งทำให้ซีอีโอของ OpenAI และ Anthropic เรียกร้องให้ชะลอการพัฒนาโมเดลชายแดน For more context on this story, see our ongoing latest AI developments.

“จริงๆ แล้วมีความเสี่ยงต่อการสูญพันธุ์ของอารยธรรม” คันนากล่าวเมื่อวันจันทร์ในการให้สัมภาษณ์กับ CNBC “มีความเสี่ยงด้านความปลอดภัยในการสูญเสียการควบคุม และจากนั้นก็มีความเสี่ยงในการใช้งานในทางที่ผิด และเราจำเป็นต้องดำเนินการทั้งสองอย่างจริงจัง”

สิ่งที่บิลจะห้าม

โดยพื้นฐานแล้ว พระราชบัญญัติการควบคุมมนุษย์เหนือ AI จะห้ามโมเดล AI ที่พัฒนาตนเองแบบวนซ้ำหรือปรับเปลี่ยนวัตถุประสงค์หลักของตนเอง กลไกการควบคุม หรือการควบคุมการปิดระบบโดยอัตโนมัติ เว้นแต่จะมีรั้วกั้นของรัฐบาลกลางและหน่วยงานรัฐบาลใหม่อนุมัติกิจกรรม

ในทางปฏิบัติแล้ว เป้าหมายดังกล่าวคือความสามารถที่นักวิจัยด้านความปลอดภัยกลัวมากที่สุด นั่นคือระบบที่สามารถออกแบบตัวเองใหม่ในวงจรการกำกับตนเอง ส่งผลให้การควบคุมดูแลมนุษย์ในแต่ละขั้นตอนลดลง การห้ามดังกล่าวจะยังคงอยู่จนกว่าหน่วยงานกำกับดูแลจะมีความพร้อมที่จะประเมินความเสี่ยง

หน่วยงานรัฐบาลกลางใหม่สำหรับ Frontier AI

ร่างกฎหมายดังกล่าวจะสร้างหน่วยงานรัฐบาลกลางที่มุ่งเน้นโมเดล AI ที่ทรงพลังที่สุด ซึ่งพัฒนาโดย OpenAI, Anthropic, Google DeepMind และ xAI เนื่องจากบริษัทเหล่านั้นพบว่าตัวเองอยู่ภายใต้การตรวจสอบอย่างเข้มงวด

ตามบทสรุปที่แชร์กับ CNBC หน่วยงานจะรับผิดชอบสำหรับ:

  • การเขียนกฎระเบียบด้านความปลอดภัยสำหรับระบบ Frontier AI
  • ใช้งานระบบการออกใบอนุญาตเพื่ออนุมัติการฝึกอบรมโมเดลและการปรับใช้
  • การดำเนินการตรวจสอบโมเดล AI ชายแดน
  • กำหนดมาตรฐานความปลอดภัยเพื่อการทดสอบอย่างต่อเนื่องและการควบคุมมนุษย์อย่างมีประสิทธิภาพ

ผู้ตรวจสอบอิสระจะถูกฝังอยู่ในห้องปฏิบัติการชายแดนทุกแห่ง และจะรายงานโดยตรงต่อหน่วยงาน ซึ่งเป็นการตรวจสอบเชิงโครงสร้างที่ออกแบบมาเพื่อให้แน่ใจว่าห้องปฏิบัติการไม่สามารถทำเครื่องหมายการบ้านของตนเองได้ นอกจากนี้ หน่วยงานยังจะกำหนดมาตรฐานที่ครอบคลุมสภาพแวดล้อมการทดสอบแซนด์บ็อกซ์ ช่องว่างอากาศที่แยกระบบการทดสอบออกจากอินเทอร์เน็ต คิลสวิตช์ และการควบคุมที่ป้องกันไม่ให้โมเดลหลบหนีจากการตั้งค่าห้องปฏิบัติการและโรมมิ่งอินเทอร์เน็ตแบบเปิด

กฎหมายดังกล่าวจะขยายการกำกับดูแลของรัฐบาลกลางไปยังชิปขั้นสูงที่ห้องปฏิบัติการชายแดนใช้ รวมถึงกลไกในการตรวจสอบหรือควบคุมวิธีการปรับใช้โปรเซสเซอร์เหล่านั้น

โทษทางอาญาและการประกันภัยภาคบังคับ

ร่างกฎหมายดังกล่าวไปไกลกว่าข้อเสนอบทลงโทษใดๆ ก่อนหน้านี้ มันจะอาชญากรสิ่งที่กำหนดไว้ว่าเป็น "อาชญากรรมต่อมนุษยชาติ" สำหรับการนำโมเดล AI ไปใช้ซึ่งส่งผลให้เกิดการทำลายล้างประชากรพลเรือน

พนักงานของบริษัท AI จะถูกลงโทษทางอาญาสำหรับการปิดใช้งานการป้องกัน, kill switch, การบันทึกหรือระบบกักกัน หรือสำหรับการปรับใช้ระบบที่ไม่ได้รับอนุญาตโดยเจตนา บริษัท AI จะต้องดำเนินการประกันภัยความรับผิดที่ครอบคลุมก่อนที่จะเผยแพร่โมเดลของตน ซึ่งเปลี่ยนความเสี่ยงทางการเงินของความล้มเหลวไปสู่อุตสาหกรรมแทนที่จะเป็นสาธารณะ

ในด้านภูมิรัฐศาสตร์ ร่างกฎหมายดังกล่าวเรียกร้องให้ฝ่ายบริหารดำเนินการตามข้อตกลงที่บังคับใช้และการควบคุมการส่งออกแบบกำหนดเป้าหมายที่ออกแบบมาเพื่อขัดขวางจีนและศัตรูอื่นๆ จากการพัฒนาระบบ AI ที่เป็นอันตราย

สร้างขึ้นด้วยชุมชนความปลอดภัย ไม่ใช่ห้องทดลอง

คันนามีความชัดเจนว่าข้อมูลของใครที่เป็นตัวกำหนดร่างกฎหมาย แทนที่จะเจรจากับผู้บริหารของบริษัทที่จะควบคุม เขากล่าวว่ากฎหมายดังกล่าวมีการจำลองการสนทนากับองค์กรด้านความปลอดภัยของ AI รวมถึงการประเมินแบบจำลองและการวิจัยภัยคุกคามที่ไม่หวังผลกำไร สถาบันวิจัยข่าวกรองเครื่องจักร และการวิจัยรั้วเหล็ก

"ฉันต้องการให้สิ่งนี้เป็นแบบอย่างในการแสดงความคิดเห็นแก่ชุมชนความปลอดภัยของ AI" Khanna กล่าวกับ CNBC "ฉันเชื่อว่าพวกเขาถูกมองว่าเป็นนิยายวิทยาศาสตร์อย่างไม่ยุติธรรมและยังไม่ได้รับการพิจารณาอย่างจริงจังเพียงพอ พวกเขาจำเป็นต้องขับเคลื่อนการอภิปรายนี้ ชุมชนความปลอดภัยของ AI ไม่ใช่ผู้บริหารของห้องปฏิบัติการชายแดน"

คันนาอธิบายว่ามาตรการดังกล่าวเป็นกฎหมายด้านความปลอดภัยของ AI ที่ครอบคลุมที่สุดที่เสนอจนถึงปัจจุบัน

โอกาสที่ยาวนานในสภาคองเกรสที่ถูกแบ่งแยก

พระราชบัญญัติการควบคุมมนุษย์เกี่ยวกับ AI เป็นส่วนหนึ่งของข้อเสนอด้านความปลอดภัยของ AI ที่ Capitol Hill หนึ่งในนั้นคือพระราชบัญญัติ FRONTIER สองฝ่ายจากตัวแทน Jay Obernolte พรรครีพับลิกันแห่งแคลิฟอร์เนีย และ Lori Trahan จากพรรคเดโมแครตแมสซาชูเซตส์ ซึ่งจะวางผู้ตรวจสอบอิสระไว้ในห้องทดลองชายแดน และให้อำนาจรัฐบาลในการปิดแบบจำลองที่ตัดสินว่าก่อให้เกิดความเสี่ยงร้ายแรง ข้อเสนอของแซนเดอร์ส-คาซาร์อีกฉบับหนึ่งในการห้ามใช้ปัญญาประดิษฐ์นั้นได้รับการสนับสนุนจากสาธารณะชนจากสมาชิกสภาผู้แทนราษฎร 10 คน รวมถึงคันนาด้วย

อย่างไรก็ตาม ความเป็นจริงทางการเมืองนั้นน่ากังวล คาดว่าร่างกฎหมายของสภาผู้แทนราษฎรจะไม่ได้รับการลงคะแนนจนกว่าจะหลังการเลือกตั้งกลางภาค และคาดว่าวุฒิสภาจะออกจากวอชิงตันและไม่กลับมาจนกว่าผู้มีสิทธิเลือกตั้งจะไปลงคะแนนเสียง

ไทม์ไลน์ดังกล่าวหมายความว่าพระราชบัญญัติการควบคุมมนุษย์เหนือ AI จะทำงานอย่างน้อยในตอนนี้เป็นเครื่องหมาย: พิมพ์เขียวโดยละเอียดว่าชุมชนความปลอดภัยของ AI จะสร้างอะไรหากถือปากกา – เปิดตัวในช่วงเวลาที่ผู้คนที่สร้าง AI ชายแดนกำลังเตือนในบันทึกว่าเทคโนโลยีกำลังอยู่เหนือการควบคุม

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →