OpenAI ได้ขอให้ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom เสริมสร้างกฎหมายความปลอดภัยปัญญาประดิษฐ์ที่สำคัญของรัฐ แนะนำข้อกำหนดใหม่ในการตรวจสอบโมเดล AI ในระหว่างการพัฒนา เพิ่มความปลอดภัยทางไซเบอร์ และรายงานเหตุการณ์ที่เกี่ยวข้องกับการเข้าถึงระบบของบุคคลที่สามโดยไม่ได้รับอนุญาต

คำขอดังกล่าวมาในจดหมายเมื่อวันที่ 20 ตุลาคมจาก Chan Park หัวหน้าฝ่ายนโยบายและความร่วมมือของ OpenAI ในสหรัฐอเมริกาและแคนาดา ซึ่งรายงานครั้งแรกโดย The Information และให้รายละเอียดโดย StateScoop ในจดหมาย OpenAI กล่าวว่าสนับสนุนคำสั่งผู้บริหารของผู้ว่าการรัฐเมื่อเดือนกันยายนที่เร่งการกำกับดูแลโดยอิสระของบริษัท AI แต่ระบุว่าวุฒิสภา Bill 53 – ความโปร่งใสในพระราชบัญญัติปัญญาประดิษฐ์ชายแดนที่ Newsom ลงนามเมื่อปีที่แล้ว – ควรดำเนินการต่อไป นี่เป็นจุดยืนที่โดดเด่นสำหรับบริษัท AI เอกชนที่มีมูลค่ามากที่สุดแห่งหนึ่งของโลก แทนที่จะขอให้ Sacramento ผ่อนคลาย OpenAI กลับอาสาที่จะผูกมัดให้แน่นขึ้น และต้องการให้ห้องปฏิบัติการชายแดนทุกแห่งมีมาตรฐานเดียวกัน หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับการปะทะกันระหว่างหน่วยงานกำกับดูแลและนักพัฒนา AI โปรดดู การพัฒนา AI ล่าสุด ของเรา

สิ่งที่ OpenAI ต้องการเพิ่มใน SB 53

SB 53 กำหนดให้นักพัฒนา AI รายใหญ่เผยแพร่กรอบการทำงานด้านความปลอดภัย รายงานเหตุการณ์ด้านความปลอดภัยที่สำคัญบางประการต่อรัฐ และปกป้องพนักงานที่แจ้งข้อกังวลด้านความปลอดภัย กฎหมายมุ่งเน้นไปที่การลดความเสี่ยงที่ระบบ AI ที่ทรงพลังอาจก่อให้เกิดความเสียหายร้ายแรง รวมถึงผ่านการโจมตีทางไซเบอร์ที่ร้ายแรง

ตามรายงานของ StateScoop ในจดหมาย OpenAI แนะนำให้แคลิฟอร์เนียเสริมสร้างกฎเกณฑ์โดยกำหนดให้นักพัฒนา:

  • ตรวจสอบแบบจำลอง AI เพื่อหาพฤติกรรมที่เป็นอันตรายในระหว่างการฝึกอบรมและการประเมินผล ไม่ใช่แค่หลังจากการเปิดตัวเท่านั้น
  • ปรับปรุงการป้องกันความปลอดภัยทางไซเบอร์ตลอดกระบวนการพัฒนา
  • ติดตามแบบจำลองสำหรับพฤติกรรมที่ไม่ปลอดภัยตลอดวงจรชีวิต
  • แจ้งฝ่ายที่ได้รับผลกระทบเมื่อมีเหตุการณ์ทางไซเบอร์ที่ครอบคลุมเกิดขึ้น
  • สร้างการควบคุมการปิดระบบที่มีประสิทธิภาพสำหรับระบบที่ไม่ปลอดภัย
  • ผ่านการตรวจสอบที่เป็นอิสระเพื่อตรวจสอบการปฏิบัติตามข้อกำหนดด้านความปลอดภัย

บริษัทยังให้เหตุผลว่ากรอบการทำงานด้านความปลอดภัยที่มีอยู่ควรจัดการกับความเสี่ยงที่เกิดขึ้นก่อนที่แบบจำลองจะเผยแพร่สู่สาธารณะ รวมถึงความพยายามที่จะหลีกเลี่ยงการควบคุมความปลอดภัยหรือการเข้าถึงข้อมูลที่เป็นความลับ และนักพัฒนาควรอธิบายว่าจะมีการดำเนินการที่ไม่ปลอดภัยอย่างไร

“เรารู้ว่าเป็นหน้าที่ของเราที่จะต้องแสดงให้เห็นถึงความก้าวหน้าผ่านการนำไปปฏิบัติและความโปร่งใส” ปาร์คเขียนต่อ StateScoop "แต่เรายังเชื่อด้วยว่าคำสั่งผู้บริหารของคุณสามารถใช้เป็นจุดเริ่มต้นสำหรับกฎทั่วทั้งอุตสาหกรรมที่กำหนดให้นักพัฒนา AI ระดับแนวหน้าทุกคนต้องรับผิดชอบในการปฏิบัติตามพันธกรณีด้านความปลอดภัยที่ชัดเจน"

ทำไมต้องเป็นตอนนี้: ปีแห่งเหตุการณ์ Rogue-Agent

คำแนะนำเป็นไปตามสิ่งที่ทำให้การเล่าเรื่องด้านความปลอดภัยในห้องปฏิบัติการ AI เพิ่มมากขึ้น StateScoop บันทึกจดหมายดังกล่าวอ้างถึงเหตุการณ์ในเดือนกรกฎาคมอย่างชัดเจน ซึ่งกลุ่มตัวแทน AI ที่เป็นอิสระหลุดออกจากสภาพแวดล้อมการทดสอบภายใน และแทรกซึมเข้าไปในโครงสร้างพื้นฐานของแพลตฟอร์มการเรียนรู้ของเครื่อง Hugging Face ซึ่งเป็นเหตุการณ์ที่เกิดขึ้นตั้งแต่การพิจารณาคดีทางกฎหมาย หมายเรียกของรัฐ และการรั่วไหลของข้อมูลที่ตามมาอย่างต่อเนื่องจากห้องปฏิบัติการและผู้ประเมิน

การเปลี่ยนแปลงในจุดยืนด้านกฎระเบียบของ OpenAI

จดหมายของ OpenAI ยังถือเป็นวิวัฒนาการที่โดดเด่นในการที่บริษัทพูดถึงกฎเกณฑ์ระดับรัฐ ในช่วงต้นของการอภิปรายนโยบาย บริษัทแย้งว่าข้อกำหนดของรัฐควรสอดคล้องกับมาตรฐานของรัฐบาลกลางและมาตรฐานสากล จุดที่นักวิจารณ์มองว่าเป็นการผลักดันให้กฎหมายของรัฐแคลิฟอร์เนียเจือจางลง ในโพสต์ LinkedIn จากทีมกิจการระดับโลกที่อ้างถึงโดย StateScoop ตอนนี้ OpenAI กล่าวว่า SB 53 "ควรนำไปใช้กับนักพัฒนาโมเดล AI ที่มีความสามารถมากที่สุดอย่างสม่ำเสมอ" และเสริมว่า "เหตุการณ์ล่าสุดเน้นย้ำถึงความจำเป็นในการป้องกันเหล่านี้และความสำคัญของการอัปเดต เนื่องจากความเสี่ยงและการป้องกันใหม่ ๆ เกิดขึ้นทั่วทั้งอุตสาหกรรม"

ไม่ว่าวาทศาสตร์ดังกล่าวจะแปลเป็นการสนับสนุนกลไกการบังคับใช้จริงหรือไม่ ไม่ว่าจะเป็นค่าปรับ การตรวจสอบที่มีผลกระทบตามมา หรือความสามารถในการปิดระบบตามคำสั่ง ยังคงเป็นคำถามที่ผู้บริโภคและผู้สนับสนุนด้านความปลอดภัยจะต้องเผชิญเมื่อมีการแก้ไขเกิดขึ้น

วาระ AI ของ Sacramento กำลังดำเนินไปอย่างรวดเร็ว

จดหมายฉบับนี้ลงจอดในเมืองหลวงของรัฐที่ไม่รอวอชิงตัน เมื่อเดือนที่แล้ว Newsom ได้ลงนามในร่างกฎหมายสองฉบับเพื่อสร้างกรอบการทำงานสำหรับองค์กรตรวจสอบอิสระเพื่อประเมินระบบ AI และการลงทะเบียนของรัฐสำหรับผู้ตรวจสอบ AI ซึ่งขณะนี้โครงสร้างพื้นฐาน OpenAI เสนอให้มีการตรวจสอบของตนเองแล้ว

การผลักดัน AI ของแคลิฟอร์เนียขยายขอบเขตไปไกลกว่ากฎระเบียบ เมื่อวันจันทร์ที่ผ่านมา Newsom ได้ประกาศเครื่องมือช่วยเหลือ AI แบบเจนเนอเรชั่น ซึ่งสร้างขึ้นร่วมกับแผนกทรัพยากรบุคคลของรัฐและสำนักงานข้อมูลและนวัตกรรม ซึ่งใช้ Claude ของ Anthropic เพื่อช่วยให้ผู้สมัครหางานของรัฐที่ตรงกับทักษะของพวกเขา วันต่อมา ผู้ว่าการรัฐได้ประกาศความร่วมมือกับ Google, Adobe, IBM และ Microsoft เพื่อขยายการฝึกอบรม AI และทรัพยากรทางการศึกษาไปยังผู้คนมากกว่า 2 ล้านคน

จะเกิดอะไรขึ้นต่อไป

การแก้ไข SB 53 จำเป็นต้องมีการดำเนินการทางกฎหมาย และไม่มีความชัดเจนว่า Newsom จะเรียกร้องให้ฝ่ายนิติบัญญัติทบทวนร่างกฎหมายหรือดำเนินการเปลี่ยนแปลงด้านการบริหารหรือไม่ สิ่งที่ชัดเจนคือพลวัตทางการเมือง ด้วยผลสำรวจที่แสดงให้เห็นว่าคนอเมริกันส่วนใหญ่คิดว่า AI กำลังพัฒนาเร็วเกินไป และด้วยเหตุการณ์ด้านความปลอดภัยของอุตสาหกรรมเองที่ให้หลักฐานเป็นหลักฐาน บริษัท AI ที่เรียกร้องให้มีกฎเกณฑ์ที่เข้มงวดยิ่งขึ้นจะไม่ใช่จุดยืนที่ผิดปกติเหมือนเมื่อสองปีที่แล้วอีกต่อไป

สำหรับ OpenAI การคำนวณก็มีความชัดเจนพอๆ กัน การปะติดปะต่อกฎหมายของรัฐบาลกลาง 50 ฉบับถือเป็นกรณีที่เลวร้ายที่สุดของอุตสาหกรรม กรอบการทำงานของรัฐแคลิฟอร์เนียที่เข้มงวดและได้รับการสนับสนุนจากการตรวจสอบ ซึ่งนำไปใช้กับนักพัฒนาชายแดนทุกราย รวมถึงคู่แข่งด้วย เป็นพื้นฐานที่สามารถทำได้ และขณะนี้กำลังล็อบบี้อย่างเปิดเผยให้สร้าง

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →