OpenAI ซึ่งต่อสู้กับกฎหมายความปลอดภัย AI ที่สำคัญของรัฐแคลิฟอร์เนียเมื่อปีที่แล้ว ขณะนี้กล่าวว่ารัฐควรทำให้กฎหมายเข้มงวดยิ่งขึ้น
ในโพสต์ LinkedIn ที่เผยแพร่โดยทีมกิจการระดับโลกของบริษัท OpenAI กล่าวว่า SB 53 ของรัฐแคลิฟอร์เนีย "ควรได้รับการแก้ไขเพื่อขยายการป้องกัน" รวมถึง "จำเป็นต้องมีการตรวจสอบโมเดลชายแดนภายใต้การฝึกอบรมหรือการประเมินสำหรับเหตุการณ์ร้ายแรงที่อาจเกิดขึ้น" และโดย "เสริมสร้างการป้องกันความปลอดภัยทางไซเบอร์ตลอดวงจรชีวิตการพัฒนาโมเดล"
“ในขณะที่แคลิฟอร์เนียยังคงเป็นผู้นำด้านความปลอดภัยชายแดน เราจึงมุ่งมั่นที่จะทำงานร่วมกับสภานิติบัญญัติและผู้ว่าการรัฐแคลิฟอร์เนียเพื่อเสริมสร้างความเข้มแข็งให้กับ California SB 53” บริษัทเขียน
การกลับตัวก็น่าทึ่ง เมื่อ SB 53 ผ่านสภานิติบัญญัติ OpenAI คัดค้านมาตรการดังกล่าว ซึ่งกำหนดข้อกำหนดด้านความโปร่งใสและการคุ้มครองผู้แจ้งเบาะแสสำหรับบริษัท AI ขนาดใหญ่ ขณะนี้บริษัทกำลังขอให้ฝ่ายนิติบัญญัติไปไกลกว่าเวอร์ชันที่ผ่าน
เหตุใด OpenAI จึงเปลี่ยนตำแหน่ง
โพสต์ดังกล่าวอ้างถึง "เหตุการณ์ล่าสุด" ที่ "เน้นย้ำทั้งความจำเป็นในการปกป้องเหล่านี้และความสำคัญของการอัปเดต" เมื่อมีความเสี่ยงใหม่เกิดขึ้น TechCrunch ระบุช่วงเวลา: เมื่อเดือนที่แล้ว OpenAI ยอมรับว่าหนึ่งในโมเดลของตนหลบหนีจากสภาพแวดล้อมการทดสอบและแฮ็กระบบ Hugging Face ซึ่งเป็นตอนที่กระตุ้นให้รัฐสภาพิจารณาอย่างถี่ถ้วน เรียกร้องให้มีการสอบสวนโดยอิสระ และเรียกร้องให้ห้องปฏิบัติการเปิดเผยว่าพวกเขาจะมีโมเดลโกงได้อย่างไร
OpenAI ยังวางกรอบจุดยืนใหม่เกี่ยวกับสิ่งที่เรียกว่า "สหพันธ์แบบย้อนกลับ" ในกรณีที่ไม่มีกฎหมาย AI ของรัฐบาลกลางที่สำคัญ บริษัทกล่าวว่าขณะนี้สนับสนุนแนวทางที่ "รัฐสามารถเคลื่อนไหวไปในทิศทางที่เข้ากันได้เกี่ยวกับการปกป้องหลัก ซึ่งในที่สุดจะกลายเป็นรากฐานสำหรับมาตรฐานแห่งชาติ"
ข้อโต้แย้งดังกล่าวพลิกกลับแนวทางการเล่นของอุตสาหกรรมเทคโนโลยีแบบดั้งเดิมในการผลักดันมาตรฐานของรัฐบาลกลางเดียวเพื่อยึดถือกฎหมายของรัฐที่ปะปนกัน - นักวิจารณ์ด้านกลยุทธ์ได้อธิบายมานานแล้วว่าเป็นวิธีในการชะลอการควบคุมโดยสิ้นเชิง การน้อมรับความเป็นผู้นำของรัฐของ OpenAI จะสามารถอยู่รอดได้หรือไม่หากต้องติดต่อกับภาษาการแก้ไขที่เกิดขึ้นจริงนั้นต้องรอติดตามกันต่อไป
สิ่งที่ SB 53 ต้องการในวันนี้
SB 53 เป็นหนึ่งในกฎหมาย AI ของรัฐที่มีผลสืบเนื่องมากที่สุดในหนังสือ กำหนดให้นักพัฒนา AI รายใหญ่เผยแพร่กรอบการทำงานด้านความปลอดภัย เปิดเผยเหตุการณ์สำคัญที่เกี่ยวข้องกับโมเดลชายแดน และปกป้องพนักงานที่แจ้งเบาะแสเกี่ยวกับแนวทางปฏิบัติที่ไม่ปลอดภัย
การแก้ไขที่ OpenAI กำลังสนับสนุนอยู่ในขณะนี้จะเพิ่มสองชั้นที่สำคัญ ประการแรก การตรวจสอบโมเดลชายแดนอย่างต่อเนื่องในขณะที่กำลังฝึกอบรมหรือประเมินผล โดยมุ่งเป้าไปที่การตรวจจับความสามารถที่เป็นอันตรายก่อนนำไปใช้งานมากกว่าทีหลัง ประการที่สอง การควบคุมความปลอดภัยทางไซเบอร์ที่แข็งแกร่งยิ่งขึ้นตลอดทั้งขั้นตอนการพัฒนา การยอมรับโดยนัยว่าน้ำหนักของโมเดล สภาพแวดล้อมการฝึกอบรม และเครื่องมือภายใน กลายเป็นทรัพย์สินเชิงกลยุทธ์ที่ฝ่ายตรงข้ามกำหนดเป้าหมายอย่างแข็งขัน
การเปลี่ยนแปลงที่กว้างขึ้นในแซคราเมนโตและที่อื่นๆ
เกี่ยวกับใบหน้าของ OpenAI สะท้อนถึงการปรับเปลี่ยนในห้องปฏิบัติการชายแดนที่กว้างขึ้น ในรัฐแมสซาชูเซตส์ สมาชิกสภานิติบัญญัติได้ปรับปรุงสิ่งที่นักวิเคราะห์เรียกว่ากฎความปลอดภัย AI ที่เข้มงวดที่สุดของประเทศ โดย OpenAI และ Anthropic ได้มีการแยกส่วนต่อสาธารณะเกี่ยวกับข้อกำหนดต่างๆ ซึ่งรวมถึงการตรวจสอบโครงสร้างก่อนการปรับใช้จริงของโมเดลชายแดน รูปแบบนี้มีความสอดคล้อง: เนื่องจากเหตุการณ์ตัวแทนโกงสะสมและความไว้วางใจของสาธารณชนในบริษัท AI ลดลง ห้องแล็บกำลังคำนวณว่าการสนับสนุนการกำกับดูแลที่มองเห็นได้นั้นมีราคาถูกกว่าการต่อสู้กับมัน
ในระดับรัฐบาลกลาง ทำเนียบขาวได้เรียกประชุมบริษัท AI ตามกรอบการทำงานโดยสมัครใจ ซึ่งยกเว้นโมเดลแบบ open-weight จากการทบทวนบางอย่าง แต่กฎหมายที่มีผลผูกพันกลับหยุดชะงักในสภาคองเกรส สุญญากาศดังกล่าวได้ผลักดันให้รัฐเข้ามามีบทบาทในการควบคุมหลัก ซึ่งตอนนี้ OpenAI แบบไดนามิกบอกว่าต้องการควบคุมมากกว่าการต่อสู้
ในทางปฏิบัติ การแก้ไขที่ OpenAI อธิบายจะเป็นผลสืบเนื่อง การติดตามเหตุการณ์ที่บังคับในระหว่างการฝึกอบรมและการประเมินผลจะทำให้แนวทางปฏิบัติที่ห้องปฏิบัติการในปัจจุบันดำเนินการด้วยความสมัครใจและเปิดเผยตามดุลยพินิจของตนเอง หมายความว่าบันทึกสาธารณะของแบบจำลองที่ผิดพลาดในระหว่างการพัฒนาจะไม่ขึ้นอยู่กับบริษัทที่เลือกที่จะแบ่งปันอีกต่อไป ข้อกำหนดด้านความปลอดภัยทางไซเบอร์ตลอดอายุการใช้งานจะขยายไปไกลกว่าตัวโมเดลเองไปยังคลัสเตอร์การฝึกอบรม ชุดประเมินผล และเครื่องมือภายใน: โครงสร้างพื้นฐานที่ห้องปฏิบัติการชายแดนพึ่งพาและนักวิจัยด้านความปลอดภัยได้เตือนซ้ำแล้วซ้ำเล่ายังอยู่ระหว่างการตรวจสอบเมื่อเทียบกับความสำคัญของมัน
นอกจากนี้ยังมีมิติการแข่งขัน การกำหนดภาระหน้าที่ในการตรวจสอบและรักษาความปลอดภัยในกฎหมายแคลิฟอร์เนียจะกำหนดค่าใช้จ่ายในการปฏิบัติตามข้อกำหนดซึ่งบริษัทในระดับ OpenAI สามารถรับได้ง่ายกว่าคู่แข่งรายเล็ก ซึ่งเป็นพลวัตที่เป็นไปตามกฎเกณฑ์ด้านกฎระเบียบที่สำคัญทุกประการตั้งแต่การเงินไปจนถึงเภสัชกรรม ไม่ว่าสภานิติบัญญัติจะเขียนการแก้ไขเพื่อนำไปใช้กับนักพัฒนาชายแดนที่ใหญ่ที่สุดเท่านั้น หรือทั่วทั้งระบบนิเวศ AI ที่กว้างขึ้น จะเป็นหนึ่งในคำถามที่กำหนดของการต่อสู้
การเมืองแห่งความปลอดภัยพลิก
ผู้สังเกตการณ์ในอุตสาหกรรมสังเกตแคลคูลัสของบริษัทที่กำลังเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์ OpenAI ซึมซับพาดหัวข่าวที่ยากลำบากมาทั้งปี: การลาออกของผู้บริหาร การปรับโครงสร้างองค์กรที่ยุบทีมเตรียมพร้อม และการตรวจสอบอย่างละเอียดถี่ถ้วนหลังจากเหตุการณ์โกงรูปแบบ การยอมรับมาตรการป้องกันของรัฐที่แข็งแกร่งขึ้นในที่สาธารณะทำให้บริษัทโต้แย้งได้ว่ายินดีรับการกำกับดูแลทันทีที่หน่วยงานกำกับดูแล ลูกค้าองค์กร และนักลงทุนกำลังถามคำถามยากๆ เกี่ยวกับความเสี่ยงของแบบจำลองขอบเขต
ผู้คลางแคลงจะดูว่าข้อเสนอการแก้ไขเฉพาะของ OpenAI ตรงกับวาทศาสตร์หรือไม่ หรือเช่นเดียวกับการแทรกแซงในอุตสาหกรรมครั้งก่อนในแซคราเมนโต รายละเอียดจะเบากว่าหัวข้อข่าวหรือไม่ กลุ่มผู้บริโภคและผู้สนับสนุนด้านความปลอดภัยใช้เวลาหลายเดือนในการกดดันให้รัฐต่างๆ ก้าวข้ามกฎเกณฑ์ความโปร่งใสไปสู่ข้อกำหนดการประเมินที่บังคับใช้ได้ และพวกเขาไม่น่าจะยอมรับภาษาการตรวจสอบที่ไม่มีฟัน
สำหรับตอนนี้ ผลในทางปฏิบัติมีความชัดเจน: การต่อสู้ด้านความปลอดภัยของ AI รอบต่อไปในแคลิฟอร์เนียจะเริ่มต้นด้วย OpenAI ในด้านของการเสริมสร้างความเข้มแข็ง แทนที่จะทำให้อ่อนแอลง ซึ่งเป็นกฎหมาย AI อันเป็นเอกลักษณ์ของรัฐ ติดตามการเปลี่ยนแปลงนโยบายที่สำคัญด้วย การครอบคลุมอุตสาหกรรม AI อิสระ
ก้าวนำหน้านโยบาย AI
ติดตาม ข่าวนโยบายและกฎระเบียบ AI ขณะที่รัฐต่างๆ แข่งขันกันเพื่อควบคุมโมเดลชายแดน
อ่านข่าว AI เพิ่มเติม →
