เมื่อเร็วๆ นี้ พนักงานในสำนักงานรัฐบาลเล็กๆ ของสหรัฐฯ ที่รับผิดชอบในการทดสอบความปลอดภัยของโมเดล AI ชายแดนเพิ่งถูกขอให้รายงานอย่างไม่เป็นทางการต่อสำนักงานทำเนียบขาว ทำให้เกิดข้อกังวลใหม่เกี่ยวกับความเป็นอิสระของผู้ประเมินความปลอดภัยด้าน AI ชั้นนำของประเทศ

สำนักงานซึ่งเป็นศูนย์นวัตกรรมที่ก้าวหน้าและมาตรฐานสำหรับ Super Intelligence หรือที่รู้จักกันในชื่อ CAISSI และตั้งอยู่ภายในกระทรวงพาณิชย์ ได้หยุดเผยแพร่งานวิจัยของตนเช่นกัน ตามรายงานของ AP รายงานดังกล่าวเกิดขึ้นท่ามกลางความกังวลของสาธารณชนที่เพิ่มมากขึ้นเกี่ยวกับเรื่องราวมากมายเกี่ยวกับเจ้าหน้าที่ AI ที่ไม่สามารถควบคุมได้ และกล่าวถึงสุนัขเฝ้าบ้านที่ไม่มีเจ้าหน้าที่ ไร้ผู้นำ และเงียบลงมากขึ้น For more context on this story, see our ongoing AI industry coverage.

CAISSI ทำอะไร — และ AP พบอะไร

CAISSI มีหน้าที่ประเมินความปลอดภัยของข้อเสนอ AI ใหม่ก่อนที่จะเผยแพร่สู่สาธารณะ ซึ่งเป็นคำสั่งที่รวมถึงการประเมินว่าโมเดลชายแดนต้านทานการใช้งานในทางที่ผิดสำหรับการโจมตีทางไซเบอร์และอันตรายร้ายแรงอื่น ๆ ได้ดีเพียงใด จากข้อมูลของ AP เจ้าหน้าที่ในศูนย์ "เมื่อเร็วๆ นี้" ถูกขอให้รายงานอย่างไม่เป็นทางการต่อสำนักงานของทำเนียบขาว สำนักข่าวดังกล่าวอ้างถึงอดีตเจ้าหน้าที่ของรัฐสองคนที่มีความรู้เกี่ยวกับการสนทนา ซึ่งพูดโดยไม่เปิดเผยตัวตนเพื่อปกป้องพนักงานปัจจุบัน ทำเนียบขาวไม่ตอบคำถามเฉพาะเจาะจงเกี่ยวกับศูนย์แห่งนี้

ขนาดของการดำเนินการมีความพอประมาณ AP รายงานว่า CAISSI ได้รับเงินประมาณ 10 ล้านดอลลาร์ต่อปี หรือประมาณหนึ่งในแปดของรายได้ที่คู่สัญญาในสหราชอาณาจักรได้รับ แม้ว่าสหรัฐอเมริกาจะเป็นประเทศที่มีการสร้างโมเดลชายแดนส่วนใหญ่ก็ตาม

การจัดการรายงานอย่างไม่เป็นทางการเป็นเพียงการหยุดชะงักครั้งล่าสุดที่ศูนย์เท่านั้น AP อธิบายถึงภาวะสุญญากาศของผู้นำที่ยืดเยื้อมาหลายเดือน: ผู้อำนวยการคนหนึ่งได้รับการว่าจ้างในเดือนเมษายนและถูกไล่ออกภายในไม่กี่วัน ผู้ที่เข้ามารับตำแหน่งแทนใช้เวลาสองสามเดือนก่อนที่จะลาออก และปัจจุบันหัวหน้าสถาบันแม่ดำรงตำแหน่งรักษาการผู้อำนวยการ ในทางปฏิบัติ นั่นหมายความว่าไม่มีใครที่ได้รับมอบอำนาจถาวรในขณะนี้เพื่อปกป้องเอกราชของศูนย์

สุนัขเฝ้าบ้านที่หยุดการเผยแพร่

AP ระบุว่าการเปลี่ยนแปลงที่เป็นผลสืบเนื่องมากขึ้นคือสิ่งที่ศูนย์ไม่ได้ทำอีกต่อไป ในเดือนสิงหาคม สภาคองเกรสถามว่าทำไม CAISSI จึงหยุดเผยแพร่รายงานต่อสาธารณะเกี่ยวกับประสิทธิภาพของระบบ AI ในการทดสอบความปลอดภัย การทดสอบก่อนการใช้งานจะทำหน้าที่เป็นการตรวจสอบสาธารณะสำหรับผู้สร้างโมเดลก็ต่อเมื่อผลลัพธ์ของมันปรากฏภายนอกห้องปฏิบัติการเท่านั้น และในตอนนี้ยังไม่เป็นเช่นนั้น

การเปลี่ยนแปลงไม่ได้มาจากที่ไหนเลย ในเดือนตุลาคม สำนักข่าวรอยเตอร์อ้างรายงานจาก The Information เปิดเผยว่าฝ่ายบริหารวางแผนที่จะย้ายเจ้าหน้าที่อาวุโสของ CAISSI 3 คนไปยังทำเนียบขาว เจ้าหน้าที่ทำเนียบขาวบอกกับ The Information ในขณะนั้นว่าปัญหาในการประสานงานกับ Commerce แสดงให้เห็นถึงความจำเป็นที่จะต้องนำความเป็นผู้นำของศูนย์เข้าใกล้การตัดสินใจของ AI มากขึ้น ตามรายงานดังกล่าว เจ้าหน้าที่จะตอบ Michael Kratsios ผู้ดูแลสำนักงานนโยบายวิทยาศาสตร์และเทคโนโลยี และ Sean Cairncross ผู้อำนวยการด้านไซเบอร์แห่งชาติ รัฐมนตรีกระทรวงพาณิชย์ Howard Lutnick ได้เชิญทั้งสองให้มาบริหารศูนย์ร่วมกันเมื่อประมาณหกเดือนก่อนหน้านี้

อ่านร่วมกัน การรายงานใหม่ของ AP ชี้ให้เห็นว่าแผนกำลังมาถึงการปฏิบัติ - อย่างไม่เป็นทางการ และก่อนการปรับโครงสร้างอย่างเป็นทางการใดๆ

ความกังวลเกี่ยวกับอิสรภาพในทั้งสองทิศทาง

นักวิจารณ์ที่อ้างโดย AP กังวลว่าการตัดสินใจที่เกี่ยวข้องกับความปลอดภัยทางไซเบอร์และความเสี่ยงด้านอาวุธชีวภาพอาจถูกทำให้เป็นเรื่องการเมือง หรือการค้นพบนั้นอาจถูกทำให้เบาลงเพื่อให้เหมาะกับอุตสาหกรรมเทคโนโลยี Amos Toh จาก Brennan Center for Justice บอกกับ AP ว่าการตัดสินใจดังกล่าวมีผลกระทบต่อสาธารณะอย่างมาก และควรได้รับการอธิบายในที่สาธารณะ แคโรไลน์ ซีเกล ซิงห์ แห่งสหพันธ์นักวิทยาศาสตร์อเมริกัน อธิบายว่าศูนย์ต่างๆ เช่น CAISSI เป็นสถาบันที่ทรงพลังที่สามารถปรับปรุงชีวิตผู้คนได้อย่างมากหรือทำสิ่งที่ตรงกันข้าม

มีข้อโต้แย้งและ AP ก็ไม่เพิกเฉย การประเมินความสามารถของโมเดลในการช่วยเขียนมัลแวร์ถือเป็นคำถามด้านความปลอดภัยระดับชาติ และฝ่ายบริหารที่ต้องการทราบว่าใครเห็นผลลัพธ์เหล่านั้นจะมีกรณีที่สามารถป้องกันได้ ความยากอยู่ที่สถาบัน: ผู้ตัดสินที่ตอบคำถามผู้สนับสนุนทีมคนใดคนหนึ่งของทีมนั้นอยู่ในตำแหน่งที่ไม่ดีนักในการเรียกเกมตรงๆ และทางศูนย์ได้หยุดเผยแพร่รายงานที่อาจแสดงให้เห็นถึงความเป็นอิสระของมัน

เหตุใดจึงสำคัญสำหรับผู้สร้างและผู้ซื้อ

สำหรับบริษัทที่สร้างโมเดลชายแดน ความเสี่ยงเชิงปฏิบัติที่ระบุในรายงานไม่ใช่การห้าม แต่เป็นความไม่แน่นอน หากการประเมินยังคงเป็นความลับและป้อนเข้าสู่การควบคุมการส่งออกและการจัดซื้อจัดจ้างของรัฐบาล ห้องปฏิบัติการอาจสูญเสียสัญญาหรือตลาดโดยพิจารณาจากการค้นพบที่ห้องปฏิบัติการไม่เคยได้เห็นหรือแข่งขันเลย ความเสี่ยงดังกล่าวจะแพร่กระจายผ่านห่วงโซ่อุปทานไปยังผลิตภัณฑ์ปลายน้ำโดยไม่มีการเตือนล่วงหน้า

สองเรื่องที่น่าดูต่อไป ประการแรกคือฝ่ายบริหารจะตั้งชื่อผู้อำนวยการถาวรของศูนย์หรือไม่ และใครเป็นคนเลือกพวกเขา ประการที่สองคือ สภาคองเกรสซึ่งกดดันศูนย์กลางให้ปิดปากรายงานรายงานที่ตีพิมพ์แล้ว เคลื่อนไหวเพื่อเขียนความเป็นอิสระของศูนย์ให้เป็นกฎหมายหรือไม่ จนกว่าจะเกิดกรณีใดกรณีหนึ่ง ผู้ตัดสินด้านความปลอดภัย AI ชายแดนของอเมริกาดำเนินการด้วยงบประมาณ 10 ล้านดอลลาร์ ไม่มีผู้นำถาวร และสายการรายงานที่มุ่งหน้าสู่ทำเนียบขาว

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →