คณะที่ปรึกษาด้านวิทยาศาสตร์แห่งสหประชาชาติออกคำเตือนโดยสิ้นเชิงว่าปัญญาประดิษฐ์กำลังพัฒนาเร็วกว่ากรอบการกำกับดูแลและวิทยาศาสตร์ที่จำเป็นในการจัดการ ทำให้เกิดความเป็นไปได้ที่จะเกิดความเสียหายร้ายแรงหากช่องว่างดังกล่าวไม่ได้รับการแก้ไขอย่างเร่งด่วน
ข้อค้นพบของคณะผู้พิจารณาซึ่งรายงานโดยรอยเตอร์เมื่อวันที่ 1 กรกฎาคม 2569 เน้นย้ำถึงความตึงเครียดที่เพิ่มขึ้นระหว่างความก้าวหน้าของ AI ที่ก้าวล้ำหน้ากับโลกแห่งการกำกับดูแลและการกำกับดูแลที่เคลื่อนไหวช้าลง สำนักข่าวหลายแห่ง รวมถึง The Times of Israel, Arab News และ MSN ยืนยันการประเมินดังกล่าว ซึ่งกำหนดกรอบให้ AI เป็นหนึ่งในความเสี่ยงที่เกิดขึ้นตามมามากที่สุดต่อเสถียรภาพของโลก หากต้องการความคุ้มครองที่ครอบคลุมเกี่ยวกับการพัฒนาเหล่านี้ โปรดติดตาม การพัฒนา AI ล่าสุด ของเราที่ AI Buzz Wire
AI แซงหน้าทั้งวิทยาศาสตร์และนโยบาย
ข้อความหลักของคณะเสวนาคือ ความสามารถของ AI กำลังขยายตัวในอัตราที่ไม่เพียงเกินขีดความสามารถด้านกฎระเบียบเท่านั้น แต่ยังเกินความเข้าใจทางวิทยาศาสตร์ที่จำเป็นในการประเมินความปลอดภัยด้วย คำเตือนมีความโดดเด่นในด้านการวางกรอบปัญหาอย่างเป็นระบบ ไม่ใช่แค่ว่าบริษัทแต่ละแห่งกำลังดำเนินการเร็วเกินไป แต่ระบบนิเวศของการประเมิน การทดสอบ และการกำกับดูแลทั้งหมดยังล้าหลังในเชิงโครงสร้างอีกด้วย
ตามการรายงานของ Technology Org และ MSN คณะผู้อภิปรายได้เตือนว่าระบบ AI กำลังถูกปรับใช้ในบริบทที่พฤติกรรมของพวกเขายังไม่เป็นที่เข้าใจอย่างถ่องแท้ แม้แต่ผู้สร้างก็ตาม สิ่งนี้จะสร้างสิ่งที่คณะผู้วิจัยอธิบายว่าเป็นหน้าต่างแห่งช่องโหว่ ซึ่งเป็นช่วงที่มีการใช้งานระบบที่มีประสิทธิภาพ แต่ยังไม่มีเครื่องมือในการทำนายหรือควบคุมโหมดความล้มเหลว
การประเมินดังกล่าวสะท้อนข้อกังวลของนักวิจัยและผู้เชี่ยวชาญด้านนโยบายที่แย้งว่าวิธีการทดสอบในปัจจุบัน รวมถึงการประเมินแบบทีมแดงและเกณฑ์มาตรฐาน ไม่เพียงพอที่จะตรวจจับรูปแบบความล้มเหลวแบบใหม่ในระบบที่มีความสามารถมากขึ้น การแทรกแซงของคณะผู้พิจารณาของสหประชาชาติให้น้ำหนักแก่สถาบันต่อประเด็นที่มีการถกเถียงทางวิชาการเป็นส่วนใหญ่
Global South ไม่รวมอยู่ในการกำกับดูแลของ AI
ข้อกังวลคู่ขนานที่เกิดขึ้นจากคณะผู้อภิปราย ซึ่งขยายความในการรายงานโดย Arab News คือการกีดกันประเทศกำลังพัฒนาออกจากการสนทนาที่กำหนดรูปแบบการกำกับดูแลของ AI คณะกรรมการเตือนว่านโยบาย AI กำลังถูกเขียนขึ้นเกือบทั้งหมดโดยประเทศที่ร่ำรวยและบริษัทที่มีสำนักงานใหญ่ในประเทศเหล่านี้ ออกจากซีกโลกใต้โดยไม่มีการนำเสนอที่มีความหมายในการตัดสินใจที่จะส่งผลกระทบต่อเศรษฐกิจ ความมั่นคง และสังคมของพวกเขา
ช่องว่างการกำกับดูแลนี้มีผลกระทบในทางปฏิบัติ ประเทศที่ไม่มีอุตสาหกรรม AI ในประเทศอาจขาดความเชี่ยวชาญทางเทคนิคในการประเมินระบบที่นำเข้า ควบคุมการใช้งาน หรือเจรจาเงื่อนไขที่ยุติธรรมกับบริษัทที่จัดหาระบบดังกล่าว คณะผู้พิจารณาเรียกร้องให้มีการรวมประเทศกำลังพัฒนาให้มากขึ้นในฟอรัมการกำกับดูแล AI ระหว่างประเทศ โดยให้เหตุผลว่าการกระจุกตัวของอำนาจการตัดสินใจในปัจจุบันเพียงไม่กี่ประเทศนั้นทั้งไม่ยุติธรรมและเป็นอันตราย
คำเตือนดังกล่าวเกิดขึ้นในขณะที่หลายประเทศในโลกใต้เริ่มสร้างกลยุทธ์ AI ของตนเอง ซึ่งมักจะมีทรัพยากรและความเชี่ยวชาญที่จำกัด การเรียกร้องให้มีการรวมคณะผู้อภิปรายสะท้อนให้เห็นถึงการยอมรับว่าความเสี่ยงของ AI ตั้งแต่การหยุดชะงักทางเศรษฐกิจไปจนถึงการให้ข้อมูลที่ไม่ถูกต้องโดยอัตโนมัติ ไม่เคารพพรมแดนของประเทศ
'ความเสี่ยงจากภัยพิบัติ' หมายถึงอะไรในทางปฏิบัติ
การใช้คำว่าภัยพิบัติของคณะผู้อภิปรายมีความสำคัญอย่างยิ่ง ในเอกสารด้านความปลอดภัยของ AI ความเสี่ยงจากหายนะมักหมายถึงผลลัพธ์ที่เกี่ยวข้องกับการหยุดชะงักทางเศรษฐกิจในวงกว้าง การเปิดใช้งานอาวุธทำลายล้างสูง การพังทลายของสถาบันประชาธิปไตยผ่านการโฆษณาชวนเชื่ออัตโนมัติ หรือความล้มเหลวของระบบโครงสร้างพื้นฐานที่สำคัญซึ่งขึ้นอยู่กับ AI
คณะผู้พิจารณาไม่ได้ระบุว่าความเสี่ยงใดที่พิจารณาว่าน่าจะเป็นไปได้มากที่สุด อย่างไรก็ตาม คำเตือนที่ครอบคลุมทุกอย่างตั้งแต่ความสมบูรณ์ทางวิทยาศาสตร์ไปจนถึงความมั่นคงของชาติ แสดงให้เห็นว่าโปรไฟล์ความเสี่ยงโดยรวมของ AI เพิ่มขึ้นเร็วกว่าความเสี่ยงส่วนบุคคลที่สามารถประเมินและบรรเทาได้
การประเมินดังกล่าวสอดคล้องกับการวิจัยที่เพิ่มขึ้นจากสถาบันต่างๆ รวมถึงศูนย์ความปลอดภัย AI สถาบันอนาคตของมนุษยชาติ และหน่วยงานที่ปรึกษาของรัฐบาลต่างๆ สิ่งที่ทำให้การแทรกแซงของคณะผู้พิจารณาของสหประชาชาติแตกต่างออกไปคือขอบเขตระดับโลกและการเรียกร้องให้มีการประสานงานระหว่างประเทศ แทนที่จะเป็นกฎระเบียบระดับชาติทีละน้อยซึ่งครอบงำแนวนโยบายจนถึงปัจจุบัน
แนวการกำกับดูแล
คำเตือนมาถึงในช่วงเวลาที่มีกิจกรรมด้านกฎระเบียบที่เข้มงวดมากขึ้น ในสหรัฐอเมริกา ทำเนียบขาวได้เร่งความพยายามในการสร้างมาตรฐานโมเดล AI รวมถึงมาตรการผู้บริหารใหม่ที่ควบคุมการเปิดตัวโมเดลชายแดน พระราชบัญญัติ AI ของสหภาพยุโรปยังคงมีผลบังคับใช้ โดยขณะนี้บทบัญญัติที่กำหนดเป้าหมายไปที่ระบบ AI ที่มีความเสี่ยงสูงมีผลบังคับใช้แล้ว จีนได้นำชุดกฎระเบียบ AI ของตนเองไปใช้ โดยมุ่งเน้นไปที่การควบคุมเนื้อหาและความโปร่งใสของอัลกอริทึม
อย่างไรก็ตาม การประเมินของคณะผู้พิจารณาชี้ให้เห็นว่า แม้แต่ความพยายามเหล่านี้ แม้ว่าจะเป็นสาระสำคัญก็ตาม ก็ยังคงมีการตอบโต้มากกว่าเชิงรุก กฎระเบียบต่างๆ ถูกเขียนขึ้นเพื่อตอบสนองต่อความสามารถที่มีอยู่แล้ว ในขณะที่ระบบรุ่นถัดไปกำลังอยู่ในระหว่างการพัฒนา คณะกรรมการเตือนว่าความล่าช้าของโครงสร้างนี้คือจุดที่อันตรายที่สุดเกิดขึ้น
ก้าวนำหน้า AI
หากต้องการข้อมูลล่าสุดเกี่ยวกับนโยบาย AI การกำกับดูแล และความเสี่ยงระดับโลก โปรดไปที่ AI Buzz Wire
อ่านข่าว AI เพิ่มเติม →
