พระเจ้าชาร์ลส์ที่ 3 ออกคำเตือนโดยสิ้นเชิงเกี่ยวกับ "อันตรายที่มีอยู่" ของปัญญาประดิษฐ์เมื่อวันพฤหัสบดี โดยปราศรัยกับผู้บริหารจาก Nvidia, Google DeepMind และ OpenAI ที่มารวมตัวกันที่คฤหาสน์ Dumfries House ของเขาในสกอตแลนด์เพื่อเข้าร่วมการประชุมสุดยอดระดับสูงเกี่ยวกับอนาคตของเทคโนโลยี

พระมหากษัตริย์ตรัสกับผู้นำอุตสาหกรรมที่รวมตัวกันว่ามีความเร่งด่วนในการเผชิญกับความเสี่ยงที่เกิดจากระบบ AI ที่ทรงพลังมากขึ้น โดยเฉพาะอย่างยิ่งหากเทคโนโลยีถูกควบคุมโดยผู้ไม่ประสงค์ดี For more context on this story, see our ongoing latest AI developments.

“ดูเหมือนมีความเร่งด่วนในการพิจารณาอย่างเพียงพอถึงอันตรายที่มีอยู่ของเทคโนโลยีดังกล่าวที่ตกไปอยู่ในมือของคนผิด และถูกนำไปใช้ในทางที่อาจเป็นหายนะ” กษัตริย์ทรงตรัสกับบรรดาผู้นำที่มารวมตัวกันที่คฤหาสน์ไอร์เชอร์ ตามรายงานของเอบีซีนิวส์และสื่ออื่นๆ หลายแห่ง

ข้อความคู่: คำสัญญาและอันตราย

คำปราศรัยของกษัตริย์ไม่ใช่การปฏิเสธเทคโนโลยีนี้อย่างครอบคลุม เขารับทราบว่าปัญญาประดิษฐ์มีศักยภาพมหาศาลในทางที่ดี โดยเฉพาะอย่างยิ่งในด้านวิทยาศาสตร์ชีวภาพและการแพทย์ ซึ่งเครื่องมือ AI ถูกนำมาใช้มากขึ้นเพื่อเร่งการวิจัยและปรับปรุงผลลัพธ์ของผู้ป่วย

แต่เขาจับคู่การมองโลกในแง่ดีนั้นด้วยความระมัดระวังว่าผู้สร้างเทคโนโลยีเองก็เตือนมากขึ้นเรื่อย ๆ ว่าระบบขั้นสูงสามารถพัฒนาความสามารถที่มืดกว่าได้ "บางทีอาจถึงขั้นเสียชีวิตได้" เขากล่าวตามคำพูดของผู้ประกาศข่าว

พระองค์ยังทรงเรียกร้องให้มีการวางมาตรการป้องกันก่อนที่จะสายเกินไปที่จะควบคุมวิถีของเทคโนโลยี และเพิ่มผลกระทบต่อสิ่งแวดล้อมจากการพัฒนา AI ซึ่งเป็นหัวข้อที่ได้รับความสนใจเพิ่มมากขึ้นเนื่องจากการสร้างศูนย์ข้อมูลสร้างความตึงเครียดให้กับโครงข่ายไฟฟ้าในหลายประเทศ

ใครเข้าร่วมการประชุมสุดยอดแห่งสกอตแลนด์

รายชื่อแขกถือเป็นภาพตัดขวางของบุคคลผู้ทรงอิทธิพลที่สุดในอุตสาหกรรม AI ผู้เข้าร่วมประกอบด้วยผู้ก่อตั้ง Nvidia และประธานเจ้าหน้าที่บริหาร Jensen Huang, Demis Hassabis ผู้ก่อตั้ง Google DeepMind และ Sarah Friar ประธานเจ้าหน้าที่ฝ่ายการเงินของ OpenAI ตามรายงานของ ABC News กนิษกะ นารายณ์ รัฐมนตรีกระทรวงปัญญาประดิษฐ์ของอังกฤษก็เข้าร่วมด้วย

Huang ได้รับเชิญให้เข้าเฝ้ากษัตริย์เพื่อหารือเกี่ยวกับกลไกความปลอดภัยของอุตสาหกรรม ตามภาพและคำบรรยายที่เผยแพร่โดย Reuters คุณพ่อเปาโล เบนันตี ที่ปรึกษาของสมเด็จพระสันตะปาปาผู้เรียกร้องให้รัฐบาลต่างๆ ชะลอการพัฒนา AI ก็ถูกคาดหวังให้เข้าร่วมการอภิปรายด้วยเช่นกัน

การเลือกสถานที่และการประชุมมีความสำคัญ สถาบันพระมหากษัตริย์อังกฤษไม่มีอำนาจในการกำกับดูแล แต่พระมหากษัตริย์ทรงมีประวัติอันยาวนานในการมีส่วนร่วมของสาธารณะเกี่ยวกับความเสี่ยงด้านเทคโนโลยีที่เกิดขึ้นใหม่ และการประชุมสุดยอดครั้งนี้ทำให้บุคคลอาวุโสที่สุดของอุตสาหกรรมมีการแบ่งปันกันในช่วงเวลาที่เสียงเรียกร้องให้มีการกำกับดูแลที่ทวีความเข้มข้นขึ้นทั้งสองฝั่งของมหาสมุทรแอตแลนติก

การอภิปรายฟื้นคืนพลัง

การชุมนุมเกิดขึ้นท่ามกลางการถกเถียงต่อสาธารณะเกี่ยวกับความเสี่ยงของ AI การอภิปรายได้รับความสนใจอีกครั้งหลังจากนักวิจัยด้านมานุษยวิทยาสองคนเตือนว่าเทคโนโลยีที่ก้าวหน้าอย่างรวดเร็วอาจนำไปสู่การสูญพันธุ์ของมนุษย์ในอนาคตอันใกล้นี้ ซึ่งเป็นความคิดเห็นที่ทำให้เกิดความครอบคลุมและวิพากษ์วิจารณ์อย่างกว้างขวางในระดับที่เท่าเทียมกัน

Dario Amodei ผู้บริหารระดับสูงด้านมานุษยวิทยาได้เรียกร้องให้บริษัทต่างๆ ชะลอการพัฒนา AI สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงเรียกร้องให้รัฐบาลทั่วโลกชะลอการพัฒนาระบบ AI และลดผลกระทบที่ก่อกวน ในขณะที่ประธานาธิบดีโดนัลด์ ทรัมป์ แห่งสหรัฐฯ เข้ามาแทรกแซงการอภิปรายนี้เช่นกัน ทำให้คำถามเรื่องการกำกับดูแล AI เป็นปัญหาทางการเมืองระดับโลกอย่างแท้จริง แทนที่จะเป็นปัญหาทางเทคนิคล้วนๆ

ในทางกลับกัน มีความกังวลเพิ่มขึ้นว่าความพยายามด้านความปลอดภัยของ AI นั้นล้าหลังการพัฒนาระบบที่มีความสามารถมากขึ้น ในช่วงไม่กี่สัปดาห์ที่ผ่านมา การอภิปรายมุ่งเน้นไปที่ว่าอุตสาหกรรมสามารถและควรควบคุมตัวเองหรือไม่ โดยที่บรรดาผู้คลางแคลงใจตั้งคำถามว่าผู้บริหารที่เรียกร้องความระมัดระวังอาจมีเจตนาแอบแฝงหรือไม่ เช่น การสร้างกฎเกณฑ์ที่รักษาความเป็นผู้นำในการแข่งขันของบริษัทใดบริษัทหนึ่ง

ไม่คาดว่าจะมีกฎเกณฑ์ผูกมัด

ผู้จัดงานไม่เคยตีกรอบการประชุมสก็อตแลนด์ว่าเป็นการเจรจา ตามรายงานของ ABC News การประชุมไม่คาดว่าจะจัดทำข้อตกลงที่มีผลผูกพันใดๆ วัตถุประสงค์อย่างน้อยในนามคือการสำรวจว่าชุดหลักการที่ใช้ร่วมกันสามารถชี้แนะวิธีการนำ AI ไปใช้ข้ามพรมแดนและอุตสาหกรรมได้หรือไม่

พระราชวังบักกิงแฮมกล่าวว่าการอภิปรายจะพิจารณาว่า AI สามารถถูกชี้นำได้หรือไม่ “ไม่ใช่แค่ในฐานะตัวขับเคลื่อนความสามารถและประสิทธิภาพเท่านั้น แต่ยังเป็นเครื่องมือที่รักษาศักดิ์ศรีของมนุษย์และมีส่วนช่วยในการเจริญรุ่งเรืองของทั้งผู้คนและโลก”

กรอบดังกล่าวสะท้อนถึงประเด็นสำคัญที่ในหลวงทรงตรัสซ้ำแล้วซ้ำเล่า: คำถามไม่เพียงแต่ว่า AI จะทำให้ปลอดภัยได้หรือไม่ แต่ควรทำเพื่ออะไร คำพูดเมื่อวันพฤหัสบดีทำให้รุนแรงขึ้นซึ่งชี้ให้เห็นถึงคำเตือนเกี่ยวกับการเป็นเจ้าของและการควบคุม ซึ่งแตกต่างอย่างเห็นได้ชัดจากความกลัวที่เน้นความสามารถซึ่งครอบงำการอภิปรายเกี่ยวกับความเสี่ยงของ AI ส่วนใหญ่

จะเกิดอะไรขึ้นต่อไป

การประชุมสุดยอดไม่น่าจะสร้างนโยบายได้ด้วยตัวเอง แต่เป็นการเพิ่มแรงผลักดันให้กับความพยายามอย่างเป็นทางการที่กำลังดำเนินอยู่ สหราชอาณาจักรวางตำแหน่งตัวเองเป็นผู้ประชุมด้านความปลอดภัยของ AI นับตั้งแต่การประชุมสุดยอด AI ก่อนหน้านี้ และการมีอยู่ของรัฐมนตรีกระทรวงปัญญาประดิษฐ์โดยเฉพาะเป็นการส่งสัญญาณว่ารัฐบาลตั้งใจที่จะมีส่วนร่วมกับนักพัฒนา AI ทั้งในสหรัฐอเมริกาและจีน

สำหรับบริษัทที่อยู่ในห้องนี้ แคลคูลัสเป็นเรื่องละเอียดอ่อน Nvidia, DeepMind และ OpenAI ต่างเผชิญกับแรงกดดันทางการค้าในการจัดส่งระบบที่มีความสามารถมากขึ้น แม้ว่านักวิจัยของพวกเขาเองจะเผยแพร่คำเตือนเกี่ยวกับสิ่งที่ระบบเหล่านั้นอาจทำในที่สุดก็ตาม พระราชโองการไม่ได้ช่วยแก้ไขความตึงเครียดดังกล่าว แต่จะทำให้มั่นใจได้ว่าความตึงเครียดจะยังคงมองเห็นได้

ข้อความหลักของ King ที่ว่าการป้องกันจะต้องมาถึงก่อนที่เทคโนโลยีจะหลุดพ้นความสามารถของใครก็ตามในการควบคุมมัน เกิดขึ้นในหนึ่งสัปดาห์เมื่อวาทกรรมด้านความปลอดภัยของอุตสาหกรรมดังอย่างผิดปกติ ตั้งแต่การเปิดเผยเหตุการณ์ด้านความปลอดภัยหลายครั้งของ OpenAI ที่เกี่ยวข้องกับแบบจำลองของตัวเอง ไปจนถึงข้อพิพาทสาธารณะที่ทวีความรุนแรงขึ้นระหว่างผู้นำ AI ของ Microsoft และ Anthropic เกี่ยวกับวิธีการออกแบบระบบ AI

การชุมนุมในวันพฤหัสบดีจะแปลเป็นรูปธรรมมากขึ้นหรือไม่นั้นต้องรอติดตามกันต่อไป แต่ด้วยการที่ผู้นำของผู้ผลิตชิปที่มีมูลค่ามากที่สุดในโลกและห้องปฏิบัติการ AI ที่โดดเด่นที่สุดนั่งอยู่ในบ้านในชนบทของสก็อตแลนด์ ต่างเห็นพ้องต้องกันว่าเดิมพันมีอยู่จริง การสนทนาเกี่ยวกับผู้ที่ควบคุม AI และผลประโยชน์ของใคร จึงได้เคลื่อนไปสู่ที่เปิดเผยอย่างเด็ดขาด

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →