นักวิจัยมากกว่า 20 คน ในจำนวนนี้เป็น Geoffrey Hinton ผู้ได้รับรางวัลโนเบล, Yoshua Bengio ผู้บุกเบิกด้าน AI, Jack Clark ผู้ร่วมก่อตั้ง Anthropic และ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้เตือนรัฐบาลต่างๆ ให้เตรียมพร้อมสำหรับ "การระเบิดของสติปัญญา" ของ AI ที่พวกเขากล่าวว่าอาจเป็นการพัฒนาทางเทคโนโลยีที่เป็นผลสืบเนื่องมากที่สุดในประวัติศาสตร์ The Guardian รายงานเมื่อวันจันทร์

บทความเรื่อง "จะเกิดอะไรขึ้นถ้าการวิจัยและพัฒนา AI อัตโนมัติทำให้เกิดการระเบิดของข่าวกรอง" กระตุ้นให้นักการเมืองลงมือก่อนที่เทคโนโลยีจะก้าวหน้าอย่างหลีกเลี่ยงไม่ได้ ผู้เขียนบรรยายถึงสถานการณ์นี้ว่าเป็น "การเร่งความก้าวหน้าของ AI ที่ขับเคลื่อนด้วย AI อย่างน่าทึ่ง ซึ่งบีบอัดความก้าวหน้าที่อาจต้องใช้เวลาหลายปีเป็นเดือนหรือน้อยกว่านั้น" สำหรับผู้อ่านที่ติดตาม ข่าวการวิจัย AI ล่าสุด รายงานนี้มีความน่าตกใจน้อยกว่าผู้ที่ลงนาม กล่าวคือ ตัวเลขจากทั่วทั้งสถาบันการศึกษาและห้องปฏิบัติการชายแดนของคู่แข่ง ซึ่งร่วมกันสร้างกรณีที่การวิจัยอัตโนมัติเป็นสิ่งที่ผู้กำหนดนโยบายสถานการณ์ได้รับการเตรียมพร้อมน้อยที่สุด

การระเบิดของสติปัญญาจะหมายถึงอะไร

ความกังวลหลักของผู้เขียนคือโอกาสที่ระบบ AI จะพัฒนาตนเองโดยไม่ต้องมีการแทรกแซงของมนุษย์ ซึ่งเป็นกระบวนการที่เรียกว่าการพัฒนาตนเองแบบเรียกซ้ำ ซึ่งเรียกอย่างกว้างๆ ในบทความนี้ว่าเป็นการวิจัยและพัฒนา AI แบบอัตโนมัติ

เมื่อระบบ AI เข้าถึงขีดความสามารถระดับผู้เชี่ยวชาญที่ AI R&D บทความนี้ระบุว่า นักพัฒนาเพียงรายเดียวสามารถบริหารทีมได้เทียบเท่ากับนักวิจัยชั้นนำของมนุษย์ "ล้านคน" ในมุมมองของผู้เขียน การทำให้การวิจัยและพัฒนา AI อัตโนมัติเป็นสาเหตุที่เป็นไปได้มากที่สุดที่ทำให้เกิดการระเบิดของข่าวกรอง เนื่องจากระบบ AI ได้มีส่วนช่วยในการพัฒนาเทคโนโลยีของตนเองอยู่แล้ว และระบบที่ได้รับการปรับปรุงที่พวกเขาช่วยสร้างนั้นสามารถนำไปใช้งานได้อย่างรวดเร็วเมื่อสร้างขึ้นแล้ว

“การระเบิดของข่าวกรองอาจเป็นการพัฒนาทางเทคโนโลยีที่เป็นผลสืบเนื่องมากที่สุดในประวัติศาสตร์ของมนุษย์ โดยบีบอัดหลายปีของความก้าวหน้าให้เหลือเพียงเดือนหรือน้อยกว่านั้น คุกคามการควบคุมระบบ AI ของมนุษย์ และกัดกร่อนการตรวจสอบอำนาจภายในและระหว่างรัฐ บริษัท และสาขาของรัฐบาลอย่างรุนแรง” รายงานระบุ ตามรายงานของ The Guardian

ทำไมผู้เขียนถึงบอกว่าหน้าต่างกำลังจะปิด

ความเร่งด่วนของรายงานขึ้นอยู่กับการอ้างสิทธิ์ในไทม์ไลน์: ระบบ AI ที่ดูผิดพลาดในปัจจุบันอาจทำให้โครงการ R&D ที่ใช้ทีมงานมนุษย์เป็นเดือนโดยอัตโนมัติภายในปี 2571

“ผลผลิตที่ได้รับจากระบบอัตโนมัติด้านการวิจัยและพัฒนาของ AI ยังไม่ถึงเกณฑ์ที่จำเป็นในการกระตุ้นให้เกิดการระเบิดของข่าวกรอง แต่กำไรจากระบบใหม่มีแนวโน้มที่จะเข้าใกล้เกณฑ์ดังกล่าว” ผู้เขียนเขียน "เมื่อการระเบิดของข่าวกรองเริ่มต้นขึ้น หน้าต่างสำหรับการดำเนินการอาจปิดลง"

เอกสารดังกล่าวเสริมว่า "หลักฐานเบื้องต้นชี้ให้เห็นว่าการระเบิดของข่าวกรองที่ขับเคลื่อนด้วยซอฟต์แวร์นั้นเป็นไปได้" ซึ่งอาจนำไปสู่ ​​"การพัฒนาอย่างรวดเร็วมากของระบบ AI ที่มีความสามารถสูงหรือเหนือมนุษย์"

ความเสี่ยงที่พวกเขาตั้งค่าสถานะ

แม้ว่าการระเบิดของข่าวกรองอาจก่อให้เกิดความก้าวหน้าทางการแพทย์และการก้าวกระโดดทางเทคโนโลยีอย่างรวดเร็ว ผู้เขียนได้สรุปอันตรายหลักสามประการ:

  • ภัยคุกคามที่หลบหนี ระบบที่มีประสิทธิภาพสามารถเปิดใช้งานภัยคุกคามทางชีวภาพและไซเบอร์ที่พัฒนาเร็วกว่ามาตรการที่จำเป็นในการตอบโต้
  • สูญเสียการควบคุม เนื่องจากมนุษย์มีส่วนร่วมในการวิจัยและพัฒนา AI น้อยลง พวกเขาจึงอาจสูญเสียโอกาสในการควบคุมและจำกัดระบบที่พวกเขาสร้างขึ้น
  • ความไม่มั่นคงทางยุทธศาสตร์ รัฐอาจใช้การระเบิดของข่าวกรองเพื่อเปลี่ยนผู้นำในระดับปานกลาง เช่น ในโลกไซเบอร์ ให้กลายเป็นความได้เปรียบระดับชาติที่เด็ดขาด

รายงานระบุอย่างตรงไปตรงมาว่าผลกระทบเหล่านี้ "ไม่แน่นอน" ความก้าวหน้าทางเทคโนโลยีอาจต้องใช้เวลาในการดำเนินการตามห่วงโซ่อุปทานสำหรับวัสดุเฉพาะทางหรือข้อกำหนดด้านกฎระเบียบ และระบบ AI ยังสามารถเร่งความเร็วในการลดความเสี่ยงได้อีกด้วย

สิ่งที่รัฐบาลควรทำ

ผู้เขียนกล่าวว่าการเตรียมการสำหรับการระเบิดของข่าวกรอง "ควรเป็นเรื่องเร่งด่วนเร่งด่วน รวมทั้งในระดับผู้นำสูงสุดของรัฐบาล" และกำหนดชุดนโยบายผู้สมัคร:

  • ต้องการรายงานความคืบหน้าที่โปร่งใสเกี่ยวกับการวิจัยและพัฒนาที่เกี่ยวข้องกับ AI รวมถึงการฝังผู้ตรวจสอบอิสระภายในบริษัท AI
  • การจำกัดความเร็วของระบบ AI ที่สามารถปรับปรุงได้ภายในระยะเวลาที่กำหนด
  • การทำงานร่วมกับศูนย์ข้อมูลเพื่อให้สามารถหยุดโครงการวิจัยและพัฒนา AI บางรายการได้ชั่วคราว
  • การตรวจสอบให้แน่ใจว่าระบบ R&D AI อัตโนมัตินั้นถูกแยกออกจากกันอย่างสมบูรณ์และไม่สามารถหลบหนีการควบคุมของมนุษย์ได้
  • การสร้าง "แผนเผชิญเหตุฉุกเฉิน" สำหรับช่วงของสถานการณ์ที่อาจเกิดการระเบิดของข่าวกรอง

ข้อเสนอดังกล่าวขยายแนวคิดที่ดำเนินการผ่านนโยบาย AI ของตะวันตกแล้ว — การรายงานเหตุการณ์บังคับ การประเมินโดยบุคคลที่สาม และการกำกับดูแลการประมวลผล — แต่นำไปใช้กับจุดสิ้นสุดที่เฉพาะเจาะจง: ระบบอัตโนมัติของการวิจัยเอง

ทำไมต้องเป็นผู้เขียนเหล่านี้ และทำไมตอนนี้

ผู้ลงนามให้กระดาษมีน้ำหนักผิดปกติ Hinton และ Bengio คือ "เจ้าพ่อ" สองคนของ AI ยุคใหม่ ซึ่งได้รับการยอมรับจากการทำงานพื้นฐานเกี่ยวกับโครงข่ายประสาทเทียม ทั้งสองได้กลายเป็นเสียงเตือนเกี่ยวกับเทคโนโลยีที่พวกเขาช่วยสร้าง Clark เป็นผู้ร่วมก่อตั้ง Anthropic และ Pachocki เป็นหัวหน้านักวิทยาศาสตร์ของ OpenAI

คำเตือนของพวกเขาเกิดขึ้นท่ามกลางความเคลื่อนไหวของอุตสาหกรรมที่สามารถวัดผลได้ในทิศทางนั้น Anthropic กล่าวว่าตอนนี้ AI ผลิตโค้ดของตัวเองได้ 80% ในขณะที่ OpenAI ใช้ตัวแทน AI ที่เป็นอิสระในด้านต่างๆ เช่น การฝึกอบรมโมเดลใหม่ ตามรายงานของ The Guardian ห้องปฏิบัติการทั้งสองแห่งยังได้ตกลงที่จะให้ผู้ประเมินอิสระประเมินแบบจำลองของตน หลังจากได้รับคำเตือนว่าการพัฒนา AI กำลังถึงระดับวิกฤตในแง่ของความปลอดภัย

รัฐบาลจะก้าวไปตามที่ผู้เขียนต้องการหรือไม่นั้นเป็นอีกคำถามหนึ่ง แต่ข้อโต้แย้งหลักของรายงานที่ว่า ช่วงเวลาในการสร้างเบรกคือก่อนที่รถจะต้องการ บัดนี้ได้รับการรับรองโดยคนที่อยู่ใกล้รถที่สุดแล้ว

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →