หนึ่งใน "เจ้าพ่อแห่ง AI" ได้ออกคำเตือนที่ชัดเจนที่สุด: เจฟฟรีย์ ฮินตัน นักวิทยาศาสตร์คอมพิวเตอร์เจ้าของรางวัลโนเบลซึ่งมีงานวิจัยสนับสนุนปัญญาประดิษฐ์สมัยใหม่ กล่าวว่า อาจกลายเป็นว่ามนุษย์คงจะดีกว่าถ้าไม่พัฒนาเทคโนโลยีนี้ ในการให้สัมภาษณ์กับ The Guardian เขายังเตือนด้วยว่า AI อาจก่อให้เกิดเหตุการณ์ขนาดใหญ่ เช่น ระบบการเงินหรือพลังงานไฟฟ้าดับชั่วคราวในปีนี้หรือปีหน้า

'อาจเป็นได้ว่าเราคงจะดีกว่าไม่พัฒนาเลย' หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู AI แนวโน้ม ที่กำลังดำเนินอยู่ของเรา

ฮินตัน วัย 78 ปี บอกกับเดอะการ์เดียนว่าเขาไม่ใช่ "คนสิ้นโลก" เกี่ยวกับเทคโนโลยีที่สร้างขึ้นจากผลงานบุกเบิกของเขาในด้านโครงข่ายประสาทเทียม เขาเชื่อว่า AI ยังคงมีศักยภาพที่จะส่งมอบสิ่งที่เขาเรียกว่า "อนาคตที่ยอดเยี่ยม" และ "ความอุดมสมบูรณ์ที่รุนแรง" แต่เขาไม่แน่ใจเกี่ยวกับข้อเสีย: "อาจเป็นได้ว่าเราคงจะดีกว่าไม่พัฒนาเลย"

นักวิทยาศาสตร์ที่เกิดในอังกฤษกล่าวว่าภายในหนึ่งทศวรรษ — และอาจเร็วกว่านั้น — มนุษยชาติจะรู้ว่ามันอยู่บนเส้นทางใด ไม่ว่าโลกจะจัดการความเสี่ยงของเทคโนโลยีและแบ่งปันผลประโยชน์หรือตามคำพูดของเขา "เราล้มเหลวในการจัดการความเสี่ยงและ... มีช่องว่างขนาดใหญ่ระหว่างคนรวยและคนจน ปัญหาทางวัฒนธรรมขนาดใหญ่ การว่างงานจำนวนมาก เพียงสังคมที่ถูกแยกออกจากกัน"

'AI Chernobyl' อาจมาถึงในปีนี้หรือปีหน้า

Hinton แสดงความคิดเห็นก่อนที่จะฉายสารคดีเรื่องยาวเรื่องใหม่ "AI: อาจไม่มีอะไรต้องกังวล" ซึ่งเป็นชื่อที่เขาตั้งข้อสังเกตซึ่งได้รับการแนะนำโดยแชทบอท AI ภาพยนตร์เรื่องนี้นำแสดงโดย Hinton ร่วมกับอดีตเพื่อนร่วมงาน Google ของเขา Demis Hassabis หัวหน้า DeepMind และออกอากาศทางช่อง 4 ในวันที่ 12 พฤศจิกายน เวลา 22.00 น. ในสหราชอาณาจักร

“ฉันรู้สึกว่าฉันมีหน้าที่” ฮินตันกล่าวในสารคดี “ฉันมีชื่อเสียงที่ทำให้ฉันเป็นโฆษกและฉันต้องเผามันทิ้งทั้งหมด”

คำเตือนของเขาเป็นแบบอย่างที่เป็นรูปธรรม ฮินตันกล่าวว่าเขามองว่าเหตุการณ์ในฤดูร้อนนี้ที่ตัวแทน AI ของ OpenAI สมคบคิดที่จะเจาะเข้าไปในเว็บไซต์ Hugging Face ซึ่งเทียบเท่ากับการล่มสลายบางส่วนของอุตสาหกรรมในปี 1979 ที่โรงไฟฟ้านิวเคลียร์ Three Mile Island ซึ่งเป็นสัญญาณเตือนก่อนที่จะเกิดสิ่งที่เลวร้ายยิ่งกว่านั้นมาก

“ไม่ว่าจะเป็นปลายปีนี้หรือปีหน้า เราก็จะได้เห็นคอร์โนบิล และนั่นอาจจะเพียงพอแล้วที่จะทำให้ผู้คนให้ความสนใจจริงๆ” เขากล่าว โดยอ้างถึงภัยพิบัตินิวเคลียร์ของสหภาพโซเวียตในปี 1986

โดย "Chornobyl" ฮินตันไม่ได้หมายถึงเหตุการณ์นิวเคลียร์ ตัวอย่างของเขา: การโจมตีที่ใช้ AI ในระบบผลิตไฟฟ้าซึ่งทำให้เกิด "ไฟดับครั้งใหญ่" หรือเหตุการณ์ที่ทำให้ระบบการเงินล่มเป็นเวลาหนึ่งสัปดาห์ “คุณจินตนาการได้ไหมว่าจะเกิดอะไรขึ้น เราสามารถฟื้นตัวจากมันได้ [แต่] นั่นจะทำให้พวกเขาลุกขึ้นนั่งและสังเกตเห็น” เขากล่าว เมื่อถามว่า "พวกเขา" เป็นใคร เขาตอบว่า "ผู้นำโลกอื่นที่ไม่ใช่ทรัมป์"

Hinton เกี่ยวกับหัวหน้า AI: Altman, Musk และ Zuckerberg

คำวิจารณ์ส่วนใหญ่ของ Hinton มุ่งเป้าไปที่ผู้บริหารที่เป็นผู้นำการแข่งขัน AI ระดับแนวหน้า เขาบอกกับ The Guardian ว่าเขาไม่ไว้ใจ Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI ผู้สร้าง ChatGPT โดยเรียกมันว่า "น่ากังวลอย่างยิ่ง" ที่ Altman บริหารหนึ่งในบริษัท AI ชายแดนไม่กี่แห่งของสหรัฐฯ ที่กำลังแข่งกับจีนเพื่อสร้าง AI ที่ทรงพลังที่สุด

“ผมคิดว่า [Mark] Zuckerberg และ [Elon] Musk และ Sam Altman พวกเขาเข้าใจถึงความเสี่ยง และพวกเขาก็ไม่สนอะไร พวกเขาอยากได้เงินมากกว่า นั่นคือความเชื่อของผม” Hinton กล่าว

การประเมินนั้นแตกต่างอย่างมากกับท่าทีสาธารณะของอัลท์แมน The Guardian ตั้งข้อสังเกตว่าอัลท์แมนยืนกรานในเดือนกันยายนว่า "โลกควรวางใจว่าเรากำลังจะทำสิ่งที่ถูกต้องเพราะมันเป็นสิ่งที่ถูกต้องและเพราะเรารู้สึกถึงความสำคัญของสิ่งนี้" ประธานาธิบดีโดนัลด์ ทรัมป์ ของสหรัฐฯ ในส่วนของเขากล่าวว่าเขา "ปฏิเสธโดยสิ้นเชิงต่อความพยายามใดๆ ที่จะสร้างโครงการโลกาภิวัตน์" เพื่อควบคุม AI และต้องการให้บริษัท AI ที่อยู่ชายแดนควบคุมตนเอง ท่ามกลางความกังวลว่ากฎที่มีผลผูกพันอาจขัดขวางสหรัฐอเมริกาในการแข่งขันกับจีน

FDA สำหรับโมเดล AI

ในสถานการณ์ดังกล่าว Hinton กำลังสนับสนุนแนวทางการกำกับดูแลที่เข้มงวดมากขึ้น: แผนที่ได้รับการสนับสนุนจากประธานาธิบดีฟินแลนด์และอีก 32 ประเทศ รวมถึงสิงคโปร์ เยอรมนี แคนาดา และออสเตรเลีย ซึ่งเรียกร้องให้มีการทดสอบแบบจำลอง AI ระดับแนวหน้า การประเมินโดยอิสระ และมาตรฐานทั่วไประหว่างรัฐบาล

นอกจากนี้ เขายังมองเห็นบทบาทของสหราชอาณาจักร ซึ่งนายกรัฐมนตรีแอนดี เบิร์นแฮม กล่าวว่าเขาจะใช้ตำแหน่งประธานกลุ่ม G20 ของอังกฤษในปีหน้าเพื่อแสวงหาข้อตกลงเกี่ยวกับ "หลักการและมาตรฐานระดับโลกชุดเดียวที่มีความสำคัญอย่างยิ่งในการปลดล็อกศักยภาพสูงสุดในขณะเดียวกันก็ป้องกันความเสี่ยง"

โมเดลที่ฮินตันชื่นชอบคือเรื่องทางการแพทย์อย่างชัดเจน “เราต้องการบางอย่างเช่น FDA ของอเมริกาสำหรับยา โดยบริษัทต่างๆ จะต้องให้หลักฐานทางสถิติที่ดีมากแก่หน่วยงานอิสระว่า [แบบจำลอง AI] มีประโยชน์มากกว่าอันตรายก่อนที่จะเผยแพร่” เขากล่าว "เราค้นพบด้วยธาลิโดไมด์ว่าการปล่อยตัวแล้วฟ้องร้องพวกเขาไม่ใช่วิธีที่ถูกต้อง สิ่งที่บริษัทเทคโนโลยียักษ์ใหญ่พูดคือปฏิบัติต่อมันเหมือนกับที่เราปฏิบัติต่อธาลิโดไมด์"

'สัญชาตญาณของฉันคือเรายังควบคุมได้'

สถานการณ์ที่เยือกเย็นมาจากคนที่มีจุดยืนที่ไม่มีใครเทียบได้ Hinton ทำงานเกี่ยวกับ AI มาประมาณ 44 ปี เป็นผู้ริเริ่มแนวคิดโครงข่ายประสาทเทียมในปี 1970 และแบ่งปันรางวัลโนเบลสาขาฟิสิกส์ประจำปี 2024 สำหรับงานพื้นฐานด้านการเรียนรู้ของเครื่อง เขาออกจาก Google ในปี 2023 เพื่อพูดได้อย่างอิสระเกี่ยวกับความเสี่ยง โดยเตือนในขณะนั้นว่าหากระบบ AI "ถูกใช้งานจนควบคุมได้มากขึ้น เราก็จะประสบปัญหา"

บทบาทของเขาได้รับการเปรียบเทียบกับ J. Robert Oppenheimer เพื่อนคนหนึ่งถึงกับซื้อหมวกสไตล์ Oppenheimer ให้เขา แต่เขาปฏิเสธการเปรียบเทียบนี้ “ฉันไม่ใช่ออพเพนไฮเมอร์” เขากล่าว โดยอ้างถึงนักวิทยาศาสตร์อีกหลายพันคนที่มีส่วนร่วมในสาขาโครงข่ายประสาทเทียม

สำหรับกรอบความหายนะที่เต็มไปด้วยความหายนะ ฮินตันจบการสัมภาษณ์ด้วยความหวังที่มีเงื่อนไข “สัญชาตญาณของฉันคือเรายังควบคุมได้” เขากล่าว “เราอาจจะทำอะไรบางอย่างได้ มันจะได้ผลก็ต่อเมื่อเราใช้ความพยายามอย่างมากกับมัน แต่เราอาจใช้ความพยายามอย่างมากกับมัน”

ไม่ว่าโลกจะใช้ความพยายามนั้นหรือไม่ ก็ตามบนไทม์ไลน์ของเขาเอง คำถามที่ได้รับคำตอบในทศวรรษนี้ อาจจะอยู่ก่อนหน้านั้นเสียอีก

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →