คลื่นคำเตือนสาธารณะจากภายใน Anthropic ทวีความรุนแรงมากขึ้นในสัปดาห์นี้ เนื่องจากนักวิจัยหลายคนในบริษัท AI สะท้อนการประเมินปัญญาประดิษฐ์ที่ล่มสลายของอดีตเพื่อนร่วมงาน ซึ่งได้รับการตอบสนองอย่างดูถูกจาก Elon Musk ซึ่งแนะนำว่าเสียงโวยวายนั้นเป็น "psyop" ที่ประสานกัน

ตามรายงานของ The Guardian การเพิ่มขึ้นเกิดขึ้นหนึ่งวันหลังจากที่ Jacob Coxon นักวิจัยด้านมานุษยวิทยาประกาศลาออกในโพสต์ไวรัล โดยเขียนว่าทั้ง Anthropic และ OpenAI ซึ่งเป็นนายจ้างเก่าของเขา ไม่ได้สร้างแบบจำลอง AI ด้วยความรับผิดชอบและ "เดิมพันกับชีวิตของเรา" แทนที่จะจางหายไป ความขัดแย้งกลับเพิ่มมากขึ้นเมื่อเจ้าหน้าที่ Anthropic ในปัจจุบันโพสต์การประเมินอันเลวร้ายของตนเองเพื่อสนับสนุน For more context on this story, see our ongoing breaking AI news.

คำเตือนกองพะเนินเทินทึก

Anna Wang ซึ่งทำงานเกี่ยวกับความปลอดภัยด้านปัญญาประดิษฐ์ทั่วไปที่ Anthropic และเคยทำงานที่ DeepMind ของ Google กล่าวเมื่อวันพฤหัสบดีว่า คนจำนวนมากในบริษัทต้องการชะลอการพัฒนาเพื่อวางแผนสำหรับความเสี่ยงที่เกิดจากโมเดลที่มีความสามารถมากขึ้น

“ยังไม่มีแผนทางวิทยาศาสตร์ที่สามารถแก้ปัญหาความเสี่ยงจากการพัฒนา AI ด้วยตนเองแบบวนซ้ำได้” Wang เขียนใน X

Drake Thomas พนักงานด้านมานุษยวิทยาอีกคนกล่าวว่าเขาเคารพการตัดสินใจของ Coxon ที่จะลาออกจากการสร้างเทคโนโลยี “สิ่งต่างๆ กำลังดำเนินไปเร็วเกินไป เราไม่มีที่ใดที่ใกล้เคียงกับระดับความมั่นใจที่เราอยากได้สำหรับ ASI (ปัญญาประดิษฐ์ขั้นสูง)” โทมัสเขียน

ซามูเอล มาร์กส์ ซึ่งทำงานด้านการวิจัยด้านความปลอดภัยของบริษัท แย้งว่าข้อกังวลดังกล่าวมีการแบ่งปันกันอย่างกว้างขวางภายในอุตสาหกรรม และความอาวุโสนั้นสัมพันธ์กับความตื่นตระหนก “นักพัฒนา AI เชื่อว่าเทคโนโลยีของพวกเขาอาจทำให้มนุษย์สูญพันธุ์ (หรือผลลัพธ์ที่ไม่ดีในทำนองเดียวกัน)” Marks เขียน “สิ่งนี้อาจเกิดขึ้นได้ในอีกไม่กี่ปีข้างหน้า โดยทั่วไป ยิ่งพนักงานมีอายุมากเท่าไร พวกเขาก็ยิ่งมีความกังวลมากขึ้นเท่านั้น”

Evan Hubinger ซึ่งบรรยายตัวเองว่าเป็นผู้นำในแผนกการจัดตำแหน่งของ Anthropic ได้ไปไกลที่สุด "เราเชื่ออย่างจริงจังว่า AI สามารถฆ่ามนุษย์ได้ทุกคน!" Hubinger เขียนโดยเสริมว่าโดยส่วนตัวแล้วเขากำหนดความน่าจะเป็นที่สูงกว่า 10 เปอร์เซ็นต์ภายในทศวรรษหน้า

บันทึกของ Insider ติดตามการรายงานของ CBS News ว่านักวิจัยด้านมานุษยวิทยามอบหมายโอกาสมากกว่า 10 เปอร์เซ็นต์ที่ AI จะทำให้มนุษย์สูญพันธุ์ และรายงานโดย The Japan Times ว่าคำเตือนดังกล่าวได้ต่ออายุการเรียกร้องให้มีกฎ AI ใหม่ในสหรัฐอเมริกา

Musk: 'ดูเหมือนเป็นการตั้งค่า'

Elon Musk มีมุมมองที่เป็นปฏิปักษ์อย่างรุนแรง “ดูเหมือนเป็นการตั้งค่า” ชายที่รวยที่สุดในโลกเขียนบน X ซึ่งเป็นแพลตฟอร์มโซเชียลของเขาเอง

Coxon ตอบด้วยการเซลฟี่: "ฉันเป็นคนจริงและนี่คือความเชื่อที่แท้จริงของฉัน คุณสามารถถามนักวิจัย xAI เกี่ยวกับฉันได้ หากคุณไม่ได้ไล่พวกเขาออก"

Musk และเสียงที่เห็นอกเห็นใจอื่น ๆ ขยายทฤษฎีที่เสนอโดย Parker Thayer นักวิจัยจาก Capital Research ซึ่งเป็นกลุ่มอนุรักษ์นิยม ผู้ซึ่งเสนอแนะโดยมีหลักฐานเพียงเล็กน้อย The Guardian ตั้งข้อสังเกตว่าโพสต์ของ Coxon ถือเป็นการเปิดฉากของ "การดำเนินการประชาสัมพันธ์ที่ซับซ้อนและได้รับการสนับสนุนอย่างดี เพื่อรับการสนับสนุนสำหรับพรรคเดโมแครตในการควบคุม AI ให้ลืมเลือน"

Bill Ackman ผู้จัดการกองทุนเฮดจ์ฟันด์ของมหาเศรษฐีอ้างโพสต์ของ Thayer พร้อมคำตอบเพียงคำเดียวว่า "น่าสนใจ"

มัสก์ได้อธิบายรายละเอียดในภายหลัง “ผมคิดว่ารากฐานสำหรับการดำเนินการทางจิตวิทยานี้ (เนื่องจากไม่มีเงื่อนไขที่ดีกว่า) ได้รับการจัดเตรียมมาเป็นเวลานานแล้ว” เขาโพสต์ “นี่เป็นเพียงไม้ขีดไฟที่จุดไฟ”

มานุษยวิทยาปกป้องแนวทางของมัน

ท่ามกลางคำเตือนของพนักงานและการโจมตีจากภายนอก Anthropic เสนอการตอบสนองสาธารณะแบบมีการวัดผล

“เรามีความโปร่งใสมาโดยตลอดว่า AI จะนำทั้งผลประโยชน์มหาศาลและความเสี่ยงที่ไม่เคยเกิดขึ้นมาก่อน” โฆษกของบริษัทกล่าวกับ The Guardian "เพื่อจัดการกับความเสี่ยงเหล่านี้ เรายังคงสร้างแบบจำลองที่มีการป้องกันที่แข็งแกร่งที่สุดในอุตสาหกรรมต่อไป"

บริษัทชี้ให้เห็นถึงประวัติของการจัดทำเอกสารและการขัดขวางการใช้งานในทางที่ผิด ในวันเดียวกับที่คำเตือนแพร่ระบาด Anthropic ได้เผยแพร่รายงานข่าวกรองภัยคุกคามเมื่อเดือนกันยายน ซึ่งมีรายละเอียดว่าบริษัทได้รื้อปฏิบัติการที่พยายามสร้างอาวุธชีวภาพโดยใช้โมเดล AI ของตนอย่างไร ควบคู่ไปกับแคมเปญที่หยุดชะงักซึ่งครอบคลุมการโจมตีทางไซเบอร์และมีอิทธิพลต่อปฏิบัติการ Al Jazeera และ BBC เป็นหนึ่งในช่องทางที่เน้นย้ำการค้นพบอาวุธชีวภาพเมื่อวันศุกร์

ผู้คลางแคลงมองเห็นความเสี่ยงที่แตกต่าง

ไม่ใช่ทุกคนที่ยอมรับกรอบการสูญพันธุ์ Gary Marcus นักวิทยาศาสตร์และนักวิจารณ์ AI มายาวนาน แย้งว่าเทคโนโลยีดังกล่าวก่อให้เกิดอันตรายอยู่แล้ว ซึ่งรับประกันการดำเนินการโดยไม่คำนึงถึงสถานการณ์ที่ชาญฉลาด โดยเรียกร้องให้คว่ำบาตร AI จากความเสียหายในปัจจุบัน

มากกว่าการสูญพันธุ์ Marcus บอกกับ The Guardian ว่าเขากังวลเกี่ยวกับ "ความเสี่ยงของหายนะ" จาก "เชื้อโรคที่สร้างโดย AI จากสงครามที่เริ่มต้นหรือรุนแรงขึ้นจากข้อมูลบิดเบือนที่สร้างโดย AI จากการแฮ็กที่ทำลายโครงสร้างพื้นฐานที่สำคัญ และอื่นๆ ไม่มีอะไรที่ฉันเห็นบ่งชี้ใดๆ ว่าสิ่งใดๆ ก็ตามที่อยู่ภายใต้การควบคุม"

ตำแหน่งของเขาเน้นย้ำถึงความแตกแยกในการอภิปรายด้านความปลอดภัยของ AI: ระหว่างประเด็นที่เน้นไปที่ความเสี่ยงระยะยาวในระดับอารยธรรมจากระบบในอนาคต และประเด็นที่เน้นไปที่ความเสียหายที่เป็นรูปธรรมจากแบบจำลองในปัจจุบัน

การอภิปรายที่ปฏิเสธที่จะอยู่ภายใน

สิ่งที่เริ่มต้นจากจดหมายลาออกของนักวิจัยคนหนึ่งได้กลายเป็นการลงประชามติต่อสาธารณะว่าอุตสาหกรรม AI กำลังสร้างระบบที่ทรงพลังที่สุดของตนอย่างไร ภายใน Anthropic พนักงานกำลังถกเถียงกันอย่างเปิดเผยว่าไทม์ไลน์ของตนเองเพื่อการพัฒนาที่ปลอดภัยหลุดลอยไปหรือไม่ ภายนอก คำเตือนกำลังถูกรวมเข้ากับการต่อสู้ทางการเมืองที่มีการแบ่งขั้วมากขึ้นเรื่อยๆ ว่ารัฐบาลควรแทรกแซงอย่างไรและอย่างไร

การรายงานของเดอะการ์เดียนระบุว่าเจ้าหน้าที่มานุษยวิทยาจำนวนมากแบ่งปันข้อกังวลเหล่านี้เป็นการส่วนตัว แต่ไม่ได้พูดในที่สาธารณะ หากพวกเขาติดตาม Coxon, Wang, Thomas, Marks และ Hubinger มากขึ้น ความกดดันในการเป็นผู้นำห้องปฏิบัติการ AI ที่จะชะลอตัวลง และต่อหน่วยงานกำกับดูแลในการดำเนินการก็จะมีแต่เพิ่มขึ้นเท่านั้น

_บทความนี้อ้างอิงจากการรายงานของ The Guardian โดยมีบริบทเพิ่มเติมจาก CBS News, The Japan Times, Al Jazeera และ BBC._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →