ไม่กี่ชั่วโมงหลังจากที่ Dario Amodei CEO ของ Anthropic ตีพิมพ์บทความ "We Must Pace the Frontier" ของเขาที่เรียกร้องให้รัฐบาลชะลอการแข่งขันด้าน AI การตอบสนองที่ชัดเจนก็เริ่มไต่ขึ้น Hacker News และในที่สุดก็กลายเป็นหนึ่งในเรื่องราวที่ได้รับการโหวตมากที่สุดในแต่ละวัน ข้อโต้แย้งดังกล่าวซึ่งเขียนไว้ในจดหมายเปิดผนึกโดยนักเขียนและนักพัฒนา Jacob Gold นั้นเรียบง่ายมาก หาก Amodei มีความจริงใจในการทำให้ AI ช้าลง มีกฎหมายข้อหนึ่งที่เขาสามารถเรียกร้องให้ทำได้จริง และไม่มีผู้บริหารห้องปฏิบัติการรายอื่นใดสามารถเสนอได้ ต้องการให้โมเดล AI ทุกรุ่นที่บริษัทเสนอต่อสาธารณะต้องเผยแพร่ในรูปแบบ Open Weight
"ฉันเชื่อว่าคุณจริงใจ" จดหมายเปิดขึ้นและกล่าวกับ Amodei โดยตรง "ดังนั้นฉันจึงขอให้คุณเรียกร้องให้มีกฎหมายอื่น กฎหมายที่จะทำให้สิ่งต่าง ๆ ช้าลง แม้ว่าคุณจะต้องเสียสละอย่างแท้จริงก็ตาม" จดหมายฉบับนี้กระทบกระเทือนจิตใจอย่างยิ่ง เพราะมันเกี่ยวข้องกับการโต้แย้งของ Amodei ในเวอร์ชันที่แข็งแกร่งที่สุด แทนที่จะเพิกเฉย และเนื่องจากจดหมายดังกล่าวอยู่ท่ามกลางการอภิปรายเชิงนโยบายที่เป็นผลสืบเนื่องมากที่สุดใน AI ในปัจจุบัน การอภิปรายที่เราติดตามทุกวันใน การรายงานนโยบาย AI ของเรา
สิ่งที่ Amodei เสนอ และทำไม Gold ถึงบอกว่ามันใช้ไม่ได้
เรียงความของ Amodei ให้คำมั่นสัญญากับ Anthropic ในการฝังผู้ประเมินที่เป็นบุคคลที่สาม และขอให้รัฐบาลกำหนดให้บริษัทชายแดนอื่นๆ ทุกแห่งปฏิบัติตามคำมั่นสัญญาดังกล่าว Sam Altman ตกลงภายในไม่กี่ชั่วโมง - "ฉันเห็นด้วยกับ Dario ว่าเราจำเป็นต้องก้าวข้ามพรมแดน" เขากล่าวตาม Politico โดยที่ OpenAI ตรงกับความมุ่งมั่นของผู้ประเมินเช่นกัน บนใบหน้าของมัน นั่นคือการจัดตำแหน่งที่ไม่เคยมีมาก่อน: หัวหน้าห้องปฏิบัติการ AI ที่มีค่าที่สุดสองแห่งในโลกขอให้ชะลอความเร็วลงอย่างเปิดเผย
จดหมายของโกลด์ระบุว่าฉันทามตินี้เองที่ควรทำให้ผู้สังเกตการณ์เกิดความสงสัย “กฎระเบียบทุกข้อที่คุณขอจบลงด้วยการจับกุม” มันเตือน ผู้ประเมินที่ฝังตัว เกณฑ์การคำนวณ การประสานงานในอุตสาหกรรมที่มีการยกเว้นการต่อต้านการผูกขาด — "ทั้งหมดนี้เขียนขึ้นด้วยความช่วยเหลือของห้องปฏิบัติการชายแดนในปัจจุบัน เพราะไม่มีใครเข้าใจรายละเอียดทางเทคนิคดีพอที่จะเขียนได้" เมื่อกฎดังกล่าวกลายเป็นกฎหมาย ทุกเหตุการณ์จะเพิ่มกฎและไม่มีใครถูกลบออก และยักษ์ใหญ่สามารถจัดหาทีมปฏิบัติตามกฎระเบียบที่กันผู้ท้าชิงรายเล็กออกไปได้ “แทนที่จะทำให้คุณช้าลง” จดหมายบอก Amodei “มันจะปกป้องตำแหน่งและผลกำไรของคุณ”
การโต้แย้งข้อเสนอแบบ open-weights
ภาพร่างทางเลือกของโกลด์นั้นจงใจทื่อ โมเดล AI ใดๆ ที่บริษัทเสนอต่อสาธารณะจะต้องจัดส่งพร้อมน้ำหนักที่เผยแพร่ โมเดลภายในและการวิจัยจะไม่ถูกแตะต้อง และรัฐบาลจะยังคงเข้าถึงระบบที่ยังไม่เผยแพร่ แต่ Anthropic จะต้องเผยแพร่น้ำหนักของโมเดลชายแดนถัดไปในวันที่เปิดตัว และ OpenAI จะต้องดำเนินการเช่นเดียวกัน “ไม่มีอะไรในนั้นที่จะเล่นหรือหลบหลีก” จดหมายสรุป “แม้แต่สำหรับคุณด้วย”
กลไกนี้เป็นเรื่องเกี่ยวกับการเงินมากกว่าระบบราชการ ตามที่ Gold อธิบาย เงินทุนสำหรับการพัฒนาแบบจำลองชายแดนขึ้นอยู่กับการประเมินมูลค่าที่ถือว่าตุ้มน้ำหนักยังคงเป็นกรรมสิทธิ์ ข้อบังคับพลิกสมมติฐานดังกล่าว: หากการเปิดเผยต่อสาธารณะทุกครั้งเปิดกว้าง ความได้เปรียบทางการแข่งขันจะตกเป็นของใครก็ตามที่ฝึกโมเดลที่ดีที่สุดมากกว่าใครก็ตามที่ขายสิทธิ์เข้าถึงนั้น ค่าพรีเมียมที่ฝังอยู่ในการประเมินมูลค่าภาคเอกชนจะลดน้อยลง และเงินที่มีสำหรับการฝึกอบรมครั้งถัดไปจะลดลง — "ในห้องปฏิบัติการทุกแห่งในคราวเดียว โดยไม่มีหน่วยงานกำกับดูแลตัดสินใจอะไรเลย" ที่จริงแล้ว ข้อโต้แย้งที่ว่าความคาดหวังของตลาดต่อรุ่นปิดคือกลไกของการแข่งขัน และการขจัดความคาดหวังจะทำให้เครื่องยนต์หลุดออกไป
ทำไมต้อง Amodei โดยเฉพาะ
กรณีของจดหมายที่ระบุว่าเหตุใด Amodei จึงเป็นคนเดียวที่สามารถทำข้อเสนอนี้ได้ถูกสร้างขึ้นจากบันทึกของเขา และเป็นเรื่องที่น่าเคารพอย่างยิ่ง Gold ให้เครดิตเขาในการออกจาก OpenAI เมื่อปลายปี 2020 เพื่อก่อตั้ง Anthropic "เมื่ออาชีพการงานที่ปลอดภัยยังคงอยู่" พร้อมสนับสนุนกฎระเบียบของอุตสาหกรรมของเขาเองมานานหลายปี และด้วยการผลักดันการควบคุมการส่งออกที่ทำให้ตลาดของเขาหดตัว เขาตั้งข้อสังเกตว่า Anthropic มีโครงสร้างเป็น Public Benefit Corporation โดยมีพันธกิจทางกฎหมาย “การพัฒนาและบำรุงรักษา AI ขั้นสูงอย่างมีความรับผิดชอบเพื่อประโยชน์ระยะยาวของมนุษยชาติ” ซึ่งจะช่วยให้ผู้นำสามารถดูดซับผลกระทบทางการเงินที่กฎหมายดังกล่าวจะได้รับ Gold ตั้งข้อสังเกตว่าเรียงความของ Amodei เองกล่าวว่าผู้สนับสนุนด้านมานุษยวิทยาเรื่องกฎระเบียบ "แม้ว่าสิ่งนี้จะทำให้เราถูกกล่าวหาว่าโฆษณาเกินจริง 'ลัทธิสิ้นโลก' หรือการจับกุมตามกฎระเบียบก็ตาม"
ผู้คลางแคลงใจจะสังเกตเห็นการโต้แย้งที่ชัดเจน และจดหมายไม่ได้ตอบทั้งหมด: น้ำหนักแบบเปิดทำให้การใช้งานในทางที่ผิดง่ายขึ้นและทำให้ความคืบหน้ายากขึ้น คำสั่งแบบเปิดน้ำหนักจะเผชิญกับการต่อต้านที่รุนแรงจากนักลงทุนในห้องปฏิบัติการทุกแห่ง และนักวิจารณ์จุดยืนก่อนหน้าของ Amodei เกี่ยวกับโมเดลแบบเปิดของจีนจะได้ยินเสียงสะท้อนของการต่อสู้แบบเก่าในข้อเสนอ แต่ความท้าทายหลักของจดหมายไม่ได้ขึ้นอยู่กับนโยบายที่นำมาใช้ ขึ้นอยู่กับความตึงเครียดที่ตั้งชื่อไว้อย่างชัดเจน: ห้องทดลองที่ขอให้รัฐบาลทำให้คนอื่นช้าลง ในขณะที่การประเมินค่าของมันเองนั้นขึ้นอยู่กับการก้าวไปข้างหน้า แต่ยังไม่ได้ร้องขอสิ่งใดที่ทำให้ต้องเสียค่าใช้จ่ายใดๆ
การอภิปรายที่หลีกเลี่ยงไม่ได้ในขณะนี้
การที่ Amodei ตอบกลับนั้นเกือบจะเข้าประเด็นหรือไม่ ภายในวันเดียว ห้องทดลองชายแดนได้เปลี่ยนจากการแข่งขันด้านความสามารถมาเป็นการยอมรับความจำเป็นในการเว้นจังหวะ และกระแสตอบรับของสาธารณชนได้เปลี่ยนจากการถามว่า AI เป็นอันตรายหรือไม่ มาเป็นการถามว่าผู้คนที่เตือนเกี่ยวกับเรื่องนี้สามารถเชื่อได้หรือไม่ จดหมายของ Gold ซึ่งเป็นรายละเอียดนโยบายไม่กี่ร้อยคำที่เกี่ยวข้องกับคำถามที่น่าอึดอัดใจหนึ่งข้อ ได้กลายเป็นการแสดงออกที่ชัดเจนที่สุดของความสงสัยนั้น และการแพร่กระจายของไวรัสดังกล่าวชี้ให้เห็นว่าการอภิปรายแบบเว้นจังหวะจะต่อสู้ไม่ใช่แค่ในวอชิงตันเท่านั้น แต่ในที่สาธารณะ บนแพลตฟอร์มเช่น Hacker News ซึ่งชุมชน open-weights ได้ก่อให้เกิดข้อโต้แย้งนี้ในรูปแบบต่างๆ มานานหลายปี
ก้าวนำหน้า AI
กฎระเบียบ เปิดน้ำหนัก และการต่อสู้เพื่อก้าวของ AI ครอบคลุมโดยไม่ต้องโฆษณาเกินจริง
อ่านข่าว AI เพิ่มเติม →
