Moscone Center ในซานฟรานซิสโกเป็นเจ้าภาพจัดงานความขัดแย้งในที่สาธารณะที่ผิดปกติในสัปดาห์นี้: ผู้นำของ Nvidia, Anthropic และ OpenAI ปรากฏตัวบนเวทีเดียวกันภายในไม่กี่ชั่วโมงจากกันและกันในการประชุม Dreamforce ของ Salesforce ได้วางคำตอบที่แตกต่างกันอย่างมากสำหรับคำถามที่ว่า AI ควรได้รับอนุญาตให้ก้าวหน้าได้เร็วแค่ไหน

Jensen Huang ซีอีโอของ Nvidia บอกกับ Marc Benioff หัวหน้า Salesforce ว่าการกำหนดกรอบความเร็วเทียบกับความปลอดภัยนั้นผิด “มันเป็นการตัดสินใจที่ผิด” หวงกล่าว ตามรายงานของ CNBC “คุณสามารถมีทั้งสองอย่างในเวลาเดียวกันได้อย่างแน่นอน” For more context on this story, see our ongoing more AI stories.

ตำแหน่งของเขาตรงกันข้ามกับที่ Dario Amodei CEO ของ Anthropic พูดไว้ก่อนหน้านี้ และต่อมาโดย Sam Altman ซีอีโอของ OpenAI ในการอภิปรายที่เปลี่ยนจากบล็อกการวิจัยไปสู่ประเด็นสำคัญในการประชุมไปยังวอชิงตันในช่วงเวลาหนึ่งสัปดาห์

การเสนอขายที่ชะลอตัวของ Amodei ได้รับแพลตฟอร์ม Keynote

Amodei ปรากฏตัวเป็นคนแรก โดยร่วมงานกับ Benioff ในงานปาฐกถาพิเศษประจำปีของ Salesforce ต่อหน้าผู้ชมประมาณ 12,000 คน การปรากฏตัวดังกล่าวเกิดขึ้นหลังจากบทความ Amodei ที่เผยแพร่เมื่อสุดสัปดาห์ที่ผ่านมา โดยเรียกร้องให้อุตสาหกรรมชะลอการพัฒนาโมเดล ซึ่งเป็นข้อเสนอที่เขากล่าวว่าสามารถลดความสามารถในการปรับปรุงได้เร็วเพียงใดโดยไม่ต้อง "เสียสละความได้เปรียบทางการค้าหรือความเป็นผู้นำของสหรัฐอเมริกาในด้าน AI"

ตาม CNBC Amodei วางกรอบความยับยั้งชั่งใจโดยสมัครใจว่าเป็นการทดสอบความเป็นผู้นำสำหรับอุตสาหกรรม “ผมคิดว่านั่นคือหนทางที่จะนำพาอุตสาหกรรมไปข้างหน้า เพื่อเป็นตัวอย่างในการบอกว่าทุกคนสามารถพัฒนาให้ดีขึ้นได้เสมอ” เขาบอกกับเบนิอฟฟ์

บทความนี้ได้รับการสนับสนุนจากผู้บริหารในอุตสาหกรรมอื่นๆ อย่างรวดเร็ว รวมถึง Sam Altman แห่ง OpenAI, Elon Musk ซีอีโอ SpaceX และ Demis Hassabis ประธาน Google DeepMind มันเกิดขึ้นไม่กี่วันหลังจากที่นักวิจัยในอุตสาหกรรมแจ้งเตือนเกี่ยวกับศักยภาพของ AI ที่จะก่อให้เกิดอันตรายร้ายแรง ทำให้ข้อโต้แย้งเรื่องการชะลอตัวเป็นเรื่องเร่งด่วนครั้งใหม่

Huang: กลไกตลาด ไม่ใช่กฎหมายใหม่

Huang ซึ่งบริษัทของเขากลายเป็นบริษัทที่มีมูลค่ามากที่สุดในโลกด้วยการขายฮาร์ดแวร์ที่ฝึกฝนและใช้งานโมเดลระดับแนวหน้า ปฏิเสธทั้งหลักฐานของการแลกเปลี่ยนและแนวคิดเรื่องกฎระเบียบใหม่ เขาแย้งว่ากลไกตลาดมีพฤติกรรมที่ประมาทและมีวินัยอยู่แล้ว และมันก็ขึ้นอยู่กับนักพัฒนาต้นแบบที่จะดำเนินการอย่างมีความรับผิดชอบกับผลิตภัณฑ์ของตน

“วิ่งให้เร็วที่สุด” Huang บอกกับ Benioff “แต่หากคุณรู้สึกว่า ณ เวลาใดเวลาหนึ่งบริษัทไม่สามารถควบคุมได้หรือผลิตภัณฑ์จะไม่ปลอดภัย ให้หยุดพักชั่วคราวและตรวจสอบให้แน่ใจว่าคุณทำถูกต้อง”

ความแตกต่างสำคัญ: Huang ไม่ได้โต้แย้งว่าบริษัทต่างๆ ไม่ควรหยุดชั่วคราว เพียงแต่ว่าการตัดสินใจควรคงอยู่กับแต่ละบริษัท แทนที่จะบังคับใช้ผ่านกฎหมายหรือข้อตกลงด้านอัตราความเร็วที่ประสานงานกันทั่วทั้งอุตสาหกรรม หนึ่งวันก่อนหน้านี้ ที่งาน All-In Summit ในลอสแอนเจลิส Huang รับสายจากประธานาธิบดีโดนัลด์ ทรัมป์ ซึ่งแสดงความกังวลเกี่ยวกับผู้คนที่พยายามขัดขวางการก่อสร้างศูนย์ข้อมูล AI “เราจะไม่ปล่อยให้สิ่งนั้นเกิดขึ้นครับ” หวงตอบ

Altman: ความปลอดภัย 'ไม่ควรมีคุณสมบัติ'

การกลับมาของอัลท์แมนบนเวที Dreamforce เกิดขึ้นในช่วงต่อมาของวัน และเขาวางตำแหน่งตัวเองให้ใกล้กับ Amodei มากกว่า Huang ในระหว่างการสนทนาข้างกองไฟกับเบนิอฟฟ์ อัลท์แมนกล่าวว่าความปลอดภัยและการตรวจสอบจำเป็นต้องมาก่อนความสามารถที่ได้รับจากรุ่นปัจจุบัน

เขามุ่งเป้าไปที่บริษัทที่กำหนดเงื่อนไขข้อผูกพันด้านความปลอดภัยต่อพฤติกรรมของคู่แข่ง “คุณมีบริษัทที่พูดประมาณว่า 'เราจะรับผิดชอบก็ต่อเมื่อบริษัทอื่นรับผิดชอบเท่านั้น'” อัลท์แมนกล่าว พร้อมเสริมว่าเมื่อมีคนถามว่าบริษัทจะทำอะไรเพื่อความปลอดภัย "ไม่ว่าจะเกิดอะไรขึ้น" คำตอบก็ไม่ควรปล่อยให้มีเงื่อนไขใดๆ “ไม่ควรมีผู้ผ่านเข้ารอบในเรื่องนั้น”

เบนิอฟฟ์นั่งอยู่ตรงกลาง

เบนิอฟฟ์ซึ่งเป็นเจ้าภาพให้กับผู้บริหารทั้งสามคน ปฏิเสธที่จะเลือกข้างในการเว้นจังหวะ “หากพวกเขารู้สึกว่าควรชะลอตัวลง พวกเขาก็ควรชะลอตัวลง หากพวกเขารู้สึกว่าควรเร่งความเร็ว พวกเขาก็ควรเร่งความเร็ว” เขากล่าวกับผู้สื่อข่าว ก่อนที่จะกล่าวเสริมว่าบริษัทต่างๆ “ควรต้องรับผิดชอบ”

การประชุมยังแสดงให้เห็นว่าความสัมพันธ์ทางธุรกิจมีความยุ่งเหยิงเพียงใด เมื่อวันอังคาร Salesforce และ Nvidia ได้ประกาศรูปแบบการให้เหตุผลใหม่สำหรับแพลตฟอร์ม Agentforce ของ Salesforce ที่สร้างขึ้นจากหนึ่งในโมเดล Nemotron แบบเปิดของ Nvidia ในช่วงปลายเดือนสิงหาคม Salesforce และ Anthropic ได้ขยายความร่วมมือเชิงกลยุทธ์และเปิดตัว "Claudeforce" ซึ่งช่วยให้พนักงานขายสามารถเข้าถึงข้อมูล Salesforce จากภายใน Claude

เหตุใดการแบ่งแยกจึงมีความสำคัญ

การแลกเปลี่ยน Dreamforce ตกผลึกสิ่งที่กลายเป็นเส้นผิดหลักในการถกเถียงเรื่องการกำกับดูแล AI: ว่าการยับยั้งชั่งใจควรได้รับการประสานงานและอาจมีการประมวลผล หรือปล่อยให้เป็นแรงกดดันทางการแข่งขันและการตัดสินขององค์กรแต่ละราย

ข้อเสนอของ Amodei ยังคงเป็นไปโดยสมัครใจ แต่การรับรองโดย CEO ของ OpenAI, DeepMind และ xAI นับเป็นครั้งแรกที่ผู้นำของห้องปฏิบัติการชายแดนหลัก ๆ เห็นด้วยกับการชะลอตัวต่อสาธารณะ ข้อโต้แย้งของ Huang ซึ่งมาจากบริษัทที่มีมูลค่ามากที่สุดในโลก ให้ความคุ้มครองแก่ผู้บริหารและผู้กำหนดนโยบายที่โต้แย้งว่าการบังคับใช้ความระมัดระวังจะสร้างข้อได้เปรียบให้กับคู่แข่ง โดยเฉพาะในประเทศจีน

ประธานาธิบดีทรัมป์ไม่เห็นด้วยกับกฎ AI ใหม่ ซึ่งเป็นจุดยืนที่บั่นทอนข้อเรียกร้องของอุตสาหกรรมในการชะลอตัว ดังที่ CNBC ระบุไว้ในการวิเคราะห์ที่เกี่ยวข้อง นั่นทำให้ข้อตกลงในการดำเนินการโดยสมัครใจไม่มีกลไกการบังคับใช้ที่ผู้สนับสนุนด้านความปลอดภัยกล่าวว่าจำเป็น และยังคงถกเถียงกันอย่างมั่นคงเกี่ยวกับระบบเกียรติยศขององค์กรในตอนนี้

เนื่องจากนักวิจัยได้เตือนต่อสาธารณชนเกี่ยวกับความเสี่ยงที่จะเกิดภัยพิบัติ และผู้นำของบริษัทที่ใหญ่ที่สุดในสาขานี้ต่างไม่เห็นด้วยอย่างเปิดเผยบนเวที คำถามเกี่ยวกับการเว้นจังหวะมีแนวโน้มที่จะครอบงำวงจรนโยบายถัดไปในวอชิงตัน ไม่ว่าตลาดจะตัดสินใจทำอะไรในระหว่างนี้ก็ตาม

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →