NVIDIA ได้เปิดตัว Nemotron 3.5 Super VL ซึ่งเป็นโมเดลหลายรูปแบบแบบเปิดและปรับแต่งได้ โดยมุ่งเป้าไปที่องค์กรที่สร้างตัวแทน AI เฉพาะทาง โมเดลดังกล่าวใช้สถาปัตยกรรมแบบผสมผสานของผู้เชี่ยวชาญจำนวน 120 พันล้านพารามิเตอร์ที่เปิดใช้งานพารามิเตอร์เพียง 12 พันล้านพารามิเตอร์ต่อโทเค็น การออกแบบของ NVIDIA กล่าวว่าจะสร้างความสมดุลระหว่างความจุระดับแนวหน้ากับประสิทธิภาพการอนุมาน ตุ้มน้ำหนักมีอยู่ใน Hugging Face ด้วยความแม่นยำ BF16 และ NVIDIA ได้เผยแพร่คำแนะนำทางเทคนิคควบคู่ไปกับการเปิดตัว
ช่อง Super VL เข้าสู่ตระกูลโมเดลเปิดที่กำลังขยายตัวของ NVIDIA ในฐานะผู้เชี่ยวชาญต่อเนื่องหลายรูปแบบ ตามที่บริษัทระบุ โมเดล Nemotron 3.5 Lightning ที่มีขนาดเล็กกว่าจะจัดการกับงานข้อความที่มีปริมาณมาก ในขณะที่ Nemotron 3 Ultra ระดับแนวหน้าจะจัดการกับการวางแผนและการเรียบเรียงที่ซับซ้อน โดยให้ทีมกำหนดเส้นทางแต่ละขั้นตอนของเวิร์กโฟลว์ตัวแทนไปยังขนาดที่เหมาะสมของโมเดลได้ นับเป็นความเคลื่อนไหวล่าสุดในการผลักดัน ZDNET ซึ่งอธิบายว่าเป็นอีกก้าวไปข้างหน้าสำหรับ AI แบบเปิดของสหรัฐฯ หากคุณกำลังติดตามการแข่งขัน Open-Weights ความครอบคลุมของ Open Model Release ล่าสุดของเราจะมีภาพที่กว้างกว่า
โมเดลเดียวสำหรับข้อความ รูปภาพ เอกสาร และวิดีโอ
สิ่งสำคัญคือการรวมตัวกัน Super VL ผสมผสานการให้เหตุผล การปฏิบัติตามคำแนะนำ และการใช้เครื่องมือเข้ากับความเข้าใจข้อความ รูปภาพ เอกสารและวิดีโอ ดังนั้นทีมจึงไม่จำเป็นต้องปรับใช้โมเดลข้อความและภาษาวิสัยทัศน์แยกกัน หรือรับส่งบริบทงานระหว่างกัน NVIDIA กล่าวว่าการฝึกอบรมด้านภาพครอบคลุมแผนภูมิ ตาราง การรู้จำอักขระด้วยแสง เอกสารหลายหน้า และวิดีโอ โดยมีไปป์ไลน์การปรับแต่งแบบละเอียดสองขั้นตอนที่ได้รับการดูแล ซึ่งจะหลอมรวมหลักฐานทางภาพเข้ากับการใช้เหตุผล การสนทนา ความปลอดภัย และข้อมูลบริบทแบบยาว
ขั้นตอนการทำงานเป้าหมายคือสิ่งที่องค์กรมักสะดุดล้ม: ตัวแทนฝ่ายบริการลูกค้าที่ต้องอ่านเอกสารนโยบายของบริษัท ตัวแทนการวิจัยที่เชื่อมโยงหลักฐานจากแหล่งที่มา หรือตัวแทนเอกสารที่ตีความแผนภูมิและเชื่อมโยงไปยังตารางอื่น ๆ ในเอกสารเดียวกัน ในแต่ละกรณี โมเดลจำเป็นต้องดูเนื้อหาและเหตุผลในหน้าต่างบริบทเดียวกัน
การอ้างสิทธิ์ปริมาณงาน: สูงสุด 5 เท่าบน GPU ตัวเดียว
ประสิทธิภาพคือจุดที่ NVIDIA วาดเส้นที่คมชัดที่สุด บริษัทอ้างว่า Nemotron 3.5 Super VL ให้ปริมาณงานที่สูงขึ้นถึง 5 เท่าสำหรับงานเอเจนต์ เมื่อเทียบกับรุ่นเปิดอื่นๆ ในประเภทขนาดบน GPU ตัวเดียว และชี้ไปที่การวัดประสิทธิภาพที่แสดงมากกว่า 600 โทเค็นต่อวินาทีในงานเอเจนต์ดัชนี Artificial Analysis Intelligence Index ผ่านจุดสิ้นสุดการอนุมาน Baseten
เทคนิคหลายอย่างภายใต้ประทุนขับเคลื่อนตัวเลขเหล่านั้น NVIDIA เน้นย้ำ LiLiCorr ซึ่งเป็นวิธีการถอดรหัสแบบเก็งกำไรแบบเปิด พร้อมด้วยความแม่นยำแบบผสมของ NVFP4 การทำนายโทเค็นหลายรายการ และการนำบริบทกลับมาใช้ใหม่ในทุกรอบของตัวแทน — การเพิ่มประสิทธิภาพที่มีความหมายสำหรับตัวแทนที่มีการสนทนาระยะยาวด้วยเครื่องมือ สำหรับองค์กรที่เรียกใช้ตัวแทนอย่างต่อเนื่อง ปริมาณงานต่อ GPU มักจะมีความแตกต่างระหว่างผลิตภัณฑ์ที่ใช้งานได้กับโครงสร้างต้นทุนที่ใช้งานไม่ได้
ประเด็นหลังการฝึกอบรมคือประเด็น
NVIDIA แสดงให้เห็นอย่างชัดเจนว่าโมเดลพื้นฐานเป็นจุดเริ่มต้นแทนที่จะเป็นผลิตภัณฑ์สำเร็จรูป นักพัฒนาสามารถปรับแต่ง Super VL ด้วยไลบรารี NeMo โดยใช้การปรับแต่งแบบละเอียดภายใต้การดูแลและ LoRA เพื่อสอนพฤติกรรมเฉพาะโดเมน จากนั้นใช้การเรียนรู้แบบเสริมผ่าน NeMo RL และ NeMo Gym ในสภาพแวดล้อมที่สะท้อนการดำเนินงานของตนเอง บริษัทกล่าวว่าองค์กรต่างๆ ในด้านความมั่นคงปลอดภัยทางไซเบอร์ การเงิน และการดูแลสุขภาพ กำลังหลังการฝึกอบรมโมเดลนี้เพื่อเอาชนะทางเลือกอื่นในขั้นตอนการผลิต ซึ่งเป็นคำกล่าวอ้างที่ตรวจสอบได้ยากโดยอิสระ แต่สอดคล้องกับจุดยืนของตัวแทนองค์กร
เพื่อสนับสนุนงานนั้น NVIDIA กำลังเปิดตัวชุดข้อมูลแบบเปิดบน Hugging Face ควบคู่ไปกับน้ำหนัก รวมถึงการใช้เครื่องมือตัวแทนและข้อมูลการสนทนา ชุดการให้เหตุผลทางการเงินและการเรียกใช้เครื่องมือ ข้อมูลการติดตามคำสั่งและข้อมูลแชท ข้อมูลการแปลงและการแปลบริบทแบบยาว ข้อมูลความเป็นธรรม และชุดข้อมูลภาษาวิสัยทัศน์ 40 ชุด Prime Intellect ได้เผยแพร่สูตรสำหรับหลังการฝึกอบรมโมเดลสำหรับงานระดับองค์กรระยะยาว ซึ่งเป็นสัญญาณเริ่มต้นที่ระบบนิเวศกำลังถือว่าการเปิดตัวรุ่นนี้เป็นรากฐานที่สำคัญ NVIDIA ยังเผยแพร่ตำราอาหารการใช้งานบน GitHub ที่ครอบคลุมการปรับแต่ง และบริษัทเน้นว่าน้ำหนักแบบเปิดสามารถปรับใช้ในสภาพแวดล้อมท้องถิ่น ศูนย์ข้อมูล หรือคลาวด์ เพื่อให้ตรงตามข้อกำหนดด้านโครงสร้างพื้นฐานและถิ่นที่อยู่ของข้อมูล ความยืดหยุ่นที่ผู้ซื้อที่ได้รับการควบคุมร้องขออย่างสม่ำเสมอและ API แบบปิดไม่สามารถให้ได้
ความหมายสำหรับการแข่งขัน Open-Weight
การเปิดตัวครั้งนี้ช่วยกระชับช่องว่างระหว่างโมเดลเปิดและปิดในเซ็กเมนต์ที่องค์กรนำไปใช้จริง: ระบบมัลติโมดัลขนาดกลางสำหรับงานตัวแทนที่ใช้เอกสารจำนวนมาก เนื่องจากตุ้มน้ำหนักสามารถทำงานได้ในสภาพแวดล้อมภายในเครื่อง ศูนย์ข้อมูล หรือคลาวด์ Super VL มอบทางเลือกให้กับอุตสาหกรรมที่ได้รับการควบคุมซึ่ง Frontier API ไม่สามารถทำได้ — เก็บเอกสารละเอียดอ่อนไว้บนโครงสร้างพื้นฐานของตนเอง ในขณะที่ยังคงทำความเข้าใจแผนภูมิ ตาราง และวิดีโอ
การอ่านแบบแข่งขันนั้นตรงไปตรงมา Meta, Alibaba, DeepSeek และ Liquid AI ต่างจัดส่งโมเดลแบบเปิดที่มุ่งเป้าไปที่ตัวแทนในปีนี้ และ NVIDIA ซึ่งขายฮาร์ดแวร์ที่ใครๆ ก็ฝึกฝนอยู่ กำลังแข่งขันกันโดยตรงในเลเยอร์โมเดลด้วยใบอนุญาตที่อนุญาตและเรื่องราวด้านประสิทธิภาพ หากการอ้างปริมาณการประมวลผลยังคงอยู่ในเกณฑ์มาตรฐานที่เป็นอิสระ สแต็กเริ่มต้นสำหรับตัวแทนระดับองค์กรในปี 2570 อาจเปิดกว้างกว่าปีที่แล้วมาก
---
ก้าวนำหน้า AIรับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว
อ่านข่าว AI เพิ่มเติม →