NVIDIA telah mengeluarkan Nemotron 3.5 Super VL, model multimodal terbuka yang boleh disesuaikan yang bertujuan untuk perusahaan membina ejen AI khusus. Model ini menggunakan seni bina campuran pakar 120 bilion parameter yang mengaktifkan hanya 12 bilion parameter setiap token, reka bentuk NVIDIA mengatakan mengimbangi kapasiti skala sempadan dengan kecekapan inferens. Berat tersedia pada Hugging Face dalam ketepatan BF16, dan NVIDIA menerbitkan panduan teknikal bersama pelepasan.
Super VL masuk ke dalam keluarga model terbuka NVIDIA yang sedang berkembang sebagai pakar multimodal. Menurut syarikat itu, model Nemotron 3.5 Lightning yang lebih kecil mengendalikan tugasan teks volum tinggi, manakala Nemotron 3 Ultra sempadan menangani perancangan dan orkestrasi yang kompleks — membenarkan pasukan mengarahkan setiap langkah aliran kerja ejen ke saiz model yang betul. Ia adalah langkah terbaru dalam dorongan ZDNET yang digambarkan sebagai satu lagi langkah ke hadapan untuk AI berwajaran terbuka AS. Jika anda menjejaki perlumbaan wajaran terbuka, liputan kami tentang keluaran model terbuka terkini mempunyai gambaran yang lebih luas.
Satu Model untuk Teks, Imej, Dokumen dan Video
Padang teras ialah penyatuan. Super VL menggabungkan penaakulan, mengikut arahan dan penggunaan alat dengan teks, imej, dokumen dan pemahaman video, jadi pasukan tidak perlu menggunakan model teks dan bahasa penglihatan yang berasingan atau konteks tugas ulang-alik antara mereka. NVIDIA berkata latihan visualnya meliputi carta, jadual, pengecaman aksara optik, dokumen berbilang halaman dan video, dengan saluran paip penalaan halus yang diselia dua peringkat yang menggabungkan bukti visual dengan alasan, sembang, keselamatan dan data konteks panjang.
Aliran kerja sasaran ialah yang perusahaan terus tersandung: ejen perkhidmatan pelanggan yang mesti membaca dokumen dasar syarikat, ejen penyelidikan yang menghubungkan bukti merentas sumber atau ejen dokumen yang mentafsir carta dan memautkannya ke jadual di tempat lain dalam pemfailan yang sama. Dalam setiap kes model perlu melihat bahan dan membuat alasan di atasnya dalam tetingkap konteks yang sama.
Tuntutan Throughput: Sehingga 5x pada GPU Tunggal
Kecekapan ialah tempat NVIDIA melukis garisan paling tajam. Syarikat itu mendakwa Nemotron 3.5 Super VL memberikan daya pemprosesan sehingga 5x lebih tinggi untuk tugas agen berbanding model terbuka lain dalam kategori saiznya pada GPU tunggal, dan menunjuk kepada penanda aras yang menunjukkan lebih daripada 600 token sesaat pada tugas agenik Indeks Kecerdasan Analisis Buatan melalui titik akhir inferens Baseten.
Beberapa teknik di bawah tudung memacu nombor tersebut. NVIDIA menyerlahkan LiLiCorr, kaedah penyahkodan spekulatif terbuka, bersama-sama dengan ketepatan campuran NVFP4, ramalan berbilang token dan penggunaan semula konteks merentas pusingan ejen — pengoptimuman yang bermakna untuk ejen yang mengadakan perbualan jangka panjang dengan alatan. Bagi perusahaan yang menjalankan ejen tanpa henti, daya pemprosesan setiap GPU selalunya merupakan perbezaan antara produk yang berdaya maju dan struktur kos yang tidak boleh digunakan.
Selepas Latihan Adalah Intinya
NVIDIA adalah jelas bahawa model asas adalah titik permulaan dan bukannya produk siap. Pembangun boleh menyesuaikan Super VL dengan pustaka NeMo menggunakan penalaan halus diselia dan LoRA untuk mengajar tingkah laku khusus domain, kemudian menggunakan pembelajaran pengukuhan melalui NeMo RL dan NeMo Gym dalam persekitaran yang mencerminkan operasi mereka sendiri. Syarikat itu berkata organisasi dalam keselamatan siber, kewangan dan penjagaan kesihatan sudah pun menjalani latihan selepas model untuk mengatasi alternatif sempadan pada aliran kerja pengeluaran mereka, satu tuntutan yang sukar untuk disahkan secara bebas tetapi konsisten dengan kedudukan ejen perusahaan.
Untuk menyokong kerja itu, NVIDIA mengeluarkan set data terbuka pada Hugging Face di samping pemberat, termasuk data penggunaan alat dan perbualan agenik, set penaakulan kewangan dan set panggilan alat, data mengikut arahan dan sembang, data transduksi dan terjemahan konteks panjang, data keadilan dan 40 set data bahasa penglihatan. Prime Intellect telah pun menerbitkan resipi untuk pasca-latihan model untuk kerja perusahaan jangka panjang, tanda awal ekosistem menganggap pelepasan itu sebagai asas yang serius. NVIDIA juga menerbitkan buku masakan penggunaan pada GitHub yang meliputi penyesuaian, dan syarikat itu menekankan bahawa pemberat terbuka boleh digunakan dalam persekitaran tempatan, pusat data atau awan untuk memenuhi keperluan infrastruktur dan pemastautin data — fleksibiliti yang diminta oleh pembeli terkawal secara konsisten dan API tertutup tidak dapat ditawarkan.
Maksudnya untuk Perlumbaan Berat Terbuka
Keluaran mengetatkan jurang antara model terbuka dan tertutup dalam segmen perusahaan yang sebenarnya digunakan: sistem multimodal bersaiz sederhana untuk kerja ejen berat dokumen. Oleh kerana pemberat boleh dijalankan dalam persekitaran tempatan, pusat data atau awan, Super VL memberikan industri terkawal pilihan yang tidak boleh dilakukan oleh API sempadan — menyimpan dokumen sensitif pada infrastruktur mereka sendiri sambil masih mendapat pemahaman carta, jadual dan video.
Bacaan kompetitif adalah mudah. Meta, Alibaba, DeepSeek dan Liquid AI semuanya telah menghantar model berwajaran terbuka yang ditujukan kepada ejen tahun ini, dan NVIDIA — yang menjual perkakasan yang dilatih oleh orang lain — kini bersaing secara langsung dalam lapisan model dengan pelesenan permisif dan kisah kecekapan. Jika tuntutan daya tampung bertahan dalam penanda aras bebas, timbunan lalai untuk ejen perusahaan pada tahun 2027 mungkin lebih terbuka berbanding tahun lalu.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
