NVIDIA telah merilis Nemotron 3.5 Super VL, model multimodal terbuka dan dapat disesuaikan yang ditujukan untuk perusahaan yang membangun agen AI khusus. Model ini menggunakan arsitektur campuran ahli dengan 120 miliar parameter yang hanya mengaktifkan 12 miliar parameter per token, sebuah desain yang menurut NVIDIA menyeimbangkan kapasitas skala perbatasan dengan efisiensi inferensi. Bobot tersedia di Hugging Face dengan presisi BF16, dan NVIDIA menerbitkan panduan teknis bersamaan dengan rilis tersebut.
Super VL dimasukkan ke dalam keluarga model terbuka NVIDIA yang terus berkembang sebagai spesialis multimoda. Menurut perusahaan, model Nemotron 3.5 Lightning yang lebih kecil menangani tugas teks bervolume tinggi, sedangkan Nemotron 3 Ultra yang terdepan menangani perencanaan dan orkestrasi yang rumit — memungkinkan tim mengarahkan setiap langkah alur kerja agen ke ukuran model yang tepat. Ini adalah langkah terbaru dalam dorongan yang digambarkan ZDNET sebagai langkah maju bagi AI open-weight AS. Jika Anda mengikuti perlombaan kelas terbuka, liputan kami mengenai rilis model terbuka terbaru memiliki gambaran yang lebih luas.
Satu Model untuk Teks, Gambar, Dokumen dan Video
Inti dari hal ini adalah konsolidasi. Super VL menggabungkan penalaran, mengikuti instruksi, dan penggunaan alat dengan pemahaman teks, gambar, dokumen, dan video, sehingga tim tidak perlu menerapkan model teks dan bahasa visi yang terpisah atau mengubah konteks tugas di antara keduanya. NVIDIA mengatakan pelatihan visualnya mencakup bagan, tabel, pengenalan karakter optik, dokumen multihalaman, dan video, dengan jalur penyetelan dua tahap yang diawasi yang menggabungkan bukti visual dengan data penalaran, obrolan, keamanan, dan konteks panjang.
Alur kerja target adalah hal-hal yang sering dihadapi oleh perusahaan: agen layanan pelanggan yang harus membaca dokumen kebijakan perusahaan, agen penelitian yang menghubungkan bukti dari berbagai sumber, atau agen dokumen yang menafsirkan bagan dan menghubungkannya ke tabel di tempat lain dalam pengarsipan yang sama. Dalam setiap kasus, model perlu melihat materi dan alasannya dalam jendela konteks yang sama.
Klaim Throughput: Hingga 5x pada Satu GPU
Efisiensi adalah titik dimana NVIDIA menarik garis paling tajam. Perusahaan mengklaim Nemotron 3.5 Super VL memberikan throughput hingga 5x lebih tinggi untuk tugas-tugas agen dibandingkan dengan model terbuka lainnya dalam kategori ukurannya pada satu GPU, dan menunjuk pada tolok ukur yang menunjukkan lebih dari 600 token per detik pada tugas-tugas agen Indeks Kecerdasan Analisis Buatan melalui titik akhir inferensi Baseten.
Beberapa teknik di balik terpal mendorong angka-angka tersebut. NVIDIA menyoroti LiLiCorr, metode decoding spekulatif terbuka, bersama dengan presisi campuran NVFP4, prediksi multi-token, dan penggunaan kembali konteks di seluruh pergantian agen — sebuah pengoptimalan yang berarti bagi agen yang melakukan percakapan jangka panjang dengan alat. Untuk perusahaan yang menjalankan agen tanpa henti, throughput per GPU sering kali merupakan perbedaan antara produk yang layak dan struktur biaya yang tidak dapat digunakan.
Pasca Pelatihan Adalah Intinya
NVIDIA secara eksplisit menyatakan bahwa model dasar adalah titik awal, bukan produk jadi. Pengembang dapat menyesuaikan Super VL dengan perpustakaan NeMo menggunakan penyempurnaan yang diawasi dan LoRA untuk mengajarkan perilaku spesifik domain, kemudian menerapkan pembelajaran penguatan melalui NeMo RL dan NeMo Gym di lingkungan yang mencerminkan operasi mereka sendiri. Perusahaan tersebut mengatakan bahwa organisasi-organisasi yang bergerak di bidang keamanan siber, keuangan, dan layanan kesehatan sudah melakukan pelatihan model tersebut untuk mengalahkan alternatif terdepan dalam alur kerja produksi mereka, sebuah klaim yang sulit diverifikasi secara independen namun konsisten dengan posisi agen perusahaan.
Untuk mendukung pekerjaan tersebut, NVIDIA merilis kumpulan data terbuka tentang Hugging Face beserta bobotnya, termasuk penggunaan alat agen dan data percakapan, kumpulan penalaran keuangan dan pemanggilan alat, data mengikuti instruksi dan obrolan, data transduksi dan terjemahan konteks panjang, data keadilan, dan 40 kumpulan data bahasa visi. Prime Intellect telah menerbitkan resep untuk model pasca-pelatihan untuk pekerjaan perusahaan jangka panjang, sebuah tanda awal bahwa ekosistem memperlakukan rilis tersebut sebagai landasan yang serius. NVIDIA juga menerbitkan buku masak penggunaan di GitHub yang mencakup penyesuaian, dan perusahaan menekankan bahwa bobot terbuka dapat diterapkan di lingkungan lokal, pusat data, atau cloud untuk memenuhi persyaratan infrastruktur dan residensi data — fleksibilitas yang secara konsisten diminta oleh pembeli teregulasi dan tidak dapat ditawarkan oleh API tertutup.
Apa Artinya bagi Balapan Kelas Terbuka
Rilis ini memperkecil kesenjangan antara model terbuka dan tertutup di segmen yang sebenarnya diterapkan oleh perusahaan: sistem multimoda skala menengah untuk pekerjaan agen yang banyak dokumen. Karena bobot dapat dijalankan di lingkungan lokal, pusat data, atau cloud, Super VL memberi industri teregulasi opsi yang tidak dapat dilakukan oleh API frontier — menyimpan dokumen sensitif di infrastruktur mereka sendiri sambil tetap mendapatkan pemahaman bagan, tabel, dan video.
Pembacaan kompetitifnya sangat mudah. Meta, Alibaba, DeepSeek, dan Liquid AI semuanya telah mengirimkan model open-weight yang ditujukan untuk agen tahun ini, dan NVIDIA — yang menjual perangkat keras yang digunakan oleh semua orang — kini bersaing langsung di lapisan model dengan lisensi permisif dan kisah efisiensi. Jika klaim throughput bertahan dalam tolok ukur independen, tumpukan default untuk agen perusahaan pada tahun 2027 mungkin jauh lebih terbuka dibandingkan tahun lalu.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →