Nvidia Luncurkan Model Nemotron dan Bolt untuk Agen AI
CIANJUR.CO - Nvidia memperkenalkan sejumlah model berbobot terbuka yang dirancang untuk menjalankan agen kecerdasan buatan secara terus-menerus dan mendukung komputasi di perangkat. Pengumuman pada Kamis itu mencakup Nemotron 3.5 Super VL, model berukuran besar untuk kebutuhan perusahaan, serta dua model Bolt berukuran lebih ringan untuk dijalankan secara lokal pada PC dan workstation.
Berdasarkan laporan TechCrunch AI, peluncuran tersebut menyasar dua kebutuhan yang berbeda. Perusahaan dapat memakai model yang dioptimalkan untuk agen pada infrastruktur mereka, sedangkan pengguna PC dapat menjalankan model langsung di perangkat. Nvidia menyebut pendekatan ini sebagai pilihan bagi organisasi yang menginginkan model terbuka tanpa harus mengorbankan kemampuan maupun kemudahan penerapan.
Nemotron 3.5 Super VL memiliki 120 miliar parameter dan diarahkan untuk agen yang digunakan di lingkungan perusahaan. Jumlah parameternya lebih sedikit dibandingkan Nemotron 3 Ultra. Namun, Nvidia menyatakan Super VL dapat menghasilkan akurasi serupa dalam tugas mengikuti instruksi dan menggunakan alat. Kemampuan tersebut menjadi bagian penting dari penggunaan agen yang perlu menjalankan tahapan kerja, bukan hanya memberikan jawaban percakapan.
Dalam tulisan blog yang mengumumkan model-model itu, Kari Briski, wakil presiden Open Models and Software Nvidia, mengatakan organisasi yang ingin menjalankan agen pada infrastruktur Nvidia kini memiliki model terbuka yang dioptimalkan untuk tingkat kebutuhan masing-masing. Menurut Briski, mereka tidak perlu memilih antara kemampuan model dan kemudahan untuk menerapkannya.
Baca juga: Anthropic Kurangi Porsi Pekerja Junior, Waktu Rapat Naik
Nvidia juga mengklaim Super VL menyelesaikan tugas lebih cepat daripada model pesaing dari Anthropic dan OpenAI ketika model tersebut dilatih lebih lanjut untuk tugas agen tertentu. Nama yang disebut dalam perbandingan itu meliputi Opus 5, GPT 6.1 Sol, Luna, dan Astra. Tugas yang dimaksud mencakup pemahaman dokumen, akuntansi keuangan, eksperimen ilmiah, klaim asuransi medis, serta ketahanan terhadap serangan keamanan.
Klaim performa tersebut disertai Nvidia dengan daftar perusahaan yang disebut telah menggunakan Super VL. Daftar itu mencakup Skydance, EY, Ramp, Crowdstrike, Perplexity, dan Salesforce. Informasi mengenai pengguna model tersebut disampaikan Nvidia; laporan TechCrunch AI tidak menyajikannya sebagai hasil pengujian independen.
Peluncuran ini bukan langkah pertama Nvidia dalam menyediakan model berbobot terbuka untuk bersaing dengan laboratorium AI yang mengembangkan model frontier berpemilik. Perusahaan itu telah memiliki keluarga model Nemotron untuk berbagai keperluan, mulai dari kecerdasan buatan multimodal, penalaran, pemrograman dan matematika, hingga otomasi perusahaan.
Baca juga: CEO Replit Sebut Kerja Sama dengan Anthropic Tak Lagi Berjalan
Di sisi lain, laboratorium AI berpemilik yang berkembang pesat kini juga mencari pembuat chip dan sistem AI selain Nvidia untuk memenuhi kebutuhan komputasi mereka. Pilihan yang disebut dalam laporan meliputi Trainium milik AWS dan Cerebras, selain upaya perusahaan membangun chip sendiri. Dalam situasi tersebut, Nvidia mendorong penggunaan model terbuka di pusat data milik perusahaan, bukan hanya menjual model yang bergantung pada layanan tertutup.
Briski menjelaskan perbedaan yang ditawarkan Super VL dibandingkan model frontier tertutup. Organisasi dapat melatih model itu lebih lanjut menggunakan data mereka sendiri, menerapkannya pada infrastruktur sendiri, serta memiliki hasil yang mereka bangun. Dengan demikian, model tersebut ditujukan kepada perusahaan yang ingin menyesuaikan agen dengan data dan sistem internal mereka.
Nvidia juga memperkenalkan dua model Bolt yang lebih ringan untuk memperluas penggunaan agen AI di perangkat lokal. Model-model ini ditujukan untuk PC AI baru yang menggunakan chip Nvidia RTX Spark dan workstation dengan DGX Spark. Perangkat tersebut menyasar konsumen, programmer, serta pekerja pengetahuan di perusahaan, dan mulai dipasarkan melalui mitra seperti Microsoft dan Dell.
Baca juga: Agen AI Akses Data Pribadi dan Dokumen Rahasia Organisasi di India
Menurut Briski, menjalankan model dan agen secara lokal memungkinkan pengguna PC mendelegasikan pekerjaan sehari-hari tanpa mengirimkan beban kerja itu ke cloud. Pendekatan ini berkaitan dengan perhatian sebagian konsumen terhadap privasi. Agen yang digunakan secara dekat dalam kehidupan sehari-hari dapat berhubungan dengan informasi keluarga, kesehatan, dan keuangan. Nvidia berupaya mendorong penggunaan asisten AI yang berjalan di perangkat, sekaligus mengembangkan pasar PC yang ditenagai chipnya.
Dari dua model Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB memiliki 74 miliar parameter dan dirancang untuk tugas agen lokal. Nvidia menempatkannya sebagai model yang menyeimbangkan kecepatan dengan kemampuan penalaran, termasuk untuk penalaran bertahap, pemanggilan alat, dan penelusuran web. Sementara itu, Bolt E4B yang berukuran lebih kecil ditujukan bagi agen percakapan.
Nvidia menyatakan Super VL dan Bolt 74B-A9B sudah tersedia. Bolt E4B dijadwalkan hadir kemudian pada bulan yang sama. Dengan jadwal tersebut, model untuk kebutuhan perusahaan dan model untuk penggunaan lokal tidak dirilis serentak, meski keduanya menjadi bagian dari pengumuman yang sama.