NVIDIA、Nemotron 3.5 Super VLとBolt 74B-A9B 24GBをオープンモデルとして公開
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
NVIDIAは1200億パラメータのオープンモデルNemotron 3.5 Super VLと、エッジ向けのNemotron 3.5 Bolt 74B-A9B 24GBを公開した。Bolt E4B 4GBは10月23日に提供予定である。Super VLは同クラスで次点の5倍高速なスループットとされ、Hugging Faceなどから利用できる。
Nemotron 3.5 Super VLは、指示追従、ツール利用、複数ステップの業務ワークフロー、視覚理解といったマルチモーダルなエージェント型タスクを対象とする。NVIDIAによれば、最大の推論モデルに匹敵する精度を約5分の1のパラメータ数で実現し、Artificial Analysis Intelligence Indexのリーダーボード上で同クラスの他モデルより最大5倍高いスループットを示す。画像、Webページ、PDFを理解して表や図表から情報を取り出せるため、エージェントがタスクを別システムに振り分ける必要がないとしている。
Boltはエッジ向けの2モデルである。Bolt 74B-A9B 24GBはネイティブ2ビット量子化により24GBのメモリに収まり、NVIDIA RTXやDGX Sparkで他のアプリケーションと並行して動かせる。Web調査、執筆、コードのデバッグなどをクラウドに送らずローカルのエージェントに任せる用途を想定し、PinchBenchで同クラスのオープンモデル1位、BrowseCompで2位とされる。Bolt E4B 4GBはGeForce RTX、Jetson、RTX/DGXOns Sparkでの音声アシスタントや対話キャラクター向けで、10月23日に提供される。
Super VLは重み、データセット、学習レシピが公開されており、自社データでの追加学習や自社インフラへの配備ができる。事前学習と継続事前学習で約26兆トークンを使い、約380万サンプルと複数環境での強化学習で後処理した。Hugging Face上にはエージェントのツール利用、金融、長いコンテキストなどのデータセットが公開され、強化学習環境はNeMo Gymに置かれる。カスタマイズはNVIDIA NeMoやPythonベースのパイプラインで支援される。
採用例として、Scale AIがSkydanceやEYのエージェント向けに追加学習を行い、MercorはAPEX-SWEでコーディングエージェント向けに調整した。Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforceなどがプラットフォームへの組み込みやカスタマイズを進めている。Super VLはHugging Face、Open Router、ModelScope、NVIDIA NIMで提供中である。Bolt 74B-A9B 24GBはHugging Faceで入手でき、llama.cpp、Ollama、LM Studio、Unsloth、vLLMに対応し、10月16日発売予定のRTX Sparkノートにも向けられている。
出典: NVIDIA Blog · blogs.nvidia.com