NVIDIA、Nemotron 3.5 Super VLとBoltモデルを追加、オープンモデルのNemotronファミリーを拡充

Nemotron 3.5 Super VLは、指示追従、ツールの使用、複数ステップの業務ワークフロー、視覚理解といったマルチモーダルのエージェント型タスク向けのモデルである。NVIDIA最大の推論モデルの約5分の1のパラメータ数で、同モデルに匹敵する精度を発揮するとしている。Artificial Analysis Intelligence Indexのリーダーボードでは、同クラスの他モデルと比べて最大5倍のスループットとされる。事前学習と継続事前学習で合計約26兆トークン、その後に約380万件のサンプルと数十の環境での強化学習でポストトレーニングが行われた。

Bolt 74B-A9B 24GBは、ネイティブの2ビット量子化により24GBのメモリに収まり、NVIDIA RTXやDGX Spark上でローカルに動作する。Web検索、文章作成、コードのデバッグなどをクラウドに送らず実行でき、同クラスのオープンモデルの中でPinchBenchは第1位、BrowseCompは第2位とされる。Bolt E4B 4GBはGeForce RTX、Jetson、RTX/DGX Spark上で動くフィジカルエージェントや対話型エージェント向けで、ローカル音声アシスタントや組み込みインターフェイスを想定している。

カスタマイズの事例として、Scale AIはSkydanceの与信エージェントやEYのM&Aデューデリジェンスエージェント向けにポストトレーニングを行った。Mercorはコーディングエージェント向けにAPEX-SWEで調整している。統合企業としては、AtlassianがJiraやConfluenceを横断する検索に、Perplexityが検索やエージェント型タスクに活用し、CrowdStrikeやSalesforceもNemotronをカスタマイズしている。

提供形態として、Super VLはHugging Face、Open Router、ModelScopeコミュニティ、NVIDIA NIMで利用できる。Bolt 74B-A9B 24GBはHugging Faceで公開され、llama.cpp、Ollama、LM Studio、Unsloth、vLLMに対応する。NVIDIA Dynamo上で実行すると、レイテンシを85%削減しながら最大8倍のユーザーに対応できるとしている。