Mistral AI、Mistral 3を発表 Mistral Large 3とMinistral 3を Apache 2.0 で公開
Introducing Mistral 3
Mistral AIは次世代モデルMistral 3を発表した。14B・8B・3Bの小型denseモデルと、アクティブ41B・総計675BパラメータのMoEであるMistral Large 3で構成し、全モデルを Apache 2.0 ライセンスで公開する。Mistral Large 3はLMArenaでOSS非推論モデル部門2位、Ministral 3 14Bの推論版はAIME '25で85%を記録した。
Mistral 3は、Ministral 3(3B、8B、14B)とMistral Large 3から成る。Mistral Large 3はMixtralシリーズ以来となるMoEモデルで、NVIDIAのH200 GPU 3000基で一から学習した。ベース版とインストラクション調整版を公開しており、画像理解と、英語・中国語以外の多言語会話での高い性能をうたっている。LMArenaではOSS非推論モデル部門で2位、OSSモデル全体では6位でデビューした。推論版は近日公開予定である。
Ministral 3は、エッジやローカル用途向けのシリーズである。各サイズについてベース版、インストラクション版、推論版を提供し、いずれも画像理解に対応する。インストラクション版は同等モデルに匹敵または上回る性能を、しばしば桁違いに少ないトークン数で出すとしている。推論版は長く考えることで精度を高め、14BでAIME '25の85%に達する。
配布面では、vLLM、Red Hat、NVIDIAと協力している。llm-compressorで作成したNVFP4形式のチェックポイントにより、Blackwell NVL72や8×A100、8×H100の単一ノードでvLLMを使って実行できる。NVIDIAはTensorRT-LLMとSGLangの推論対応を支援し、Large 3向けにはBlackwellのアテンションとMoEカーネル、prefill/decode分離サービング、投機的デコーディングを組み込んだ。エッジではDGX Spark、RTX PC、Jetsonでの最適化展開も案内している。
提供先は、Mistral AI Studio、Amazon Bedrock、Azure Foundry、Hugging Face、Modal、IBM WatsonX、OpenRouter、Fireworks、Unsloth AI、Together AIで、NVIDIA NIMとAWS SageMakerは近日対応予定である。あわせて、モデルのファインチューニングや完全な適応を行うカスタム学習サービスも案内している。Ministral 3のアーキテクチャを解説する研究論文も公開された。
3B・8B・14Bの小型モデルと675B規模のMoEを同じ Apache 2.0 で公開しており、用途別の選択肢と配布先を比較しやすい。
出典: Mistral AI News · mistral.ai