Meta、ローカル向けエージェント対応のマルチモーダルモデルMuse Glimmerを公開、Apache 2.0で提供

Muse Glimmerは2Bの視覚エンコーダ（Perception Encoder）と28Bのテキストデコーダからなる、dense構成の30Bモデルである。テキストデコーダは3層のスライディングウィンドウ注意（2,048トークン）と1層のフルアテンション（NoPE）を繰り返す構造で、計52層を持つ。Gated Grouped-Query Attentionにより、KVキャッシュのメモリを16x削減するとされる。DFlash上に実装した投機的デコーディング用ドラフターも用意され、任意で使える。メモリを追加で使う代わりに生成が高速になり、コーディングのような構造化された出力に向くという。

ベンチマークはGemma4-31BおよびQwen3.6-27Bとの比較で示されている。MCP Atlasは75.5、DeepSearch QAは74.6、SWE-Bench Proは51.2、AIME 2026は94.7である。一方、OSWorld-VerifiedやTerminalBench 2.1ではQwen3.6-27Bが上回る。スコアは公表値としてそのまま掲載されている。

利用面では、transformersの`AutoModelForMultimodalLM`でテキスト、画像、動画の推論、マルチモーダルのツール呼び出し、物体検出を実行できる。llama.cppではMetaが較正済みの量子化版を配布し、Unslothも最適化版を公開予定である。vLLMはtransformersバックエンド経由で対応する。Inference Endpointsにはプリセットがあり、OpenAI互換のChat Completions APIが使える。

TRLによるファインチューニングも紹介されている。LoRA SFTは80GBのH100 1枚、フルSFTは8枚のH100とFSDP/ZeRO-3が目安である。MolmoWebデータセットの一部で構造化出力と画像を学習させる例や、OpenCodeでAsyncGRPOを試した例が付属する。

デモでは、Hugging Face MCPとAGENTS.mdのプロンプトを使い、モデル自身が量子化、Inference Endpointsへのデプロイ、H100向けの推論最適化を行う流れが示されている。OpenClawへの接続設定や、Hubを調べるリサーチエージェントのGradio Spaceも紹介されている。