Google DeepMind、エンコーダー不要のマルチモーダルモデルGemma 4 12Bを発表

Gemma 4 12Bは、エッジ向けのE4Bと、より高性能な26B MoEの中間に位置するモデルである。標準的なベンチマークでは26B MoEに迫る性能を示しながら、総メモリ使用量は半分未満に収まるという。中型モデルとしては初めてネイティブの音声入力に対応した点も特徴として挙げられている。Gemma 4全体のダウンロード数は1億5000万を超えた。

最大の特徴はエンコーダーを使わない統一アーキテクチャである。従来のマルチモーダルモデルは画像や音声を別のエンコーダーで変換してから言語モデルに渡すが、これが遅延とメモリ使用量の増加につながる。Gemma 4 12Bでは、視覚入力のエンコーダーを、単一の行列積と位置埋め込み、正規化からなる軽量な埋め込みモジュールに置き換え、視覚処理をLLM本体に任せている。音声はエンコーダーを完全に取り除き、生の音声信号をテキストトークンと同じ次元空間に射影している。

遅延を減らすためのMulti-Token Prediction（MTP）ドラフターも備える。試用はLM Studio、Ollama、Google AI Edge Gallery App、LiteRT-LM CLIなどで可能である。重みは事前学習版と指示チューニング版がHugging FaceとKaggleで配布される。

開発面では、Hugging Face Transformers、llama.cpp、MLX、SGLang、vLLMでローカル推論パイプラインを構築でき、ファインチューニングにはUnslothを使える。エージェントがGemmaで開発するためのスキル集として公式のSkills Repositoryも公開された。本番環境ではGoogle CloudのGemini Enterprise Agent Platform Model Garden、Cloud Run、GKEにデプロイできる。