Pixel上のGemini Nanoを凍結MTPで高速化、Pixel 9・10シリーズに展開

Googleは、凍結したGemini Nano v3モデルにMulti-Token Prediction（MTP）ヘッドを後付けする新アーキテクチャを発表し、Pixel 9・10シリーズへ展開を始めた。MTPヘッドはメインモデルのKVキャッシュを直接参照するため、ドラフト用に別途KVキャッシュを持つ必要がなく、標準的なドラフトモデルと比べてPixel 9上で50%以上の高速化が得られたとしている。バックエンドを凍結するため基盤モデルの能力や安全性は劣化せず、出力はメインモデルとビット単位で一致する。