離散視覚トークンの新量子化手法FVQを提案

Factorized Vector Quantizationは、補完的な特徴ビューを並列コードブックで量子化し、離散視覚トークンをマルチモーダル理解で連続表現並みの性能に近づける手法である。量子化誤差が大きくても理解性能が高い場合があり、性能を左右するのは離散インデックスの実効ビット予算だとしている。産業規模のデータで学習したモデルは9指標平均でUniARを22.8%、Emu3-Chatを59.2%上回り、知る限り初めてQwen3-VLなどに競合する離散表現モデルだとしている。

Hugging Face Daily Papersより

推移を表示するための継続的な観測データがまだ足りません。