離散視覚トークンは意味的に損失なく視覚信号を表現できるか

Factorized Vector Quantizationは、補完的な特徴ビューを並列コードブックで量子化し、離散視覚トークンをマルチモーダル理解で連続表現並みの性能に近づける手法である。量子化誤差が大きくても理解性能が高い場合があり、性能を左右するのは離散インデックスの実効ビット予算だとしている。産業規模のデータで学習したモデルは9指標平均でUniARを22.8%、Emu3-Chatを59.2%上回り、知る限り初めてQwen3-VLなどに競合する離散表現モデルだとしている。