Hugging Face Daily Papers·· 2 日前AIスコア33
SpecSlot、グローバルアテンションを増やさずピクセル空間生成Transformerの細部を強化
Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers
AIによる概要
SpecSlotは、ピクセル空間のrectified-flow Transformerで各空間アンカーをDCT係数の帯域ごとに割り当てた複数のスロットに展開し、最も低周波のスロットだけをグローバルアテンションに参加させる手法である。
出典: Hugging Face Daily Papers · huggingface.co