PAR、状態追跡の長さ汎化を高める進捗整合型リカレンスを提案

PARは、ループ型言語モデルの状態追跡タスクで、短い系列で学習したモデルを長い系列へ汎化させる手法である。学習時最大32ステップのswap-S5で学習した0.5Bモデルは、512ステップ（学習長の16倍）で全状態精度95.5%を達成し、従来最良のRLT（55.7%）やCoT（0.8%）を大きく上回った。中間状態の注釈は不要で、最終回答の教師信号のみで学習できる。