今更ながら DeepSeek-R1 の論文を読んでみた

DeepSeek-R1は、DeepSeek-V3-Baseを数千個規模のCoT付きデータでファインチューニングした後、GRPOによる強化学習で品質を改善するモデルである。強化学習の報酬にはReward Modelではなく、数学やコーディングの正解判定に基づくルールベースの報酬を用いており、報酬ハッキングを避ける狙いがあると説明されている。