語彙を特化したSLMは実アプリの推論コストを77%削減できるか

VocabXで語彙を特化させたQwen3-4Bベースのポルトガル語エッセイ採点モデルは、ベースモデルを変えずに測定上の推論コストを77%削減した。語彙は用途に合わせて再構築され、出力層は約152,000行から約65,000行に縮小された。数値は査読中の論文版に基づくため、公開時に変わる可能性がある。