ICML 2025採択論文「Scaling Laws for Upcycling Mixture-of-Experts Language Models」

SB Intuitionsの研究者Seng Pei Liew、Takuya Kato、Sho Takaseによる論文が、機械学習のトップカンファレンスICML 2025に採択された。小さなモデルを再利用（upcycling）して大規模なMoEモデルを構築する際のスケーリング則を調査している。その結果、再利用するデータを増やしても性能は単純には向上し続けず、元のモデルの学習方法の影響を受けるという新たな効果を見出し、upcyclingを効果的に行うためのガイドラインを提示している。