Hugging Face Daily Papers·· 2 日前AIスコア35
IQuest-Q1、エージェント型CLIシステム向けの基盤能力を強化
IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
AIによる概要
IQuest-Q1は、総パラメータ320B(活性化15B)のスパース型MoEによるエージェント向け基盤モデルであり、事前学習、中間学習、事後学習の多段階学習によりエージェント型コーディングと汎用能力の強化を図る。事前学習ではStable SplitNorm、Muon、muPを組み合わせ、事後学習ではSFT、ドメイン特化RL、MOPDを複数のスキャフォールドで用いる。各段階のチェックポイントとエキスパートはモデルマージで統合され、オープンソースモデルとして公開された。
出典: Hugging Face Daily Papers · huggingface.co