Microsoft AI、MAI-Base-2の事前学習を解説

Microsoft AIは、アクティブ80B、総計2.8Tパラメータの MoE 基盤モデル MAI-Base-2 の事前学習を完了した。保留評価では試験したオープンウェイトモデルをすべて上回り、DeepSeek-V4-Pro-Base に対する事前学習のFLOPs効率は4〜12倍である。16k GB200 GPUで38日間学習し、現在は事後学習中で、重みはFoundry経由で信頼できるパートナーにライセンス提供する方針である。