Microsoft AI、MAI-Code-1.1-Flashを発表 前モデルの4分の1のコストで性能向上
MAI-Code-1.1-Flash: Better, faster, at a quarter of the cost
Microsoft AIはコーディングモデルMAI-Code-1.1-Flashを発表した。6月にMicrosoft Buildで公開したモデルと比べ、コードの品質が向上し、トークン効率は25%高く、コストは4分の1である。GitHub Copilotで本番稼働しており、ローカル実行向けのダウンロードも可能で、GitHub Copilotでの実験的提供は月末までに始まる。
MAI-Code-1.1-Flashは、開発者からのフィードバックでCLIタスクと.NETの性能が重視されていたため、そこに注力して改善された。GitHub Copilot CLIでのTerminal-Bench 2.1は22%、.NETタスクは15%向上した。本番指標ではコードの生存率が4%上昇し、再訪問も9%増えたという。
効率面では、GitHub Copilotでトークンのストリーミングが25%速くなり、タスク完了に必要なトークン数も25%減った。訓練と提供の効率化により、1.0の4分の1の価格で提供でき、その削減分を顧客に還元するとしている。GitHub Copilot上の数十万を超える強化学習環境で、実利用を想定した最適化を行ったと説明している。
オンデバイス向けには3-bit量子化を適用した版が用意された。メモリ要件を抑えつつ256Kのコンテキストウィンドウを維持し、SWE-Bench VerifiedとTerminal-Bench 2.1でフル精度版に近いコーディング性能を保つとされる。ローカルのモデル呼び出しには推論料金がかからず、Copilotのルーターのローカル選択肢として、対象となるコーディング作業を手元のハードウェアで実行できる。より高い能力が必要な作業はクラウドモデルが補う。
出典: Microsoft AI (MAI) News · microsoft.ai