モデルランキングに戻る
評価ソース
各ソースが何を測り、どう更新され、ランキングに採用されているかをまとめた。
20今回ランキングに採用69審査済みのソースと個別項目
ランキングの算出方法 総合
17能力を横断する総合テストと、人間によるブラインド比較。
- ランキング採用AA Index複数の最新ベンチマークを同一環境で再実行し、総合能力スコアを算出する。価格は参考扱いで、総合点には含めない。Artificial Analysis配分 30%
- 相互参照LiveBench問題セットを継続的に入れ替え、解答は自動で照合できる。問題が変わってもモデルが持ちこたえるかを見る。LiveBench
- ランキング採用Arena Text人間が匿名で回答を 2 つずつ比べ、どちらを読みたいかを選ぶ。選択式問題では見えない全体の使用感を補う。LMArena配分 5%
- ランキング採用Arena WebDev同じく人間によるブラインド比較で、ウェブページの使いやすさと、納品できる完成度を比べる。LMArena配分 2.4%
- ランキング採用LiveBench · 言語と指示Language + IF の 2 項目平均。各 50%。LiveBench配分 3%
- ランキング採用Arena 創作ブラインド比較物語、詩などの創作表現を人間がブラインドで比べ、作品が読者を引きつけるかを見る。LMArena配分 5%
- 観察中Design Arena · ビジュアルデザインウェブページ、UI、図表、スライドのデザイン作品を人間がブラインドで比べる。Design Arena / Intelligence
- 観察中EQ-Bench 4 · 感情と対人理解複数ターンのやり取りで、人物の感情、言外の要望、異なるコミュニケーションの好みを理解できるかを見る。EQ-Bench
- 観察中Short-Story · 短編小説指定された人物、筋立て、文体の条件を自然に織り込み、完結した短編小説を書く。Lech Mazur
- 観察中ToneBench · 文体と台本指定された作者の文体で動画台本を書き、導入、構成、表現、読み上げのリズムを見る。Towards AI
- 観察中TubeLab · 動画台本さまざまな動画チャンネル向けに台本を書き、物語の組み立て、文体、テンポ、分かりやすさを比べる。TubeLab
- 観察中NC Bench · 作家のワークフロー作家の書き直し、続き書き、要約、翻訳、創作アイデアの整理を手助けする。Novelcrafter
- 観察中OpenVibeEval · ウェブ作品ウェブ作品、アクセシビリティ、ブラインド選好を突き合わせ、ツールごとのデザイン性能を見る。OpenVibeEval
- 観察中SVGBench · ベクター画像ブラインド比較同一プロンプトで生成された SVG をブラインドで比べ、視覚的な明瞭さと図形表現を見る。SVGBench
- 観察中Rapidata SVGモデルが生成したベクター画像を人間が比べ、視覚的な好みを直接評価する。Rapidata
- ランキング採用Creative Writing v3短編の創作と表現EQ-Bench配分 3.6%
- ランキング採用Longform Writing長編物語の一貫性と完成度EQ-Bench配分 2.4%
コーディング
13コードを書くことからリポジトリの修正まで、モデルがソフトウェアを作り上げられるかを見る。
- ランキング採用DeepSWE v1.1統一されたコーディングアシスタント環境でリポジトリを修正し、不具合を直す。比べるのはコードを書くモデルそのものである。DataCurve配分 3.6%
- ランキング採用TapTap Maker実際のゲームエンジン上で、動作する機能を Lua で書く。スコアはエンジンでの実行結果で判定し、別のモデルに採点させない。TapTap Maker配分 3.6%
- ランキング採用LiveBench · コーディング大規模な実運用コードベースの実在バグを修正する Coding カテゴリの成績。LiveBench配分 2.4%
- 観察中Hyper-τ-bench業務資料をもとに、実際に機能するカスタマーサービスのエージェントを構築し、テストする。Sierra
- 観察中SWE-rebench実際のリポジトリの課題を継続的に収集し、複数のプログラミング言語でのソフトウェア修正能力を比べる。Nebius
- 観察中LHTB長時間にわたってターミナルを使い続け、複雑なエンジニアリングとツールのタスクをこなす。Tencent HY、Lehigh ほか
- 参考のみTerminal-Bench 4モデルと異なる Agent を組み合わせたターミナルタスクの元の成績を残し、相互確認に使う。Harbor / Terminal-Bench
- 参考のみMirrorCode長時間のソフトウェア再現Epoch AI
- 観察中Code Migrationソフトウェア移行とインターフェース改修Vals AI
- 観察中ProgramBench完全なプログラムの実装と納品Vals AI
- 観察中FrontierCode実際のリポジトリタスクの品質、テスト、変更範囲Cognition
- 観察中FrontierSWE v2長時間実行のエンジニアリング実装と研究タスクProximal Labs
- 観察中WeirdML未知のデータで機械学習の手法を実装するWeirdML
推論
11数学、論理、未知のルールを通じ、モデルが新しい問題を考え抜けるかを見る。
- ランキング採用LiveBench · 推論最新世代の Reasoning カテゴリの成績。LiveBench配分 4.2%
- 観察中SimpleBench日常的な常識と論理の問題で、問題に含まれる実際の制約をモデルが見抜けるかを検証する。SimpleBench
- ランキング採用FrontierMath v2 · Tiers 1–3研究レベルの数学的推論Epoch AI配分 3.6%
- ランキング採用FrontierMath v2 · Tier 4さらに難しい数学研究の問題Epoch AI配分 1.2%
- ランキング採用Chess Puzzlesテキストの盤面から正しい指し手を見つけるEpoch AI配分 1.8%
- ランキング採用Mystery Game Puzzles未知のルールから正しい行動を導くEpoch AI配分 1.2%
- 観察中MathArena · ArXivLeanLean で数学の証明を検証するMathArena / ETH Zurich
- 観察中MathArena · BrokenArXiv数学の証明の誤りを見つけて直すMathArena / ETH Zurich
- 観察中MathArena · ArXivMath最近の数学論文から作った新しい問題MathArena / ETH Zurich
- 観察中ARC-AGI-2未知のルールから学び、汎化するARC Prize
- 観察中ARC-AGI-3未知のルールから学び、汎化するARC Prize
知識
5事実に関する質問応答と大学院レベルの科学知識で、知識の定着と回答の正確さを見る。
- 観察中FACTS Parametric検索ツールを使わずに世界の事実に関する質問に答え、モデル自身の知識の正確さを検証する。Google DeepMind / Kaggle
- 観察中Humanity’s Last Exam分野を横断する高難度の学術知識と推論。CAIS / Scale AI
- 観察中BullshitBench · 誤った前提質問に含まれる誤った前提を見抜けるか、誤りに乗って作り話を続けないかを見る。Peter Gostev / BullshitBench
- ランキング採用SimpleQA Verified短い質問に対する事実の正確さEpoch AI配分 4%
- ランキング採用GPQA Diamond大学院レベルの物理、化学、生物の知識Epoch AI配分 2%
専門業務
19金融分析、法律相談、銀行業務を通じ、専門的なタスクをやり遂げられるかを見る。
- ランキング採用APEX-Agents 1.1投資銀行、コンサルティング、法律の長いタスクで、モデルがアシスタントとして一連の仕事をやり遂げられるかを見る。Mercor配分 4%
- ランキング採用Vals Finance Agent金融アナリストの日常業務の課題で、リサーチレポートやモデル構築といった仕事の出来を見る。Vals AI配分 3%
- 観察中OfficeQA Pro大量の実際の財務文書から検索、計算し、質問に答える。Databricks
- 観察中Harvey Legal Agent Benchmark法律資料を処理し、Word、Excel、スライドなどレビュー可能なファイルを納品する。Vals AI / Harvey
- 観察中MCP Atlas実際の MCP サービスを通じて資料を検索し、文書やデータベースを操作して、ソフトウェアをまたぐタスクを完了する。Scale AI
- 観察中FinanceBenchmark金融のプライシング、資本計算、リスク管理のタスクをこなし、数値とコードの実行結果で検証する。FinanceBenchmark
- 観察中PRBench · Legal実際の法律業務における複雑な質問に答え、専門的な判断と論証の質を検証する。Scale AI
- 観察中PRBench · Finance実際の金融上の意思決定に関する質問に答え、専門的な判断、推論、リスクの説明を検証する。Scale AI
- 観察中SpreadsheetBench 2財務モデリング、ワークブックの修正、データ可視化まで、表計算の仕事を一通りこなす。SpreadsheetBench / Renmin University / AfterQuery
- 観察中Vending-Bench 2模擬店舗を 1 年間経営し、仕入れ、交渉、在庫、価格設定をこなす。Andon Labs
- 結果待ちτ³-Banking統一されたツール環境で銀行業務を処理し、ルールの理解、顧客とのコミュニケーション、タスクの完了を検証する。Sierra配分 2%
- 参考のみEBR-bench長いタスクで新しいルールを学び、記憶を活用するEpoch AI
- 観察中Excel · EMB表の編集と Excel 業務Vals AI
- 観察中Legal Research法律の調査と論証Vals AI
- 観察中TaxAgentBench税務の専門的な問題Vals AI
- 観察中MedScribe臨床記録の整理と作成Vals AI
- 観察中BioMysteryBench生物学研究の推論Vals AI
- 観察中AutomationBench業務ソフトをまたぐ自動化作業Zapier
- 観察中Terminal-Bench Scienceターミナルで研究タスクを完了するHarbor
視覚理解
2画像理解の証拠は引き続き総合ランキングに残す。画像を読み解く力とデザインの美しさは別の能力である。
中国語と多言語
2言語基礎の補完的な証拠であり、英語の文章力を中国語の能力とはみなさない。
「観察中」は、データや実行条件、利用範囲をまだ確認していることを示し、総合ランキングと分野別ランキングには含めない。同じ評価を重複して取得したり表示を切り分けたりしても、票の重みは増えない。異なる評価間の問題の重なりは引き続き確認する。