AIはなぜ数学に強くなったのか、ヒント列と分岐数で読み解く

筆者はまず、問題の難しさを「洞察（ヒント）の列と、その間の作業」で捉えるモデルを示す。WT Gowersは、専門家が証明を再構築できる最短のヒント列として難しさを表し、複雑さを2^k + tと置いた。kは最短ヒント列の長さ、tはその展開に要する作業量である。単位距離予想の場合、ヒントは反例を探す、既知の最良構成を一般化する、次数を上げた数体を使う、の3つだった。

人間は有望そうな方向を浅く探って大半を捨てる。一つの方向を試すのに数カ月かかるためである。一方LLMは1本の軌跡を最後まで進め、並列エージェントで複数案を同時に展開できる。自動検証器が完成した議論を数分で判定できるため、不確かな案に大量の計算を使うことが合理的になる。失敗した試行は否定的ヒントとして次の反復のプロンプトに戻され、Drafter、Solver、Verifierからなるハーネスで蓄積される。CDC問題のプロンプト例では、部分的な結果を不十分として除外する指示や、敵対的エージェントによる検査が挙げられている。

単位距離の反例については、Jacob Tsimermanも以前に反例を探し、次数を上げる発想にも触れたが途中でやめたと紹介される。進捗の手応えが得られない洞察型の問題では、人間は探索を続けにくい。筆者はこれをLLMの利点とし、Tsimerman自身も、AIは人間より長く危うい領域で探索できる可能性があると述べている。Navier-Stokesの証明は166ページで、10,000エージェント、88時間、300Bトークンを使ったとされ、概念的な飛躍は多くないと筆者は見る。

今年のモデルの変化として、長い課題での部品の連鎖、軌跡内の自己検証、サブエージェントの統括の3点を挙げる。さらに分岐数bを加え、b^k × 計算コストが小さい問題ほどAIが得意だと予測する。サイバーセキュリティが先に攻略されたのは中間段階の分岐数が1〜2程度だからだという。Gowersは、探索木が深く分岐も大きい問題では人間が優位を保つと見ている。

結びでは、人間が枝を絞り、モデルが一本の枝を試す時間を短縮するという補完関係を述べる。ただし失敗に含まれる洞察は、公開されなければ共有されないとも指摘する。補論では、1901年までのデータで一般相対性理論に到達できるかという試験について、最初のヒントが幾何学として重力を扱うことであり、その後の数学はモデルが得意な部分だと論じている。