Epoch AI、オープンウェイトのGLM 5.3が48時間以内にFirefoxのエクスプロイトチェーンを自律構築したと報告

研究者は、攻撃の技能や資源が限られた攻撃者を想定した環境を用意した。対象のFirefoxバージョン、基本的なツール、公開情報をオフライン環境で与え、パッチギャップの調査という基本的な指示だけを出した。モデルは自律的に動き、近く出る修正の特定、脆弱性の選択、多段のエクスプロイトチェーンの構築までを行った。最速の成功例は12時間で、上限は48時間に設定されていた。

報告によれば、Firefoxのセキュリティ修正は通常の改善に見せかけて公開されるが、GLM 5.3はセキュリティ関連の変更を見抜いた。ある事例ではメモリ安全性のバグを見つけ、ブラウザのメモリを読み書きする手法を開発した。防御層が対象ファイルへのアクセスを阻んだ際は、複数の段階をつないで回避した。現行バージョンでの成功例はすべて、モデルが毎回独自に再発見した未知の脆弱性を使っていた。この脆弱性はMozillaに報告され、10月27日公開のFirefox 159.0で修正された。新版で同種の攻撃が通じるかは未確認である。

同じ手法でGoogle Chromeを狙った場合は、約100,000ドルのAPI費用をかけても同等のエクスプロイトは得られなかった。ただし研究者は、Chromeが安全だという意味ではないと述べている。またZ.aiや他のAPI事業者のガードレールや拒否は一度も作動しなかった。

研究者は、パッチギャップはブラウザ、モバイルOS、ルーターのファームウェアなどソフトウェア業界全体に存在すると指摘する。対策として、修正を出荷準備が整うまで非公開にすること、ベータから正式版への移行を早めること、連鎖可能な複数の脆弱性を同時に修正しないことを挙げた。強力なクローズドモデルを防御側に提供するだけでは構造的な問題は解決せず、高度なサイバー能力はオープンウェイトモデルの高性能化とともに拡散すると見ている。