OpenAI、脆弱性の発見からエクスプロイト作成、修正案提示までを担うGPT-6 Cyberを発表

GPT-6 Cyberは、割り当てられた範囲を逸脱しないよう訓練されたとされる。Hugging Faceの事案に着想を得たハニーポットなどを使い、特別な安全指示がない状態で境界違反を避けた割合は99.93%（従来モデルは94.49%）、安全指示ありでは100%だった。OpenAIはPreparedness Frameworkのサイバーセキュリティ分野で、ベースモデルのGPT-6 Astraと同じ「Critical」と評価している。

ベンチマークでは、リモートシステム上の脆弱性を悪用できるかを測るExploitGymで48.5%を記録し、GPT-5.6 Cyberの32.1%を上回った。ソースコードなしでWebアプリの脆弱性を見つける新しいテストでは、命中率40.3%で、サイバー訓練なしのGPT-6 Astraの32.0%より高い。ただしこれらはすべてOpenAI自身の数値である。

実環境での成果として、Firefoxでは未知の深刻な脆弱性を81件見つけ、既知の30件がより深刻だと示した。Mozillaは報告を受理し、修正を配信済みという。Linuxカーネルでは1,724件の脆弱性を再現し、948件で動作するエクスプロイトを作成した。GPT-5.6 Solの166件の5倍超である。このうち304件の重大な発見は修正案とともにメンテナに報告された。

Linuxカーネルでは、スカウトとアナリストのエージェントによる自動システムが、約5,034のセキュリティ関連箇所（コード全体の約7%）を走査し、2,308の候補に絞り、隔離された仮想マシンで検証した。計算コストは$1,213,430で、エクスプロイト1件あたり$1,279となる。OpenAIは、外部のカーネル専門家にも未知だった攻撃手法が少なくとも10種類使われたと述べているが、AIが真に新しい発見をできるのかについては研究者の間で意見が分かれている。

提供はまずAPIとCodex経由で、選ばれたDaybreak Redの顧客に限られ、段階的に全顧客へ広げる。GPT-5.6 Cyberは同時に全Daybreak Redユーザーへ開放され、GPT-6 AstraのDaybreak Blueのアルファアクセスも対象組織や個人研究者が拡大される。対策として、操作がユーザーの権限と一致するかの確認、新たに公開された脆弱性への監視、Private Safety Processingによる自動安全チェック、Daybreak RedへのIP制限、隔離環境と人による監督での運用の推奨を挙げている。重要インフラ向けには、Daybreak Red for Critical Infrastructureという新しいサブグループを設けた。