OpenAI、サイバーセキュリティ特化モデルChatGPT Cyberを提供へ、Daybreakの対応規模に課題も

Charge RoboticsのCTOであるMax Justiczは、7月に公開されたGPT 5.6 Solを、Daybreak Blue経由で使い、Ubuntuを動かすサーバーの制御を奪われかねない深刻な脆弱性を見つけた。過去に修正された同じコードベースの不具合を示し、同等以上の不具合を探すよう指示したところ、2時間で結果が返ってきたという。問題はDebian Projectに報告され、パッチが出ている。悪用の証拠は確認されていない。Justiczは複数の脆弱性を探すのに、サブスクリプションとトークンで約$5,000を費やしたと述べている。

OpenAIは今回、ChatGPT CyberをDaybreak Redの利用者に提供すると発表した。Daybreak Redは攻撃的なセキュリティ研究者向けに、脆弱性の探索や開発のツールを提供する最上位層である。前日には同モデルでLinuxカーネルの脆弱性にパッチを準備し、948件の潜在的な問題を見つけたと説明している。OpenAIは「あらゆる規模の組織、独立研究者、オープンソースのメンテナー」へDaybreakを拡大する方針を示し、電力網や水道などの重要インフラに携わる専門家を支援する$1 billion（10億ドル）の取り組みも発表した。

記事はDaybreakへの批判にも触れている。Justiczは、OpenAIが最近Daybreak Blueの脆弱性発見能力を「nerfed」した（弱めた）ようだと指摘する。参加には運転免許証の写真提出が必要で、悪用者を遠ざける利点がある一方、防御側が最先端技術を使えない間に、攻撃側はガードレールを外したオープンウェイトモデルを使えるという声もある。参加者はOpenAIによれば「thousands」規模で、潜在的な攻撃者よりはるかに少ない。

OpenAIのEric Wallaceは、フロンティアの計算資源のかなりの部分をオープンソースの脆弱性発見と修正に、完全に無償で充てていると述べた。ただしLinuxの調査費用は$1.2 millionで、流体力学の有名な問題の解決策探しに投じた約$6 millionのトークン費用を大きく下回る。記事は、時間的猶予が限られるなら、より強い緊急性が必要かもしれないと論じている。