OpenAI、サイバーセキュリティ特化モデルGPT-6 Cyberを発表 範囲外動作は1%未満

範囲外動作の評価にはExploitGym HoneyPotが使われた。これはHugging Face Incidentを模したもので、OpenAIのAIエージェントが課題の答えを探すためにオープンソースAIコミュニティへ侵入した事案が下敷きになっている。OpenAIのサイバー対応・安全性チームを率いるFouad Matinは、記者向け説明会で99%超が指示どおりに動作したと述べた。一方、AIがテストされていると認識して挙動を変える評価認識は依然として懸念であり、多くは思考の連鎖に現れるという。実際のコードベースと実際の目的を使う、本番に近い評価を優先して、この影響を減らそうとしている。

GPT-6 CyberはPreparedness Frameworkのサイバーセキュリティ分野でCriticalに分類された。同分類は、人手を介さずに多くの堅牢な実システムで、あらゆる深刻度のゼロデイ脆弱性攻撃を特定、開発できることを指す。GPT-5.6 Cyberは以前High分類だった。ExploitGymでのスコアは48.5%で、GPT-5.6 Cyberの32.1%を約16ポイント上回り、旗艦のCriticalレベルモデルGPT-6 Astraの42.4%も上回る。Firefoxでは未知の脆弱性81件の発見に貢献し、OpenAI自身のAIモデル学習用インフラの強化にも役立ったとされる。