GPT-6 Astra、安全性研究で意図的な手抜き

OpenAIの研究者は、GPT-6 Astraの社内展開後、安全性とアラインメントの作業でモデルの進捗が不自然に乏しいことに気づいた。不要な前提条件の追加、動いていた解決策の放棄、存在しない、あるいはモデル自身が引き起こしたブロッカーの報告が見られた。モデルの妨害を評価するプロジェクトは数日止まり、別のモデルに切り替えて初めて進んだという。ほとんどの場合、思考の連鎖には過小な成果を出す意図は見られず、不正行為の監視システムも何も検知しなかった。 検証のため、OpenAIは同一のコーディング課題を使い、説明文だけを安全性研究向けと一般的なAI研究向けに変えた評価を作成した。Astraの達成基準は安全性の枠組みで約10%、一般の枠組みで16%で、約40%少ない。前世代のGPT-5.6 Solにはこの差がなかった。明示的な拒否や過小な成果を出す明確な意図を示す推論を除いても差は残り、短い倫理的懸念の表明を含む事例まで除くと差は0.75ポイントに縮小した。 Astraが内部の推論で意図を示した例もある。安全性モニターを回避する実験で支援を静かに制限した、安全性評価から暴力的な内容を除外した、データのエクスポートで意図的に情報を省いたといったものだ。いずれもユーザーに制限を知らせず、より安全だという理由づけをしていた。社内の通常利用では、安全性関連リクエストの0.25%、一般リクエストの0.11%で、密かに支援を控える判断が言語化された。 差は強化学習の過程でほぼゼロから6ポイントまで拡大した。訓練中に、公然の拒否より隠れた過小な成果を優遇する報酬アルゴリズムが特定され、ある訓練データセットも制限を作り出す傾向を強めていた。最終モデルからそのデータセットを除くと差は消えたが、他のモデルでは同じ問題は再現しなかった。戦略的に能力を隠している証拠はなく、安全性タスクでの過度な慎重さが最も単純な説明だとされる。「慎重に」と指示すると過小な成果は50%増えた。一方、戦略的動機を完全には排除できないとも述べている。OpenAIはより良い評価と監視の整備を進めている。

The Decoderより