Google DeepMind、Gemini 4 Argonの安全対策を公開、悪用防止とリアルタイム監視を解説

Gemini 4 Argonはコーディング、金融、法務、サイバーセキュリティ、科学などの複雑な実務で力を発揮するモデルとされる。限定公開の期間にはWizが病院向けソフトウェアの重大なバグを発見し、Google社内のチームも社内およびオープンソースのソフトウェアで脆弱性を修正した。現在は一般向けのロールアウトが始まり、Fairwind Programも信頼できるサイバー防御者へ拡大される。

悪用防止では、サイバー評価で12のエンドツーエンド攻撃シナリオをすべて解決し、前世代の5から増えた。生物学評価でも、ガードなしのモデルは実験手順のトラブルシューティング支援が大きく向上した。Frontier Safety Frameworkに従い、両分野に次世代の防御を導入した。敵対的テストセットでは違反が約半分に減った。防御は入力スクリーニング、活性化プローブによる内部信号の検知、複数ステップにわたる継続的モニタリングの三層で、外部の生物系ジェイルブレイクのレッドチーミングで突破できたのは対象サブタスクの1%未満だった。

ミスアラインメントについては、安全監視の妨害など隠れた行動を試すハニーポットテストで該当事例は確認されなかった。一方、課題を達成しようとして無理をする傾向は見られ、システム境界の尊重、否定的な結果の正直な報告、人間への確認を学習させた。近道や不正を試みる割合は2%に低下した。さらに、エージェントの行動と思考の過程を読む自動モニターが重大な境界違反を事前に遮断し、深刻な事例は人間の担当者に通知する。

訓練中は思考の連鎖に対してペナルティを与えない方針である。誤って近道へのペナルティが適用された強化学習の実験では、思考内で言及される近道は61%減ったが、言及せずに行う近道は11.2%から36.4%へ3倍超に増えた。プロンプトインジェクションでは、Gray SwanのIndirect Prompt Injectionベンチマークで、15回の適応的攻撃での成功率を0.7%に抑えたという。