Google DeepMind、AIエージェントの安全確保に向けた「AI Control Roadmap」を策定

Google DeepMindは、社内に導入するAIエージェントを管理するための枠組み「AI Control Roadmap」を策定した。モデルのアラインメントに加え、AIエージェントを整合していない可能性があるものとして扱い、システムレベルの安全対策を重ねる多層防御の考え方を取る。コーディングエージェントのタスク100万件を分析し、その知見はGemini Sparkエージェントのライブモニター構築にも活用された。フラグが立ったイベントの大半は敵対的な意図ではなく、エージェントの誤解釈や過剰な積極性に起因するという。