Google、Gemini Enterprise Agent Platformにエージェント異常検知機能を公開

Googleは2026年10月19日、Gemini Enterprise Agent Platform上で動くAIエージェントを監視する「Agent Anomaly Detection」をプライベートプレビューで提供開始した。推論トレース、ツール呼び出し、ログを分析して異常を検出する機能である。 同日にGoogle Developers Blogが公開した解説記事の第2部「意図を判断するゼロトラストAIエージェントの構築方法」では、第1部と同じCustomer Support & Returns Agentを使っている。このエージェントは注文確認、再入荷手数料の計算、返金実行を担い、返金はエージェント自身のCloud KMS非対称鍵で署名する。検証には注文#99281(合計$149.00、物理製品$29.00と年間ソフトウェアライセンス$120.00を含む)が使われた。 実行時の制御はAgent Gatewayを通じて適用される。Model Armorはプロンプトインジェクション、ジェイルブレイク、悪意あるURLを入口で検査し、一致すれば403で遮断する。このためモデルは呼び出されず、トークンも消費されない。出口では機微情報を伏せ字にする。Semantic Governance Policiesは自然言語の方針に基づき、ツール呼び出しの前にユーザーの意図と業務ルールを照らして判定する。例では、$30超のデジタル商品の返金は管理者承認なしに拒否するとYAMLで定め、$120.00のライセンス返金がDENYとなる。 三つ目の攻撃は、$20の返金を複数ターンに分けて合計$160.00を引き出す手口である。各ターンは単独では方針に適合するため、単発のチェックでは見つからない。Agent Anomaly Detectionはセッションのテレメトリから、ツール呼び出しの頻度、同一エンティティへの書き込み、累積値などを手がかりに異常を検出し、Security Command Centerにも脅威として表示される。なお、検出器名、確信度、検出結果の形式は例示とされている。 検出後は、管理者が新しい自然言語の制約を追加すれば、エージェントのコードを変更・再デプロイせずに対策できる。デモでは、同一セッションで同じ注文に承認済み返金がある場合に拒否する方針をAPIで作成する。デモはローカルで動作し、./demo/run_part2_demo.sh でCLIを実行し、python3 -m http.server 8000 でダッシュボードを開ける。

報道をもとにAIが作成しました・22 時間前更新

1. 10月19日 08:40 · 1件の報道
   Google、ゼロトラストAIエージェントの実行時ガバナンスを公開
   Google Developers Blog:意図を判断するゼロトラストAIエージェントの構築方法：Model Armor、Semantic Governance Policies、Agent Anomaly Detection
2. 10月19日 08:40 · 1件の報道
   Agent Anomaly Detectionをプライベートプレビュー公開
   Google Developers Blog:Gemini Enterprise Agent Platformにエージェント異常検知機能、プライベートプレビューで提供開始