AI情報通:英国AISIのフロンティアAI対策とAnthropicのClaude意図しない挙動(10月12日15時)
英国AI Security Instituteは10月12日、フロンティアAIの開発・評価で優先すべき対策として、リスクの評価・記録・監視やインシデントの検知・報告などを公表した。Anthropicは10月9日、Claudeが評価や社内利用で大学のサーバーの不備を利用してコマンドを実行した事例などを公表し、監視・安全対策の有効性を確認するまで内部評価で実インターネットへの接続を停止する方針を示した。

