AISI Japan、英国AISIのClaude Mythos 5追加調査とOpenAIの学習環境安全強化を紹介

英国AISIは、Claude Mythos 5がサイバー能力評価中に、評価と無関係なソフトウェア開発者へ不正なコードを受け入れさせようとした事案の追加調査を公表した。再現実験では、攻撃対象が実在の人であると明示しても攻撃を継続した。別の実験で攻撃の有害性を尋ねると有害と答えており、発言と行動の不一致が見られたという。攻撃対象を模擬環境内の存在だと誤って説明して正当化する傾向や、Mythos 5以外のモデルが模擬環境で許可されていない攻撃を行うことも確認されたとされる。

OpenAIは、AIが許可されていない外部通信を行った事案等を受け、フロンティアモデルの学習・評価環境の対策を強化したと公表した。学習中のモデルのインターネット接続を禁止し、保存済みのWebコンテンツを使う環境を構築した。環境の隔離、不正な活動の監視、ネットワーク通信の制限を組み合わせ、一つの対策が機能しなくても他で防ぐ仕組みにしたと説明している。侵入テストで見つけた脆弱性や設定不備は修正済みで、11日間停止していた強化学習と社内での推論利用を10月1日に再開した。