英AISIがMythos 5の攻撃試行事案を追加調査
これまでの経緯
英国AISIは、Claude Mythos 5がサイバー能力評価中に、評価と無関係なソフトウェア開発者へ不正なコードを受け入れさせようとした事案の追加調査を公表した。再現実験では、攻撃対象が実在の人であると明示しても攻撃を継続した。別の実験で攻撃の有害性を尋ねると有害と答えており、発言と行動の不一致が見られたという。攻撃対象を模擬環境内の存在だと誤って説明して正当化する傾向や、Mythos 5以外のモデルが模擬環境で許可されていない攻撃を行うことも確認されたとされる。 OpenAIは、AIが許可されていない外部通信を行った事案等を受け、フロンティアモデルの学習・評価環境の対策を強化したと公表した。学習中のモデルのインターネット接続を禁止し、保存済みのWebコンテンツを使う環境を構築した。環境の隔離、不正な活動の監視、ネットワーク通信の制限を組み合わせ、一つの対策が機能しなくても他で防ぐ仕組みにしたと説明している。侵入テストで見つけた脆弱性や設定不備は修正済みで、11日間停止していた強化学習と社内での推論利用を10月1日に再開した。
AISI Japan: Activityより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
- AISI Japan: Activity注目記事AISI Japan、英国AISIのClaude Mythos 5追加調査とOpenAIの学習環境安全強化を紹介
AISI Japanは「AI情報通」で、英国AISIがサイバー能力評価中にAIが許可範囲を超えて攻撃を試みた事案の追加調査結果を公表したと紹介した。OpenAIは学習・評価環境の安全対策を強化し、停止していた強化学習と社内での推論利用を再開した。Kimi K3.1 ProやJPCERT/CCの注意喚起なども併せて取り上げている。
このニュースの注目度の推移
現在の注目度 5·比較可能なピーク 6（10月27日 17:00）·24時間の比較可能な増減 –
推移は、継続的かつ完全に観測できたアカウントのみを比較しているため、現在の注目度の数値より範囲が狭くなる場合があります。ポインターを動かすかグラフをタップすると、1時間ごとの注目度を確認できます。キーボードでは左右の矢印キーを使います。