AISI Japan、Anthropicの Fable 5・Mythos 5提供停止とAI意識調査を整理

Anthropicは、米政府からFable 5とMythos 5について米国国民以外の利用を止めるよう指示を受け、両モデルを全利用者向けに一時停止した。米政府は、特定の指示によってFable 5の安全上の制限を一部回避し、攻撃に悪用されうるソフトウェアの弱点を探せる可能性があると認識し、国家安全保障上の懸念として扱ったと報じられている。Anthropicは、その手法で確認されたのは少数の既知の軽微な脆弱性だと説明した。指示には従うが、限定的な回避の可能性だけを理由とする停止要請には同意しておらず、先端AIモデルの公開を萎縮させかねないとの見解を示している。

ページでは、Anthropicの多層防御も解説されている。まずFable 5に付属するAI検知システムが全入力の危険性を自動判定し、リスクありと判断された場合のみOpus 4.8に切り替えて2段階目の安全性検証を行う。そこで危険なしなら出力し、危険ありなら応答を拒否する。1段階目の対象は、サイバーセキュリティ、生物・化学（CBRNE）、モデル蒸留の三分野である。高リスクの利用を重点的に見分けつつ、通常利用を過度に妨げにくい点が長所とされる。