Anthropic、METRに従業員並みのアクセスを付与し独立評価者との連携を拡大

Anthropicは先月、モデルと安全対策に対する第三者評価を強化すると表明し、独立した外部の監査者や評価者との連携を企業が約束するWhite House Accord on Super Intelligenceにも署名した。今回の発表では、METRの6人の従業員を受け入れ、自社のリスク評価チームとほぼ同等の社内ツールやシステムへのアクセスを与えたと説明している。会社支給の機器やオフィススペースも提供される。

従業員並みのアクセスでも、顧客データ、弁護士・依頼者間の秘匿情報、モデルのアーキテクチャに関する情報など、あらかじめ定めた少数のカテゴリは対象外となる。METRは分析結果を公表でき、Anthropicは公表を拒否できないが、これらのカテゴリに該当する情報の削除は求められる。該当するかどうかは最終的にAnthropicが判断し、METRはアクセスの範囲や得た情報の水準について発言する権利を留保する。METRの関与は、執行可能な契約の下で動く小規模チームに限られる。

評価者に求める条件として、アラインメント偽装のような評価の失敗の仕方を含めたフロンティアモデルの能力評価の専門性、評価対象企業の株式を持たず財務的にも運営上も依存しない独立性、モデルの訓練方法や安全対策の仕組みまで見渡せるアクセス、観察や評価を公表する自由を挙げている。完全に同じ構造ではないとしつつ、銀行監督で当局が大手銀行に常駐の検査官を置く仕組みを類例として示している。

アクセスは三段階で整備中である。第1段階は範囲を絞ったリスク調査で、提供する情報はAnthropicが決め、公表には承認が必要となる。第2段階は承認なしで公表でき、より多くの情報にアクセスできるが、特定カテゴリの削除は要求できる。評価者は削除の妥当性について意見を公表できる。第3段階がMETRとの形態である。

他の連携としては、SecureBioが8月のRisk Reportの化学・生物兵器の章をレビュー中で、完了後にアクセスを広げた案件を検討する。AccentureとFacultyとは、モデルの評価とレッドチーミング、アラインメント評価、安全対策のテストなどを含む連携を目指している。Anthropicは評価者の組み込みを自主的に進めており、すべてのフロンティアAI企業が同様にすべきだと述べている。