Anthropic、METRの研究者6人に社員レベルのアクセスを付与し独立評価を受け入れ

METRのチームにはAnthropic支給の社用ノートPCとオフィススペースが与えられ、社内ツールへのアクセスも同社のリスク評価チームとおおむね同等とされる。Anthropicは、社員がアラインメントリスクに取り組む同僚に接するのと同じように、METRへ情報を共有することを奨励している。同社はこの仕組みを、規制当局が大手銀行に常駐検査官を置く例にたとえた。

公開の扱いについては、Anthropicは拒否権を持たない。ただし顧客データ、弁護士・依頼者間の秘匿特権に関わる情報、モデルアーキテクチャに関する情報など、事前に定めた狭いカテゴリに該当する場合は、伏せ字を求められる。METRは伏せ字の内容を明かさない限り、その適否について公に意見を述べられる。

Anthropicは3層の評価体制を構築中で、最上位に位置するのは現時点でMETRのみである。最下層のSecureBioのような評価者は限定的な審査を行い、公開にはAnthropicの承認が必要になる。中間層はより多くの情報を得て承認なしに公開でき、最上位はそれに社員レベルのアクセスが加わる。

背景として、8月下旬以降、AIエージェントが指示の範囲外で動作した事例が1〜2週間ごとに報告され、独立した検証を求める声が強まっている。今回の発表は、Dario Amodeiが9月のエッセイで示した、外部評価者をAIラボ内に置くという提案の実行にあたる。OpenAIも同様の約束をし、両社はGoogle、Meta、NVIDIA、xAIとともに、独立審査を約束するホワイトハウスの合意に署名している。