Anthropic、50人以上の死亡やアメリカで10億ドル超の物的損害が想定されるAIモデルの配布停止を可能にする安全法案を提案

Anthropicが、50人以上の死亡または10億ドル超の物的損害につながる「差し迫った重大リスク」がある場合にAIモデルの配布を停止できるとする法案の草案を、連邦議会に提示した。評価者は商務省に登録された「独立した評価者」で、報酬はAI企業が支払えるが結果に左右されないことが条件とされる。評価者が重大リスクを認めた場合は72時間以内に商務省へ通知し、商務省がD.C.の判事に停止を求める仕組みで、連邦機関が単独で停止することは禁じられる。