OpenAI· @OpenAI · X·· 2 時間前AIスコア42
AIによる概要
今夏、当社はMETRおよびRedwood Researchを招き、社内監視システムの組み込み型評価を試験的に実施しました。3週間にわたり、当社のインフラへの深いアクセスを提供しました。 両社の知見は、監視システムを拡張する際の安全対策の強化に役立ちました。また、今後のMETRやその他の第三者評価機関との研究協力の方向性づくりにも役立つでしょう。
記事
This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep access to our infrastructure over three weeks.
Their findings helped strengthen safeguards as we expanded the system and will help shape future research collaborations with METR and other third party evaluators.
Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.引用元の投稿をXで見る
出典: OpenAI · x.com