OpenAIがModel Specを更新、五つの価値観で再編

OpenAIは、モデルの振る舞いを定めた公開文書「Model Spec」を更新し、指針を「人間の意図への忠実性」「危害の最小化」「誠実さと透明性」「人間の主体性」「ケア」の五つの価値を軸に再編した。改定では文脈、監督、主体性に関する指針が追加され、一部の行動のデフォルトが調整されたほか、詳細なスタイルガイドの多くが廃止された。OpenAIは、これらの価値をモデルが学習するための新たな訓練手法も検討しており、結果は今後の更新で共有するとしている。

OpenAI Newsより

推移を表示するための継続的な観測データがまだ足りません。