AIセーフティ・インスティテュート、「AIセーフティに関する評価観点ガイド」第1.10版を公開
AIセーフティ・インスティテュート(J-AISI)は、「AIセーフティに関する評価観点ガイド」の改訂版となる第1.10版を公開した。画像解析などAIの活用範囲の広がりをふまえ、マルチモーダル基盤モデルを評価対象とする場合の評価観点と評価項目例を調査して反映した。
#安全性
#安全性
本日0件AISI Japan: OutputAIスコア2323
AISI Japan: OutputAIスコア2222 AISI、AIセーフティ評価・レッドチーミングガイドの要点をまとめたアプローチブックを公開
AIセーフティインスティチュート（AISI）は、「AIセーフティに関する評価観点ガイド」と「AIセーフティに関するレッドチーミング手法ガイド」の概要を簡潔にまとめたアプローチブックを作成した。両ガイドを初めて参照する人が要点を把握できるよう、リーフレットとパワーポイントの形式で提供される。
SB Intuitions ブログAIスコア3232 日本語LLMの安全性境界テスト：過度な拒否と有用性を測る日本語データセット
SB Intuitionsは、LLMの過度な拒否と安全性の両方を測定できる日本語データセット「日本語安全性境界テスト」を構築した。12のリスクカテゴリと5種のプロンプトタイプで安全な入力と安全でない入力を作成し、採点形式で評価する。同程度のパラメータサイズのInstructモデルと比べ、sarashina2.2-3B-instruct-v0.1のスコアは大きく上回ったという。
AISI Japan: OutputAIスコア2222 AIセーフティに関する活動マップ（AMAIS）
J-AISIは、AIセーフティに関する活動マップ「AMAIS: Activity Map on AI Safety」をディスカッションペーパーとして公表した。問い合わせ先はaisi-amais-info[at]ipa[dot]go[dot]jpである。
AISI Japan: OutputAIスコア4040 AIセーフティに関するレッドチーミング手法ガイド（1.0.0版）を公開
AIセーフティに関するレッドチーミング手法ガイドの1.0.0版が公表された。AIを取り巻く環境の変化が激しいことから、今後適宜修正し改訂していく方針である。日本語と英語の概要版も関連文書として公開されている。
AISI Japan: OutputAIスコア2525 AIセーフティに関する評価観点ガイド（1.0.0版）の公開
AIセーフティに関する評価の観点をまとめた「評価観点ガイド」の1.0.0版が公表された。主な読者はAI開発者・AI提供者で、特に「開発・提供管理者」および「事業執行責任者」を想定している。AIを取り巻く環境の変化を踏まえ、今後も適宜修正・改訂していく方針である。