AIセーフティ・インスティテュート、「AIセーフティに関する評価観点ガイド」第1.10版を公開
AIセーフティ・インスティテュート(J-AISI)は、「AIセーフティに関する評価観点ガイド」の改訂版となる第1.10版を公開した。画像解析などAIの活用範囲の広がりをふまえ、マルチモーダル基盤モデルを評価対象とする場合の評価観点と評価項目例を調査して反映した。
AIニュース一覧
すべてのニュース
本日20件AISI Japan: OutputAIスコア2323 AISI Japan: OutputAIスコア3838 AI事業者ガイドライン（1.1版）が公表、総務省・経済産業省
総務省と経済産業省は、AI事業者ガイドラインの1.1版を公表した。AIガバナンスの継続的な改善に向け、アジャイル・ガバナンスの思想を参考に、両省の検討会がLiving Documentとして更新内容を取りまとめた。AISIは経済産業省と共同事務局として、AI事業者ガイドライン検討会の開催を担当した。
AISI Japan: OutputAIスコア2222 AISI、AIセーフティ評価・レッドチーミングガイドの要点をまとめたアプローチブックを公開
AIセーフティインスティチュート（AISI）は、「AIセーフティに関する評価観点ガイド」と「AIセーフティに関するレッドチーミング手法ガイド」の概要を簡潔にまとめたアプローチブックを作成した。両ガイドを初めて参照する人が要点を把握できるよう、リーフレットとパワーポイントの形式で提供される。
SB Intuitions ブログAIスコア3232 日本語LLMの安全性境界テスト：過度な拒否と有用性を測る日本語データセット
SB Intuitionsは、LLMの過度な拒否と安全性の両方を測定できる日本語データセット「日本語安全性境界テスト」を構築した。12のリスクカテゴリと5種のプロンプトタイプで安全な入力と安全でない入力を作成し、採点形式で評価する。同程度のパラメータサイズのInstructモデルと比べ、sarashina2.2-3B-instruct-v0.1のスコアは大きく上回ったという。
Mistral AI NewsAIスコア5757 Mistral、Mistral Small 3.1を発表 Apache 2.0で公開、コンテキストは最大128k
Mistral AIは、テキスト性能とマルチモーダル理解を改善し、コンテキストウィンドウを最大128k トークンに拡張したMistral Small 3.1を発表した。Apache 2.0ライセンスで公開され、Gemma 3やGPT-4o Miniを上回り、推論速度は150 トークン/秒としている。Hugging Faceからベースモデルとインストラクトモデルをダウンロードできる。
AISI Japan: OutputAIスコア2626 AI向けデータ品質マネジメントガイドブック（ドラフト版）
AISI Japanが、AIの価値を最大化するために必要なデータ品質を持続的に確保する方策を整理した「データ品質マネジメントガイドブック」のドラフト版を公開した。本ガイドの英語版が正式版で、日本語翻訳版は後日公開される予定である。3月末のVer.1.0に向けて意見を募集しているが、個別の回答は予定されていない。
AISI Japan: OutputAIスコア2222 AIセーフティに関する活動マップ（AMAIS）
J-AISIは、AIセーフティに関する活動マップ「AMAIS: Activity Map on AI Safety」をディスカッションペーパーとして公表した。問い合わせ先はaisi-amais-info[at]ipa[dot]go[dot]jpである。
AISI Japan: OutputAIスコア2424 AIセーフティインスティチュート、年次レポート「AIセーフティ年次レポート2024」を公表
AIセーフティインスティチュート（J-AISI）は、2024年2月14日の設立以降の活動をまとめた「National Status Report on AI Safety in Japan 2024」（AIセーフティ年次レポート2024）を公表した。関連資料を補完する参考資料として「Fact Sheet of AI Safety in Japan 2024」（AIセーフティ ファクトシート2024）も取りまとめた。あわせて、急速に進展するAIに対応するため、国内外の関係機関や企業等との連携を含む今後の取り組みと狙いを記載している。
ELYZA（note）AIスコア1818 ELYZA、LLMを用いたコンタクトセンターの高度化支援に本格参入
ELYZAは、LLMを用いたコンタクトセンターの高度化支援に本格参入し、コンタクトセンター向けLLMプロダクトの概要を公表した。同社がこれまでコンタクトセンター領域で蓄積した知見と技術を盛り込み、業務利用で効果が出たユースケースを厳選して、各企業のコンタクトセンターで利用可能な製品として提供する予定である。オペレーションの高度化を通じてCX（顧客体験）強化を目指す。提供の詳細は順次公表するとしている。
ELYZA（note）AIスコア2222 JR西日本カスタマーリレーションズとELYZA、生成AIを活用したVoC分析パッケージの実運用を開始
JR西日本カスタマーリレーションズとELYZAが、生成AIを活用した「VoC分析パッケージ」を開発し、実運用を開始した。パッケージは均質化された要約データを生成する要約AI、タグ・カテゴリー付与を行う処理プログラムAI、ダッシュボードで構成され、全件データに対して一律の基準で集計できる。週報作成は導入前の毎回約2時間から、30分程度に短縮された。
ELYZA（note）AIスコア1212 卓越したスキルはかっこいい：Kaggle MasterのMLエンジニア小栗怜さんが技術を磨き続ける理由
ELYZAのMLEとして顧客との共同開発プロジェクトに関わる小栗怜さんが、技術を磨き続ける理由を語った。日系大手メーカーで社内システム開発に従事しながら独学で機械学習を学び、1,000時間の勉強を自ら決めた。ELYZAではプロンプトチューニング、評価用データセットの作成、ファインチューニングなどの顧客課題に取り組んでいる。
ELYZA（note）AIスコア1313 ELYZAのMLE大葉大輔さん、未踏領域でLLMを開発する理由を語る
ELYZAのMLE大葉大輔さんは、東京大学で自然言語処理を研究した後にELYZAへ参画し、大規模言語モデル（LLM）の研究開発を担当している。入社の決め手は、ChatGPT登場以前からNLPに投資し、Post-trainingに先んじて注力していた点だったという。入社直後にはABCIプロジェクトやGENIACに参加し、少人数のチームでほぼ全工程に関わったと語る。
AISI Japan: OutputAIスコア4040 AIセーフティに関するレッドチーミング手法ガイド（1.0.0版）を公開
AIセーフティに関するレッドチーミング手法ガイドの1.0.0版が公表された。AIを取り巻く環境の変化が激しいことから、今後適宜修正し改訂していく方針である。日本語と英語の概要版も関連文書として公開されている。
AISI Japan: OutputAIスコア2222 AI事業者ガイドラインと米国NIST AIリスクマネジメントフレームワーク（RMF）のクロスウォーク第2弾
日本の「AI事業者ガイドライン」と米国NIST「AIリスクマネジメントフレームワーク（RMF）」の主要なコンセプトを比較したクロスウォークの第2弾である。用語に関する第1弾に続く内容で、特定の論点について日米を対比でき、両者の強調点の違いを把握する補助ツールとして利用できる。
AISI Japan: OutputAIスコア2525 AIセーフティに関する評価観点ガイド（1.0.0版）の公開
AIセーフティに関する評価の観点をまとめた「評価観点ガイド」の1.0.0版が公表された。主な読者はAI開発者・AI提供者で、特に「開発・提供管理者」および「事業執行責任者」を想定している。AIを取り巻く環境の変化を踏まえ、今後も適宜修正・改訂していく方針である。
AISI Japan: OutputAIスコア3838 米国NIST AIリスクマネジメントフレームワーク（RMF）の日本語翻訳版
AIセーフティ・インスティテュート（AISI）が、米国NISTのAI RMF 1.0（NIST AI 100-1）とAI RMF Playbookの日本語翻訳版を公開した。翻訳はNISTから事前の承諾を得て作成されたもので、完全性や正確性は保証されていない。原文の内容を正確に確認する必要がある場合は、NISTのウェブサイトの原文書を参照するよう案内されている。
AISI Japan: OutputAIスコア2828 AI事業者ガイドラインと米国NIST AIリスクマネジメントフレームワーク（RMF）のクロスウォーク1
AISIと米国NISTが、AI事業者ガイドラインとNIST AI RMFの間で、AI RMFパート1の用語に関するクロスウォーク1を実施した。クロスウォークは、法令や基準、フレームワークなどの条項をサブカテゴリーにマッピングする作業で、組織が活動や成果の優先順位をつけて遵守を進めるのに役立つとされる。今回は日米のクロスウォークの第一弾に位置づけられ、成果文書が関連文書として掲載されている。