SB Intuitions、日本語特化の指示対応テキスト埋め込みモデル「Sarashina-Embedding-v2-1B」を公開
SB Intuitionsは、sarashina2.2-1Bをベースに対照学習で構築したテキスト埋め込みモデル「Sarashina-Embedding-v2-1B」を発表した。クエリに指示文を付与することで、タスクに応じてテキストベクトルを調整できる。
AIニュース一覧
すべてのニュース
本日0件SB Intuitions ブログAIスコア4242
ELYZA 技術ブログ（Zenn）AIスコア3838 ELYZA、日本語版汎用医療LLMでレセプト修正提案タスクを評価
ELYZAは、日本語版汎用医療LLMを微調整し、レセプトの確認修正箇所の要否判断と修正提案コメントの生成に取り組んだ。3,721件のアノテーションデータで学習し、修正要否判定ではgpt-4oやPFNの医療特化モデルを全指標で上回ったとしている。ただし全モデルの性能は低く、gpt-4oのf1は11.2%、開発モデルのベスト設定でもf1は30.9%にとどまった。
ELYZA 技術ブログ（Zenn）AIスコア4040 [Part1] 日本医療×LLM：ユースケース応用の基盤となる日本語版汎用医療LLMの開発
ELYZAは、オープンモデルの継続事前学習により日本語版汎用医療LLMを開発し、各ユースケースの基盤とした。予備実験では、Llama-3.1-70Bに英語の医学論文（peS2o）と医学・科学系の日本語コーパスを組み合わせた設定が、IgakuQAで最も高い性能を示した。日本語医学論文はそのままでは学習が不安定だったが、LLMでクレンジングすると安定性と性能が改善したという。
SB Intuitions ブログAIスコア3434 ICML 2025採択論文「Scaling Laws for Upcycling Mixture-of-Experts Language Models」
SB Intuitionsの研究者Seng Pei Liew、Takuya Kato、Sho Takaseによる論文が、機械学習のトップカンファレンスICML 2025に採択された。小さなモデルを再利用（upcycling）して大規模なMoEモデルを構築する際のスケーリング則を調査している。その結果、再利用するデータを増やしても性能は単純には向上し続けず、元のモデルの学習方法の影響を受けるという新たな効果を見出し、upcyclingを効果的に行うためのガイドラインを提示している。
SB Intuitions ブログAIスコア3838 日本語ModernBERTの開発: トークナイザと性能の関係編 (3/3)
SB Intuitionsの日本語ModernBERTについて、トークナイザに形態素解析器を事後的に組み込んだ場合の性能への影響を分析している。MeCab、Juman++、Sudachiを用いたトークナイザへの差し替えでも性能への影響は小さく、固有表現認識タスクでも高い性能を達成した。モデルは日本語と英語を合わせて約4.4T tokensで学習されている。
SB Intuitions ブログAIスコア3030 日本語ModernBERTの開発: 分析編 (2/3)
日本語ModernBERTの「系列長拡張: Phase 2」におけるマスク率と訓練エポック数の影響を検証した。マスク率15%は30%より平均スコアが高く（88.70対88.54）、JCoLAは約1.2ポイント改善した。Phase 2を3エポックにすると130Mモデルの平均は88.95になり、JCoLAはさらに0.6ポイント上がった。
SB Intuitions ブログAIスコア2222 SB Intuitions、COLING2025の参加報告
SB Intuitionsの研究者がCOLING 2025（1月19〜24日、アブダビ）に参加し、発表と注目論文を報告した。投稿2,723本のうち760本が採択され、Direct submissionsの採択率は約20%だった。自社発表はペルソナ対話の手法で、ペルソナをシャッフルして生成した応答を擬似負例とする選好チューニングにより、外部データなしで日英両言語のペルソナ一貫性を向上させたとしている。
AISI Japan: OutputAIスコア2727 データ品質マネジメントガイドブック Ver.1.0を公開
データ品質マネジメントガイドブックのVer.1.0が公開された。AIの信頼確保とデータ駆動型社会の実現に向け、データとAIの価値を最大化するために必要なデータ品質を持続的に確保する方策を整理したものである。2/7に公開したドラフト版を更新した版で、正式版は英語版、日本語版はサマリとなる。
AISI Japan: OutputAIスコア3434 AIセーフティ・インスティテュート、レッドチーミング手法ガイド第1.10版を公開
AIセーフティ・インスティテュート（J-AISI）は、2024年9月公開の「AIセーフティに関するレッドチーミング手法ガイド」の改訂版となる第1.10版を公開した。RAG（Retrieval-Augmented Generation）の仕組みを実装したAIシステムに対してレッドチーミングを実施し、手順を詳細に解説するとともに、成果物を文書としてまとめた。具体的な実施例を通じて、ガイドの内容をより詳しく理解できる構成になっている。
SB Intuitions ブログAIスコア3232 日本語LLMの安全性境界テスト：過度な拒否と有用性を測る日本語データセット
SB Intuitionsは、LLMの過度な拒否と安全性の両方を測定できる日本語データセット「日本語安全性境界テスト」を構築した。12のリスクカテゴリと5種のプロンプトタイプで安全な入力と安全でない入力を作成し、採点形式で評価する。同程度のパラメータサイズのInstructモデルと比べ、sarashina2.2-3B-instruct-v0.1のスコアは大きく上回ったという。
AISI Japan: OutputAIスコア2222 AIセーフティに関する活動マップ（AMAIS）
J-AISIは、AIセーフティに関する活動マップ「AMAIS: Activity Map on AI Safety」をディスカッションペーパーとして公表した。問い合わせ先はaisi-amais-info[at]ipa[dot]go[dot]jpである。
AISI Japan: OutputAIスコア4040 AIセーフティに関するレッドチーミング手法ガイド（1.0.0版）を公開
AIセーフティに関するレッドチーミング手法ガイドの1.0.0版が公表された。AIを取り巻く環境の変化が激しいことから、今後適宜修正し改訂していく方針である。日本語と英語の概要版も関連文書として公開されている。