本文へスキップ

#オープンソース・エコシステム

本日2件
5月23日土
  1. Mistral AI News72

    Mistral、Mistral Medium 3.5を公開 VibeとLe Chatにリモートエージェントを追加

    Mistral AIは、128B denseのオープンウェイトモデルMistral Medium 3.5をパブリックプレビューで公開し、Mistral VibeとLe Chatにクラウド上で動くリモートエージェントを追加した。SWE-Bench Verifiedで77.6%、τ³-Telecomで91.4を記録したとしている。Pro、Team、Enterpriseプランで利用でき、APIは入力100万トークンあたり$1.5、出力$7.5である。

    選定理由:128B denseモデルの公開とクラウド型エージェントの提供が同時に示され、価格や自社ホスト要件も併記されているため、導入判断の材料にしやすい。

5月7日木
  1. Sony AI ブログ38

    Sony AI、ICASSP 2026で11本の採択論文を発表 研究ラウンドアップ

    Sony AIは、5月にバルセロナで開催されるICASSP 2026で11本の採択論文を発表する。テーマは音楽理解、生成オーディオ、音声と映像のアライメント、データ品質の4つである。歌詞照合のWEALYは、Whisperのデコーダ埋め込みを使い、書き起こしなしで音声から歌詞情報を抽出する。3つの公開データセットすべてで書き起こしベースのベースラインを上回り、コードとモデルのチェックポイントも公開される。

4月16日木
  1. Google Research Blog41

    Google Research、推論優先の合成データ生成フレームワーク「Simula」を紹介

    Google Researchは、推論優先の合成データ生成フレームワーク「Simula」を紹介した。データセット全体をメカニズム設計として扱い、シードデータに頼らずに生成する。Gemini 2.5 Flashを教師モデル、Gemma-3 4Bを生徒モデルとして5つの領域で評価し、各領域で最大512Kのデータポイントを生成した。全領域で、Simulaは単純なベースラインより高い性能を示し、より少ないサンプル数で下流タスクの性能を上回った。

4月14日火
  1. Turing 技術ブログ(Zenn)35

    Slurm風ジョブスケジューラslotdで手元のGPUを無駄なく使う入門

    slotdは、Slurmと同じ操作体系を持つRust製の軽量ジョブスケジューラで、単一ノード・単一ユーザーのローカルマシン向けに設計されている。sbatch、squeue、sacctなどのコマンドをSlurmと揃えており、CPU、メモリ、GPUの予約ベース実行や、job array、dependencyなどに対応する。導入はリポジトリをcloneして付属のinstall.shを実行する方式で、GPUの自動検出にはnvidia-smiが必要とされる。

4月1日水
  1. Google Research Blog40

    Google Research、AIベンチマークに必要な評価者数を検証

    Google Researchは、AI評価で項目数と項目ごとの評価者数のどちらを優先すべきかを検証した。多数決との一致を見る場合は項目数を増やす方が有効で、意見の幅を捉える場合は評価者数を増やす必要がある。従来の1〜5人という基準は不十分な場合が多く、約1,000件の総アノテーション規模でも適切な配分により再現性の高い結果が得られるとしている。

3月27日金
  1. ELYZA 技術ブログ(Zenn)38

    ルーブリックに基づく主観的な判定を取り入れたGRPO学習

    ELYZA Labが、主観的な判定が必要なスライド生成タスクで、ルーブリックベースの報酬関数を使ったGRPO学習を検証した。学習対象と報酬計算にVLMを用い、報酬用ノードにvLLMでQwen/Qwen3-VL-235B-A22B-Instructを立てて学習用ノードへの影響を抑えている。5段階評価では甘い採点になる課題があるため、評価観点ごとに点数を付ける方式を採用した。

3月26日木
  1. ELYZA 技術ブログ(Zenn)38

    verlによる、カスタムした報酬関数を用いたGRPO学習

    ELYZA Labが、ByteDance社公開のフレームワークverlでカスタム報酬関数を使いGRPO学習を行う手順を紹介した。日本語Wikipediaの1000〜1100文字のテキストを要約する実験では、文字数をpromptで指定せず報酬のみで学習させ、len=50・70・100ではscoreが0.8〜0.9程度まで向上した。len=10・30は学習前のモデルが近い出力をできず、学習が進まなかった。

3月23日月
  1. Turing 技術ブログ(Zenn)31

    RACER: 自動運転VLAモデルの学習データセットの構築

    TuringのVLAチームが、東京での走行データ100時間以上を対象に運転意図のキャプションを付与したデータセット「RACER」を構築した。意思決定に関わる要素と運転行動の因果関係を明示するChain-of-Causation形式の説明を、4段階のパイプラインで自動生成しており、ステップ1・2ではQwen3-VL-235B-A22B-Instruct、ステップ3ではQwen3-VL-235B-A22B-Thinkingを使用した。1,000件のサンプルデータはHuggingFaceで公開されている。

3月17日火
  1. Mistral AI News42

    Mistral、NVIDIAと提携しオープンなフロンティアモデルの開発を加速

    Mistral AIは、NVIDIA Nemotron Coalitionの創設メンバーとして参加し、NVIDIAと共同でオープンソースのフロンティアモデルを開発する。コアリションの最初の取り組みは、NVIDIA DGX Cloudで学習するベースモデルで、今後のNVIDIA Nemotron 4ファミリーの基盤となりオープンソースで公開される予定である。Mistralは同日、Mistral Small 4も公開した。

3月5日木
  1. ABEJA Tech Blog41

    GENIAC3期のLLM開発で使用したロングコンテキスト評価ベンチマーク・データセットを公開

    ABEJAは、GENIAC3期の基盤モデル開発で使用したロングコンテキスト処理性能の評価タスク・ベンチマークと、評価を実行できるリポジトリを公開した。評価にはRULER(NIAH、QA)、LongBench v2、MRCR(OpenAI-MRCRの日本語版を含む)を用いた。新たに作成した評価データセットも併せて公開している。

12月24日水
  1. ABEJA Tech Blog29

    今更ながら DeepSeek-R1 の論文を読んでみた

    DeepSeek-R1は、DeepSeek-V3-Baseを数千個規模のCoT付きデータでファインチューニングした後、GRPOによる強化学習で品質を改善するモデルである。強化学習の報酬にはReward Modelではなく、数学やコーディングの正解判定に基づくルールベースの報酬を用いており、報酬ハッキングを避ける狙いがあると説明されている。

11月19日水
  1. Mistral AI News42

    Mistral AI、SAPとHelsingとの提携でドイツでのAI展開を拡大

    Mistral AIは、ドイツでSAPおよびHelsingと長期的な戦略的提携を結ぶと発表した。SAPとは複数年のパートナーシップのもと、ドイツと欧州向けに完全に主権的なAIスタックを提供するため、同社のモデルをSAPのAI Foundationに統合し、欧州の複雑な産業や行政向けのソリューションを共同開発する。Helsingとは、実世界の防衛・安全保障用途に向けたvision-language-actionモデルの開発を加速させる。また、ドイツでの人員を大幅に増やし、今後数か月以内にドイツにオフィスを開設する予定である。

9月12日金
  1. AISI Japan: Output42

    AISI、AIセーフティ評価ツールをOSSとして公開

    AIセーフティ・インスティテュート(AISI)は、「AIセーフティに関する評価観点ガイド」に基づきAIシステムのセーフティ評価を行う評価ツールを、Apache 2.0ライセンスのOSSとして公開した。汎用的な評価項目と評価環境を提供し、評価項目設定や環境構築の作業を軽減する。攻撃者の視点で評価を自動化する自動レッドチーミング機能も備える。

8月20日水
7月14日月
6月25日水
  1. ELYZA(note)40

    Reasoning Modelと新たなスケーリング則がもたらす生成AIの進化の可能性(ELYZA社内勉強会)

    ELYZAの社内勉強会資料として、Reasoning Modelの仕組みと、推論時に計算資源を増やすことで性能が向上する「Inference Time Scaling」の意味が解説されている。OpenAIはo1で、思考時間を長くするほどスコアが一貫して改善する結果を示したとされる。ELYZAはMCTSによる推論パス探索で約15万件の合成データを生成し、ELYZA-Thinking-1.0の開発に用いた。

6月20日金
  1. SB Intuitions ブログ34

    ICML 2025採択論文「Scaling Laws for Upcycling Mixture-of-Experts Language Models」

    SB Intuitionsの研究者Seng Pei Liew、Takuya Kato、Sho Takaseによる論文が、機械学習のトップカンファレンスICML 2025に採択された。小さなモデルを再利用(upcycling)して大規模なMoEモデルを構築する際のスケーリング則を調査している。その結果、再利用するデータを増やしても性能は単純には向上し続けず、元のモデルの学習方法の影響を受けるという新たな効果を見出し、upcyclingを効果的に行うためのガイドラインを提示している。

5月26日月
  1. SB Intuitions ブログ38

    日本語ModernBERTの開発: トークナイザと性能の関係編 (3/3)

    SB Intuitionsの日本語ModernBERTについて、トークナイザに形態素解析器を事後的に組み込んだ場合の性能への影響を分析している。MeCab、Juman++、Sudachiを用いたトークナイザへの差し替えでも性能への影響は小さく、固有表現認識タスクでも高い性能を達成した。モデルは日本語と英語を合わせて約4.4T tokensで学習されている。

3月31日月
  1. AISI Japan: Output34

    AIセーフティ・インスティテュート、レッドチーミング手法ガイド第1.10版を公開

    AIセーフティ・インスティテュート(J-AISI)は、2024年9月公開の「AIセーフティに関するレッドチーミング手法ガイド」の改訂版となる第1.10版を公開した。RAG(Retrieval-Augmented Generation)の仕組みを実装したAIシステムに対してレッドチーミングを実施し、手順を詳細に解説するとともに、成果物を文書としてまとめた。具体的な実施例を通じて、ガイドの内容をより詳しく理解できる構成になっている。

9月25日水