本文へスキップ

#オンデバイス

本日1件
今日10月20日火
  1. AI at Meta52

    AI at Metaは、コンシューマ向けハードウェア上のエージェント型タスク向けに作られた30BオープンウェイトモデルMuse Glimmerの技術報告を公開した。単一のコンシューマ向けGPUを積んだMacやPCで、4-bit精度により実用的な速度で動作する。同程度のサイズのオープンモデルの中で、ツール利用とマルチステップ計画でリードしているという。

10月19日月
  1. Google Developers Blog56

    Google DeepMind、オープンウェイトのマルチモーダル埋め込みモデルEmbeddingGemma 2を公開

    Google DeepMindは、テキスト、画像、動画フレーム、音声を単一のベクトル空間に写像するオープンウェイトの埋め込みモデルEmbeddingGemma 2を公開した。パラメータ数は740Mで、Google Pixel 11 Pro上のアクティブRAMはテキストのみで約191MB、フルマルチモーダルで約567MBとされる。Google AI Edge GalleryとForesightでのデモに加え、MediaPipe TasksやLiteRTで開発できる。

10月16日金
  1. NVIDIA Blog56

    NVIDIA、Nemotron 3.5 Super VLとBolt 74B-A9B 24GBをオープンモデルとして公開

    NVIDIAは1200億パラメータのオープンモデルNemotron 3.5 Super VLと、エッジ向けのNemotron 3.5 Bolt 74B-A9B 24GBを公開した。Bolt E4B 4GBは10月23日に提供予定である。Super VLは同クラスで次点の5倍高速なスループットとされ、Hugging Faceなどから利用できる。

10月14日水
  1. Hugging Face Blog39

    LiquidAI、オンデバイス向けエージェントモデル「LFM2.5-24B-A2B」を公開

    LiquidAIは、24Bパラメータ・アクティブ2Bのリasoningモデル「LFM2.5-24B-A2B」を公開した。ツール呼び出しや多段階タスクに対応し、ローカルハードウェア上で継続的にエージェントを動かせるとされる。Agentic benchmarkのLiveClawでは48.09点で、Qwen3.6-35B-A3Bの38.19点を上回る。Apple M5 Maxでは184 tok/s、単一のNVIDIA B300 GPUでは最大21K output tok/sの推論速度を示している。

10月8日木
  1. Microsoft AI (MAI) News54

    Microsoft AI、MAI-Code-1.1-Flashを発表 前モデルの4分の1のコストで性能向上

    Microsoft AIはコーディングモデルMAI-Code-1.1-Flashを発表した。6月にMicrosoft Buildで公開したモデルと比べ、コードの品質が向上し、トークン効率は25%高く、コストは4分の1である。GitHub Copilotで本番稼働しており、ローカル実行向けのダウンロードも可能で、GitHub Copilotでの実験的提供は月末までに始まる。

10月7日水
  1. Google DeepMind Blog55

    Google DeepMind、オンデバイス向けマルチモーダル埋め込みモデルEmbeddingGemma 2を公開

    Google DeepMindは、テキスト、画像、音声、動画、コードを共通の埋め込み空間に写像するオープンな埋め込みモデルEmbeddingGemma 2を公開した。Gemma 4アーキテクチャをベースに740Mパラメータで、Apache 2.0ライセンスで提供される。MTEB Codeのスコアは68.76から78.68に向上し、コンテキストウィンドウは8Kトークンに拡大した。

8月21日金
  1. Hugging Face Blog52

    Liquid AI、LFM2.5向けDSparkドラフトモデルを公開、推論が最大3.2倍高速に

    Liquid AIはLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの3モデル向けにDSparkのドラフトモデルを公開した。投機的デコーディングにより出力品質を変えずにGPUで最大3.18倍、オンデバイスで最大2.87倍のスループット向上を示す。llama.cppとSGLangで初日から利用でき、LFM2.5-2.6Bの関数呼び出しのレイテンシは平均57%減少した。

8月10日月
  1. Hugging Face Blog72

    Meta、ローカル向けエージェント対応のマルチモーダルモデルMuse Glimmerを公開、Apache 2.0で提供

    MetaがMuseから30Bパラメータに蒸留したマルチモーダルモデルMuse Glimmerを、Apache 2.0ライセンスで公開した。ローカルでのエージェント用途を想定し、transformers、llama.cpp、vLLM、Inference Endpointsがday-0で対応する。Hugging Face Hubから入手できる。

    選定理由:30Bのローカル向けモデルについて、アーキテクチャと各推論基盤での使い方、ファインチューニングの要件が一続きで整理されている。

7月28日火
  1. Google DeepMind Blog60

    Google DeepMind、Gemini Robotics 2を発表 ヒューマノイドの全身制御に対応

    Google DeepMindはロボット向けのGemini Robotics 2を発表した。VLAのGemini Robotics 2、推論モデルのGemini Robotics ER 2、オンデバイス向けのGemini Robotics On-Device 2の3モデルで構成し、ヒューマノイドの全身制御や複数ロボットの協調を可能にする。ER 2はGoogle AI Studioで利用でき、VLAとOn-Deviceモデルは早期アクセスパートナー向けに提供される。

    選定理由:全身制御、器用な手の操作、複数ロボットの協調を3つのモデルの役割分担で整理しており、提供範囲や適応に必要なデータ量も確認しやすい。

6月9日火
  1. Google DeepMind Blog60

    Google DeepMind、エンコーダー不要のマルチモーダルモデルGemma 4 12Bを発表

    Google DeepMindはノートPC向けのマルチモーダルモデルGemma 4 12Bを発表した。画像と音声の入力をエンコーダーなしでLLM本体に直接渡す構成で、16GBのVRAMまたはユニファイドメモリで動作する。Apache 2.0ライセンスで公開され、Hugging FaceとKaggleから重みを入手できる。

    選定理由:画像と音声をエンコーダーなしでLLM本体に直接入力する構成と、16GBで動作するメモリ要件が示されており、ローカル運用の判断材料になる。

3月17日月
  1. Mistral AI News57

    Mistral、Mistral Small 3.1を発表 Apache 2.0で公開、コンテキストは最大128k

    Mistral AIは、テキスト性能とマルチモーダル理解を改善し、コンテキストウィンドウを最大128k トークンに拡張したMistral Small 3.1を発表した。Apache 2.0ライセンスで公開され、Gemma 3やGPT-4o Miniを上回り、推論速度は150 トークン/秒としている。Hugging Faceからベースモデルとインストラクトモデルをダウンロードできる。