#オンデバイス
#オンデバイス
本日1件
AI at Meta@AIatMetaAIスコア5252
Google Developers BlogAIスコア5656 Google DeepMind、オープンウェイトのマルチモーダル埋め込みモデルEmbeddingGemma 2を公開
Google DeepMindは、テキスト、画像、動画フレーム、音声を単一のベクトル空間に写像するオープンウェイトの埋め込みモデルEmbeddingGemma 2を公開した。パラメータ数は740Mで、Google Pixel 11 Pro上のアクティブRAMはテキストのみで約191MB、フルマルチモーダルで約567MBとされる。Google AI Edge GalleryとForesightでのデモに加え、MediaPipe TasksやLiteRTで開発できる。
NVIDIA BlogAIスコア5656 NVIDIA、Nemotron 3.5 Super VLとBolt 74B-A9B 24GBをオープンモデルとして公開
NVIDIAは1200億パラメータのオープンモデルNemotron 3.5 Super VLと、エッジ向けのNemotron 3.5 Bolt 74B-A9B 24GBを公開した。Bolt E4B 4GBは10月23日に提供予定である。Super VLは同クラスで次点の5倍高速なスループットとされ、Hugging Faceなどから利用できる。
Hugging Face BlogAIスコア3939 LiquidAI、オンデバイス向けエージェントモデル「LFM2.5-24B-A2B」を公開
LiquidAIは、24Bパラメータ・アクティブ2Bのリasoningモデル「LFM2.5-24B-A2B」を公開した。ツール呼び出しや多段階タスクに対応し、ローカルハードウェア上で継続的にエージェントを動かせるとされる。Agentic benchmarkのLiveClawでは48.09点で、Qwen3.6-35B-A3Bの38.19点を上回る。Apple M5 Maxでは184 tok/s、単一のNVIDIA B300 GPUでは最大21K output tok/sの推論速度を示している。
Microsoft AI (MAI) NewsAIスコア5454 Microsoft AI、MAI-Code-1.1-Flashを発表 前モデルの4分の1のコストで性能向上
Microsoft AIはコーディングモデルMAI-Code-1.1-Flashを発表した。6月にMicrosoft Buildで公開したモデルと比べ、コードの品質が向上し、トークン効率は25%高く、コストは4分の1である。GitHub Copilotで本番稼働しており、ローカル実行向けのダウンロードも可能で、GitHub Copilotでの実験的提供は月末までに始まる。
Google DeepMind BlogAIスコア5555 Google DeepMind、オンデバイス向けマルチモーダル埋め込みモデルEmbeddingGemma 2を公開
Google DeepMindは、テキスト、画像、音声、動画、コードを共通の埋め込み空間に写像するオープンな埋め込みモデルEmbeddingGemma 2を公開した。Gemma 4アーキテクチャをベースに740Mパラメータで、Apache 2.0ライセンスで提供される。MTEB Codeのスコアは68.76から78.68に向上し、コンテキストウィンドウは8Kトークンに拡大した。
Hugging Face BlogAIスコア5252 Liquid AI、LFM2.5向けDSparkドラフトモデルを公開、推論が最大3.2倍高速に
Liquid AIはLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの3モデル向けにDSparkのドラフトモデルを公開した。投機的デコーディングにより出力品質を変えずにGPUで最大3.18倍、オンデバイスで最大2.87倍のスループット向上を示す。llama.cppとSGLangで初日から利用でき、LFM2.5-2.6Bの関数呼び出しのレイテンシは平均57%減少した。
Hugging Face Blog注目記事AIスコア7272 Meta、ローカル向けエージェント対応のマルチモーダルモデルMuse Glimmerを公開、Apache 2.0で提供
MetaがMuseから30Bパラメータに蒸留したマルチモーダルモデルMuse Glimmerを、Apache 2.0ライセンスで公開した。ローカルでのエージェント用途を想定し、transformers、llama.cpp、vLLM、Inference Endpointsがday-0で対応する。Hugging Face Hubから入手できる。
選定理由:30Bのローカル向けモデルについて、アーキテクチャと各推論基盤での使い方、ファインチューニングの要件が一続きで整理されている。
Google DeepMind Blog注目記事AIスコア6060 Google DeepMind、Gemini Robotics 2を発表 ヒューマノイドの全身制御に対応
Google DeepMindはロボット向けのGemini Robotics 2を発表した。VLAのGemini Robotics 2、推論モデルのGemini Robotics ER 2、オンデバイス向けのGemini Robotics On-Device 2の3モデルで構成し、ヒューマノイドの全身制御や複数ロボットの協調を可能にする。ER 2はGoogle AI Studioで利用でき、VLAとOn-Deviceモデルは早期アクセスパートナー向けに提供される。
選定理由:全身制御、器用な手の操作、複数ロボットの協調を3つのモデルの役割分担で整理しており、提供範囲や適応に必要なデータ量も確認しやすい。
Google DeepMind Blog注目記事AIスコア6060 Google DeepMind、エンコーダー不要のマルチモーダルモデルGemma 4 12Bを発表
Google DeepMindはノートPC向けのマルチモーダルモデルGemma 4 12Bを発表した。画像と音声の入力をエンコーダーなしでLLM本体に直接渡す構成で、16GBのVRAMまたはユニファイドメモリで動作する。Apache 2.0ライセンスで公開され、Hugging FaceとKaggleから重みを入手できる。
選定理由:画像と音声をエンコーダーなしでLLM本体に直接入力する構成と、16GBで動作するメモリ要件が示されており、ローカル運用の判断材料になる。
Mistral AI NewsAIスコア5757 Mistral、Mistral Small 3.1を発表 Apache 2.0で公開、コンテキストは最大128k
Mistral AIは、テキスト性能とマルチモーダル理解を改善し、コンテキストウィンドウを最大128k トークンに拡張したMistral Small 3.1を発表した。Apache 2.0ライセンスで公開され、Gemma 3やGPT-4o Miniを上回り、推論速度は150 トークン/秒としている。Hugging Faceからベースモデルとインストラクトモデルをダウンロードできる。