本文へスキップ

#オンデバイス

本日3件
今日10月20日火
  1. AI at Meta52

    AI at Metaは、コンシューマ向けハードウェア上のエージェント型タスク向けに作られた30BオープンウェイトモデルMuse Glimmerの技術報告を公開した。単一のコンシューマ向けGPUを積んだMacやPCで、4-bit精度により実用的な速度で動作する。同程度のサイズのオープンモデルの中で、ツール利用とマルチステップ計画でリードしているという。

  2. Google Developers Blog58

    Google、エッジ向けモデル記述レイヤーLiteRT Tensor APIを公開

    GoogleはLiteRTスタックに、C++でモデルを演算単位で組み立てる軽量な記述レイヤー「LiteRT Tensor API」を公開した。同じグラフをCPU、GPU(ML Drift)、NPUで実行でき、XNNPACK経由ならモデルファイルなしでCPU上でも動く。SAM 2のブラウザ実装ではコーディングエージェントが10fps未満から30fps超へ改善した。

10月19日月
  1. Google Developers Blog43

    Antigravity SDK、ローカルAIモデルのサポートを追加

    Antigravity SDKがローカルモデルによるエージェント処理に対応し、Google AI EdgeのLiteRTを使ってGemma 4 26B A4Bを初期対応として利用できるようになった。ネットワーク接続がなくても完全オフラインで動作し、ローカルのGPUとRAMを効率的に使う。ハイブリッド構成のデモでは、クラウドのGemini 3.8 Flashが計画を立て、ローカルのGemma 4 26Bが処理を担い、記録された実行では全トークンの97.2%(3,322トークン)がローカルで処理された。

  2. Google Developers Blog56

    Google DeepMind、オープンウェイトのマルチモーダル埋め込みモデルEmbeddingGemma 2を公開

    Google DeepMindは、テキスト、画像、動画フレーム、音声を単一のベクトル空間に写像するオープンウェイトの埋め込みモデルEmbeddingGemma 2を公開した。パラメータ数は740Mで、Google Pixel 11 Pro上のアクティブRAMはテキストのみで約191MB、フルマルチモーダルで約567MBとされる。Google AI Edge GalleryとForesightでのデモに加え、MediaPipe TasksやLiteRTで開発できる。

  3. Google Developers Blog53

    Google、オンデバイスGPU推論エンジンML DriftをApache 2.0でオープンソース化

    Google AI Edgeチームは、オンデバイスAI推論向けのGPU計算エンジンML DriftをApache 2.0ライセンスで公開した。OpenGL ES、OpenCL、Metal、WebGPUに対応し、LiteRTのGPUアクセラレーションの中核であると同時に単体ライブラリとしても使える。YouTube ShortsではフレームレイテンシーがGoogle発表で最大40%短縮された。

10月18日日
  1. NVIDIA Blog30

    NVIDIA、RTX SparkノートPCを発売 世界6都市で記念イベント

    NVIDIA RTX Sparkを搭載したノートPCが発売された。価格は2,399ドルからで、ASUS、Dell、HP、Lenovo、Microsoft、MSIが製品を投入し、追加モデルも予定されている。Blackwell RTX GPUとGrace CPUを組み合わせ、最大1 petaflopのAI演算性能と最大128GBのユニファイドメモリを備える。ベルリンのイベントにはJensen Huangが登場した。

10月16日金
  1. NVIDIA Blog24

    NVIDIA RTX Spark発売記念イベントを世界各地で開催

    NVIDIAはクリエイター、ゲーマー、AIエージェント向けのWindows PC「NVIDIA RTX Spark」を発売し、10月16日(金)にサンフランシスコ、ベルリン、台北、北京、イスタンブール、ソウルで発売記念イベントを開く。会場ではデモ体験ができ、事前登録の要否は会場ごとに異なる。#ShareYourSpark投稿の参加者から、Jensen Huangのサイン入りASUS ProArt P14 RTX Spark搭載ノートPCが当たるキャンペーンも実施している。

  2. NVIDIA Blog56

    NVIDIA、Nemotron 3.5 Super VLとBolt 74B-A9B 24GBをオープンモデルとして公開

    NVIDIAは1200億パラメータのオープンモデルNemotron 3.5 Super VLと、エッジ向けのNemotron 3.5 Bolt 74B-A9B 24GBを公開した。Bolt E4B 4GBは10月23日に提供予定である。Super VLは同クラスで次点の5倍高速なスループットとされ、Hugging Faceなどから利用できる。

10月15日木
  1. NVIDIA 日本版ブログ62

    NVIDIAとMicrosoft、RTX SparkとMXCでWindows PCのAIエージェント対応を発表

    NVIDIAとMicrosoftは10月7日のイベントで、WindowsでAIエージェントを動かすためのハードウェアとソフトウェアを説明した。RTX Sparkノート PCは予約受付中で10月16日に発売され、コンパクトデスクトップは11月に発売予定である。MicrosoftはエージェントをOS管理下で実行するインフラMicrosoft Execution Containers(MXC)の一般提供も発表した。

    選定理由:RTX Sparkの構成や発売時期に加え、MXCによるエージェント実行基盤とDGX Station for Windowsの位置づけまで一度に整理されており、ローカルAI環境の選択肢を比べやすい。

  2. Apple Machine Learning Research50

    MLXとRDMAで、Mac Studio上の大規模LLMをローカル・分散推論

    Apple Machine Learning Researchは、MLXとRDMA over Thunderboltを用いてMac Studio4台で、816BパラメータのMuse Spark Openを毎秒36トークン超で生成できることを示した。M5 UltraはM3 Ultra比でTTFTが最大4.6倍、トークン生成速度が1.6倍速い。Qwen 3.8 27BとMistral Medium 3.5 128Bは、512GBのMac Studio単体で動作する。

10月14日水
  1. Google DeepMind27

    シンガポールで報告される犯罪の半数以上が、巧妙なソーシャルエンジニアリングを用いている。 @GovTechSG と共同で、オープンモデルGemmaを使ったオンデバイスの詐欺検知を構築している。 現地の詐欺手口でファインチューニングすることで、個人のプライバシーを損なうことなく、脅威をリアルタイムで識別する → https://goo.gle/4ygVkJa

  2. Google DeepMind Blog43

    Google DeepMind、シンガポール政府と連携し詐欺検出用のAIモデルを開発

    Google DeepMindとGovTech Singaporeは、軽量モデルGemmaをシンガポールの現地の詐欺会話で微調整し、端末上で動作する詐欺検出モデルを開発した。会話データは端末内で処理され、アプリ側でユーザーの同意がある場合にのみアクセスされ、GoogleとシンガポールThe政府のいずれも利用者の会話にはアクセスできないとしている。検出は軽量な分類器による一次スクリーニングと、Gemmaによる文脈分析の二段構成で行われる。

  3. LINEヤフー Tech Blog12

    LINEヤフー、iOSDC Japan 2026のブースで「リアル知恵袋」を実施した裏話

    LINEヤフーはiOSDC Japan 2026(9月11日〜13日)にゴールドスポンサーとして協賛し、Yahoo!知恵袋をベースにした付箋企画「リアル知恵袋」をブースで実施した。悩みを書いた黄色い付箋に青い付箋で回答し、リアクションシールやベストアンサーシールも使う形式で、付箋は貼る場所がなくなるほど集まった。付箋の手書き文字をOCRで読み取るワードクラウドのmacOSアプリも開発し、Vision frameworkでは精度が出ず、ローカルのマルチモーダルモデルを採用した。

  4. Hugging Face Blog39

    LiquidAI、オンデバイス向けエージェントモデル「LFM2.5-24B-A2B」を公開

    LiquidAIは、24Bパラメータ・アクティブ2Bのリasoningモデル「LFM2.5-24B-A2B」を公開した。ツール呼び出しや多段階タスクに対応し、ローカルハードウェア上で継続的にエージェントを動かせるとされる。Agentic benchmarkのLiveClawでは48.09点で、Qwen3.6-35B-A3Bの38.19点を上回る。Apple M5 Maxでは184 tok/s、単一のNVIDIA B300 GPUでは最大21K output tok/sの推論速度を示している。

10月13日火
  1. NVIDIA Blog43

    NVIDIA RTX Spark、グローバルなPCアプリのエコシステムが対応完了

    NVIDIAはMicrosoftと共に10月16日発売のRTX Sparkノートに向け、GitHub CopilotやPerplexityなどのエージェントアプリ、Adobe、開発ツールの対応を発表した。RTX Sparkは最大128GBのユニファイドメモリと1 petaflopのAI演算性能を備える。エージェント向けの74B(アクティブ9B)MoEモデルNemotron 3.5 Bolt 74Bは10月15日に公開される。

10月8日木
  1. NVIDIA Blog51

    NVIDIAとMicrosoft、WindowsでAIエージェントを動かすRTX Sparkなどを発表

    NVIDIAとMicrosoftは、サンフランシスコで開かれたイベントで、WindowsでAIエージェントを動かすためのハードウェアとソフトウェアの共同開発を発表した。RTX Sparkを搭載したノートPCは予約受付を開始し、10月16日(金)に発売される。小型デスクトップは11月に発売予定である。

  2. Microsoft AI (MAI) News54

    Microsoft AI、MAI-Code-1.1-Flashを発表 前モデルの4分の1のコストで性能向上

    Microsoft AIはコーディングモデルMAI-Code-1.1-Flashを発表した。6月にMicrosoft Buildで公開したモデルと比べ、コードの品質が向上し、トークン効率は25%高く、コストは4分の1である。GitHub Copilotで本番稼働しており、ローカル実行向けのダウンロードも可能で、GitHub Copilotでの実験的提供は月末までに始まる。

10月7日水
  1. Google DeepMind Blog55

    Google DeepMind、オンデバイス向けマルチモーダル埋め込みモデルEmbeddingGemma 2を公開

    Google DeepMindは、テキスト、画像、音声、動画、コードを共通の埋め込み空間に写像するオープンな埋め込みモデルEmbeddingGemma 2を公開した。Gemma 4アーキテクチャをベースに740Mパラメータで、Apache 2.0ライセンスで提供される。MTEB Codeのスコアは68.76から78.68に向上し、コンテキストウィンドウは8Kトークンに拡大した。

10月2日金
  1. Google Research Blog39

    Google、TEEを活用した検証可能なプライベート連合学習システムを発表

    Googleは、Trusted Execution Environments(TEE)を活用した次世代の連合学習(FL)システムを発表した。データ匿名化の保証を、第三者が検証・監査できる形で提供する。Gboardはすでに新システムを採用しており、従来のFLシステムより計算時間が大幅に短縮されたという。各デバイスが事前に承認するアクセスポリシーはRekorという公開トランスペアレンシーログに掲載され、外部の監査者が追跡できる。

9月22日火
  1. Hugging Face Blog63

    Hugging Face、transformersでGGUF(llama.cpp量子化)モデルの実行に対応

    Hugging Faceはtransformersに、GGUFモデルを`from_pretrained`で読み込んで実行する機能を追加した。ggmlのカーネルをkernelsライブラリ経由で再利用し、まずApple SiliconのQwen3.5アーキテクチャを対象にしている。現時点ではmainブランチで利用でき、パック済み推論経路はMPSのみに対応する。

    選定理由:GGUFをtransformersのAPIで読み込む手順と、llama.cppとの役割分担、Apple Siliconでの現時点の対応範囲が具体的に整理されている。

9月3日木
  1. LINEヤフー Tech Blog22

    iOSDC Japan 2026にLINEヤフーのエンジニア7名が登壇します(9/11〜9/13)

    LINEヤフーは2026年9月11日から13日まで開催される iOSDC Japan 2026 にゴールドスポンサーとして参加し、エンジニア7名が登壇する。9月11日のday0ではFoundation Modelsを用いたオンデバイスでの自動作曲、9月13日のday2ではモジュールの視点からSwiftの挙動を読み解くセッションが予定されている。当日の協賛ブースについても案内されている。

8月21日金
  1. Hugging Face Blog52

    Liquid AI、LFM2.5向けDSparkドラフトモデルを公開、推論が最大3.2倍高速に

    Liquid AIはLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの3モデル向けにDSparkのドラフトモデルを公開した。投機的デコーディングにより出力品質を変えずにGPUで最大3.18倍、オンデバイスで最大2.87倍のスループット向上を示す。llama.cppとSGLangで初日から利用でき、LFM2.5-2.6Bの関数呼び出しのレイテンシは平均57%減少した。

8月12日水
  1. Google DeepMind Blog61

    Google DeepMind、手話からテキストへの翻訳モデルSL2Tを発表 Pixel 11のGboardなどに搭載

    Google DeepMindは、50以上の手話を学習した手話からテキストへの翻訳モデルSL2Tを発表した。Pixel 11のGboardとLive Transcribeで、ASLから英語へのサインtoテキスト入力に対応する。FLEURS-ASL(sd-test)でゼロショット70 BLEURTを記録し、従来の報告値を大きく上回ると説明している。

    選定理由:手話をポーズ座標だけで翻訳する設計や、100,000時間超の学習データ、既知の誤りの例まで具体的に示されており、手話AIの現状を把握しやすい。

8月10日月
  1. Hugging Face Blog72

    Meta、ローカル向けエージェント対応のマルチモーダルモデルMuse Glimmerを公開、Apache 2.0で提供

    MetaがMuseから30Bパラメータに蒸留したマルチモーダルモデルMuse Glimmerを、Apache 2.0ライセンスで公開した。ローカルでのエージェント用途を想定し、transformers、llama.cpp、vLLM、Inference Endpointsがday-0で対応する。Hugging Face Hubから入手できる。

    選定理由:30Bのローカル向けモデルについて、アーキテクチャと各推論基盤での使い方、ファインチューニングの要件が一続きで整理されている。

7月28日火
  1. Google DeepMind Blog60

    Google DeepMind、Gemini Robotics 2を発表 ヒューマノイドの全身制御に対応

    Google DeepMindはロボット向けのGemini Robotics 2を発表した。VLAのGemini Robotics 2、推論モデルのGemini Robotics ER 2、オンデバイス向けのGemini Robotics On-Device 2の3モデルで構成し、ヒューマノイドの全身制御や複数ロボットの協調を可能にする。ER 2はGoogle AI Studioで利用でき、VLAとOn-Deviceモデルは早期アクセスパートナー向けに提供される。

    選定理由:全身制御、器用な手の操作、複数ロボットの協調を3つのモデルの役割分担で整理しており、提供範囲や適応に必要なデータ量も確認しやすい。

7月16日木
  1. Hugging Face Blog38

    エージェント向けモデルルーティングは単純ではない

    エージェント向けのモデルルーティングは、モデル選択の分類問題ではなく、コスト・品質・遅延を同時に最適化するシステム最適化問題として扱うべきだと論じる。AppWorld Test Challengeの417タスクでは、同じCodeActエージェントによる総コストがSonnetの79ドル(1タスク0.19ドル)に対しGPT-4.1は155ドル(同0.37ドル)と約2倍になり、キャッシュの効き方が単価の差を覆した。提案するルーターの構成1は、Opus単独と比べてコストを21%、遅延を9%削減し、精度低下は4%にとどめて84%を達成した。

6月27日土
  1. Google Research Blog37

    Pixel上のGemini Nanoを凍結MTPで高速化、Pixel 9・10シリーズに展開

    Googleは、凍結したGemini Nano v3モデルにMulti-Token Prediction(MTP)ヘッドを後付けする新アーキテクチャを発表し、Pixel 9・10シリーズへ展開を始めた。MTPヘッドはメインモデルのKVキャッシュを直接参照するため、ドラフト用に別途KVキャッシュを持つ必要がなく、標準的なドラフトモデルと比べてPixel 9上で50%以上の高速化が得られたとしている。バックエンドを凍結するため基盤モデルの能力や安全性は劣化せず、出力はメインモデルとビット単位で一致する。

6月9日火
  1. Google DeepMind Blog60

    Google DeepMind、エンコーダー不要のマルチモーダルモデルGemma 4 12Bを発表

    Google DeepMindはノートPC向けのマルチモーダルモデルGemma 4 12Bを発表した。画像と音声の入力をエンコーダーなしでLLM本体に直接渡す構成で、16GBのVRAMまたはユニファイドメモリで動作する。Apache 2.0ライセンスで公開され、Hugging FaceとKaggleから重みを入手できる。

    選定理由:画像と音声をエンコーダーなしでLLM本体に直接入力する構成と、16GBで動作するメモリ要件が示されており、ローカル運用の判断材料になる。

3月23日月
  1. ABEJA Tech Blog27

    エッジ環境でのLocal VLMによるセキュアOCR:Grammar制約で構造化出力を行う

    閉域・オフライン環境でLocal VLMを使い、運転免許証から氏名などを抽出する構成を検証した。小型モデルはプロンプトだけでは出力形式が崩れるため、JSON Schemaに基づくGrammar制約で形式を強制し、常にパース可能なJSONを得る方法を示している。Visual Prompt Injectionに対しても、Grammar制約は出力層での防御として機能すると主張している。

3月17日月
  1. Mistral AI News57

    Mistral、Mistral Small 3.1を発表 Apache 2.0で公開、コンテキストは最大128k

    Mistral AIは、テキスト性能とマルチモーダル理解を改善し、コンテキストウィンドウを最大128k トークンに拡張したMistral Small 3.1を発表した。Apache 2.0ライセンスで公開され、Gemma 3やGPT-4o Miniを上回り、推論速度は150 トークン/秒としている。Hugging Faceからベースモデルとインストラクトモデルをダウンロードできる。