本文へスキップ

オンデバイスAI

スマートフォンやPC、エッジ機器で動くAI。小型モデル、ローカル推論、端末向けチップ。

最新の注目記事

6件中 1〜6件
10月15日木
  1. NVIDIA 日本版ブログ62

    NVIDIAとMicrosoft、RTX SparkとMXCでWindows PCのAIエージェント対応を発表

    NVIDIAとMicrosoftは10月7日のイベントで、WindowsでAIエージェントを動かすためのハードウェアとソフトウェアを説明した。RTX Sparkノート PCは予約受付中で10月16日に発売され、コンパクトデスクトップは11月に発売予定である。MicrosoftはエージェントをOS管理下で実行するインフラMicrosoft Execution Containers(MXC)の一般提供も発表した。

    選定理由:RTX Sparkの構成や発売時期に加え、MXCによるエージェント実行基盤とDGX Station for Windowsの位置づけまで一度に整理されており、ローカルAI環境の選択肢を比べやすい。

9月22日火
  1. Hugging Face Blog63

    Hugging Face、transformersでGGUF(llama.cpp量子化)モデルの実行に対応

    Hugging Faceはtransformersに、GGUFモデルを`from_pretrained`で読み込んで実行する機能を追加した。ggmlのカーネルをkernelsライブラリ経由で再利用し、まずApple SiliconのQwen3.5アーキテクチャを対象にしている。現時点ではmainブランチで利用でき、パック済み推論経路はMPSのみに対応する。

    選定理由:GGUFをtransformersのAPIで読み込む手順と、llama.cppとの役割分担、Apple Siliconでの現時点の対応範囲が具体的に整理されている。

8月12日水
  1. Google DeepMind Blog61

    Google DeepMind、手話からテキストへの翻訳モデルSL2Tを発表 Pixel 11のGboardなどに搭載

    Google DeepMindは、50以上の手話を学習した手話からテキストへの翻訳モデルSL2Tを発表した。Pixel 11のGboardとLive Transcribeで、ASLから英語へのサインtoテキスト入力に対応する。FLEURS-ASL(sd-test)でゼロショット70 BLEURTを記録し、従来の報告値を大きく上回ると説明している。

    選定理由:手話をポーズ座標だけで翻訳する設計や、100,000時間超の学習データ、既知の誤りの例まで具体的に示されており、手話AIの現状を把握しやすい。

8月10日月
  1. Hugging Face Blog72

    Meta、ローカル向けエージェント対応のマルチモーダルモデルMuse Glimmerを公開、Apache 2.0で提供

    MetaがMuseから30Bパラメータに蒸留したマルチモーダルモデルMuse Glimmerを、Apache 2.0ライセンスで公開した。ローカルでのエージェント用途を想定し、transformers、llama.cpp、vLLM、Inference Endpointsがday-0で対応する。Hugging Face Hubから入手できる。

    選定理由:30Bのローカル向けモデルについて、アーキテクチャと各推論基盤での使い方、ファインチューニングの要件が一続きで整理されている。

7月28日火
  1. Google DeepMind Blog60

    Google DeepMind、Gemini Robotics 2を発表 ヒューマノイドの全身制御に対応

    Google DeepMindはロボット向けのGemini Robotics 2を発表した。VLAのGemini Robotics 2、推論モデルのGemini Robotics ER 2、オンデバイス向けのGemini Robotics On-Device 2の3モデルで構成し、ヒューマノイドの全身制御や複数ロボットの協調を可能にする。ER 2はGoogle AI Studioで利用でき、VLAとOn-Deviceモデルは早期アクセスパートナー向けに提供される。

    選定理由:全身制御、器用な手の操作、複数ロボットの協調を3つのモデルの役割分担で整理しており、提供範囲や適応に必要なデータ量も確認しやすい。

6月9日火
  1. Google DeepMind Blog60

    Google DeepMind、エンコーダー不要のマルチモーダルモデルGemma 4 12Bを発表

    Google DeepMindはノートPC向けのマルチモーダルモデルGemma 4 12Bを発表した。画像と音声の入力をエンコーダーなしでLLM本体に直接渡す構成で、16GBのVRAMまたはユニファイドメモリで動作する。Apache 2.0ライセンスで公開され、Hugging FaceとKaggleから重みを入手できる。

    選定理由:画像と音声をエンコーダーなしでLLM本体に直接入力する構成と、16GBで動作するメモリ要件が示されており、ローカル運用の判断材料になる。