本文へスキップ

#Hugging Face

本日2件
7月16日木
  1. Hugging Face Blog74

    Hugging Face、自律型AIエージェントによる本番インフラへの侵入を公表

    Hugging Faceは、本番インフラの一部に自律型AIエージェントシステム主導の侵入があったと公表した。内部データセットの一部と複数のサービス用認証情報への不正アクセスを確認した一方、公開モデル、データセット、Spacesの改ざんの証拠は見つかっていない。ソフトウェアサプライチェーンも問題なしと確認した。

    選定理由:AIエージェント主導の侵入を、AIによる検知とオープンウェイトモデルでのログ解析で調べた経緯が具体的に示され、防御側の備えを考える材料になる。

  2. Hugging Face Blog38

    エージェント向けモデルルーティングは単純ではない

    エージェント向けのモデルルーティングは、モデル選択の分類問題ではなく、コスト・品質・遅延を同時に最適化するシステム最適化問題として扱うべきだと論じる。AppWorld Test Challengeの417タスクでは、同じCodeActエージェントによる総コストがSonnetの79ドル(1タスク0.19ドル)に対しGPT-4.1は155ドル(同0.37ドル)と約2倍になり、キャッシュの効き方が単価の差を覆した。提案するルーターの構成1は、Opus単独と比べてコストを21%、遅延を9%削減し、精度低下は4%にとどめて84%を達成した。

7月15日水
  1. Hugging Face Blog72

    Thinking Machines Lab、画像・音声・テキスト対応のオープンモデルInklingとInkling-Smallを公開

    Thinking Machines Labが、画像・テキスト・音声を入力できる約1Tパラメータのオープンモデル Inkling を Hugging Face で公開した。総パラメータ975B、アクティブ41BのMoEで、1Mコンテキストに対応する。276B総・12Bアクティブの Inkling-Small も追加され、Inference Endpoints でワンクリックでデプロイできる。

    選定理由:アーキテクチャの内訳、必要VRAM、各推論エンジンでの起動手順、ベンチマーク表が一つにまとまり、導入可否を判断する材料になる。

7月10日金
  1. Hugging Face Blog48

    PyTorchのプロファイリング(第3回)、Attentionをプロファイルする

    Hugging Faceのブログ連載「Profiling in PyTorch」第3回では、Attentionを素朴に実装したモジュールをプロファイラで解析する。out-of-placeのmasked_fillをin-placeのmasked_fill_に変えると、GPU上のMemcpyカーネルが消え、forward1回ごとに1つのカーネルが削減される。

7月8日水
  1. Hugging Face Blog41

    vLLMのtransformersモデリングバックエンド、ネイティブ並みの速度に

    vLLMのtransformersモデリングバックエンドは、多くのLLMアーキテクチャでカスタムのvLLM実装と同等かそれ以上の速度を達成した。--model-impl transformersフラグを付けるだけで利用でき、Qwen3-4B、Qwen3-32B、Qwen3-235B-A22B-FP8の3モデルの比較では、いずれもネイティブ実装と同等以上のスループットを示した。実行時にtorch.fxで計算グラフを解析し、融合演算を適用することで高速化を実現している。

7月2日木
  1. Mistral AI News42

    Mistral AI、Lean 4向け形式検証モデル「Leanstral 1.5」を公開

    Mistral AIは、Lean 4での形式検証に対応したApache-2.0ライセンスのモデル「Leanstral 1.5」を公開した。総パラメータ119B、アクティブパラメータ6Bで、miniF2Fを飽和させ、PutnamBenchでは672問中587問を解いた。FATE-Hで87%、FATE-Xで34%と新たなstate-of-the-artを達成し、Hugging Faceと無料APIで利用できる。

6月30日火
  1. Google Research Blog62

    Google Research、表形式データ向けゼロショット基盤モデルTabFMを発表

    Google Researchは、表形式データの分類と回帰をゼロショットで行う基盤モデルTabFMを発表した。文脈内学習により、モデル学習やハイパーパラメータ調整、特徴量エンジニアリングなしで1回の順伝播で予測できる。Hugging FaceとGitHubで公開され、Google Cloud BigQueryでも利用できる。

    選定理由:表形式データの予測を文脈内学習として扱う設計と、合成データのみで事前学習した点が整理されており、従来の木系手法との違いを把握しやすい。

6月11日木
  1. Google DeepMind Blog60

    Google DeepMind、テキスト拡散の実験的オープンモデルDiffusionGemmaを公開

    Google DeepMindは、テキスト拡散を採用した26B MoEのオープンモデルDiffusionGemmaをApache 2.0ライセンスで公開した。専用GPU上で最大4x高速な推論を実現し、単一のNVIDIA H100で1000+トークン/秒、NVIDIA GeForce RTX 5090で700+トークン/秒を出す。出力品質は標準のGemma 4より低く、高品質が必要な用途にはGemma 4を推奨している。

    選定理由:自己回帰モデルとの速度差が生じる仕組みと、ローカル推論に向く条件、クラウド配信で利点が薄れる点が整理されており、用途の見極めに使いやすい。

5月23日土
  1. Mistral AI News72

    Mistral、Mistral Medium 3.5を公開 VibeとLe Chatにリモートエージェントを追加

    Mistral AIは、128B denseのオープンウェイトモデルMistral Medium 3.5をパブリックプレビューで公開し、Mistral VibeとLe Chatにクラウド上で動くリモートエージェントを追加した。SWE-Bench Verifiedで77.6%、τ³-Telecomで91.4を記録したとしている。Pro、Team、Enterpriseプランで利用でき、APIは入力100万トークンあたり$1.5、出力$7.5である。

    選定理由:128B denseモデルの公開とクラウド型エージェントの提供が同時に示され、価格や自社ホスト要件も併記されているため、導入判断の材料にしやすい。

3月24日火
2月5日木
  1. Mistral AI News62

    Mistral AI、音声認識モデルVoxtral Transcribe 2を公開、RealtimeはApache 2.0のオープンウェイト

    Mistral AIは音声認識モデルのファミリーVoxtral Transcribe 2を公開した。バッチ向けのVoxtral Mini Transcribe V2と、遅延を200ms未満まで設定できるライブ向けのVoxtral Realtimeで構成する。Realtimeは4BパラメータでApache 2.0のオープンウェイトとしてHugging Face Hubで配布され、Mini Transcribe V2のAPI料金は1分あたり$0.003である。

    選定理由:バッチ向けとリアルタイム向けの二つのモデルについて、遅延設定、料金、対応言語が並べて示されており、用途ごとの使い分けを判断しやすい。

8月1日金
  1. Mistral AI News27

    Pixtral-12Bのファインチューニングで衛星画像の分類性能を高める方法

    Mistralは、Pixtral-12Bを衛星画像でファインチューニングすると、ベースモデルより大きな改善が得られるとしている。評価にはAerial Image Dataset(AID)を用い、8,000件の学習データと2,000件のテストデータに分けた。プロンプトのみでは曖昧なクラスの識別や、存在しないクラス名の出力が課題だった。

7月15日火
  1. Mistral AI News64

    Mistral AI、音声理解モデルVoxtralを公開 24Bと3BをApache 2.0で提供

    Mistral AIは音声理解モデルVoxtralを公開した。本番向けの24Bと、ローカルやエッジ向けの3Bの2サイズで、どちらもApache 2.0ライセンスである。APIは$0.001 per minuteから利用でき、Voxtral Mini TranscribeはOpenAI Whisperを上回る性能を半額未満の価格で提供するとしている。

    選定理由:文字起こしと音声の理解を一つのモデルで扱う設計で、Whisperなど他社APIとの比較や価格が示されており、導入判断の材料にしやすい。

6月10日火
  1. Mistral AI News75

    Mistral AI、初の推論モデルMagistralを発表 オープンのSmallと企業向けMediumの2種

    Mistral AIは同社初の推論モデルMagistralを発表した。24BパラメータのオープンソースMagistral Smallと、企業向けのMagistral Mediumの2種で提供する。AIME2024ではMediumが73.6%(majority voting @64で90%)、Smallが70.7%(同83.3%)だった。SmallはApache 2.0ライセンスでHugging Faceから入手でき、MediumはLe ChatやLa Plateforme APIでプレビュー提供される。

    選定理由:オープンの24B版と企業向けMedium版の2系統で出た初の推論モデルで、AIME2024の数値や提供先も示されており、位置づけを把握しやすい。

3月17日月
  1. Mistral AI News57

    Mistral、Mistral Small 3.1を発表 Apache 2.0で公開、コンテキストは最大128k

    Mistral AIは、テキスト性能とマルチモーダル理解を改善し、コンテキストウィンドウを最大128k トークンに拡張したMistral Small 3.1を発表した。Apache 2.0ライセンスで公開され、Gemma 3やGPT-4o Miniを上回り、推論速度は150 トークン/秒としている。Hugging Faceからベースモデルとインストラクトモデルをダウンロードできる。