本文へスキップ

#デプロイ・インフラ

本日6件
8月21日金
  1. Hugging Face Blog42

    Hugging Face Inference Endpoints、Jobs、Bucketsは Papers with Code の検索をどう支えるか

    Papers with Code の検索は、PostgreSQL の全文検索と pgvector によるベクトル検索を RRF で統合したハイブリッド検索として構築された。論文の埋め込みは Hugging Face Jobs の L4 GPU でオフライン生成し、arXiv と Daily Papers の11万件超の現行論文を対象とする。オンラインではクエリの埋め込みだけを Inference Endpoints で処理し、エンドポイントが停止または混雑した場合は全文検索に切り替える。

  2. Hugging Face Blog52

    Liquid AI、LFM2.5向けDSparkドラフトモデルを公開、推論が最大3.2倍高速に

    Liquid AIはLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの3モデル向けにDSparkのドラフトモデルを公開した。投機的デコーディングにより出力品質を変えずにGPUで最大3.18倍、オンデバイスで最大2.87倍のスループット向上を示す。llama.cppとSGLangで初日から利用でき、LFM2.5-2.6Bの関数呼び出しのレイテンシは平均57%減少した。

8月18日火
  1. ストックマーク ニュース22

    ストックマーク、FDE組織を拡大し非構造データと熟練者の暗黙知のコア資産化を推進

    ストックマークはFDE(Forward Deployed Engineer)組織を拡大し、図面などの「非構造データ」や熟練者の「暗黙知」を企業のコア資産に変える取り組みを進める。自社R&Dと現場実装を結びつける体制づくりを本格化し、FDR、FDSとの「三位一体」で推進する。同社が7月に実施した調査では、「自社独自データ・ナレッジの整備」が60%、「AI前提の業務再設計」が57%で、最重要課題に挙がった。

8月14日金
  1. Turing 技術ブログ(Zenn)25

    Databricks の Declarative Automation Bundles を用いた機械学習データセット作成基盤の構築

    Turing のMLOpsチームが、E2E自動運転AI向けデータセット作成基盤を、AWS Step Functionsベースの既存システムからDatabricks上のパイプラインに置き換えた。500時間分の走行データで半日以上かかっていた作成時間が、条件にもよるが60分以下になった。保守性の向上にはDeclarative Automation Bundles(DAB)を使い、CI/CDや開発環境と本番環境の分離を実現している。

  2. Hugging Face Blog42

    Strands Agents、LeRobot、Hugging Face Storage Bucketsで、ロボットのデータ収集から学習、デプロイまでを一か所で回す

    Strands Robotsのエージェントループで、ロボットのデモ記録、Hubからの直接ストリーミング学習、ポリシーのハードウェアへの再配備を一つのデータループとして実行する方法を解説する。データはLeRobot形式のままStorage Bucketに同期され、同期のたびに変更されたバイトのみがアップロードされる。学習時は`stream_dataset(repo_type="bucket")`でダウンロードせずに読み込み、デプロイは`mode="real"`への引数変更で行う。

8月13日木
  1. SB Intuitions ブログ38

    SB Intuitions、社内LLM数百件を検索・参照できるモデルカタログを2ヶ月で構築

    SB Intuitionsは、社内で開発される数百のLLMのメタデータを一元管理する「model-catalog」を、着手から約2ヶ月で提供開始した。Web UIとREST APIの両方で検索・取得でき、既存モデルカードを対象とした調査では記載項目の98.7%が機械導出可能だった。モデル実体はカタログに入れず、メタデータと配置先URIのみを保持し、転送は計算クラスタ側で非同期に行う。

8月11日火
  1. Mistral AI News53

    Mistral、Regional Endpointsを正式提供しPriority Tierを公開プレビュー、GLM-5.2対応も開始

    Mistralは、推論を欧州または米国で実行できるMistral Regional Endpointsを一般提供とし、稼働率SLA付きのMistral Priority Tierを公開プレビューとして始めた。あわせてZ.aiのGLM-5.2を皮切りにサードパーティ製オープンモデルへ対応し、欧州の計算資源を長期確保する企業連合も打ち出した。2030年までに最大1 GWの容量構築を計画している。

8月10日月
  1. ELYZA 技術ブログ(Zenn)31

    ELYZA、LLMサービスにOpenTelemetryでAPMを安全に導入した方法

    ELYZAのエンジニアが、LLMを使うtoB向けアプリケーションプラットフォームにOpenTelemetryでトレーシングを導入した経緯と実装を紹介している。顧客のプロンプトを外部に出さず費用を抑える方針で、Node.jsのAPIとworkerのみSpanを送出し、MLは中継に徹する構成とした。Web → API → SQS → ML → SQS → workerの推論が1本のtraceとしてDatadog上で追えるようになった。

  2. Claude Platform release notes78

    Claude Platformリリースノート:Claude Opus 5.5、Sonnet 5.5、Haiku 5.5の追加やManaged Agentsの機能拡充

    AnthropicのClaude Platformリリースノートは、Claude API、クライアントSDK、Claude Consoleの変更を新しい順にまとめている。Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5の提供開始に加え、Claude Managed Agentsの機能追加やCompliance APIの拡張が記載されている。

    選定理由:モデル追加、料金変更、破壊的変更、Managed Agentsの機能が日付順に並んでおり、API移行時に確認すべき変更点を把握しやすい。

8月7日金
  1. Claude Platform release notes52

    Claude Managed Agents、セッション予算とアドバイザー、inference_geo指定、GitHubスキル読み込みに対応

    Claude Platformのリリースノートによると、Claude Managed Agentsのセッションに予算上限を設定できるようになった。予算に達したセッションはbudget_reachedの停止理由で一時停止する。あわせてアドバイザー機能、inference_geoによる推論実行場所の指定、GitHubリポジトリからのスキル読み込みにも対応した。

8月6日木
  1. LayerX エンジニアブログ16

    KubeCon + CloudNativeCon Japan 2026参加記、OpenTelemetryの登壇とセッションを振り返る

    LayerXのEngineering Managerが、KubeCon + CloudNativeCon Japan 2026(7月29〜30日)と併催のJapan Community Day(7月28日)に参加し、OpenTelemetryについて登壇した。CNCFの2025年年次調査では、コンテナ利用者の82%が本番環境でKubernetesを利用していると報告されている。Atlassianの講演では、1日あたり1.6PBのテレメトリーが生成される規模でのStatsDからOpenTelemetryへの移行事例が紹介された。

  2. Hugging Face Blog33

    Baseten、Hugging Face Inference Providersに対応

    Baseten が Hugging Face Hub の Inference Provider として利用可能になった。会話およびテキスト生成タスクで、Kimi K3、DeepSeek V4 Flash、GLM-5.2 などのオープンウェイトLLMをサーバーレス推論で利用できる。HF経由のルーティングではプロバイダーの標準API料金のみが課金され、HFによる上乗せはない。ほかのタスクは順次対応予定である。

8月4日火
  1. ABEJA Tech Blog27

    院内検査マスターをJLAC11へマッピング — NEDO医療LLMプロジェクトでのユースケース検証

    ABEJAは、NEDOの医療特化型LLM事業で、院内検査マスターの検査項目をJLAC11コードへ変換(マッピング)するユースケース検証を行った。試薬・検査機器情報をPMDAデータベースと付番コード表で照合して候補を絞り込み、検査名称はLLMで突合する方式を採用した。完全自動化は目指さず、候補・確信度・根拠を出力してレビュー担当者が確定する設計としている。

8月1日土
  1. Claude Platform release notes65

    Claude Platformリリースノート、Claude Opus 5.5・Sonnet 5.5・Haiku 5.5などAPI更新を掲載

    AnthropicのClaude Platformリリースノートは、Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5の提供開始やClaude Managed Agentsの機能追加を掲載している。Opus 5.5は1Mトークンのコンテキストウィンドウと128kの最大出力を備え、料金は$4 / $20 per MTokである。Sonnet 5.5のキャッシュ読み取り料金は$0.10 per million tokensへ引き下げられた。

    選定理由:モデル追加、料金改定、廃止予定、Managed Agentsの機能追加が日付順に並び、API移行時の破壊的変更も確認しやすい。

7月31日金
  1. Turing 技術ブログ(Zenn)38

    Turing、Google CloudのA3 Ultra 240 GPU Slurmクラスタを2週間で構築し4ヶ月運用した知見

    Turingのインフラチームは、Google Cloud上にA3 Ultra(NVIDIA H200 × 8)30ノード、計240 GPUのSlurmクラスタを2026年3月に着手して約2週間で立ち上げ、約4ヶ月運用した。Managed Lustreは36 TBから504 TBまで拡張を重ね、内部エラーや内部quotaの制約で新規インスタンスへの切り替えが必要になった。Xidを伴うGPU障害への対応や、クラスタ全体の再構築も経験した。

  2. LayerX エンジニアブログ25

    10 チーム同時のハッカソンを支えた Kubernetes + Argo CD の GitOps プレビュー環境「3A」の紹介

    LayerX の Ai Workforce 事業部は、Kubernetes + Argo CD の GitOps プレビュー環境「3A」で、半日のハッカソン用に 10 チーム分の独立した Ai Workforce 環境を用意した。環境はチームごとの CR に数行を追加し、ゴールデンイメージからデータを複製して作成され、コーディングエージェントが作成した PR を人間がレビューして適用した。筆者は kubectl や YAML をほとんど書かずに済んだとし、コーディングエージェントによって Kubernetes の運用ハードルが下がると評価している。

  3. Hugging Face Blog28

    GPU管理:遊休GPUが新たな「地上待機の航空機」になる理由

    企業向けAIの次の制約は、モデル性能よりもGPUの稼働率になりつつある。GPUは稼働の有無にかかわらず時間単位で費用が発生するため、有用に使われない時間が収益性を大きく左右する。APIの費用は利用量に比例して増えるのに対し、自社GPUの費用はほぼ固定のため、一定量を超えると自社保有が有利になる。ただし、インフラはピーク需要に合わせて設計されるため、常時稼働していてもクラスター全体の能力は無駄になりやすい。

7月27日月
  1. Hugging Face Blog46

    NVIDIA、外科手術ロボット向けリアルタイム生成シミュレーター Cosmos-H-Dreams を発表

    NVIDIAは、外科手術ロボット向けのリアルタイム生成シミュレーター「Cosmos-H-Dreams」を発表した。Cosmos-H-Surgical-Simulatorを因果的な少ステップのstudentモデルに蒸留し、ストリーミング推論ライブラリFlashDreamsで提供する。単一のNVIDIA RTX PRO 6000 GPUで動作し、人間または学習済みポリシーが閉ループで操作できる。

7月24日金
  1. Claude Platform release notes73

    Anthropic、Claude Opus 5(claude-opus-5)を公開 1Mトークンのコンテキストウィンドウに対応

    Anthropicは Claude Opus 4.8 から大きく改善したとする Claude Opus 5(claude-opus-5)を公開した。1Mトークンのコンテキストウィンドウ、最大出力128kトークン、デフォルトで思考オンに対応し、価格は100万トークンあたり$5 / $25で Opus 4.8 と同じである。あわせて mid-conversation tool changes のベータ提供と、Claude Opus 4.7 の fast mode 廃止も発表された。

    選定理由:価格据え置きでの仕様と、思考無効化の400エラーなど移行時に確認すべき破壊的変更が同じ場所にまとまっており、移行判断の材料になる。

7月23日木
  1. Hugging Face Blog60

    Hugging Face、Diffusers本体でNunchaku Lite 4bit拡散モデル推論に対応

    Hugging FaceはDiffusersでNunchakuのSVDQuant(W4A4)チェックポイントを`from_pretrained()`で直接読み込めるようにした。ローカルでのCUDAコンパイルは不要で、kernelsパッケージ経由でカーネルを取得する。RTX PRO 6000での計測では、BF16比でピークVRAMを最大50%削減し、レイテンシを約30%改善した。

    選定理由:W4A4量子化がweight-onlyと何が違うかを説明し、速度とVRAMの実測値も併記しているため、手元のGPUでの導入可否を判断しやすい。

7月21日火
  1. Microsoft Source: AI40

    Microsoft、AMDと連携しAzureのAI・HPCインフラを拡充

    Microsoftは、AMDのHelios AIプラットフォームと次世代EPYCプロセッサをAzureに導入し、HDv2 VM、HXv2 VM、ND MI455X v7 VMの3種を提供予定と発表した。HDv2は6th Gen AMD EPYCの物理コア約500基と4テラバイトのRAMを備え、データ処理向け。HXv2は176コアで5GHz超、EDAやHPC向け、ND MI455X v7はAI推論向けである。

7月15日水
  1. Hugging Face Blog72

    Thinking Machines Lab、画像・音声・テキスト対応のオープンモデルInklingとInkling-Smallを公開

    Thinking Machines Labが、画像・テキスト・音声を入力できる約1Tパラメータのオープンモデル Inkling を Hugging Face で公開した。総パラメータ975B、アクティブ41BのMoEで、1Mコンテキストに対応する。276B総・12Bアクティブの Inkling-Small も追加され、Inference Endpoints でワンクリックでデプロイできる。

    選定理由:アーキテクチャの内訳、必要VRAM、各推論エンジンでの起動手順、ベンチマーク表が一つにまとまり、導入可否を判断する材料になる。

  2. Claude Platform release notes67

    Claude Platformリリースノート、Claude Haiku 5.5やOpus 5.5など各種更新を掲載

    AnthropicのClaude Platformリリースノートが、Claude API、クライアントSDK、Claude Consoleの更新を新しい順に掲載している。Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5(claude-haiku-5-5)の提供開始のほか、プロンプトキャッシュ読み取り料金の引き下げ、Claude Managed Agentsの機能追加、Compliance APIの拡張などが記されている。

    選定理由:モデル追加、価格改定、廃止予定、Managed Agentsの機能追加が日付順にまとまっており、API移行時に確認すべき変更点を一度に追える。

7月8日水
  1. Claude Platform release notes32

    Claude Platform、APIキーに有効期限の設定を追加

    Claude Consoleで、APIキーおよびAdmin APIキーの作成時に有効期限を設定できるようになった。プリセット、任意の期間、「Never」から選択できる。有効期間が7日以上のキーは、期限前にAnthropicが作成者にメールで通知する。既存のキーは影響を受けず、Admin APIでは各キーの期限をexpires_atフィールドで確認できる。

  2. Hugging Face Blog41

    vLLMのtransformersモデリングバックエンド、ネイティブ並みの速度に

    vLLMのtransformersモデリングバックエンドは、多くのLLMアーキテクチャでカスタムのvLLM実装と同等かそれ以上の速度を達成した。--model-impl transformersフラグを付けるだけで利用でき、Qwen3-4B、Qwen3-32B、Qwen3-235B-A22B-FP8の3モデルの比較では、いずれもネイティブ実装と同等以上のスループットを示した。実行時にtorch.fxで計算グラフを解析し、融合演算を適用することで高速化を実現している。

7月2日木
7月1日水
  1. Claude Platform release notes67

    Claude Platform、Opus 5.5やHaiku 5.5などを追加したリリースノートを更新

    Anthropicは公式のClaude Platformリリースノートを更新し、Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5などの提供開始と、Claude Managed Agentsの新機能やAPI変更を掲載した。Claude Opus 5.5は1Mトークンのコンテキストウィンドウを備え、料金は$4 / $20 USD per MTokである。旧モデルからの移行で400エラーになり得る変更点も複数記載されている。

    選定理由:モデル追加、料金改定、API仕様変更、Managed Agentsの機能追加が日付順に並び、移行時に壊れやすい変更点を一覧で追える。

6月30日火
  1. Claude Platform release notes71

    Anthropic、Claude Sonnet 5を発表 入力$2・出力$10 per MTokの導入価格

    Anthropicは Sonnet ファミリーの次世代モデル Claude Sonnet 5(claude-sonnet-5)を公開した。導入価格は$2 / $10 per MTokで、8月10日に標準価格となる。1Mトークンのコンテキストウィンドウと128kの最大出力トークンに対応するが、Priority Tier は利用できない。あわせて Claude Managed Agents にもイベントデルタやセッション単位の設定上書きなどの更新が入った。

    選定理由:料金、コンテキスト長、移行時に必ず確認すべき挙動変更とトークナイザー変更が一つにまとまっており、移行コストの見積もりに使える。

6月27日土
  1. Google Research Blog37

    Pixel上のGemini Nanoを凍結MTPで高速化、Pixel 9・10シリーズに展開

    Googleは、凍結したGemini Nano v3モデルにMulti-Token Prediction(MTP)ヘッドを後付けする新アーキテクチャを発表し、Pixel 9・10シリーズへ展開を始めた。MTPヘッドはメインモデルのKVキャッシュを直接参照するため、ドラフト用に別途KVキャッシュを持つ必要がなく、標準的なドラフトモデルと比べてPixel 9上で50%以上の高速化が得られたとしている。バックエンドを凍結するため基盤モデルの能力や安全性は劣化せず、出力はメインモデルとビット単位で一致する。

6月26日金
  1. Claude Platform release notes44

    Claude Platform リリースノート(2026年6月26日)

    Anthropicは、Claude APIのレート制限を引き上げた。Claude SonnetとClaude Haikuの制限は全利用ティアでClaude Opusと同水準になり、利用ティアはStart、Build、Scaleの3つに統合された。多くの組織はより上位のティアに移行し、従来より低い制限になる組織はない。

6月25日木
  1. Google Research Blog27

    Google Research、線形弾性キャッシュでクラウドのTCOを削減

    Google Researchは、ページの退避をski rental問題として扱い、軽量な機械学習でキャッシュの動的サイズ調整を行う「linear elastic caching」を発表した。Spannerの本番環境で数か月間運用した結果、固定サイズのキャッシュと比べてメモリ使用量は15.5%減少し、キャッシュミスは5.5%増加にとどまり、TCOは約5%削減された。TTL予測には数行のC++コードに変換できる浅い決定木を用いる。

  2. Claude Platform release notes78

    Claude Platform、リリースノートを更新 Claude Haiku 5.5やOpus 5.5などを掲載

    Claude Platformのリリースノートに、Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5の提供開始や、Claude Managed AgentsとCompliance APIの機能追加が記載されている。Sonnet 5.5のキャッシュ読み取り料金は$0.20から$0.10(100万トークンあたり)に引き下げられた。Claude Sonnet 4.5は2026年11月30日にClaude APIでの提供終了が予定されている。

    選定理由:モデル追加、料金改定、廃止予定、Managed Agentsの機能追加が日付順に並び、API移行時の変更点を一覧で追いやすい。

6月24日水
  1. Mistral AI News52

    Mistral AI、Connectorsに管理者制御とAPIキースコープ、Connectors Debuggerを追加

    Mistral AIはConnectorsに、ワークスペースや組織単位でコネクタとツールを制御する管理機能、スコープ付きAPIキー、複数アカウント対応を追加し、いずれもGAとなった。MCPコネクタの接続障害を調べるConnectors Debugger(Public Preview)や、Workflows(Public Preview)とVibe Code(GA)でのコネクタ利用も加わった。ディレクトリには60以上の連携があり、未掲載の場合はカスタムMCPコネクタで対応できる。

  2. LINEヤフー Tech Blog38

    Flava DBaaSの詳細解説:アーキテクチャからマイグレーション、今後の展望まで

    LINEヤフーが、次世代クラウドFlava上のDBaaS「Flava DBaaS」の設計・仕様とマイグレーション戦略を解説する。Kubernetesのオペレーター・パターンを基盤とし、IaaSリソースを扱うインフラ・オペレーターを分離した構成を採る。ブロックストレージは100GiB単位で構成でき、最大容量は5TiBに拡大されたとされる。

  3. LINEヤフー Tech Blog18

    Semantic Context OSのアーキテクチャ、エージェントにおけるトークン詰め込みを超えて

    Semantic Context OSは、エージェントアプリケーションと外部の基盤モデルAPIの間に置かれるローカルの傍受プロキシ(localhost:8080)として、コンテキストウィンドウを決定論的なシステム資源として管理するランタイム基盤である。POSIX風の仮想ファイルシステム(VFS)による状態管理、PathAlignステージによるASTのトリミング、sawtoothメモリモデルによるトークン最適化を組み合わせる。

6月22日月
  1. LINEヤフー Tech Blog45

    Infrastructure as Code(IaC)で自動化からAIまで:OpenTofuとChatOps導入記

    LINE Plus SRE チームは、社内クラウドサービス Verda と社内モニタリングツール IMON のインフラを OpenTofu/Terragrunt で管理する IaC へ移行した。約1,500個のリソースがコードで宣言され、7サービスのインフラ変更はすべて PR レビューと CI/CD パイプラインを経て反映される。既存の約300台の VM、約160個の LB、約350個の DNS レコードは、import スクリプトを用いてコード管理へ取り込んだ。

6月11日木
  1. Google DeepMind Blog60

    Google DeepMind、テキスト拡散の実験的オープンモデルDiffusionGemmaを公開

    Google DeepMindは、テキスト拡散を採用した26B MoEのオープンモデルDiffusionGemmaをApache 2.0ライセンスで公開した。専用GPU上で最大4x高速な推論を実現し、単一のNVIDIA H100で1000+トークン/秒、NVIDIA GeForce RTX 5090で700+トークン/秒を出す。出力品質は標準のGemma 4より低く、高品質が必要な用途にはGemma 4を推奨している。

    選定理由:自己回帰モデルとの速度差が生じる仕組みと、ローカル推論に向く条件、クラウド配信で利点が薄れる点が整理されており、用途の見極めに使いやすい。

6月10日水
  1. Google DeepMind Blog66

    Google、70以上の言語に対応する音声翻訳モデルGemini 3.5 Live Translateを公開

    Googleは、70以上の言語でほぼリアルタイムの音声から音声への翻訳を行う音声モデルGemini 3.5 Live Translateを公開した。話者の抑揚、話す速さ、音の高さを保った自然な翻訳音声を生成する。開発者向けにGemini Live APIとGoogle AI Studioでパブリックプレビュー、Google Translateアプリ(Android、iOS)にも展開が始まった。

    選定理由:開発者向けAPI、Google Meet、Google Translateアプリへの展開範囲が一度に整理されており、利用経路を比較しやすい。

6月9日火
  1. Claude Platform release notes72

    Anthropic、Claude Fable 5とClaude Mythos 5を公開 Claude Platformリリースノート

    Anthropicは全顧客向けで最も高性能とするClaude Fable 5(claude-fable-5)を公開した。Project Glasswing参加者向けにはClaude Mythos 5(claude-mythos-5)も提供する。両モデルとも1Mトークンのコンテキストウィンドウ、最大128kの出力トークン、常時有効なadaptive thinkingに対応する。Claude Opus 4.7で導入されたトークナイザーを使い、従来モデルより同じテキストで約30%多くのトークンが生成される。

    選定理由:新モデルの仕様に加え、トークナイザー変更による約30%のトークン増や拒否時の課金条件など、移行時に確認すべき点が整理されている。

6月4日木
  1. Google Research Blog46

    Google、洪水予測の水文モデルフレームワークをオープンソース化

    Googleは、AIによる洪水予測のための水文モデルフレームワークをGitHubでオープンソース化した。Google Flood Hubの河川予測と同じアーキテクチャと類似の学習データを使い、各国の気象・水文機関や予報担当者がモデルを学習できる。新モデルは、従来版と比べて観測地点のある流域で予測可能期間を6日、観測のない流域で1日延長したとされている。