本文へスキップ

#デプロイ・インフラ

本日11件
9月14日月
  1. NVIDIA 日本版ブログ37

    NVIDIA、オーストラリアのデータセンター企業と提携しAIインフラ容量を拡大

    NVIDIAは、オーストラリアのNCPおよびAIインフラパートナー各社と連携し、複数世代のNVIDIA DSXコンピューティングインフラをホストできる用地、電力、シェル容量を拡充すると発表した。2027年までに最大2ギガワットの拡張を実現する予定である。参加各社はAIファクトリーを運営し、NVIDIAはDSXプラットフォーム、アクセラレーテッドコンピューティング、ネットワーク、ソフトウェアを提供する。

9月10日木
  1. Microsoft Source: AI20

    Kinaxis、AIで供給網の不確実性に対応するMaestroをAzure上で提供

    カナダのKinaxisは、予測AI、シナリオモデリング、エージェント型AIを備えたサプライチェーン計画プラットフォームMaestroを提供している。Strait of Hormuzでの紛争を受け、顧客のシナリオモデリング利用は紛争前の水準から120%以上増えたという。MaestroはAzure上で動作し、Azure OpenAIやAKSなどを用い、Microsoft Copilotとの連携も開発中である。

  2. Mistral AI News36

    Cloudera と Mistral、企業データ向けの特化型ソブリンAIで提携

    Cloudera と Mistral が提携し、Mistral のモデルを Cloudera のハイブリッドデータプラットフォームに統合する。企業はオンプレミス、プライベート・パブリッククラウド、完全なエアギャップ環境にAIモデルを展開しつつ、管理権限を保てる。管理された環境内で自社の独自データを使ってカスタムモデルを学習させることもでき、データと学習結果の所有権は企業側に残るとしている。

  3. PKSHA Technology ニュース21

    PKSHAグループ、PMO業務を変革する「AI Powered PMO」の提供を開始

    PKSHA TechnologyとX Capitalは、AIエージェントがプロジェクト横断の情報収集・整理・連携を担うPMOサービス「AI Powered PMO」の共同提供を2026年8月に開始した。タスクチケットや議事録、チャットに分散した情報の整理を自動化し、連携漏れや検討漏れの防止、PMOコストの構造的な削減を図る。今後は対応可能な規模や業種を広げ、音声解析機能の拡充を目指す。

  4. Hugging Face Blog36

    HF Jobs上でLoRAによるAsync GRPOを動かす構成、Storage BucketとプロキシでNCCLを使わず同期

    TRL v1.14のAsyncGRPOTrainerは、LoRAアダプターのみを学習してvLLMへ同期できるようになり、学習と推論を別々のHugging Face Jobsに分けて実行する構成を示している。ランク1のアダプターは数MBで、1.5Bモデル全体の約3GBに比べて小さいため、Storage Bucketを共有ファイルシステムとして使いNCCLなしで同期できる。5回の実行で、同じレシピの500ステップ学習が3時間27分から53分に短縮された。

9月9日水
  1. PKSHA Technology ニュース22

    PKSHA Technology、オンプレミス型AIエージェント『PKSHA Private AI Agents』の提供を開始

    PKSHA Technologyは、国産LLMを含むオープンモデルを導入企業のオンプレミス環境で高速に動かすAIエージェント『PKSHA Private AI Agents』の提供を2026年9月9日に開始した。機密情報を外部クラウドに送らずに利用できる。投機的デコーディングによる高速化と量子化によるGPUメモリ削減を併用し、より安価なサーバ構成で運用でき、まずソースコードや設計情報を外部に出せない開発現場でのコーディング支援を主軸に展開する予定である。

9月8日火
  1. Mistral AI News41

    Mistral、30億ユーロを調達 シリーズDで評価額210億ユーロ超

    Mistral AIは30億ユーロのシリーズD資金調達を発表した。調達後評価額は210億ユーロを超え、欧州のテクノロジー企業による株式調達として過去最大となる。Samsung Electronicsが主導し、EQT傘下のScaleup Europe Fund、既存投資家のPSG Equityが共同主導した。資金はフロンティア研究とコンピュートの拡張、インフラと商業展開の加速に充てられる。

9月7日月
  1. Turing 技術ブログ(Zenn)36

    DatabricksのServerlessで複数CPUアーキテクチャに対応しつつ起動時間を遅くしない方法

    Databricks Serverless computeで2026年9月4日からジョブがx86_64とaarch64のどちらかで実行されるようになり、x86_64のwheelだけを同梱していたwheelhouseは約25%のジョブでインストールに失敗した。両アーキテクチャのwheelを同梱し、platform_machineマーカーで制約する方式で対応した。`uv pip compile --python-platform`で依存を解決し、wheelhouseは計54本となった。

9月5日土
  1. Microsoft AI (MAI) News50

    Microsoft、MAI-Image-2.6をFoundryで提供開始、高速版MAI-Image-2.6-Flashも追加

    Microsoftは画像モデルMAI-Image-2.6をMicrosoft Foundryの開発者向けに提供し、低遅延向けのMAI-Image-2.6-Flashを加えた。MAI-Image-2.6はArenaでtext to imageと画像編集がともにNo. 2、Artificial Analysisではtext-to-imageがNo. 2、画像編集がNo. 1である。Flashは GPT-Image-2-Mediumより2.8倍高速で、効率は72%高いとしている。

9月3日木
9月1日火
  1. Hugging Face Blog50

    Hugging Face、ブラウザ推論向けWebGPUカーネル207個と@huggingface/kernelsを公開

    Hugging Faceは、WebGPUカーネル207個と、Hubからカーネルを読み込んで実行するJavaScriptライブラリ@huggingface/kernelsを公開した。各カーネルは個別のリポジトリとしてwebgpu-kernels組織に置かれ、ライセンスはApache-2.0である。同時に、ブラウザ上でカーネルの性能と正確性を測定するベンチマークツールFleetも公開され、同意を得た上で実機の結果を集めて改善に役立てる。

  2. Claude Platform release notes63

    Anthropic、Claude Fable 5.1とClaude Mythos 5.1を提供開始

    Anthropicは長時間のエージェント型コーディングや知識業務、研究向けのClaude Fable 5.1(claude-fable-5-1)と、Project Glasswing参加者向けのClaude Mythos 5.1(claude-mythos-5-1)を公開した。どちらも1Mトークンのコンテキストウィンドウ、最大128kの出力トークン、常時有効な適応型thinkingに対応し、価格はClaude Fable 5と同じ$10 / $50 per MTokで、キャッシュ読み取りは$0.25 per MTokに下がった。

    選定理由:価格据え置きでキャッシュ読み取りを$0.25 per MTokに下げた点と、tool_choiceやthinking blockの仕様変更が併記され、移行時の確認項目を把握しやすい。

8月28日金
  1. LayerX エンジニアブログ22

    AI Gateway「Bifrost」の本番導入で、Technical Project Manager が担ったこと

    LayerXのAi Workforce事業部のTPMが、OSSのAI GatewayであるBifrostを本番環境へ導入した過程を紹介する。比較検討の結果、コアのゲートウェイ機能は外部ミドルウェアなしで動作する点を採用理由とし、本番構成では監査ログや設定値の保存に用いるPostgreSQLを依存コンポーネントの中心に据えた。テナントごとのデータレジデンシー要件は、Virtual Keyを選択することで制御している。

8月27日木
  1. Turing 技術ブログ(Zenn)30

    Turing、eGPUで車載のエッジ推論能力を強化

    Turingは自動運転の車載計算機NVIDIA Jetson AGX Orinに、OCuLink経由でRTX4090などのGPUを接続するeGPUシステムを運用している。FP32推論時間はOrinの95.9 msに対し、RTX4090は18.3 ms、RX 7900 XTXは32.9 msで、データ転送の2.3 msを加えても高速である。推論エンジンにはユーザー空間ドライバで動くOSSのtinygradを使い、NVIDIAとAMDのGPUを切り替えて使える。

8月26日水
  1. LINEヤフー Tech Blog32

    LINEヤフー、ノーコードAIエージェント基盤「Agent Builder」と「Agent Runtime」を内製化

    LINEヤフーは、AIエージェントサービス「Agent i」の開発基盤として、ノーコードでワークフローを構築できる「Agent Builder」と、公開されたワークフローを負荷に応じて実行する「Agent Runtime」を内製化した。エンジニアでなくてもエージェントを作って試せる環境を目指し、マルチエージェント連携の前段としてエージェントを手軽に作れる基盤を優先した。Agent Runtimeは Kubernetes 上でスケールし、ワークフローをIRからLangGraphの実行グラフへ変換して実行する構成である。

8月25日火
  1. Hugging Face Blog55

    Multiverse Computing、4bit圧縮モデルの回復手法QAHを提案、bfloat16版を9中7ベンチマークで上回る

    Multiverse Computingは、圧縮と量子化を経たモデルを回復するQuantization-Aware Healing(QAH)を提案した。GPT-OSS 120Bを60Bに圧縮しMXFP4にしたモデルが、自身のbfloat16版を9ベンチマーク中7で上回った。圧縮前の元モデルを教師にKLダイバージェンスで蒸留する点が特徴である。

  2. Hugging Face Blog38

    Gradioのgr.Workflowで、AIパイプラインをグラフとして構築しドラッグ&ドロップで実行・デプロイ

    Gradioの新機能gr.Workflowは、型付きノードのグラフとしてAIパイプラインを定義し、ドラッグ&ドロップで実行できるキャンバスとして提供する。同じグラフはREST APIとしても公開され、Hugging Face Spacesへ1コマンドでデプロイできる。画像編集、画像生成からの背景除去と音声合成、ZeroGPUによるGPUモデル実行などのデモがHugging Face Spacesで公開されている。

8月21日金
  1. Hugging Face Blog42

    Hugging Face Inference Endpoints、Jobs、Bucketsは Papers with Code の検索をどう支えるか

    Papers with Code の検索は、PostgreSQL の全文検索と pgvector によるベクトル検索を RRF で統合したハイブリッド検索として構築された。論文の埋め込みは Hugging Face Jobs の L4 GPU でオフライン生成し、arXiv と Daily Papers の11万件超の現行論文を対象とする。オンラインではクエリの埋め込みだけを Inference Endpoints で処理し、エンドポイントが停止または混雑した場合は全文検索に切り替える。

  2. Hugging Face Blog52

    Liquid AI、LFM2.5向けDSparkドラフトモデルを公開、推論が最大3.2倍高速に

    Liquid AIはLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの3モデル向けにDSparkのドラフトモデルを公開した。投機的デコーディングにより出力品質を変えずにGPUで最大3.18倍、オンデバイスで最大2.87倍のスループット向上を示す。llama.cppとSGLangで初日から利用でき、LFM2.5-2.6Bの関数呼び出しのレイテンシは平均57%減少した。

8月18日火
  1. ストックマーク ニュース22

    ストックマーク、FDE組織を拡大し非構造データと熟練者の暗黙知のコア資産化を推進

    ストックマークはFDE(Forward Deployed Engineer)組織を拡大し、図面などの「非構造データ」や熟練者の「暗黙知」を企業のコア資産に変える取り組みを進める。自社R&Dと現場実装を結びつける体制づくりを本格化し、FDR、FDSとの「三位一体」で推進する。同社が7月に実施した調査では、「自社独自データ・ナレッジの整備」が60%、「AI前提の業務再設計」が57%で、最重要課題に挙がった。

8月14日金
  1. Turing 技術ブログ(Zenn)25

    Databricks の Declarative Automation Bundles を用いた機械学習データセット作成基盤の構築

    Turing のMLOpsチームが、E2E自動運転AI向けデータセット作成基盤を、AWS Step Functionsベースの既存システムからDatabricks上のパイプラインに置き換えた。500時間分の走行データで半日以上かかっていた作成時間が、条件にもよるが60分以下になった。保守性の向上にはDeclarative Automation Bundles(DAB)を使い、CI/CDや開発環境と本番環境の分離を実現している。

  2. Hugging Face Blog42

    Strands Agents、LeRobot、Hugging Face Storage Bucketsで、ロボットのデータ収集から学習、デプロイまでを一か所で回す

    Strands Robotsのエージェントループで、ロボットのデモ記録、Hubからの直接ストリーミング学習、ポリシーのハードウェアへの再配備を一つのデータループとして実行する方法を解説する。データはLeRobot形式のままStorage Bucketに同期され、同期のたびに変更されたバイトのみがアップロードされる。学習時は`stream_dataset(repo_type="bucket")`でダウンロードせずに読み込み、デプロイは`mode="real"`への引数変更で行う。

8月13日木
  1. SB Intuitions ブログ38

    SB Intuitions、社内LLM数百件を検索・参照できるモデルカタログを2ヶ月で構築

    SB Intuitionsは、社内で開発される数百のLLMのメタデータを一元管理する「model-catalog」を、着手から約2ヶ月で提供開始した。Web UIとREST APIの両方で検索・取得でき、既存モデルカードを対象とした調査では記載項目の98.7%が機械導出可能だった。モデル実体はカタログに入れず、メタデータと配置先URIのみを保持し、転送は計算クラスタ側で非同期に行う。

8月11日火
  1. Mistral AI News53

    Mistral、Regional Endpointsを正式提供しPriority Tierを公開プレビュー、GLM-5.2対応も開始

    Mistralは、推論を欧州または米国で実行できるMistral Regional Endpointsを一般提供とし、稼働率SLA付きのMistral Priority Tierを公開プレビューとして始めた。あわせてZ.aiのGLM-5.2を皮切りにサードパーティ製オープンモデルへ対応し、欧州の計算資源を長期確保する企業連合も打ち出した。2030年までに最大1 GWの容量構築を計画している。

8月10日月
  1. ELYZA 技術ブログ(Zenn)31

    ELYZA、LLMサービスにOpenTelemetryでAPMを安全に導入した方法

    ELYZAのエンジニアが、LLMを使うtoB向けアプリケーションプラットフォームにOpenTelemetryでトレーシングを導入した経緯と実装を紹介している。顧客のプロンプトを外部に出さず費用を抑える方針で、Node.jsのAPIとworkerのみSpanを送出し、MLは中継に徹する構成とした。Web → API → SQS → ML → SQS → workerの推論が1本のtraceとしてDatadog上で追えるようになった。

  2. Claude Platform release notes78

    Claude Platformリリースノート:Claude Opus 5.5、Sonnet 5.5、Haiku 5.5の追加やManaged Agentsの機能拡充

    AnthropicのClaude Platformリリースノートは、Claude API、クライアントSDK、Claude Consoleの変更を新しい順にまとめている。Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5の提供開始に加え、Claude Managed Agentsの機能追加やCompliance APIの拡張が記載されている。

    選定理由:モデル追加、料金変更、破壊的変更、Managed Agentsの機能が日付順に並んでおり、API移行時に確認すべき変更点を把握しやすい。

8月7日金
  1. Claude Platform release notes52

    Claude Managed Agents、セッション予算とアドバイザー、inference_geo指定、GitHubスキル読み込みに対応

    Claude Platformのリリースノートによると、Claude Managed Agentsのセッションに予算上限を設定できるようになった。予算に達したセッションはbudget_reachedの停止理由で一時停止する。あわせてアドバイザー機能、inference_geoによる推論実行場所の指定、GitHubリポジトリからのスキル読み込みにも対応した。

8月6日木
  1. LayerX エンジニアブログ16

    KubeCon + CloudNativeCon Japan 2026参加記、OpenTelemetryの登壇とセッションを振り返る

    LayerXのEngineering Managerが、KubeCon + CloudNativeCon Japan 2026(7月29〜30日)と併催のJapan Community Day(7月28日)に参加し、OpenTelemetryについて登壇した。CNCFの2025年年次調査では、コンテナ利用者の82%が本番環境でKubernetesを利用していると報告されている。Atlassianの講演では、1日あたり1.6PBのテレメトリーが生成される規模でのStatsDからOpenTelemetryへの移行事例が紹介された。

  2. Hugging Face Blog33

    Baseten、Hugging Face Inference Providersに対応

    Baseten が Hugging Face Hub の Inference Provider として利用可能になった。会話およびテキスト生成タスクで、Kimi K3、DeepSeek V4 Flash、GLM-5.2 などのオープンウェイトLLMをサーバーレス推論で利用できる。HF経由のルーティングではプロバイダーの標準API料金のみが課金され、HFによる上乗せはない。ほかのタスクは順次対応予定である。

8月4日火
  1. ABEJA Tech Blog27

    院内検査マスターをJLAC11へマッピング — NEDO医療LLMプロジェクトでのユースケース検証

    ABEJAは、NEDOの医療特化型LLM事業で、院内検査マスターの検査項目をJLAC11コードへ変換(マッピング)するユースケース検証を行った。試薬・検査機器情報をPMDAデータベースと付番コード表で照合して候補を絞り込み、検査名称はLLMで突合する方式を採用した。完全自動化は目指さず、候補・確信度・根拠を出力してレビュー担当者が確定する設計としている。

8月1日土
  1. Claude Platform release notes65

    Claude Platformリリースノート、Claude Opus 5.5・Sonnet 5.5・Haiku 5.5などAPI更新を掲載

    AnthropicのClaude Platformリリースノートは、Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5の提供開始やClaude Managed Agentsの機能追加を掲載している。Opus 5.5は1Mトークンのコンテキストウィンドウと128kの最大出力を備え、料金は$4 / $20 per MTokである。Sonnet 5.5のキャッシュ読み取り料金は$0.10 per million tokensへ引き下げられた。

    選定理由:モデル追加、料金改定、廃止予定、Managed Agentsの機能追加が日付順に並び、API移行時の破壊的変更も確認しやすい。

7月31日金
  1. Turing 技術ブログ(Zenn)38

    Turing、Google CloudのA3 Ultra 240 GPU Slurmクラスタを2週間で構築し4ヶ月運用した知見

    Turingのインフラチームは、Google Cloud上にA3 Ultra(NVIDIA H200 × 8)30ノード、計240 GPUのSlurmクラスタを2026年3月に着手して約2週間で立ち上げ、約4ヶ月運用した。Managed Lustreは36 TBから504 TBまで拡張を重ね、内部エラーや内部quotaの制約で新規インスタンスへの切り替えが必要になった。Xidを伴うGPU障害への対応や、クラスタ全体の再構築も経験した。

  2. LayerX エンジニアブログ25

    10 チーム同時のハッカソンを支えた Kubernetes + Argo CD の GitOps プレビュー環境「3A」の紹介

    LayerX の Ai Workforce 事業部は、Kubernetes + Argo CD の GitOps プレビュー環境「3A」で、半日のハッカソン用に 10 チーム分の独立した Ai Workforce 環境を用意した。環境はチームごとの CR に数行を追加し、ゴールデンイメージからデータを複製して作成され、コーディングエージェントが作成した PR を人間がレビューして適用した。筆者は kubectl や YAML をほとんど書かずに済んだとし、コーディングエージェントによって Kubernetes の運用ハードルが下がると評価している。

  3. Hugging Face Blog28

    GPU管理:遊休GPUが新たな「地上待機の航空機」になる理由

    企業向けAIの次の制約は、モデル性能よりもGPUの稼働率になりつつある。GPUは稼働の有無にかかわらず時間単位で費用が発生するため、有用に使われない時間が収益性を大きく左右する。APIの費用は利用量に比例して増えるのに対し、自社GPUの費用はほぼ固定のため、一定量を超えると自社保有が有利になる。ただし、インフラはピーク需要に合わせて設計されるため、常時稼働していてもクラスター全体の能力は無駄になりやすい。

7月27日月
  1. Hugging Face Blog46

    NVIDIA、外科手術ロボット向けリアルタイム生成シミュレーター Cosmos-H-Dreams を発表

    NVIDIAは、外科手術ロボット向けのリアルタイム生成シミュレーター「Cosmos-H-Dreams」を発表した。Cosmos-H-Surgical-Simulatorを因果的な少ステップのstudentモデルに蒸留し、ストリーミング推論ライブラリFlashDreamsで提供する。単一のNVIDIA RTX PRO 6000 GPUで動作し、人間または学習済みポリシーが閉ループで操作できる。

7月24日金
  1. Claude Platform release notes73

    Anthropic、Claude Opus 5(claude-opus-5)を公開 1Mトークンのコンテキストウィンドウに対応

    Anthropicは Claude Opus 4.8 から大きく改善したとする Claude Opus 5(claude-opus-5)を公開した。1Mトークンのコンテキストウィンドウ、最大出力128kトークン、デフォルトで思考オンに対応し、価格は100万トークンあたり$5 / $25で Opus 4.8 と同じである。あわせて mid-conversation tool changes のベータ提供と、Claude Opus 4.7 の fast mode 廃止も発表された。

    選定理由:価格据え置きでの仕様と、思考無効化の400エラーなど移行時に確認すべき破壊的変更が同じ場所にまとまっており、移行判断の材料になる。

7月23日木
  1. Hugging Face Blog60

    Hugging Face、Diffusers本体でNunchaku Lite 4bit拡散モデル推論に対応

    Hugging FaceはDiffusersでNunchakuのSVDQuant(W4A4)チェックポイントを`from_pretrained()`で直接読み込めるようにした。ローカルでのCUDAコンパイルは不要で、kernelsパッケージ経由でカーネルを取得する。RTX PRO 6000での計測では、BF16比でピークVRAMを最大50%削減し、レイテンシを約30%改善した。

    選定理由:W4A4量子化がweight-onlyと何が違うかを説明し、速度とVRAMの実測値も併記しているため、手元のGPUでの導入可否を判断しやすい。

7月21日火
  1. Microsoft Source: AI40

    Microsoft、AMDと連携しAzureのAI・HPCインフラを拡充

    Microsoftは、AMDのHelios AIプラットフォームと次世代EPYCプロセッサをAzureに導入し、HDv2 VM、HXv2 VM、ND MI455X v7 VMの3種を提供予定と発表した。HDv2は6th Gen AMD EPYCの物理コア約500基と4テラバイトのRAMを備え、データ処理向け。HXv2は176コアで5GHz超、EDAやHPC向け、ND MI455X v7はAI推論向けである。

7月15日水
  1. Hugging Face Blog72

    Thinking Machines Lab、画像・音声・テキスト対応のオープンモデルInklingとInkling-Smallを公開

    Thinking Machines Labが、画像・テキスト・音声を入力できる約1Tパラメータのオープンモデル Inkling を Hugging Face で公開した。総パラメータ975B、アクティブ41BのMoEで、1Mコンテキストに対応する。276B総・12Bアクティブの Inkling-Small も追加され、Inference Endpoints でワンクリックでデプロイできる。

    選定理由:アーキテクチャの内訳、必要VRAM、各推論エンジンでの起動手順、ベンチマーク表が一つにまとまり、導入可否を判断する材料になる。