本文へスキップ

#デプロイ・インフラ

本日6件
10月14日水
  1. AWS Machine Learning Blog38

    Amazon Bedrock AgentCoreでプレゼン資料を自動生成する

    Amazon Bedrock AgentCoreのruntime上にStrands Agentsフレームワークでスーパーバイザーエージェントを構築し、社内文書からPowerPoint資料を生成する仕組みを解説している。社内テストでは90秒未満で完了したという。コンテンツ生成にはClaude Sonnet 4.6、ベクトル検索にはAmazon Titan Text Embeddings v2、スライド画像にはStability AI Stable Image Inpaintを使い、コードは公開リポジトリで提供される。

  2. AWS Machine Learning Blog33

    TamnoonがAmazon Bedrockでエージェント型クラウドセキュリティ修復「Tami」を構築した方法

    Tamnoonは、Amazon Bedrock上でエージェント型のクラウド修復オーケストレーター「Tami」を構築した。CNAPPなどの検出結果を自律的に調査して修復の安全性を評価し、ガードレール付きで修正を生成する。この手法で、90日間で重大なクラウド露出を90%超削減し、本番環境の問題はゼロだった。

  3. AWS Machine Learning Blog31

    Amazon SageMaker JumpStartでモデルをデプロイし評価する方法

    Amazon SageMaker JumpStartのモデルをデプロイし、SageMaker Python SDKで軽量かつ再現可能な性能テストを実行し、終了後にエンドポイントを削除する手順を解説している。スクリプトはモデルの探索とデプロイ、レイテンシや出力量、単一リクエストの生成速度の測定、クリーンアップの3段階で構成される。多くの互換モデルで使えるが、ペイロード形式、インスタンスタイプ、EULA、レスポンス解析はモデルごとの調整が必要になる場合がある。

  4. NVIDIA Blog32

    欧州の都市がNVIDIA基盤のAIエージェントを導入、都市運営を高度化

    EMEA地域の都市とソフトウェアパートナーが、NVIDIAのアクセラレーテッドコンピューティングで物理AIエージェントとデジタルツインを構築し、都市運営に活用している。フランスのCôte-d’Or県では500以上の公共建築物でエージェントが稼働し、文書検索時間を数週間から数分に短縮、総運用コストを10%削減した。Cosmos、Nemotron、Omniverseなどを使い、プロジェクトは英国、イタリア、ベルギー、スウェーデンなどに広がる。

  5. NVIDIA 日本版ブログ31

    NVIDIAとCisco、AIファクトリー向け新プラガブル光モジュール「USFP」を発表

    NVIDIAとCiscoは、1レーンあたり400Gb/秒の高密度プラガブル光モジュール「Ultra-Dense Small Form Factor Pluggable(USFP)」の計画を発表した。OSFPと同等の設置面積に16の全二重レーンを搭載し、合計12.8Tb/秒の容量を実現できる。200Gb/秒のモジュールと比べて帯域幅密度は4倍、電力効率は約1.3倍で、TE ConnectivityおよびAmphenolと協力してエコシステムを構築し、オープンな業界仕様の策定も予定している。

  6. LINEヤフー Tech Blog35

    プライベートクラウドFlavaにおけるVM Live Migration通信暗号化の実装と検証(インターンレポート)

    LINEヤフーのプライベートクラウドFlavaで、OpenStackのVM Live Migration通信をTLSで暗号化するため、Keystoneトークンで認証するCAを実装した。100GiBの大きなVMでの失敗はGnuTLSのTLS v1.3鍵更新のバグが原因で、パッチ適用後に成功した。TLS有効化で速度低下はディスク平均25.9%、メモリ78.9%だった。

  7. Claude Blog55

    Claude Platform、Managed AgentsやMessages APIなどからOpenTelemetryトレースを送信可能に

    AnthropicはClaude Platform上のClaude Managed Agents、Messages API、Claude SDKsからOpenTelemetry(OTel)トレースを任意のOTelツールへ送信できるようにした。パブリックベータで、Managed AgentsとMessages APIはClaude Consoleで送信先の追加が必要であり、Claude SDKsは自動でエクスポートする。

  8. Anthropic47

    Engineering blogに新着:社内向けソース管理の構築 5月には1日あたり約2,500件のコード変更をマージしていました。9月には1日3万件以上をマージしています。その結果、エージェントではなく人間の規模を前提に作られた開発者向けインフラがボトルネックになりました。 ここでは、新しいバージョン管理システムを構築し、5か月でモノレポをgitから完全に移行した経緯を紹介します。 https://www.anthropic.com/engineering/redesigning-source-control

  9. AWS Machine Learning Blog33

    ShipStation Global、Amazon Bedrock AgentCoreでAI ITヘルプデスクを構築した方法

    ShipStation Globalは、Amazon Bedrock AgentCore上にSlack向けAI ITヘルプデスクエージェント「Deckhand」を構築し、チャンネルに届く問い合わせの97.5%を解決した。従業員による肯定的な評価は96%である。Deckhandは、ナレッジベースからの定型的なIT・社内質問への回答、エラーメッセージのスクリーンショットの読み取り、Jira Service Managementのチケットの作成・更新を行う。

  10. AWS Machine Learning Blog38

    Amazon Bedrock で Grok 4.7 を使い長期タスク型エージェントを構築

    AWSは、Amazon Bedrock上のGrok 4.7でツール呼び出しエージェントを構築し、推論の努力レベルごとに検索型タスクで評価した。3つのタスク計72回の実行で67回正解し、xhighは18回すべて正解、lowは18回中15回正解で出力トークンは約8分の1だった。Grok 4.7はクロスリージョン推論プロファイル経由で利用でき、SpaceXAI公表のコンテキストウィンドウは500Kトークンである。

10月13日火
  1. Mistral AI35

    上を見上げよう!Mistralのモデルが軌道上に🌍。 @NVIDIAAIInfra とともに、@orbitworksspace と @LoftOrbital による世界初のAI衛星コンステレーションに参加できることを誇りに思う。

    引用元Loft@LoftOrbital

    Just a few weeks ago, @orbitworksspace launched Altair, the first of a 50-satellite AI constellation that will enable users to receive AI-generated alerts within minutes. @NVIDIAAIInfra solutions is making this possible, supporting models like Mistral’s Ministral 3 to deliver fast, reliable answers for users' critical questions. Read more: https://lnkd.in/gGYA9hpD #SpaceMadeSimple #AIInfrastructure #AIforSpace

  2. NVIDIA 日本版ブログ42

    NVIDIA DGX Spark 64GB、10月23日に発売 4,999ドルから

    64GBの統合メモリを搭載したNVIDIA DGX Sparkが、10月23日(金)にAcer、ASUS、Dell、Gigabyte、HP、MSIから発売される。価格は4,999ドルからで、最大1,000億パラメーターのモデルをデバイス上で実行できる。2台をNVIDIA Sync Cluster Assistantでクラスタリングすると、NVIDIA社のQwen 3.8 27Bテストで単一システム比最大1.7倍の性能を示した。

  3. CyberAgent Developers Blog38

    Macに入れるならどっち?oMLXとTensorFoldの違いを比較

    Mac(M4 Max・64 GiB)でNemotron 3.5 Lightning(MLX 4-bit)を使い、推論サーバーのoMLX 0.7.0とTensorFold 0.6.4を比較した。短い入力8件同時ではTensorFoldが183.4 tok/sで、oMLXの157.6 tok/sより約1.16倍高速だった。ただしoMLXも並行して生成しており、MTPによる下書き採用は全体の1.07%にとどまるため、MTP単独では速度差を説明できない。

  4. AWS ブログ(日本語・生成AI)23

    AWS、コンプライアンスガイド「ISO/IEC 42001:2023 on AWS」を公開 AIマネジメントシステムの設計と運用を支援

    AWSは、AWSサービスでAIマネジメントシステム(AIMS)を設計、運用する組織向けに、コンプライアンスガイド「ISO/IEC 42001:2023 on AWS」を公開した。ISO 42001:2023の箇条4~10と附属書Aの管理策(A.2~A.10)をAWSサービスにマッピングし、エビデンス収集や文書化、監査準備の推奨事項も示す。AIMSの適用範囲の定義や管理策の実装、認証審査での適合性の実証は、引き続きお客様の責任となる。

  5. AWS Machine Learning Blog50

    Amazon BedrockでOpenAI GPT-6を グローバルクロスリージョン推論により利用する方法

    Amazon Bedrockは、シンガポール、ジャカルタ(インドネシア)、マレーシア、タイ、台北(台湾)の各リージョンから、GPT-6 SolとGPT-6 Lunaをグローバルクロスリージョン推論で利用できる。GPT-6 Astraはシンガポールから利用できる。

  6. AWS Machine Learning Blog32

    llama.cpp で意思決定モデルを Amazon SageMaker AI にデプロイする

    llama.cpp の AWS DLC と SemIf 用の子イメージを使い、宣言された選択肢ごとの確率を返す意思決定モデルを SageMaker AI にデプロイする方法を示す。JevBench の 231 タスクでの検証では、Qwen3.5-4B(Q4_K_M)の正答率は CPU 構成が 77.5%、GPU 構成が 77.9% だった。p50 レイテンシは GPU 構成の 0.352 秒が CPU 構成の 1.715 秒より 4.9 倍速い。

  7. AWS Machine Learning Blog42

    Ray LLM Deep Learning Containersでマルチノード推論を実行する

    AWSは、Amazon EKS上の2つのGPUノードに1つの大規模言語モデルを配備し、prefillとdecodeを別ノードに分けてOpenAI互換エンドポイントの背後で動かす方法を解説している。prefillを担うノードが長いプロンプトを処理し、decodeを担うノードがトークン生成を行うことで、計算負荷の高いprefillがトークン生成を滞らせるのを防ぐ。

  8. NVIDIA Blog35

    NVIDIA、OCP Global SummitでVera Rubinアーキテクチャを公開 AIファクトリー拡大を後押し

    NVIDIAは、OCP Global SummitでVera Rubinのラックとコンピュートトレイの設計を、オープンなNVIDIA MGXアーキテクチャを通じてOCPに寄贈した。MGX 1.2仕様は、液冷の5,000A busbarや19インチ機器への対応を加え、ラック展開を最大250kWまでサポートする。あわせて、DSX AI Factory向けのConfig ManagerやCluster Readiness Engineなどのオープンソースコンポーネントも公開された。

  9. ソフトバンク ニュース(AI)53

    SB Intuitions、国産生成AI「Sarashinaサービス」の無償ベータ版を提供開始

    SB Intuitions株式会社は、国産生成AI「Sarashina」を利用できる「Sarashinaサービス」の無償ベータ版を2026年10月13日に提供開始した。Sarashina3 mini、nano、embedding、rerank、guard、translateの6つのモデルを使えるAPI機能と、対話や翻訳を試せるチャット機能を一般公開する。Googleアカウントでのソーシャルログインに対応し、事前申し込みなしで無料で利用できる。

10月12日月
  1. Microsoft Source: AI27

    Microsoft、独自設計チップ「Maia 300」を発表

    Microsoftが最新のカスタムチップ「Maia 300」を発表した。Azure Maia 300 Systemとして、チップからサーバー、ラックまでを含むシステムで提供される。Scott Guthrie、Rani Borkar、Mustafa Suleymanらが、効率的な推論に向けたシステム設計やチップとモデルの協調設計、Microsoft 365でのAI体験への活用について語っている。

10月9日金
  1. Turing 技術ブログ(Zenn)36

    Slurm運用に慣れたTuringが、AWSのマネージドSlurm(SageMaker HyperPod)運用でつまずいた6つのこと

    TuringのインフラチームがAmazon SageMaker HyperPodのSlurm運用で困った6件を、対処と確認結果とともに整理した。Custom AMIの初期設定省略、インスタンス追加の失敗、slurm.confの書き戻し、プロセス残存、OOMなどを扱う。対象は2026年5月から10月の同社構成での事例で、HyperPod全般の挙動とは区別している。

  2. OpenAI News43

    Asana、GPT-6.1 Solのブラウザテストでモデルコストを76x削減

    Asanaは、Codex上のGPT-6 Astraを使ってブラウザエージェントのワークフローを最適化し、テストでGPT-6.1 Solの本番構成より76x安く、5x速く実行できるようにした。144回の検証で、最適化後のワークフローの推定モデルコストは1回平均0.47ドル、実行時間は約4分だった。GPT-6 Astraは、エージェントが増え続ける履歴を未キャッシュのまま毎回全額で再送信していたことを特定した。

  3. AWS ブログ(日本語・生成AI)35

    AI を活用した脆弱性検出ハーネスの構築方法(パート1):3層パイプラインで検出結果を絞り込む

    脆弱性スキャナーの未加工の検出結果を、悪用可能性の証拠が文書化された優先順位付きの少数の結果に絞り込む3層パイプラインの構築方法を、AWS Blogの翻訳記事が解説している。第1層は複数スキャナー間の一致、第2層はASTによる構造検証、第3層はIaCテンプレートを用いたデプロイコンテキストの評価である。コード修正や人によるレビューの代替はできないことも明記されている。

  4. AWS Machine Learning Blog45

    BlockRunとIncarnaはAmazon Bedrock AgentCore paymentsでAIエージェントの推論ごと課金をどう実現したか

    Incarnaは、Amazon Bedrock AgentCore paymentsを使い、エージェントがBlockRunのモデル推論をリクエストごとに支払う仕組みを本番環境に導入した。BlockRunはx402経由で15以上のプロバイダーの90以上のモデルを提供する従量課金型の推論ルーターである。支払いはBaseネットワーク上のUSDCで決済され、支出上限はモデルではなくインフラ層で強制される。

10月8日木
  1. NVIDIA Blog51

    NVIDIAとMicrosoft、WindowsでAIエージェントを動かすRTX Sparkなどを発表

    NVIDIAとMicrosoftは、サンフランシスコで開かれたイベントで、WindowsでAIエージェントを動かすためのハードウェアとソフトウェアの共同開発を発表した。RTX Sparkを搭載したノートPCは予約受付を開始し、10月16日(金)に発売される。小型デスクトップは11月に発売予定である。

10月7日水
  1. ソフトバンク ニュース(AI)38

    ソフトバンクなど12者、通信・電力・計算資源を統合制御する広域ワークロードシフトの社会実証を開始

    ソフトバンク、KDDI、富士通、東京電力パワーグリッドなど12者のコンソーシアムが、2026年8月から広域ワークロードシフト(WLS)の共同実証を開始した。国内の分散データセンター間で計算処理を動的に移動させる「バーチャルハイパースケーラー」の実現を目指す。実証期間は2027年2月までで、総務省の令和8年度「ワット・ビット連携関連実証」に採択された。

  2. NVIDIA 日本版ブログ42

    NVIDIA、エージェント型ロボティクス開発を支援するIsaac ROS 5.0をリリース

    NVIDIAはROSConで、ROSベースのGPUアクセラレーテッドパッケージ集であるIsaac ROS 5.0を発表した。ROS LyricalとUbuntu 24.04に対応し、AIエージェント向けのIsaacスキルやエージェント対応ドキュメントを加えた。FoundationPoseの推論ライブラリは物体の認識と追跡が最大5.5倍高速になり、Isaac ROS 5.0は無料のオープンソースで利用できる。

  3. Claude Platform release notes44

    Claude Platform リリースノート(2026年10月7日)

    Anthropicは、Claude Platformのリリースノートで、高ボリューム・低遅延向けモデルのClaude Haiku 5.5(claude-haiku-5-5)を公開した。1Mトークンのコンテキストウィンドウと128kトークンの最大出力に対応し、Claude APIなどで利用できる。同時に、Claude Sonnet 5.5のプロンプトキャッシュ読み取り価格を100万トークンあたり0.20ドルから0.10ドルに引き下げた。

10月6日火
10月5日月
  1. NVIDIA Blog27

    NVIDIA Inception企業、AIで乳がん診療の検査から治療計画までの空白を埋める

    NVIDIA Inceptionの新興企業が、乳がん診療の検査から治療予測までの各段階をAIで支援している。iSono Healthのウェアラブル型3D超音波システムATUSAは、片側約2分で撮像でき、同社によれば手持ち型2D超音波より28%感度が高いとされ、米国の提携クリニックで商用提供されている。Ataraxis AIは、通常の病理スライドなどのデジタルデータから治療反応と再発リスクを予測するAIを開発している。

  2. Turing 技術ブログ(Zenn)42

    Turing、S3直接読み出しと先読み設計でPB級データの大規模GPU学習を高速化

    Turingのmlopsチームは、学習時にS3から動画データを直接読む構成へ移行し、学習データ量をクラスタのストレージ容量から切り離した。計測では20ノードで約483 GB/sの帯域が出た一方、S3のレイテンシ中央値は約140 msで、先のバッチをRange GETで先読みしてCPUメモリに貯め、この待ち時間を隠した。これによりステージングの待ち時間と容量の上限なしで、S3上のデータをそのまま学習に使えるようになった。

  3. ストックマーク ニュース23

    東京電力HDの原子力部門に申請書作成支援システムのPoC環境を導入

    CTC、東京電力HD、ストックマークの3社は、生成AIとRAGを活用した「原子力申請書作成支援システム」のPoC環境を東京電力HDの原子力部門に導入した。2026年10月から、申請書の作成・確認業務での有効性評価を始める。ストックマークのデータ構造化プラットフォーム「SAT」を基盤にオンプレミス環境で構築し、記載漏れや不整合の確認を支援する。最終判断は人が行う。

  4. Claude Platform release notes62

    Claude Platformリリースノート、Claude Haiku 5.5追加やOpenTelemetry出力ベータなどを掲載

    AnthropicのClaude Platformリリースノートが更新され、10月7日にClaude Haiku 5.5(claude-haiku-5-5)が公開された。1Mトークンのコンテキストウィンドウと128kの最大出力トークンを備える。10月14日にはOpenTelemetry出力がベータで加わり、Claude Sonnet 5.5ではキャッシュ読み取り価格が$0.10/百万トークンに下がった。

    選定理由:モデル追加、価格改定、破壊的変更、Managed Agentsの新機能が日付順にまとまっており、移行時に確認すべき変更点を追いやすい。

10月2日金
  1. NVIDIA Blog40

    NVIDIA、DGX Spark 64GB構成を提供開始 ローカルAIの構築と拡張を後押し

    NVIDIAのDGX Spark 64GB構成が、Acer、ASUS、Dell、Gigabyte、HP、MSIから10月23日に提供され、価格は4,999ドルから。128GB版と同じGB10 Grace Blackwell Superchipを搭載し、最大1000億パラメータのモデルを機器上で実行できる。2台をクラスタ化するとメモリは128GBに拡張され、最大2000億パラメータに対応する。

  2. NVIDIA 日本版ブログ42

    フィジカル AI がハンドルを握る: 世界の主要ロボタクシー企業がNVIDIAテクノロジを活用

    NVIDIAは、商業規模で展開されている主要なロボタクシープログラムがすべて同社のモジュール式スタック上で動いていると説明している。スタックはDGXでのトレーニング、Omniverse・Cosmosでのシミュレーション、Hyperion・DRIVE AGX Thorでの車載処理の3コンピューターで構成される。Uberは2028年までに28都市へNVIDIA Hyperionのフリートを展開する計画である。

  3. NVIDIA 日本版ブログ29

    NVIDIA Vera Rubin NVL72、初登場のMLPerf Inference v6.1で業界トップクラスの性能

    NVIDIAはMLPerf Inference v6.1にVera Rubin NVL72のプレビュー結果を初提出し、Qwen3-VLでGB300 NVL72比最大3.7倍、DeepSeek-R1で最大2.5倍のスループットを記録した。GB300 NVL72は1ラックから4ラック(GPU 288基)への拡張で99%のスケーリング効率を達成し、ソフトウェア最適化でv6.0比最大1.6倍に向上した。