本文へスキップ

#デプロイ・インフラ

本日11件
10月16日金
  1. NVIDIA 日本版ブログ38

    NVIDIA Omniverse、フロンティアAIエージェントでシミュレーション開発を加速

    NVIDIAの開発者らが、GPT-6 Astraなどのフロンティア AIモデルとOmniverseライブラリを組み合わせ、自然言語の指示でシミュレーションアプリを構築する事例を紹介した。倉庫向けヒューマノイドシミュレーター、自動運転試験環境「Zero to Alpamayo」、Robo Olympics、国際宇宙ステーションのブラウザ再現などが挙がっている。ある実験では、ロボットが100回の試験のうち64回で単一の障害物をクリアした。

  2. Claude Blog47

    Anthropic日本チームのBDRが、Claude Managed Agentsで営業業務を回す方法

    Anthropic日本チームのBDRが、Claude上で作った営業業務用のエージェント群をClaude Managed Agents(ベータ)に移行し、リードの振り分けやCRM更新、メール下書きを毎朝の業務開始前に準備させていると紹介する。プロトタイプではスキル、スケジュールタスク、共有フォルダを使い、Managed Agentsではそれぞれをシステムプロンプト、デプロイのスケジュール、メモリストアに対応させた。指示の変更は新しいバージョンとして保存され、エージェントごとに番号付きの履歴が残る。

  3. NVIDIA28

    アイデアは、それを検証するための計算能力がなければ先へ進めない。 Wallenberg InvestmentsのMarcus Wallenberg、SpotifyのFredrik Eldsjål(@eldsjal)、Sferical AIのJenny Nordlöwとともに、JensenHuangがNVIDIA駆動の共有AIスーパーコンピューター「Sferical One」の始動を祝いました。 研究者や企業がアイデアをブレークスルーに変えられるよう、計算能力をさらに提供します。🇸🇪

  4. Perplexity50

    Perplexity Computerのすべてのタスクを実行するサンドボックス基盤SPACEをオープンソース化する。 SPACEは、エージェントの各タスクに専用のFirecracker microVMを割り当て、認証情報とアウトバウンド通信をVMの外側から制御する。 Apache 2.0で公開中:https://github.com/perplexityai/SPACE?tab=Apache-2.0-1-ov-file

10月15日木
  1. Latent Space27

    Modal、ARR 10億ドル・シリーズD 160億ドル評価でNY発のAIインフラ・デカコーンに

    AIインフラ企業のModalがシリーズDで評価額160億ドルに達し、ARRは10億ドルとなった。5カ月で利用量・評価額とも3倍、1年で15倍に伸びた。2023年に始めたSandboxesは単体で年間ランレート3億ドルの製品に成長し、累計約30億のサンドボックスを起動、同時実行は100万まで拡張できる。

  2. NVIDIA Blog42

    NVIDIA、欧州の科学コミュニティ向けにオープン学習資料・協業・計算資源の提供を拡大

    NVIDIAは、欧州委員会がダブリンで始めたAI in Science Enablers Initiativeに参加し、欧州の研究者向けにオープンモデル、学習資料、計算資源へのアクセスを拡大する。250以上のオープンモデルと250のオープンデータセットを公開しており、NVIDIA Deep Learning Instituteは無償のオープンソース教材ハブを開設した。欧州では35台のスーパーコンピューターが開発中で、300万人超の研究者が利用できるようになる。

  3. AWS ブログ(日本語・生成AI)36

    AWS Continuumでデプロイごとにペネトレーションテストを実行する方法

    AWS Continuum for penetration testing(旧称 AWS Security Agent)をCI/CDパイプラインのデプロイ後ゲートに組み込み、直前の変更に限定したペネトレーションテストを毎回実行できる。検出結果が指定したしきい値以上なら本番環境への昇格をブロックし、認証にはOIDCを用いる。GitHub Actions、GitLab CI/CD、Bitbucket Pipelines、Azure DevOps Pipelinesに適用でき、記事ではGitHub Actionsの具体例を示している。

  4. NVIDIA Blog40

    NVIDIAと北欧、地域ぐるみで進める先端コンピューティングの取り組み

    北欧ではNVIDIAのインフラとNemotronオープンモデルを軸に、AIの実用化が進んでいる。スウェーデンではEricsson、AstraZeneca、Saabなどのコンソーシアムが、DGX GB300システム16ラックと1,152基のGPUを備える共有スーパーコンピューターSferical Oneを立ち上げた。AIクラウドの容量は2027年末までに地域全体で1ギガワットが見込まれている。

  5. NVIDIA 日本版ブログ62

    NVIDIAとMicrosoft、RTX SparkとMXCでWindows PCのAIエージェント対応を発表

    NVIDIAとMicrosoftは10月7日のイベントで、WindowsでAIエージェントを動かすためのハードウェアとソフトウェアを説明した。RTX Sparkノート PCは予約受付中で10月16日に発売され、コンパクトデスクトップは11月に発売予定である。MicrosoftはエージェントをOS管理下で実行するインフラMicrosoft Execution Containers(MXC)の一般提供も発表した。

    選定理由:RTX Sparkの構成や発売時期に加え、MXCによるエージェント実行基盤とDGX Station for Windowsの位置づけまで一度に整理されており、ローカルAI環境の選択肢を比べやすい。

  6. Apple Machine Learning Research50

    MLXとRDMAで、Mac Studio上の大規模LLMをローカル・分散推論

    Apple Machine Learning Researchは、MLXとRDMA over Thunderboltを用いてMac Studio4台で、816BパラメータのMuse Spark Openを毎秒36トークン超で生成できることを示した。M5 UltraはM3 Ultra比でTTFTが最大4.6倍、トークン生成速度が1.6倍速い。Qwen 3.8 27BとMistral Medium 3.5 128Bは、512GBのMac Studio単体で動作する。

  7. AWS Machine Learning Blog40

    Amazon Bedrock AgentCoreで自己改善型のドキュメント処理を構築する方法

    Amazon Bedrock AgentCoreとStrands Agentsを使い、帳票の分類、抽出、検証、学習を最小限の人手で行うエージェント型IDPシステムの構築方法を解説している。8つの専門エージェントが識別、学習、自動化の2つのグラフ型ワークフローで連携し、新しい文書形式は抽出指示を生成して再利用する。多くの場合20分未満でデプロイでき、手動のテンプレート設定は不要である。

10月14日水
  1. AWS Machine Learning Blog38

    Amazon Bedrock AgentCoreでプレゼン資料を自動生成する

    Amazon Bedrock AgentCoreのruntime上にStrands Agentsフレームワークでスーパーバイザーエージェントを構築し、社内文書からPowerPoint資料を生成する仕組みを解説している。社内テストでは90秒未満で完了したという。コンテンツ生成にはClaude Sonnet 4.6、ベクトル検索にはAmazon Titan Text Embeddings v2、スライド画像にはStability AI Stable Image Inpaintを使い、コードは公開リポジトリで提供される。

  2. AWS Machine Learning Blog33

    TamnoonがAmazon Bedrockでエージェント型クラウドセキュリティ修復「Tami」を構築した方法

    Tamnoonは、Amazon Bedrock上でエージェント型のクラウド修復オーケストレーター「Tami」を構築した。CNAPPなどの検出結果を自律的に調査して修復の安全性を評価し、ガードレール付きで修正を生成する。この手法で、90日間で重大なクラウド露出を90%超削減し、本番環境の問題はゼロだった。

  3. AWS Machine Learning Blog31

    Amazon SageMaker JumpStartでモデルをデプロイし評価する方法

    Amazon SageMaker JumpStartのモデルをデプロイし、SageMaker Python SDKで軽量かつ再現可能な性能テストを実行し、終了後にエンドポイントを削除する手順を解説している。スクリプトはモデルの探索とデプロイ、レイテンシや出力量、単一リクエストの生成速度の測定、クリーンアップの3段階で構成される。多くの互換モデルで使えるが、ペイロード形式、インスタンスタイプ、EULA、レスポンス解析はモデルごとの調整が必要になる場合がある。

  4. NVIDIA Blog32

    欧州の都市がNVIDIA基盤のAIエージェントを導入、都市運営を高度化

    EMEA地域の都市とソフトウェアパートナーが、NVIDIAのアクセラレーテッドコンピューティングで物理AIエージェントとデジタルツインを構築し、都市運営に活用している。フランスのCôte-d’Or県では500以上の公共建築物でエージェントが稼働し、文書検索時間を数週間から数分に短縮、総運用コストを10%削減した。Cosmos、Nemotron、Omniverseなどを使い、プロジェクトは英国、イタリア、ベルギー、スウェーデンなどに広がる。

  5. NVIDIA 日本版ブログ31

    NVIDIAとCisco、AIファクトリー向け新プラガブル光モジュール「USFP」を発表

    NVIDIAとCiscoは、1レーンあたり400Gb/秒の高密度プラガブル光モジュール「Ultra-Dense Small Form Factor Pluggable(USFP)」の計画を発表した。OSFPと同等の設置面積に16の全二重レーンを搭載し、合計12.8Tb/秒の容量を実現できる。200Gb/秒のモジュールと比べて帯域幅密度は4倍、電力効率は約1.3倍で、TE ConnectivityおよびAmphenolと協力してエコシステムを構築し、オープンな業界仕様の策定も予定している。

  6. LINEヤフー Tech Blog35

    プライベートクラウドFlavaにおけるVM Live Migration通信暗号化の実装と検証(インターンレポート)

    LINEヤフーのプライベートクラウドFlavaで、OpenStackのVM Live Migration通信をTLSで暗号化するため、Keystoneトークンで認証するCAを実装した。100GiBの大きなVMでの失敗はGnuTLSのTLS v1.3鍵更新のバグが原因で、パッチ適用後に成功した。TLS有効化で速度低下はディスク平均25.9%、メモリ78.9%だった。

  7. Claude Blog55

    Claude Platform、Managed AgentsやMessages APIなどからOpenTelemetryトレースを送信可能に

    AnthropicはClaude Platform上のClaude Managed Agents、Messages API、Claude SDKsからOpenTelemetry(OTel)トレースを任意のOTelツールへ送信できるようにした。パブリックベータで、Managed AgentsとMessages APIはClaude Consoleで送信先の追加が必要であり、Claude SDKsは自動でエクスポートする。

  8. Hugging Face Daily Papers38

    BizBench:実業務で長期間エージェントを運用する際の隠れた課題を検証するベンチマーク

    BizBenchは、決済企業の実業務手順に基づき、長期間タスクを実行するエージェントの途中経過の実行妥当性を評価するマルチターン型ベンチマークである。フロンティアモデルでも目標の部分的な達成に比べて制約違反が多く、Claude Opus 5とGPT-6 Solの厳密な成功率はそれぞれ64.0%、61.3%にとどまる。Qwen3.8-27Bは目標達成率が42.0%だが厳密な成功率は32.7%に下がり、結果のみの評価では無効な実行が見えなくなることを示している。

  9. Anthropic47

    Engineering blogに新着:社内向けソース管理の構築 5月には1日あたり約2,500件のコード変更をマージしていました。9月には1日3万件以上をマージしています。その結果、エージェントではなく人間の規模を前提に作られた開発者向けインフラがボトルネックになりました。 ここでは、新しいバージョン管理システムを構築し、5か月でモノレポをgitから完全に移行した経緯を紹介します。 https://www.anthropic.com/engineering/redesigning-source-control

  10. AWS Machine Learning Blog33

    ShipStation Global、Amazon Bedrock AgentCoreでAI ITヘルプデスクを構築した方法

    ShipStation Globalは、Amazon Bedrock AgentCore上にSlack向けAI ITヘルプデスクエージェント「Deckhand」を構築し、チャンネルに届く問い合わせの97.5%を解決した。従業員による肯定的な評価は96%である。Deckhandは、ナレッジベースからの定型的なIT・社内質問への回答、エラーメッセージのスクリーンショットの読み取り、Jira Service Managementのチケットの作成・更新を行う。

  11. AWS Machine Learning Blog38

    Amazon Bedrock で Grok 4.7 を使い長期タスク型エージェントを構築

    AWSは、Amazon Bedrock上のGrok 4.7でツール呼び出しエージェントを構築し、推論の努力レベルごとに検索型タスクで評価した。3つのタスク計72回の実行で67回正解し、xhighは18回すべて正解、lowは18回中15回正解で出力トークンは約8分の1だった。Grok 4.7はクロスリージョン推論プロファイル経由で利用でき、SpaceXAI公表のコンテキストウィンドウは500Kトークンである。

10月13日火
  1. Mistral AI35

    上を見上げよう!Mistralのモデルが軌道上に🌍。 @NVIDIAAIInfra とともに、@orbitworksspace と @LoftOrbital による世界初のAI衛星コンステレーションに参加できることを誇りに思う。

    引用元Loft@LoftOrbital

    Just a few weeks ago, @orbitworksspace launched Altair, the first of a 50-satellite AI constellation that will enable users to receive AI-generated alerts within minutes. @NVIDIAAIInfra solutions is making this possible, supporting models like Mistral’s Ministral 3 to deliver fast, reliable answers for users' critical questions. Read more: https://lnkd.in/gGYA9hpD #SpaceMadeSimple #AIInfrastructure #AIforSpace

  2. NVIDIA 日本版ブログ42

    NVIDIA DGX Spark 64GB、10月23日に発売 4,999ドルから

    64GBの統合メモリを搭載したNVIDIA DGX Sparkが、10月23日(金)にAcer、ASUS、Dell、Gigabyte、HP、MSIから発売される。価格は4,999ドルからで、最大1,000億パラメーターのモデルをデバイス上で実行できる。2台をNVIDIA Sync Cluster Assistantでクラスタリングすると、NVIDIA社のQwen 3.8 27Bテストで単一システム比最大1.7倍の性能を示した。

  3. CyberAgent Developers Blog38

    Macに入れるならどっち?oMLXとTensorFoldの違いを比較

    Mac(M4 Max・64 GiB)でNemotron 3.5 Lightning(MLX 4-bit)を使い、推論サーバーのoMLX 0.7.0とTensorFold 0.6.4を比較した。短い入力8件同時ではTensorFoldが183.4 tok/sで、oMLXの157.6 tok/sより約1.16倍高速だった。ただしoMLXも並行して生成しており、MTPによる下書き採用は全体の1.07%にとどまるため、MTP単独では速度差を説明できない。

  4. AWS ブログ(日本語・生成AI)23

    AWS、コンプライアンスガイド「ISO/IEC 42001:2023 on AWS」を公開 AIマネジメントシステムの設計と運用を支援

    AWSは、AWSサービスでAIマネジメントシステム(AIMS)を設計、運用する組織向けに、コンプライアンスガイド「ISO/IEC 42001:2023 on AWS」を公開した。ISO 42001:2023の箇条4~10と附属書Aの管理策(A.2~A.10)をAWSサービスにマッピングし、エビデンス収集や文書化、監査準備の推奨事項も示す。AIMSの適用範囲の定義や管理策の実装、認証審査での適合性の実証は、引き続きお客様の責任となる。

  5. Latent Space60

    AnthropicのDynamic WorkflowsがClaudeエージェントを調整する仕組み

    AnthropicはAI Engineer NYCで、Claude Managed Agentsの新機能dynamic workflows(フロー)を解説した。Claude自身がマルチエージェントの構成を決め、オーケストレーション用プログラムを書いて実行する。従来の調整役とサブエージェント一覧の手動設定とは異なり、利用はClaude Consoleから行う。

  6. AWS Machine Learning Blog50

    Amazon BedrockでOpenAI GPT-6を グローバルクロスリージョン推論により利用する方法

    Amazon Bedrockは、シンガポール、ジャカルタ(インドネシア)、マレーシア、タイ、台北(台湾)の各リージョンから、GPT-6 SolとGPT-6 Lunaをグローバルクロスリージョン推論で利用できる。GPT-6 Astraはシンガポールから利用できる。

  7. Simon Willison30

    Python 3.15でweb-editをプロファイリング、フレームグラフとソースヒートマップで分析

    編集負荷の高い作業をPython 3.15の組み込みプロファイラprofiling.samplingで計測したところ、混在した行末の保持処理preserve_endingsが15,296件のCPUスタックのうち64.8%に現れ、大きな割合を占めた。リーフサンプルではSequenceMatcher.find_longest_matchが38.3%を占めた。スタックの95.1%はAnyIOのワーカースレッドから発生しており、全スレッドをサンプリングすることが不可欠だった。メインスレッドのみのプロファイルでは見落とされていたという。

  8. AWS Machine Learning Blog32

    llama.cpp で意思決定モデルを Amazon SageMaker AI にデプロイする

    llama.cpp の AWS DLC と SemIf 用の子イメージを使い、宣言された選択肢ごとの確率を返す意思決定モデルを SageMaker AI にデプロイする方法を示す。JevBench の 231 タスクでの検証では、Qwen3.5-4B(Q4_K_M)の正答率は CPU 構成が 77.5%、GPU 構成が 77.9% だった。p50 レイテンシは GPU 構成の 0.352 秒が CPU 構成の 1.715 秒より 4.9 倍速い。

  9. AWS Machine Learning Blog42

    Ray LLM Deep Learning Containersでマルチノード推論を実行する

    AWSは、Amazon EKS上の2つのGPUノードに1つの大規模言語モデルを配備し、prefillとdecodeを別ノードに分けてOpenAI互換エンドポイントの背後で動かす方法を解説している。prefillを担うノードが長いプロンプトを処理し、decodeを担うノードがトークン生成を行うことで、計算負荷の高いprefillがトークン生成を滞らせるのを防ぐ。

  10. NVIDIA Blog35

    NVIDIA、OCP Global SummitでVera Rubinアーキテクチャを公開 AIファクトリー拡大を後押し

    NVIDIAは、OCP Global SummitでVera Rubinのラックとコンピュートトレイの設計を、オープンなNVIDIA MGXアーキテクチャを通じてOCPに寄贈した。MGX 1.2仕様は、液冷の5,000A busbarや19インチ機器への対応を加え、ラック展開を最大250kWまでサポートする。あわせて、DSX AI Factory向けのConfig ManagerやCluster Readiness Engineなどのオープンソースコンポーネントも公開された。

  11. ソフトバンク ニュース(AI)53

    SB Intuitions、国産生成AI「Sarashinaサービス」の無償ベータ版を提供開始

    SB Intuitions株式会社は、国産生成AI「Sarashina」を利用できる「Sarashinaサービス」の無償ベータ版を2026年10月13日に提供開始した。Sarashina3 mini、nano、embedding、rerank、guard、translateの6つのモデルを使えるAPI機能と、対話や翻訳を試せるチャット機能を一般公開する。Googleアカウントでのソーシャルログインに対応し、事前申し込みなしで無料で利用できる。

10月12日月
  1. Microsoft Source: AI27

    Microsoft、独自設計チップ「Maia 300」を発表

    Microsoftが最新のカスタムチップ「Maia 300」を発表した。Azure Maia 300 Systemとして、チップからサーバー、ラックまでを含むシステムで提供される。Scott Guthrie、Rani Borkar、Mustafa Suleymanらが、効率的な推論に向けたシステム設計やチップとモデルの協調設計、Microsoft 365でのAI体験への活用について語っている。

10月10日土
  1. Latent Space35

    Standard Botsに学ぶ、産業用ロボットで信頼性の高いAIを構築する教訓

    Standard Botsは、顧客がデモとファインチューニングで適応させる共有ベースモデルを軸に、産業用ロボットアームのAIを構築している。学習はクラウドで行い、推論は工場内でローカル実行する設計で、通信が不安定な現場でも稼働を保つことを重視しているという。部品の認識はゼロショットの知覚モデルが担い、動作制御や工程ロジックは従来のプログラミングで実装しており、最大のモデルは数十億パラメータ規模だとしている。

10月9日金
  1. Turing 技術ブログ(Zenn)36

    Slurm運用に慣れたTuringが、AWSのマネージドSlurm(SageMaker HyperPod)運用でつまずいた6つのこと

    TuringのインフラチームがAmazon SageMaker HyperPodのSlurm運用で困った6件を、対処と確認結果とともに整理した。Custom AMIの初期設定省略、インスタンス追加の失敗、slurm.confの書き戻し、プロセス残存、OOMなどを扱う。対象は2026年5月から10月の同社構成での事例で、HyperPod全般の挙動とは区別している。