NVIDIA、フルスタック・コデザインでAIのメモリ課題に対処する方法
これまでの経緯
NVIDIAは、GPU・CPU・ネットワーキング・ストレージ・ソフトウェアを一体で設計するフルスタック・コデザインにより、AIファクトリーのメモリ圧力に対処する。Blackwell UltraからVera Rubinへの移行でGPUあたりのHBM容量は約3%増にとどまる一方、SemiAnalysis AgentXにおけるエージェント型スループット対ドルは最大30倍に向上したとしている。NVFP4によるモデルウェイトとKVキャッシュの削減、NVIDIA Dynamoによる非アクティブなコンテキストのNVIDIA CMXへの退避を組み合わせる。
NVIDIA Blogより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
- NVIDIA BlogNVIDIA、フルスタック・コデザインでAIのメモリ課題に対処する方法
NVIDIAは、GPU・CPU・ネットワーキング・ストレージ・ソフトウェアを一体で設計するフルスタック・コデザインにより、AIファクトリーのメモリ圧力に対処する。Blackwell UltraからVera Rubinへの移行でGPUあたりのHBM容量は約3%増にとどまる一方、SemiAnalysis AgentXにおけるエージェント型スループット対ドルは最大30倍に向上したとしている。NVFP4によるモデルウェイトとKVキャッシュの削減、NVIDIA Dynamoによる非アクティブなコンテキストのNVIDIA CMXへの退避を組み合わせる。
このニュースの注目度の推移
現在の注目度 8·比較可能なピーク 10（11月6日 02:00）·24時間の比較可能な増減 –
推移は、継続的かつ完全に観測できたアカウントのみを比較しているため、現在の注目度の数値より範囲が狭くなる場合があります。ポインターを動かすかグラフをタップすると、1時間ごとの注目度を確認できます。キーボードでは左右の矢印キーを使います。