本文へスキップ
注目のストーリー進行中

AWS Trainium上のTorchNeuronをプロファイリング(第1回):システムレベルの解析

1件の報道1件のソース1 時間前更新

これまでの経緯

報道より

AWS Trainium上のPyTorchバックエンドTorchNeuronで、torch.profilerとNeuronConfigを使ったシステムレベルのプロファイリング手法を解説する。RMSNormを題材に、素のPyTorch演算、torch.rms_norm()、torch.compileの3実装を同一条件で計測し、key_averages()の表とNeuron Explorerでデバイス時間を比較する。

Hugging Face Blogより

報道タイムライン

報道を追って、ストーリーのさまざまな側面を確認しましょう。

10月22日
  1. Hugging Face Blog
    AWS Trainium上のTorchNeuronをプロファイリング(第1回):システムレベルの解析

    AWS Trainium上のPyTorchバックエンドTorchNeuronで、torch.profilerとNeuronConfigを使ったシステムレベルのプロファイリング手法を解説する。RMSNormを題材に、素のPyTorch演算、torch.rms_norm()、torch.compileの3実装を同一条件で計測し、key_averages()の表とNeuron Explorerでデバイス時間を比較する。

このニュースの注目度の推移

推移を表示するための継続的な観測データがまだ足りません。