注目のストーリー進行中
TorchNeuron、Trainium上でHFモデル実行を簡素化
1件の報道1件のソース22 時間前更新
これまでの経緯
報道より
TorchNeuronは、AWS Trainium向けの新しいネイティブバックエンドを提供するPyTorchプラグインで、Transformers、Diffusers、Kernelsがこれをネイティブにサポートする。Transformersのテキスト生成では、使用頻度の高いテキスト生成モデルアーキテクチャ上位100件のうち89%がそのまま動作し、Optimum Neuron v0.4.5の46%から拡大した。
Hugging Face Blogより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
10月19日
- Hugging Face BlogTorchNeuron、AWS Trainium上でHFモデルを動かす作業がこれまでになく容易に
TorchNeuronは、AWS Trainium向けの新しいネイティブバックエンドを提供するPyTorchプラグインで、Transformers、Diffusers、Kernelsがこれをネイティブにサポートする。Transformersのテキスト生成では、使用頻度の高いテキスト生成モデルアーキテクチャ上位100件のうち89%がそのまま動作し、Optimum Neuron v0.4.5の46%から拡大した。
このニュースの注目度の推移
推移を表示するための継続的な観測データがまだ足りません。