注目のストーリー進行中
DeepgramがNova-3をTrainium2へ移植し推論効率を向上
1件の報道1件のソース5 時間前更新
これまでの経緯
報道より
Deepgramは音声認識モデルNova-3をAWS Trainium2に移植し、オフラインのバッチ処理で従来の計算基盤より1ドルあたりの処理音声量を11〜70%多くした。最終構成では、単一のAmazon EC2 trn2.3xlargeインスタンス上で8つのモデルレプリカを動作させる。カーネル調整では、FFN層がバッチサイズ96でリファレンスカーネルに比べ遅延が2.0倍低減し、depthwise conv1dは1.5倍の高速化を達成した。
AWS Machine Learning Blogより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
10月20日
- AWS Machine Learning BlogDeepgram、AWS Trainiumで音声AIの推論を大規模に最適化した方法
Deepgramは音声認識モデルNova-3をAWS Trainium2に移植し、オフラインのバッチ処理で従来の計算基盤より1ドルあたりの処理音声量を11〜70%多くした。最終構成では、単一のAmazon EC2 trn2.3xlargeインスタンス上で8つのモデルレプリカを動作させる。カーネル調整では、FFN層がバッチサイズ96でリファレンスカーネルに比べ遅延が2.0倍低減し、depthwise conv1dは1.5倍の高速化を達成した。
このニュースの注目度の推移
現在の注目度 9·比較可能なピーク 10（10月20日 03:00）·24時間の比較可能な増減 –
推移は、継続的かつ完全に観測できたアカウントのみを比較しているため、現在の注目度の数値より範囲が狭くなる場合があります。ポインターを動かすかグラフをタップすると、1時間ごとの注目度を確認できます。キーボードでは左右の矢印キーを使います。