AWS、PyTorchをほぼ無改修でTrainiumで動かすTorchNeuronを公開

AmazonのAWSは、PyTorchで書かれたAIコードを書き換えずに自社AIチップTrainiumで動かせる開発ツール「TorchNeuron」を発表した。TorchNeuronはPyTorchが備える新ハードウェア登録の標準的な仕組みに接続する形で実装されており、テスト、デバッグ、スケーリングに使う既存ツールがそのままTrainiumで使えるという。AWSはAI研究者や開発者の約85%がPyTorchでコードを書いているとしている。 デモでは、同じ学習スクリプトを従来型チップとTrainiumで実行し、違いは使用チップを指定する設定だけで、学習結果と速度は同等だったと説明された。TechCrunchはAWSの説明として「設定1行の変更で動く」と伝えている。複数チップに広げるツールや、性能を引き出す低レベルのカスタムコードを書く機能も備える。ビルドごとに数十万のAIモデルでテストしているという。 初期の利用者として、音声AIのCartesia、創薬研究のLieber Institute for Brain Development、音声AIのDeepgramが挙がっている。Cartesiaは標準の推論パイプラインを最小限の変更でTrainium上で動かした。Lieber Instituteは分子動力学シミュレーションを加速または代替するAIツールの検討に使っている。AWSによれば、Deepgramはネイティブのpytorchで移行し、同等の本番水準の精度で1ドルあたり70%多くの音声を処理している。 エコシステム面では、AmazonがPyTorch本体に特定チップ依存のコードを除く変更を上流提供している。Hugging Faceは自社ツールでTrainiumのネイティブ対応を有効にし、TorchNeuronは分散学習のTorchTitanとFSDPにも対応する。vLLMへの大きな貢献や性能カーネル一式のオープンソース化も行われた。 背景として、NVIDIAはCUDAを通じてPyTorchとの連携を長年整えてきた。AMDのGPUやAppleのチップへ設定変更で移せる例もあり、AWSが最初の試みではない。AWSのColin Brace氏は、同じチップで学習と推論を担えクラウド基盤と密に統合されるため、トークン単価が最安でなくても全体コストは下がると述べ、CoreweaveやNebiusなどのneocloudよりスタートアップに適しているとの立場を示した。TechCrunchは、これが開発者の選択肢を増やすのか、設定の手間を増やすだけなのかは今後を見る必要があると指摘している。

報道をもとにAIが作成しました・56 分前更新

推移を表示するための継続的な観測データがまだ足りません。