AWS Machine Learning Blog· Alex Iankoulski·· 2 時間前AIスコア41
NVIDIA Nemotron モデルをAmazon EKSとSageMaker HyperPod EKSで動かし、エージェント型AIを高速化
Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
AIによる概要
NVIDIA Nemotron 3.5 Super VLを、Amazon EKS、EKS Auto Mode、SageMaker HyperPod EKSにデプロイする方法を説明している。総パラメータ120B、トークンあたり12Bが活性化するMoEモデルで、最大1Mトークンのコンテキストに対応し、テキスト、画像、文書、動画を入力できる。
出典: AWS Machine Learning Blog · aws.amazon.com