Amazon SageMaker AI上のKokoro TTSで、AIエージェントの音声を低遅延にストリーミング

AWS Machine Learning Blogは、AIエージェントが文を生成するたびにその文をKokoro-82M TTSモデルへ送り、全文の生成を待たずに音声合成を始める手法を解説している。Kokoro-82M（82百万パラメータ）はSageMaker AIのリアルタイムエンドポイント上でml.g5.xlarge GPUインスタンスにより動作し、コンテナはPOST /invocationsとWS /invocations-bidirectional-streamの2つのルートを公開する。