Amazon SageMaker AIで知識蒸留により効率的なエージェントを構築する方法

Amazon SageMaker AI上で、フロンティアモデルを教師とする系列レベルの知識蒸留（SeqKD）によりショッピングエージェントを小型の生徒モデルにファインチューニングする方法を解説する。エージェントは検索や検証を繰り返すため1タスクで複数回の呼び出しが発生するが、小型モデルに置き換えることでコストと応答速度を抑えられる。SeqKDは教師モデルのテキスト出力のみを使うため、APIでしか利用できないモデルにも適用でき、タスクを解決した軌跡だけを学習データとして残す。