llama.cpp で意思決定モデルを Amazon SageMaker AI にデプロイする

llama.cpp の AWS DLC と SemIf 用の子イメージを使い、宣言された選択肢ごとの確率を返す意思決定モデルを SageMaker AI にデプロイする方法を示す。JevBench の 231 タスクでの検証では、Qwen3.5-4B（Q4_K_M）の正答率は CPU 構成が 77.5%、GPU 構成が 77.9% だった。p50 レイテンシは GPU 構成の 0.352 秒が CPU 構成の 1.715 秒より 4.9 倍速い。