GPT-6におけるプロンプトキャッシュの改善

GPT-6は、キャッシュヒット率の向上、新しい診断機能、明示的なブレークポイントによって、プロンプトキャッシュを改善している。レイテンシとコストを抑える制御機能も備える。