Simon Willison·· 22 時間前AIスコア13
llm-echo 0.5、トークン使用量のシミュレーションをツール呼び出しや推論トークンに対応
llm-echo 0.5
AIによる概要
LLMを呼び出さず、受け取ったプロンプトをそのまま返すデバッグ用プラグイン「llm-echo」の0.5がリリースされた。シミュレートされるトークン使用量の計算が、ツール呼び出し、システムプロンプト、推論トークンを考慮するように更新された。--usageオプションを付けると、「hi there」の入力では2 input、24 outputのトークン使用量が表示される。
出典: Simon Willison · simonwillison.net