本文へスキップ
原文
Simon Willison·· 22 時間前AIスコア13

llm-echo 0.5、トークン使用量のシミュレーションをツール呼び出しや推論トークンに対応

llm-echo 0.5

AIによる概要

LLMを呼び出さず、受け取ったプロンプトをそのまま返すデバッグ用プラグイン「llm-echo」の0.5がリリースされた。シミュレートされるトークン使用量の計算が、ツール呼び出し、システムプロンプト、推論トークンを考慮するように更新された。--usageオプションを付けると、「hi there」の入力では2 input、24 outputのトークン使用量が表示される。

出典: Simon Willison · simonwillison.net