Hugging Face Daily Papers·· 5 日前AIスコア41
ツール利用エージェント向けの意味的検証付き軌道レベル投機的デコーディング(SpecAgent)
Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents
AIによる概要
SpecAgentは、小型のWeakモデルが行動軌跡を下書きし、大型のStrongモデルが1回のprefillパスでその区間を審査して、Strongモデルのデコードの大部分をprefillに置き換えるツール利用エージェント向けの手法である。
出典: Hugging Face Daily Papers · huggingface.co