Claude Blog·· 21 時間前AIスコア58
Claude Platform、長時間エージェント向けのmessage threadsをパブリックベータで提供
Make long-running agents faster with message threads
AIによる概要
AnthropicはClaude Platformでmessage threadsをパブリックベータとして提供開始した。エージェントは毎ターン会話履歴全体を再送せず、前回以降の新規分だけを送れるため、長時間セッションの遅延が減る。Claude Codeでは多くのユーザーで既定で有効になり、500k〜1Mトークンのリクエストで初回トークンまでの時間(TTFT)の中央値が約35%低下した。
解説
message threadsを使うには、Messages APIのリクエストに`thread`パラメータを追加する。最初のリクエストでは会話全体を送ってスレッドを開始し、以降は新しいメッセージと直前のレスポンスIDだけを送る。コーディングエージェントは1セッションで数百回のリクエストを行うことがあり、従来は毎回すべての過去メッセージとツール結果を再送していた。会話が数十万トークンに達すると、この再送がClaudeの応答開始までの待ち時間を増やしていた。
スレッドはターン間でメモリ上に保持され、暗号化されディスクには書き込まれない。最後のリクエストから5分で失効し、その後はクライアントが会話全体を再送して新しいスレッドを始める。各リクエストは小さくなるが、Claudeは毎ターン会話全体を読むため、トークン使用量は変わらない。
出典: Claude Blog · claude.com