Postman、Amazon Bedrock上で4000万人向けAgent Modeを運用する設計パターンを解説

Agent Modeは、テスト、ドキュメント、探索、実装をAIネイティブに進めるためのPostmanの入口である。11年にわたり画面操作を前提に進化した製品であり、エージェントにデータで推論させるには構造的な前提の見直しが必要だった。アプリケーションを変更する操作の前にはユーザー承認を求め、タスクごとにツールを絞る。Amazon Bedrock Guardrailsで個人情報をLLMに渡る前に伏せる設定も、企業管理者が有効化できる。

ツールについては、当初は小さな粒度のツールを多数用意したが、長い呼び出し列で体感が遅くなった。Postmanのテストでは、見えるツールが約40を超えると選択ミスが増えた。現在は170超のツールのベクトルDBをルートエージェントが検索し、約15に絞ってコンテキスト分離したサブエージェントに渡す。また、ツールがタブの開閉状態に依存していた問題を解消するため、タブなしでバックグラウンド送信できるようにしつつある。API Catalogでは、ClickHouseのテーブルスキーマを与え、単一のクエリツールで結合や条件付きの分析をエージェントに生成させている。

失敗の原因はツール不足よりコンテキストの欠落や誤りのほうが多かった。UI表示用のデータモデルをそのまま直列化しても推論には役立たず、エンティティごとに専用のハンドラーで必要な情報だけに蒸留している。説明文やOpenAPI仕様などの自由記述はコンテキストウィンドウを圧迫するため、切り詰めが次の課題になっている。製品知識はRAGのナレッジベースで、クエリと状況に応じて記事を注入する。

Bedrockでは、Claudeファミリーの中からワークロードごとにモデルを選べ、モデルの切り替えは主に設定変更で済む。クロスリージョン推論では、地理的プロファイルで米国やEUなど特定地域内に処理を限定でき、グローバルプロファイルはスループット重視の場面で使う。ゼロデータ保持はdata_retention_modeをnoneにして設定しているが、対応状況はモデルに依存する。プロンプトキャッシュは、システムプロンプトやコアツール定義に1時間、変動する文脈に5分のチェックポイントを使い分けている。Postmanの実装は非公開で、公開サンプルリポジトリはない。