AI Gateway「Bifrost」の本番導入で、Technical Project Manager が担ったこと

LayerXのAi Workforce事業部のTPMが、OSSのAI GatewayであるBifrostを本番環境へ導入した過程を紹介する。比較検討の結果、コアのゲートウェイ機能は外部ミドルウェアなしで動作する点を採用理由とし、本番構成では監査ログや設定値の保存に用いるPostgreSQLを依存コンポーネントの中心に据えた。テナントごとのデータレジデンシー要件は、Virtual Keyを選択することで制御している。