Orca Security、Amazon Bedrockで自然言語によるセキュリティクエリ基盤「Discovery AI」を構築

Orca Securityは、Amazon Bedrock上で自然言語の質問をSonarクエリに変換する「Discovery AI」を構築し、初期構成と比べてクエリコストを90%、入力トークンを93%、レイテンシを75%削減した。RAGとスキーマを考慮したクエリ構築を組み合わせた9段階のパイプラインで、Amazon Titan Text Embeddingsによる類似例の検索やCohere Rerank 3.5による再ランキングを行う。本番環境では1日数千件のクエリを約15秒の応答時間で処理する。