Apple、学習型ニューラルネットで RAG 向けの検索を高速化する研究

Appleの研究者らは、固定されたキーデータベース向けに小規模なニューラルネットワークをオフラインで学習させ、クエリを最適なキーへより速くルーティングする手法を提示した。SupportNetとKeyNetの2種類を用い、想定されるクエリ分布で学習させることで、推論時の検索を高速化しつつ精度も高めるとしている。