技术与工程已解决
重排模型有哪些?怎么选?
从 Cross-Encoder 到 late-interaction,重排模型的原理差异与选型实测。
问题正文
两大技术路线
Cross-Encoder:查询与文档拼在一起过模型,精度最高但每对都要完整计算,延迟随候选数线性增长。late-interaction(ColBERT 类):文档提前编码,查询时做细粒度交互,速度与精度兼顾但存储大。
常用模型
BGE-reranker 系列是中文生态主力,Cohere Rerank 商用 API 便利,还有 Jina Reranker 与开源轻量模型。中文场景 BGE-reranker 起步最稳。
接入位置
向量召回 Top 50,重排后取 Top 5 进生成。重排只处理几十条候选,延迟增加可控(几十到几百毫秒)。
