🔍

上下文检索(Contextual Retrieval)

Contextual Retrieval
技术原理
RAG向量检索BM25

上下文检索(Contextual Retrieval)是 Anthropic 于 2024 年 9 月 19 日公布的 RAG 改进方法。

要解决的问题

传统 RAG 把文档切成块再写入向量库,块一旦脱离原文就会丢失语境。例如一块只写着「公司本季度营收增长 3%」的文本,检索时无法判断它属于哪家公司、哪个季度,于是检索失败。

做法

该方法包含两个子技术——Contextual Embeddings(上下文嵌入)与 Contextual BM25。核心是在把每个块写入索引之前,先为这一块生成一段说明它在整篇文档中位置的专属语境,把这段语境前置到块内容上,再去做嵌入与 BM25 索引。官方说明可以在 Claude 上直接部署这套方案。

效果

官方博客给出的量化结果是,该方法可把检索失败(failed retrievals)数量降低 49%;若再叠加重排序(reranking),可降低 67%。官方称这代表检索准确率的显著提升,并会直接传导到下游任务表现。

适用边界

它优化的是检索这一步,不改变生成阶段的做法;代价是要为每个块额外生成一次语境,索引构建阶段的计算与模型调用成本会上升。

🔗 探索更多 AI 工具板块

除了本板块,AI工具宝箱还有这些独家内容板块,帮你从不同角度发现好工具。

☆ 0