RAG 进阶 可视化实验室
用交互式 SVG 呈现 GraphRAG、多跳推理、自适应检索、混合检索等 RAG 前沿技术。八个模块,纯原生实现。
GraphRAG:知识图谱增强检索
从文档中抽取实体与关系构建知识图谱,再用社区检测聚类形成主题社区,检索时通过图遍历聚合多跳证据。点击实体查看其社区与邻居。
知识图谱 + 社区检测
GraphRAG 分两阶段:① 离线抽取实体/关系建图,并用社区检测(如 Leiden)把图划分主题社区,为每个社区生成摘要;② 在线查询时,可走“全局”路径(社区摘要)或“局部”路径(实体邻居遍历)。点击图中实体查看其所属社区与邻居。
多跳推理检索
复杂问题需经多步推理:每跳检索证据片段,结合证据生成下一跳子查询,最终聚合多跳证据回答。点击播放观察推理链路逐跳展开。
推理链路
多跳检索把复杂问题拆为若干子查询:第 1 跳检索直接证据,由阅读器抽取中间结论;据此生成第 2 跳子查询继续检索……多跳证据最终聚合(如沿路径合并)得到答案。相比单跳,它能回答“X 的创立者的母校在哪国”这类需链接多个事实的问题。
自适应检索 (Self-RAG / CRAG)
模型自行判断是否需要检索、检索结果是否相关:检索评估器给出相关性评分,据此决定接受、修正或重检索。切换样本观察决策路径。
检索触发与评估
Self-RAG 训练模型输出反思 token:[Retrieve] 判断是否检索,[Relevant] 判断证据是否相关,[Supported] 判断答案是否有据。CRAG 用检索评估器打分:高→接受,中→“知识精炼”再生成,低→用 web 检索重试。这样既避免无关检索的噪声,又能在知识不足时补救。
混合检索与 RRF 融合
BM25 稀疏检索捕获关键词命中,Dense 向量检索捕获语义相似。两者用倒数秩融合 (RRF) 合并排序,兼顾字面与语义。拖动权重观察融合效果。
RRF 倒数秩融合
RRF 公式:score(d)=Σ 1/(k+rank_i(d)),对每个检索器的文档排名取倒数并求和。它无需校准分数尺度、对不同检索器稳健,是工业界最常用的混合融合方法。k 通常取 60。也可用加权 RRF 给某检索器更高权重。
RRF(d) = Σ_i 1 / (k + rank_i(d))
重排序:双塔 vs 交叉编码器
第一阶段用双塔 (Bi-encoder) 快速召回,第二阶段用交叉编码器 (Cross-encoder) 对 query 与每个候选拼接后精排。切换模型观察精度与代价差异。
两阶段检索
双塔:query 和文档独立编码为向量,用内积/余弦相似度排序,可预计算索引、O(1) 查询,但精度有限。交叉编码器:把 [query, doc] 拼接送入 Transformer,输出相关性分数,精度高但每对都要前向,不可预计算。典型流程:双塔召回 top-k → 交叉编码器精排。
查询改写:HyDE 与子查询分解
HyDE 先让 LLM 生成假设答案再用其向量检索;Query Decomposition 把复杂查询拆为子查询分别检索再合并。切换策略观察改写流程。
查询改写策略
HyDE(Hypothetical Document Embedding):先让 LLM 对查询生成一个“假设答案”,用假设答案的向量去检索——因为答案与文档更同构,比用问题检索更准。Query Decomposition:把“X 与 Y 的关系”拆为“X 是什么”“Y 是什么”等子查询分别检索。Step-back prompting 则先抽取更抽象的概念查询。
上下文压缩与冗余过滤
检索回来的长上下文含大量冗余。上下文压缩器按与查询的相关性过滤片段、抽取关键句,降低噪声与 token 成本。调节阈值观察压缩效果。
上下文压缩 (Contextual Compression)
检索后压缩分两步:① 文档级——过滤整段低相关文档;② 片段级——把文档切成句/段,保留与查询高相关的片段。LLMChainExtractor 用 LLM 抽取必要片段;EmbeddingsFilter 用向量相似度过滤。阈值越高压缩越狠、召回越低,需在精简与完整间权衡。
RAG 评估指标与 RAGAS 框架
RAGAS 从四个维度评估 RAG 系统:Faithfulness(答案是否忠于上下文)、Answer Relevance(答案是否切题)、Context Precision(检索是否命中金标)、Context Recall(是否召回全部金标)。切换样本查看打分。
RAGAS 四维评估
RAGAS 大量使用 LLM-as-judge:Faithfulness 把答案拆为陈述,逐条判断是否被上下文支持;Answer Relevance 反向从答案生成问题看与原问题是否一致;Context Precision 检索上下文中是否含金标且排序靠前;Context Recall 金标答案的信息是否都能在上下文中找到。无需人工标注即可评估。