1. 背景：从 RAG 到 RAG 2.0 的演进

大模型在应用落地中面临三大核心问题：幻觉（提供虚假信息）、知识陈旧（训练数据截止时间早）、数据安全（敏感信息外泄风险）。检索增强生成（Retrieval-Augmented Generation, RAG）通过引入外部知识库，有效缓解了这些问题。

传统 RAG 系统（即 RAG 1.0）通常采用“索引-检索-生成”的线性流水线：将文档切块后向量化，根据用户查询检索相关片段，再交由大模型生成答案。这种方式在简单场景下表现良好，但面对企业级复杂文档（如 PDF 扫描件、工程图纸、多级表头表格）和多轮对话时，暴露出以下不足：

文档解析粗糙：直接对 PDF 进行文本提取，丢失版面结构、表格关系和阅读顺序。

检索召回不全：仅依赖向量检索，对精确匹配（如型号、合同编号）支持不足。

排序不够精准：单一排序模型难以兼顾语义相关性和关键词匹配。

缺乏领域约束：大模型可能生成不符合业务规则的答案。

RAG 2.0 在架构上进行了系统性升级，引入模块化设计，将索引、检索前处理、检索后处理、生成等环节拆分为独立可插拔组件。同时，结合本体（Ontology） 和缓存机制，使系统在复杂业务场景中更加可控、高效。

2. 文档解析：从“文字识别”到“结构还原”

文档解析是 RAG 系统的基石。企业文档类型多样，包括 PDF、Word、扫描件、工程图纸等。若解析不当，后续检索和生成将失去语义基础。

2.1 版面结构解析

对于 PDF 和扫描件，需要恢复版面元素（标题、段落、表格、图片、页眉页脚）及其阅读顺序。常用的开源工具有 RAGFlow 的 DeepDoc、PaddleOCR 等。核心步骤包括：

图像预处理：对扫描件进行纠偏、去噪、增强对比度。

版面分析：使用目标检测或分割模型识别标题、正文、表格、图片等区域。

阅读顺序还原：根据区域位置和逻辑关系，确定元素的先后顺序。

表格结构识别：还原多级表头、合并单元格、跨页表格等复杂结构。

2.2 工程图纸解析

制造业中，工程图纸包含标题栏、图号、版本、材料、技术要求等关键信息。解析时需：

定位标题栏区域，提取图号、版本、名称等属性。

识别标注说明和技术要求文本。

建立图纸元素与位置坐标的映射，支持后续溯源。

2.3 知识切片策略

切片是文档解析后的关键步骤。切片过短会导致上下文丢失，过长则引入噪声。推荐采用两阶段切片：

结构切分：按标题、段落、表格等逻辑单元划分，保留层级关系。

长度切分：对长文本进行滑动窗口切分，窗口大小建议 256-512 tokens，重叠 10%-20%。

切片后需生成两种索引：

文本索引：用于全文检索（如 Elasticsearch 的 BM25）。

向量索引：使用嵌入模型生成向量，存储于向量数据库（如 Milvus、Qdrant）。

3. 查询改写：解决多轮对话中的指代与信息缺失

多轮对话中，用户后续提问常依赖上文，例如“它的价格是多少？”中的“它”指代前文提到的产品。若不进行改写，直接检索会导致召回失败。

3.1 指代消歧与信息补全

将多轮 Query 改写建模为关系抽取任务：

识别指代词（如“它”“这个”）。

从历史对话中找到指代实体。

将指代词替换为实体名称，并补充缺失的上下文信息。

例如：

用户：“A 型号的功率是多少？”

系统：“功率为 100W。”

用户：“它的电压呢？” → 改写为：“A 型号的电压是多少？”

3.2 改写模型选择

可采用轻量级序列标注模型（如 TPLinker）或小参数 LLM（如 Qwen2.5-7B）进行改写。对于生产环境，建议使用规则+模型混合策略：规则处理常见模式，模型处理复杂指代。

4. 混合检索：向量 + 全文 + 知识图谱

单一检索方式难以覆盖所有场景。混合检索通过融合多路召回结果，提升召回率和准确率。

4.1 向量检索

优势：语义相似度检索，支持跨语言、多模态。

常用模型：BGE-M3、BCE、GTE、M3E。

适用场景：开放域问答、同义改写匹配。

4.2 全文检索

优势：精确匹配关键词，可解释性强。

常用算法：BM25。

适用场景：型号、编号、专有名词查询。

4.3 知识图谱检索

对于实体关系密集的领域（如金融、医疗），可引入知识图谱。通过图遍历和关系路径匹配，提供结构化知识。

混合检索流程：

用户查询分别经过向量检索、全文检索、知识图谱检索，各返回 Top-N 结果。

使用倒数排序融合（RRF）或加权融合算法合并结果。

将合并后的候选集送入排序模块。

5. 排序优化：从粗排到精排

检索阶段返回的候选集通常包含数十到上百个片段，需要进一步排序以选出最相关的 Top-K 片段。

5.1 粗排序：RRF 融合

RRF（Reciprocal Rank Fusion）通过依赖排名而非得分来融合多路结果，公式如下：

$$\text{score}(d) = \sum_{r \in R} \frac{1}{k + \text{rank}_r(d)}$$

其中 $R$ 为检索路径集合，$\text{rank}_r(d)$ 为文档 $d$ 在路径 $r$ 中的排名，$k$ 为平滑参数（通常取 60）。

5.2 精排序：交叉编码器

粗排后保留 Top-20 左右，使用交叉编码器（如 BGE-Reranker）进行精细排序。交叉编码器将查询和文档拼接后输入 Transformer，计算相关性得分，精度高于双编码器。

5.3 知识过滤

在精排后，可加入业务规则过滤，例如：

排除过期的文档版本。

过滤权限不足的片段。

确保输出符合行业规范（如金融合规要求）。

6. 本体约束：让 RAG 输出更可控

通用 RAG 系统缺乏领域知识约束，可能输出不符合业务逻辑的答案。引入本体（Ontology） 作为语义底座，可有效提升输出的准确性和可解释性。

6.1 本体建模

本体是对业务领域概念、关系、规则的形式化描述。在企业 RAG 中，本体通常包含：

实体：如产品、订单、客户。

关系：如“产品属于类别”、“订单包含产品”。

事件：如“订单状态变更”。

动作：如“创建工单”、“修改预警”。

逻辑：业务规则，如“订单金额超过 10 万需审批”。

6.2 本体与 RAG 的融合方式

检索前：利用本体对用户查询进行语义扩展，例如将“笔记本电脑”扩展为“笔记本电脑（电子设备）”。

检索后：对检索结果进行约束校验，例如确保返回的合同条款属于有效版本。

生成后：对 LLM 输出进行规则验证，若违反本体约束则触发重推或标记。

6.3 实践案例

在金融场景中，本体可定义“客户风险等级”与“投资产品风险等级”的匹配规则。当用户询问“推荐理财产品”时，系统检索相关产品后，通过本体校验确保仅推荐风险匹配的产品，避免合规风险。

7. 缓存优化：降低延迟与成本

对于高频重复查询，缓存可以显著减少检索和 LLM 调用次数。

7.1 语义缓存

传统缓存基于精确匹配，但用户查询可能存在同义改写。语义缓存通过向量相似度判断查询是否与已有缓存匹配，若相似度超过阈值则直接返回缓存结果。

7.2 缓存策略

LRU 淘汰：移除最近最少使用的缓存项。

TTL 过期：为缓存设置有效期，确保知识新鲜度。

分层缓存：热点数据存于内存（如 Redis），冷数据存于磁盘。

7.3 缓存更新

当知识库内容更新时，需同步清除相关缓存。可通过本体关系追踪受影响的查询，实现精准失效。

8. 系统架构与工程实践

8.1 分层架构

一个典型的企业级 RAG 2.0 系统采用分层设计：

层级组件职责

算法层OCR、分词、向量模型、排序模型提供基础算法能力 流程层离线入库、在线问答编排解析、检索、排序、生成流程 数据层向量数据库、ES、MySQL存储索引与元数据 管理层知识库管理、模型管理、规则配置提供用户配置界面

8.2 离线与在线分离

离线流程：文档解析 → 切片 → 生成向量和文本索引 → 写入存储。

在线流程：用户查询 → 查询改写 → 混合检索 → 排序 → 本体校验 → LLM 生成 → 返回结果。

8.3 可观测性

记录每次检索的召回率、排序精度、响应时间。

对 LLM 输出进行人工标注，持续优化排序模型和提示词。

使用链路追踪（如 OpenTelemetry）定位性能瓶颈。

9. 总结

企业级 RAG 2.0 系统需要从文档解析、查询改写、混合检索、排序优化、本体约束、缓存等多个维度进行系统性优化。本文介绍的实践方法已在制造业、金融等行业落地，显著提升了检索准确率和系统响应效率。

深入理解这些技术，可参考 RAG 系统评估与优化 和 AI Agent 与多智能体 相关内容。

FAQ

1. 如何选择文档切片大小？ 切片大小需根据文档类型和检索场景平衡。一般建议 256-512 tokens，并保留 10%-20% 的重叠。对于表格或代码片段，可适当缩小切片以保持结构完整。

2. 混合检索中向量检索和全文检索的权重如何设置？ 可通过网格搜索或贝叶斯优化确定权重。常见做法是使用 RRF 融合，无需显式设置权重；若需加权，建议向量检索权重 0.6-0.7，全文检索 0.3-0.4。

3. 本体约束与 LLM 冲突时如何处理？ 当 LLM 输出与本体硬约束冲突时，应优先遵循本体规则，并触发重推或返回错误信息。对于软约束（如业务惯例），可标注“未经验证”并提示用户。

4. 如何评估 RAG 系统的效果？ 常用指标包括：检索召回率（Recall@K）、排序精度（MRR、NDCG）、生成准确率（基于人工或 LLM 评估）。建议建立线上 A/B 测试流程，持续迭代。

5. 缓存命中率低怎么办？ 可分析查询模式，对高频查询进行模板化处理；或扩大语义缓存的相似度阈值（如从 0.9 降至 0.8），但需注意误命中风险。

6. 如何保证数据安全？ 文档解析和检索应在内网完成，使用 RBAC 控制访问权限。对敏感内容进行脱敏处理，LLM 调用时避免传输原始数据。