RAG系统从零到生产：2026年完整构建指南

为什么大多数RAG系统效果不好？

分块策略不当——段落被切断，语义不完整

只用余弦相似度，缺少重排序

没有Query扩展，一个问题只搜一次

没有评估指标，不知道该怎么改

整体架构

离线：文档 → 清洗 → 分块 → 向量化 → 存入向量数据库

在线：用户问题 → Query扩展 → 向量检索 → 重排序 → LLM生成

分块策略推荐

推荐层级分块（Parent Document Retrieval）：

父块：2000 tokens，保留完整语义

子块：400 tokens，用于向量检索

检索时找子块，返回对应父块给LLM。

向量数据库选型

数据库特点适合

Pinecone全托管快速原型 WeaviateBM25+向量混合混合搜索 Qdrant高性能Rust大规模生产 Supabase pgvector全栈应用已用PG的团队

检索优化三步法

Query扩展：用LLM生成3个变体查询，并行搜索

混合检索：BM25(0.3) + 向量(0.7)，互补优势

重排序：用Cohere Rerank从候选中选最相关的3-5个

RAG评估（RAGAS）

Faithfulness：答案是否基于上下文（防幻觉）

Answer Relevancy：答案是否回答了问题

Context Recall：相关文档是否被检索到

总结

构建好RAG的关键：先做好分块 → 混合检索 → 加重排序 → 用数据迭代。