构建生产级 RAG 系统：高级指南

为什么 RAG 重要

检索增强生成（RAG）是将 LLM 回答建立在你自己数据上的最实用方式。但构建生产级系统远不止连接向量数据库。

分块策略

• 固定大小：简单但可能割裂语义单元。
• 语义分块：使用嵌入相似度按含义分割。
• 递归分块：按标题、段落、句子逐层分割。
• 文档感知：尊重 Markdown/HTML 结构。

混合搜索

将密集向量搜索与稀疏关键词搜索（BM25）结合，同时捕获语义匹配和精确术语匹配。

重排序

初始检索后，使用交叉编码器模型重新评分结果，显著提高精确度。

评估

• 忠实度：回答是否忠于检索到的上下文？
• 相关性：检索到的块是否真正有用？
• 答案正确性：最终答案是否事实正确？

工具与框架

• LlamaIndex：高级 RAG 框架，内置常用方案。
• LangChain：灵活的编排层。
• RAGAS：专用评估框架。
• Chroma / Qdrant / Weaviate：各有取舍的向量数据库。