前言
RAG 是大模型落地企业知识库的主流方案。
一、四个阶段
1. 索引 2. 检索 3. 重排 4. 生成
二、切分策略
按语义切分,chunk 500-800 字,重叠 100 字。
三、向量库选型
Milvus 亿级,Qdrant 千万级,pgvector 百万级。
四、重排的重要性
不重排准确率 60%,重排后 85%。推荐 bge-reranker-large。
五、Prompt 工程
明确指出无法回答时请说不知道,避免胡编。
六、生产部署
1. 索引与查询分离 2. 缓存高频 query 3. 监控召回率
总结
RAG 是系统工程,每环节优化都能提升质量。