RAG 的主要环节
典型流程包括文档解析、分块、嵌入、向量检索、可选重排和生成回答。每个环节应独立评估，不能只通过最终回答判断问题来源。
- 文档清洗与权限标记
- 嵌入与索引
- 查询检索和重排
- 上下文拼接
- 答案与引用生成
数据与权限边界
检索前必须按用户身份过滤文档，不能依赖提示词要求模型忽略无权限内容。敏感文档应明确数据处理和保留策略。
质量与成本评估
建立包含真实问题、正确答案和引用来源的评测集，分别测量召回率、引用准确性和回答质量。限制检索片段数量可减少上下文费用。
常见问题
关于企业知识库与 RAG 模型 API 接入方案的常见问题
聊天模型可以替代嵌入模型吗？
不可以，两者用途不同，应选择专门支持嵌入的模型。
RAG 为什么会回答错误？
可能来自文档解析、检索、权限过滤、上下文或生成任一环节。
如何降低 RAG 成本？
优化分块、检索数量、缓存和模型分级，并记录每个阶段用量。