# RAG、Embedding 与重排模型指南 RAG 是切分、Embedding、召回、重排、证据生成和评测组成的系统；完整性来自可引用证据和无答案处理，不来自更大的模型目录。 ## RAG 不是单个模型 可靠 RAG 包括数据清洗与权限、切分、Embedding、向量/关键词召回、Rerank、上下文组装、基于证据生成和引用。跳过任何一层都可能把“模型回答流畅”误当作检索正确。 ## 建立索引 为文档和查询使用官方指定的 input type，记录 Embedding 型号、维度、归一化和切分版本。更换型号或维度时建立新索引并灰度迁移，不能在同一向量空间混用。 ## 查询流程 先做权限过滤，再混合召回足够候选，使用 Rerank 缩小集合，并把文档 ID、标题和位置连同正文交给生成模型。明确要求仅依据证据回答，无证据时返回不知道。 ## 如何评测 分别测 Recall@K、MRR/NDCG、重排质量、答案正确率、引用覆盖、引用一致性、无答案准确率和延迟。数据集必须包含过期、冲突、权限不足与检索不到的案例。 ## 安全与运维 防止文档中的提示注入获得工具权限；引用内容与系统指令隔离。监控索引新鲜度、空召回、越权、模型升级和成本，并支持删除请求同步到所有索引。 ## 适用场景 - 企业知识问答 - 语义搜索 - 检索重排 ## API 路径 - /v1/embeddings - /v1/rerank - /v1/chat/completions ## 关联指南 - [Jina AI](https://api.tu-zi.com/docs/providers/jina-ai): Jina AI 既是搜索基础模型厂商，也是托管 API 提供方，不是通用聊天模型目录；直连使用 Jina Bearer Key，本站仅以本站密钥开放已适配的 Embeddings 与 Rerank 入口。 - [Cohere](https://api.tu-zi.com/docs/providers/cohere): Cohere 新直连项目使用原生 `POST /v2/chat`；本站 `/v1/chat/completions` 是已适配渠道的 OpenAI 兼容入口，并非 Cohere 原生路径。Embed 必须正确选择 `input_type` 与维度，Rerank、Trial/Production 限流和模型退役也需分别核验。 - [Mistral 系列](https://api.tu-zi.com/docs/models/mistral): Mistral 官方当前以 Medium 3.5、Small 4 为通用/Agent 主线，并为代码、OCR、语音、Embedding 与安全提供独立型号及不同许可证。 - [Meta Llama](https://api.tu-zi.com/docs/models/llama): Llama 是 Meta 的开放权重家族，通常通过自托管或合作云调用；模型卡、许可证、提示模板和实际推理服务共同决定能力与限制。 ## 常见问题 ### 更换 Embedding 模型后可以继续使用原来的向量索引吗？ 通常不可以。模型、维度、归一化或 input type 改变都可能使向量空间不兼容；应建立新索引、记录版本并灰度迁移，不能把新旧向量混在同一索引中。 ### 上下文窗口足够大后，还需要 RAG 和 Rerank 吗？ 仍可能需要。直接塞入大量文档会增加费用和延迟，也不能保证关键证据被关注；检索可以先做权限过滤并缩小证据集合。但本站当前没有在模型广场公开可验证的 Rerank 模型，实施时应先使用 Embedding 或其他召回方式，只有模型详情明确列出 `/v1/rerank` 后再接入重排。 ### 怎样评测 RAG，能只看最终回答是否流畅吗？ 不能。应分别测 Recall@K、MRR/NDCG、重排质量、答案正确率、引用覆盖与一致性、无答案准确率和延迟，并加入过期、冲突、无权限及无证据案例。 ### 如何防止 RAG 泄露越权文档或执行文档里的提示注入？ 检索前执行服务端权限过滤，把文档内容与系统指令隔离，并禁止检索文本直接获得工具权限。日志和索引要支持脱敏、租户隔离与删除同步，回答还应保留文档 ID 和位置以便审计。 ## 参考来源 - Jina Models: https://jina.ai/models/ - Cohere Models: https://docs.cohere.com/docs/models ## 文档来源 来源: https://api.tu-zi.com/docs/use-cases/rag 核验日期: 2026-08-12 本文为文档接入参考。厂商原生接口与本站接口可能不同；请结合对应 API Reference 和模型广场确认本站地址、鉴权、模型 ID、分组与参数。本文不表示所有模型或上游服务均已通过实时调用验收。仅包含文档与示例，不包含当前用户的密钥或请求记录。