Cohere

先区分 Cohere 原生 V2 与本站兼容入口

Cohere 的新原生对话接口是 POST https://api.cohere.com/v2/chat，使用 Cohere 的 Bearer Key、必填 model 和按时间顺序排列的 messages，响应采用 Cohere V2 内容结构。本站 /v1/chat/completions 则接收 OpenAI 兼容请求并转到配置好的 Cohere 渠道；它不是 Cohere 官方 URL，也没有在本站暴露 /v2/chat。

Embed 的 input_type 决定向量用途

Cohere V3 及以上 Embed 模型要求 input_type。构建检索库时，文档使用 search_document，线上查询使用 search_query；分类、聚类和图像也有各自类型。Embed v4 及更新模型可用 output_dimension 选择 256、512、1024 或 1536 维，默认 1536。模型、维度或向量类型变化时，应重建或并行迁移索引。本站本页未列出 Embeddings 路径，不能把 Cohere /v2/embed 冒充本站入口。

Rerank 是召回后的第二阶段

Rerank 接收一个 query 和候选 documents，返回原文档 index 与 relevance_score，适合在关键词或向量召回后压缩候选集。Cohere 原生 V2 路径为 /v2/rerank；本站已适配 /v1/rerank，但客户端应分别遵守两边的认证与响应契约。长文档可能被截断或分块，评测应覆盖排序质量、延迟和 search units 成本。

Trial 与 Production 限流按端点拆分

Cohere 没有一个适用于所有能力的统一 QPS。官方当前表格对常见 Command Chat 列出 Trial 20 次/分钟与 Production 500 次/分钟，对 Rerank 列出 10 与 1000 次/分钟；文本 Embed 则按 inputs 计，两类 Key 都是每分钟 2000 个 inputs。某些新 Chat 型号的 Production 额度需要联系销售，Trial 和部分新型号还有每月调用上限。收到 429 时先确认具体模型、端点、分钟或月度配额，再做有界退避。

模型退役会让旧 ID 直接失败

Cohere 的 Deprecations 页面按日期列出退役模型、端点和替代项。Embed v2.0 与部分 Aya 8B ID 已在 2026-04-04 退役，旧请求会失败。迁移 Chat 还要注意 V2 把历史合并到 messages，且 model 成为必填；迁移 Embed 必须同步验证 embedding_types、input_type、维度和向量索引，不能仅替换模型名。