通用文本、对话与推理模型指南

先区分任务深度

摘要、改写、分类和简单问答通常更看重速度、价格与稳定格式；数学、规划、复杂分析和多约束决策更依赖推理能力。不要让所有流量默认进入最昂贵的型号，应按任务难度路由并保留降级方案。

关键选型维度

先用真实输入比较正确率、指令遵循、结构化输出成功率、上下文长度、首 token 延迟和总成本。需要联网、文件或业务系统时，还要验证工具调用、权限边界和失败恢复；模型知识不能代替实时数据源。

最小调用方式

本站使用 Bearer 令牌。模型名称必须来自模型广场，客户端应设置超时并区分鉴权、限流、上下文超限和上游错误。

Copycurl "$BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"MODEL_NAME","messages":[{"role":"user","content":"请分析这个问题"}]}'

如何验证质量

从真实业务中抽取固定样本，分别记录事实正确率、格式通过率、人工修改量、拒答质量、延迟和费用。对开放问答使用可追溯来源或人工评分，对结构化任务使用确定性校验，不以模型自评作为结论。

常见限制

上下文窗口不等于有效记忆，长输入会增加延迟并可能稀释关键信息。温度、推理强度、JSON Schema、工具和缓存字段并非所有模型都支持；上线前应对目标型号和实际渠道做字段级契约测试。