use-case
模型原厂、托管云、聚合渠道与本地运行时
直接答案厂商页回答模型是谁开发的,渠道回答请求从哪里转发;同名模型经过不同托管或聚合渠道时,认证、协议、区域、版本和数据边界都可能变化。
更新 · 审核信息
小白:先分清“谁做的”和“从哪调用”
模型原厂定义权重、能力和生命周期;托管云在自己的区域与账号体系提供第三方模型;聚合市场把多个供应商放在统一协议下;工作流平台提供应用或知识库入口;本地运行时在自有机器加载模型;账号桥则把另一种身份体系转成调用能力。它们都可能出现在渠道配置中,但不应都被称为模型厂商。
六类接入形态
| 类型 | 典型例子 | 重点核对 |
|---|---|---|
| 原厂 | OpenAI、Anthropic、Google、DeepSeek | 官方模型 ID、原生协议、弃用 |
| 托管云 | AWS Bedrock、Azure AI Foundry、Vertex AI | 区域、部署名、平台版本、原厂 |
| 聚合市场 | OpenRouter、SiliconFlow、Replicate | 实际供应商、自动路由、协议子集 |
| 工作流 | Dify、Coze、FastGPT | 应用 ID、会话状态、知识库语义 |
| 本地运行时 | Ollama、Xinference | 模型文件、许可证、硬件、网络暴露 |
| 特殊桥接 | OAuth/账号型接入 | 身份、授权范围、会话与服务条款 |
最小核验
先用本站令牌查询 /v1/models,再到模型广场看精确 ID、渠道支持和价格。模型名中出现平台名不代表平台开发了模型;平台页的“支持”也不等于所有区域、账号和端点都可用。
切换渠道不是只换 Base URL
重新验证认证头、模型/部署名、请求字段、工具 schema、流式事件、错误对象、usage、媒体交付和限流。托管平台可能固定旧快照,聚合路由可能在供应商间故障转移,本地运行时则受量化、模板和硬件影响。
数据与合规边界
记录每次请求的渠道和原始模型厂商。确认数据经过哪些主体、在哪个区域、保留多久、是否用于滥用监控,以及自动故障转移是否改变边界。要求零保留时,不能只看模型名称或平台总承诺。
专家路由治理
为渠道建立能力允许列表、健康度、成本、延迟、数据级别和故障转移策略。不要把所有错误都切换供应商:参数、权限、余额和内容策略错误换渠道通常无效。故障转移后仍要保留 Request-ID、实际供应商、模型快照和结算信息,才能追责与复现。
适用场景
- 选择调用渠道并核对模型来源
- 治理多供应商路由与数据边界
API 协议
/v1/models
FAQ
OpenRouter、AWS 或 Azure 是模型原厂吗?
它们主要是聚合或托管平台,目录中包含第三方模型。模型能力应归属原始厂商,平台页说明托管与协议边界。
同一个模型换渠道需要重新测试吗?
需要。模型快照、区域、参数映射、流事件、限流、数据政策和价格都可能不同。
为什么可选渠道比厂商文档多?
渠道还包括聚合、工作流、本地运行时、兼容代理和账号桥,并不都拥有自己的模型家族。
关联指南
官方来源
- Amazon Bedrock Supported Models Official
- Azure AI Foundry Models Official
- OpenAI API Reference Official
兔子API