use-case

模型原厂、托管云、聚合渠道与本地运行时

直接答案厂商页回答模型是谁开发的,渠道回答请求从哪里转发;同名模型经过不同托管或聚合渠道时,认证、协议、区域、版本和数据边界都可能变化。

更新 · 审核信息

小白:先分清“谁做的”和“从哪调用”

模型原厂定义权重、能力和生命周期;托管云在自己的区域与账号体系提供第三方模型;聚合市场把多个供应商放在统一协议下;工作流平台提供应用或知识库入口;本地运行时在自有机器加载模型;账号桥则把另一种身份体系转成调用能力。它们都可能出现在渠道配置中,但不应都被称为模型厂商。

六类接入形态

类型典型例子重点核对
原厂OpenAI、Anthropic、Google、DeepSeek官方模型 ID、原生协议、弃用
托管云AWS Bedrock、Azure AI Foundry、Vertex AI区域、部署名、平台版本、原厂
聚合市场OpenRouter、SiliconFlow、Replicate实际供应商、自动路由、协议子集
工作流Dify、Coze、FastGPT应用 ID、会话状态、知识库语义
本地运行时Ollama、Xinference模型文件、许可证、硬件、网络暴露
特殊桥接OAuth/账号型接入身份、授权范围、会话与服务条款

最小核验

先用本站令牌查询 /v1/models,再到模型广场看精确 ID、渠道支持和价格。模型名中出现平台名不代表平台开发了模型;平台页的“支持”也不等于所有区域、账号和端点都可用。

切换渠道不是只换 Base URL

重新验证认证头、模型/部署名、请求字段、工具 schema、流式事件、错误对象、usage、媒体交付和限流。托管平台可能固定旧快照,聚合路由可能在供应商间故障转移,本地运行时则受量化、模板和硬件影响。

数据与合规边界

记录每次请求的渠道和原始模型厂商。确认数据经过哪些主体、在哪个区域、保留多久、是否用于滥用监控,以及自动故障转移是否改变边界。要求零保留时,不能只看模型名称或平台总承诺。

专家路由治理

为渠道建立能力允许列表、健康度、成本、延迟、数据级别和故障转移策略。不要把所有错误都切换供应商:参数、权限、余额和内容策略错误换渠道通常无效。故障转移后仍要保留 Request-ID、实际供应商、模型快照和结算信息,才能追责与复现。

适用场景

  • 选择调用渠道并核对模型来源
  • 治理多供应商路由与数据边界

API 协议

  • /v1/models

FAQ

OpenRouter、AWS 或 Azure 是模型原厂吗?

它们主要是聚合或托管平台,目录中包含第三方模型。模型能力应归属原始厂商,平台页说明托管与协议边界。

同一个模型换渠道需要重新测试吗?

需要。模型快照、区域、参数映射、流事件、限流、数据政策和价格都可能不同。

为什么可选渠道比厂商文档多?

渠道还包括聚合、工作流、本地运行时、兼容代理和账号桥,并不都拥有自己的模型家族。

官方来源

  1. Amazon Bedrock Supported Models Official
  2. Azure AI Foundry Models Official
  3. OpenAI API Reference Official