Ollama

先分清本地运行时与 Cloud

Ollama 不是单一模型厂商，而是同时提供本地运行时、官方模型库与 Ollama Cloud API。原生本地 Base URL 是 http://localhost:11434/api，Cloud 是 https://ollama.com/api；本站 /v1/chat/completions 是网关的兼容入口，不能把上述厂商直连地址当作本站路径。可用标签、许可证、模板、量化与能力由具体 Library 条目决定。

认证规则取决于调用位置

默认 localhost 本地 API 不要求认证；直接调用 Ollama Cloud 必须发送 Authorization: Bearer <OLLAMA_API_KEY>。某些 OpenAI SDK 即使连接本地兼容端点也要求填写 api_key 字段，但该值会被本地 Ollama 忽略。不要把 Ollama Cloud Key、本站 Key 和 SDK 的本地占位值混用。

原生响应默认是 NDJSON 流

/api/generate 等原生生成接口默认以 application/x-ndjson 返回多行 JSON，而不是一个完整 JSON 文档。客户端必须逐行解析，直到完成标记；需要单个 JSON 响应时显式设置 "stream": false。流开始后即使 HTTP 已是 200，后续行仍可能出现带 error 的对象，解析器必须检查每一行，不能只看初始状态码。

上下文与内存要主动预算

Ollama 默认上下文长度是 4096 token，可用 OLLAMA_CONTEXT_LENGTH 调整服务默认值，或在请求的 num_ctx 中设置。更长上下文会增加内存或显存占用并影响并发；先按实际提示词、检索片段和输出预算压测，不要只看模型理论上限。

不要裸露本地服务

Ollama 默认绑定 127.0.0.1:11434。若通过 OLLAMA_HOST 改为非回环监听，必须把它视为未经内置认证保护的服务：使用防火墙或私网限制来源，并在反向代理增加 TLS、认证、速率限制与请求体上限。不要把管理接口和本地文件能力直接暴露到公网。

错误、成本与模型安全

400 检查请求字段，404 检查模型是否已拉取或云端可用，429 是限流，500/502 可能是服务或上游错误；只对临时错误做有限退避。云端调用需关注配额与成本，本地运行也有下载、磁盘、内存、GPU 和并发成本。社区模型上线前应核验来源、digest、许可证、模板和安全评测。