Meta Llama 模型选型与调用

家族定位

Llama 以开放权重方式发布，适合下载、自托管、微调或由 AWS/Azure 等渠道托管。Meta 不提供一个适用于所有 Llama 版本的统一公共 REST API，因此页面不会伪造原厂端点。

不同 Llama 代际、参数规模和视觉版本拥有不同 tokenizer、上下文、提示模板、硬件需求与许可证。社区量化、微调或蒸馏模型不是 Meta 官方原版，名称相似也不能合并评价。

私有网络、离线推理、可控部署和定制训练是主要优势；若团队不具备推理运维能力，应评估托管渠道。选型要同时测质量、显存、首 token、吞吐、量化损失和安全。

本站出现 Llama ID 时，使用哪个路径取决于对应渠道适配，通常是 OpenAI 兼容对话；自托管则由 vLLM、TGI、Ollama 等运行时定义。保存权重版本、digest、模板和运行参数。

使用前阅读精确版本的 Community License、Acceptable Use Policy 和模型卡。团队负责访问控制、内容安全、依赖漏洞、模型来源、监控和升级。

FAQ

模型名是否固定？

否。官方别名可能移动，平台启用的精确 API ID 也会变化；生产应固定已验证 ID，并在模型广场单独确认可用性。

Llama 有统一的 Meta 官方 API 和固定请求协议吗？

没有适用于所有版本的统一公共 REST API。自托管协议由 vLLM、TGI、Ollama 等运行时决定，云托管协议由对应渠道决定；还要保存权重版本、digest、tokenizer、提示模板和量化参数。

下载到的 Llama 或社区微调模型都能直接商用吗？

不能这样假设。应阅读精确权重的 Community License、Acceptable Use Policy 和模型卡；社区量化、蒸馏或微调版本可能有不同来源与许可，部署方还负责安全、访问控制和运维。

关联指南