AI API 安全、隐私与数据治理

小白：先保护密钥和数据

本站 API Key 只放在服务端环境变量或密钥管理系统，不写入前端、仓库、日志、截图和分享链接。按用户与应用分发独立令牌，设置最小模型、分组、额度和有效期；泄漏时撤销单枚令牌，而不是更换所有业务。

Copyallow request only if:
authenticated tenant AND allowed model AND allowed endpoint
AND request size within limit AND remaining budget sufficient

输入分类与最小化

在发送前标记公开、内部、机密、PII、凭证和受监管数据。删除不需要的字段，对身份证、电话、访问令牌等做脱敏或不可逆替换。RAG 必须先按当前用户权限过滤文档，再做召回；不能先检索全部内容后让模型自行保密。

文件、URL 与内容攻击

外部 URL 抓取要防 SSRF、重定向绕过和超大响应；上传文件要限制格式、大小、解压比例和解析时间，并进行恶意内容扫描。提示词、网页和文件都是不可信输入，可能试图覆盖系统指令、索取秘密或诱导工具执行。

工具调用与输出

模型只能提出工具调用，服务端必须重新校验工具名、参数 schema、租户资源归属和操作权限。付款、删除、发消息等高风险动作使用确认、审批或两阶段提交。结构化输出不等于可信输出；URL、SQL、路径、HTML 和 shell 参数仍需专用验证与安全 API。

日志、留存和供应链

记录 Request-ID、模型、渠道、策略结果和脱敏后的错误，不记录完整 Key、Base64、签名 URL、原始 PII 或敏感提示。核对实际路由到的上游、地区、训练使用、滥用监控、保留期与删除流程；平台托管第三方模型时，平台和模型原厂的边界不能混写。

专家威胁模型与验证

为每类场景维护资产、信任边界、攻击者、滥用途径、控制和证据。测试跨租户访问、提示注入、工具越权、SSRF、DNS 重绑定、MIME 欺骗、日志泄漏、重放和费用耗尽。上线后监控异常 token、请求体、目的域、工具失败与拒绝率，并定期演练密钥轮换和供应商切换。