一、HTTP API 基础
1.HTTP请求
AI 应用常通过 API 调用大模型或业务系统。一次 HTTP 请求通常包含:
- 方法:
GET常用于读取,POST常用于提交数据或创建请求。 - 路径:要访问的接口地址。
- Headers:认证信息、内容类型等。
- Body:请求数据,常用 JSON 格式。
2.状态码
服务会返回状态码和响应内容。常见状态码:
200:请求成功400:请求格式或参数有问题401:未认证403:无权限404:接口或资源不存在429:请求太频繁500:服务端错误
调用大模型接口时,通常把输入放入 JSON 请求体,然后解析 JSON 响应。工程上还要设置超时、合理重试、处理限流和记录必要日志。
API Key 等秘密信息应通过环境变量或安全配置管理,不能直接写进代码或公开日志。
3.让 API 调用更可靠
调用模型或业务 API 时,除了发出请求,还要处理错误和异常响应。
(1)区分可重试错误
429:请求频率过高,通常应等待后再试。500、502、503:服务端暂时异常,有时可以重试。400:请求参数有问题,通常应先修正请求。401、403:认证或权限问题,通常不是重试就能解决。
重试可以使用逐步增加等待时间的策略,并遵守服务端返回的等待提示;不要无限重试。
(2)校验模型输出
即使要求模型返回 JSON,也应检查:
- 返回内容是否能被解析;
- 必需字段是否存在;
- 字段类型和取值是否符合预期。
模型输出属于外部输入,不能因为它“看起来像 JSON”就直接信任。
(3) 流式输出
流式响应可以在模型尚未生成完整答案时,逐段把内容传给用户,降低感知等待时间。程序也要处理连接中断、部分答案和取消请求等情况。