站点特色
智能 API Key
一把 Key 覆盖账号可用的全部模型,用路由策略代替固定分组。
普通 API Key 绑定在一个路由分组上,只能调用该分组服务的模型。智能 API Key 绑定的是 auto:它可以调用账号有权访问的全部模型,并且逐请求解析该用哪个分组。
在 API Keys 里用创建智能 API Key 创建。客户端不需要任何改动——base URL 不变,Authorization: Bearer 头也不变。
每次请求做了什么
Section titled “每次请求做了什么”- 网关收集账号当前可用的全部路由分组。
- 只保留当前有渠道能服务请求中模型 ID 的分组。
- 按这把 Key 的路由策略给剩下的候选分组排序。
- 把请求发给第一个候选分组;该分组对这个模型没有可用渠道时,继续下一个。
第 2 步是逐请求执行的,因此只有单个分组提供的模型照样可用,暂时不可用的分组会被跳过而不是让请求失败。
| 策略 | 候选分组的排序 |
|---|---|
| 均衡(默认) | 从价格区间中部开始,向上走到最贵的候选分组,再回头依次尝试更便宜的分组。 |
| 稳定优先 | 分组倍率最高的排在最前。 |
| 低价优先 | 分组倍率最低的排在最前。 |
策略是 Key 自身的属性,已创建的 Key 也可以改;下一次请求就按新顺序执行。
请求按实际服务它的那个分组的倍率计费,而不是按策略排在第一位的分组。消耗日志会记录最终解析到的分组和使用的策略,事后可以核对是否发生过切换。参见用量与计费。
- 不设置按模型的白名单。智能 API Key 始终跟随账号当前的模型访问权限,新上线的模型无需改 Key 即可调用。
- 额度、有效期和 IP 白名单与其他 Key 一样生效。
- 智能 API Key 不再单独配置备选分组——它本来就会遍历账号可用的全部分组。按顺序排列的备选链路属于普通 Key,见分组容灾切换。