跳转到内容
打开 Castaly控制台

站点特色

智能 API Key

一把 Key 覆盖账号可用的全部模型,用路由策略代替固定分组。

普通 API Key 绑定在一个路由分组上,只能调用该分组服务的模型。智能 API Key 绑定的是 auto:它可以调用账号有权访问的全部模型,并且逐请求解析该用哪个分组。

API Keys 里用创建智能 API Key 创建。客户端不需要任何改动——base URL 不变,Authorization: Bearer 头也不变。

  1. 网关收集账号当前可用的全部路由分组。
  2. 只保留当前有渠道能服务请求中模型 ID 的分组。
  3. 按这把 Key 的路由策略给剩下的候选分组排序。
  4. 把请求发给第一个候选分组;该分组对这个模型没有可用渠道时,继续下一个。

第 2 步是逐请求执行的,因此只有单个分组提供的模型照样可用,暂时不可用的分组会被跳过而不是让请求失败。

策略 候选分组的排序
均衡(默认) 从价格区间中部开始,向上走到最贵的候选分组,再回头依次尝试更便宜的分组。
稳定优先 分组倍率最高的排在最前。
低价优先 分组倍率最低的排在最前。

策略是 Key 自身的属性,已创建的 Key 也可以改;下一次请求就按新顺序执行。

请求按实际服务它的那个分组的倍率计费,而不是按策略排在第一位的分组。消耗日志会记录最终解析到的分组和使用的策略,事后可以核对是否发生过切换。参见用量与计费

  • 不设置按模型的白名单。智能 API Key 始终跟随账号当前的模型访问权限,新上线的模型无需改 Key 即可调用。
  • 额度、有效期和 IP 白名单与其他 Key 一样生效。
  • 智能 API Key 不再单独配置备选分组——它本来就会遍历账号可用的全部分组。按顺序排列的备选链路属于普通 Key,见分组容灾切换