平台功能
智慧 API 金鑰
一個金鑰可到達您的帳戶可以使用的每個模型,並使用路由策略而不是固定群組。
普通的API key綁定到一個路由組,因此只能呼叫該組服務的模型。 智慧型API金鑰綁定到auto:它可以呼叫您的帳戶有權存取的每個模型,並解析每個請求的路由組。
使用建立智慧 API 金鑰在API 金鑰中建立一個。用戶端沒有任何變更 — 相同的基本 URL、相同的 Authorization: Bearer 標頭。
每個請求會發生什麼
Section titled “每個請求會發生什麼”收集組
您的帳戶可能使用的每個路由群組。
保留為模型服務的內容
僅目前具有您傳送的模型 ID 的通道的群組。
依策略排序
均衡,穩定第一,或者說低價第一。
發送給第一位候選人
當該組用完可用頻道時,繼續到下一組。
由於步驟 2 針對每個請求運行,因此只有一個群組提供服務的模型仍然有效,並且會跳過暫時不可用的群組,而不是使呼叫失敗。
| 策略 | 候選組順序 |
|---|---|
| 平衡(預設) | 從價格範圍的中間開始,逐步提高到最昂貴的候選者,然後再下降到更便宜的候選者。 |
| 穩定第一 | 最高組乘數優先。 |
| 低價優先 | 最低組乘數優先。 |
策略是金鑰的屬性,可以在現有金鑰上變更;下一個請求將使用新訂單。
請求按實際提供服務的分組倍率計費,而非策略最初選中的分組。用量日誌會記錄最終分組與路由策略,方便事後確認切換情況。請參閱用量與計費。
- 沒有每個型號的許可名單。智慧 API 金鑰始終遵循您帳戶的當前模型存取權限,因此新發布的模型無需編輯金鑰即可運行。
- 配額、到期日和 IP 允許清單與任何其他金鑰一樣運作。
- 智慧型 API 金鑰不採用手動後備清單 - 它已經遍歷您的帳戶可以使用的每個群組。有序鏈條適用於普通鑰匙;請參閱組故障轉移。