プラットフォームの特徴
スマートAPIキー
固定グループの代わりにルーティング戦略を使用して、アカウントで使用できるすべてのモデルに到達する 1 つのキー。
通常の API キーは 1 つのルーティング グループにバインドされているため、そのグループが提供するモデルのみを呼び出すことができます。 **スマート API キー ** は auto にバインドされています。アカウントがアクセスできるすべてのモデルを呼び出すことができ、リクエストごとにルーティング グループを解決します。
API KeysでSmart API Keyの作成を使用して作成します。クライアント側では何も変わりません。同じベース URL、同じ Authorization: Bearer ヘッダーです。
各リクエストで何が起こるか
Section titled “各リクエストで何が起こるか”グループを集める
アカウントが使用できるすべてのルーティング グループ。
モデルに役立つものを維持する
送信したモデル ID のチャンネルを現在持っているグループのみ。
戦略別オーダー
バランス重視、安定優先、低価格優先。
第一候補者に送信
使用可能なチャンネルがなくなると、次のグループに進みます。
ステップ 2 はリクエストごとに実行されるため、1 つのグループのみがサービスを提供するモデルは引き続き機能し、一時的に使用できないグループは呼び出しが失敗する代わりにスキップされます。
ルーティング戦略
Section titled “ルーティング戦略”| 戦略 | 候補グループの順位 |
|---|---|
| バランス型(デフォルト) | 価格帯の中間から開始し、最も高価な候補まで進み、その後、より安価な候補まで下がります。 |
| 安定第一 | 最も高いグループ乗数が最初です。 |
| 低価格優先 | 最も低いグループ乗数が最初です。 |
戦略はキーのプロパティであり、既存のキーで変更できます。次のリクエストでは新しい順序が使用されます。
リクエストは、戦略の最初の選択の乗数ではなく、実際にリクエストを処理したグループの乗数で請求されます。消費ログには解決されたグループと戦略が記録されるため、事後に切り替えが確認できます。 使用量とコストを参照してください。
- モデルごとの許可リストはありません。スマート API キーは常にアカウントの現在のモデル アクセスに従うため、新しくリリースされたモデルはキーを編集しなくても機能します。
- クォータ、有効期限、および IP ホワイトリストは、他のキーと同様に機能します。
- スマート API キーは手動のフォールバック リストを必要としません。アカウントが使用できるすべてのグループをすでに調べています。順序付けされたチェーンは通常のキー用です。 「グループ フェイルオーバー」を参照してください。