グループ間フェイルオーバー

ルーティング グループは、サービス プロバイダー チャネルのセットです。通常の API キーは、優先順位に従って 1 つの ** プライマリ グループ ** と、オプションで ** フォールバック グループ ** に名前を付けます。プライマリ グループがリクエストを処理できない場合、ゲートウェイはクライアントにエラーを返さずにそのリストを続行します。

キーを作成または編集するときに、API キーでチェーンを設定します。順序は重要であり、コンソールではエントリを上下に移動できます。

プライマリーグループ

キー上で指定されたグループ。

その中のチャネルの優先順位

グループ内のすべての優先順位は、次のグループの前に試行されます。

次のフォールバック グループ

同じサービス プロバイダーの別の再試行ではなく、ルート変更。

サービスを提供したグループによって請求されます

解決されたグループは消費ログに記録されます。

フェイルオーバーはルートと接続の問題のみを対象とします。クライアントエラーが発生すると、リクエストは即座に停止されます。

リクエストが次のグループに移る場合

• グループには、要求されたモデルのチャネルがありません。
• グループはアカウントのレート制限に達しています。
• グループ内のすべてのチャネル優先度が試行されましたが、再試行可能なエラーが返されました。

グループは、次のグループが試行される前に独自のチャネル優先順位を使い果たすため、フォールバックはルート変更であり、同じサービス プロバイダーの追加の再試行ではありません。

そうでないときは

フェイルオーバーはルートと接続の問題のみをカバーします。リクエストは次の時点で直ちに停止します。

• クライアント エラー - 不正な形式の JSON、無効なパラメータ、コンテキストの長さの超過。
• キャンセルされたクライアント接続。
• 1 つの特定のチャネルに固定されたリクエスト。
• すでに実際の本文バイトをクライアントに送信しているストリーミング応答。ハートビートだけではドアは閉じられませんが、コンテンツが書き込まれると、リクエストが別のルートで再実行されることはありません。

課金

切り替え後、リクエストはプライマリ グループではなく、リクエストを処理したグループの乗数で請求されます。サービスを提供したグループは、消費ログに記録されます。

キャンペーン グループにはフォールバックが必要です

期間限定ルートは設計上一時的なものです。キーのプライマリ グループがキャンペーン ルートである場合、キーの保存には少なくとも 1 つの具体的なフォールバック グループが必要となるため、そのルートが終了してもキーは機能し続けます。

スマート API キー

スマート API キー は、アカウントが使用できるすべてのグループをルーティング戦略に従って順序付けてすでにウォークスルーしているため、手動のフォールバック リストは必要ありません。