Lewati ke konten
Buka CastalyKonsol

Fitur platform

Failover antargrup

Berikan kunci biasa grup utama dan daftar grup cadangan yang diurutkan.

Grup perutean adalah sekumpulan saluran penyedia layanan. Kunci API biasa menamai satu grup utama dan, secara opsional, grup cadangan dalam urutan prioritas. Ketika grup utama tidak dapat melayani permintaan, gateway akan melanjutkan daftar tersebut alih-alih mengembalikan kesalahan ke klien Anda.

Konfigurasikan rantai di Kunci API saat Anda membuat atau mengedit kunci. Urutan penting, dan konsol memungkinkan Anda memindahkan entri ke atas dan ke bawah.

Kelompok primer

Grup yang diberi nama pada kunci.

Prioritas saluran di dalamnya

Setiap prioritas dalam kelompok dicoba sebelum kelompok berikutnya.

Grup cadangan berikutnya

Perubahan rute, bukan percobaan ulang lagi dari penyedia layanan yang sama.

Ditagih oleh grup yang melayani

Grup yang terselesaikan dicatat dalam log konsumsi.

Failover hanya mencakup masalah rute dan koneksi; kesalahan klien segera menghentikan permintaan.

Saat permintaan berpindah ke grup berikutnya

Section titled “Saat permintaan berpindah ke grup berikutnya”
  • Grup tidak memiliki saluran untuk model yang diminta.
  • Grup berada pada batas tarif untuk akun Anda.
  • Setiap prioritas saluran dalam grup telah dicoba dan masih menghasilkan kesalahan yang dapat dicoba lagi.

Sebuah grup menghabiskan prioritas salurannya sendiri sebelum grup berikutnya dicoba, jadi fallback adalah perubahan rute, bukan percobaan ulang tambahan dari penyedia layanan yang sama.

Failover hanya mencakup masalah rute dan koneksi. Permintaan segera berhenti pada:

  • — format JSON salah, parameter tidak valid, panjang konteks terlampaui;
  • koneksi klien dibatalkan;
  • permintaan yang disematkan ke satu saluran tertentu;
  • respons streaming yang telah mengirimkan byte tubuh nyata ke klien Anda. Detak jantung saja tidak menutup pintu, namun begitu konten telah ditulis, permintaan tersebut tidak akan pernah diputar ulang di jalur lain.

Setelah peralihan, permintaan ditagih dengan pengganda grup yang melayaninya, bukan grup utama. Grup yang dilayani dicatat dalam log konsumsi.

Rute dengan waktu terbatas dirancang untuk bersifat sementara. Jika grup utama kunci adalah rute kampanye, penyimpanan kunci memerlukan setidaknya satu grup cadangan yang konkret, sehingga kunci tetap berfungsi setelah rute tersebut berakhir.

Smart API Key sudah berjalan di setiap grup yang dapat digunakan akun Anda, diurutkan berdasarkan strategi peruteannya, sehingga tidak memerlukan daftar fallback manual.