Fitur platform
Kunci API Cerdas
Satu kunci yang menjangkau setiap model yang dapat digunakan akun Anda, dengan strategi perutean, bukan grup tetap.
Kunci API biasa terikat pada satu grup perutean, sehingga hanya dapat memanggil model yang dilayani grup tersebut. Smart API Key terikat ke auto: ia dapat memanggil setiap model yang dapat diakses oleh akun Anda, dan menyelesaikan grup perutean per permintaan.
Buat satu di API Keys dengan Create Smart API Key. Tidak ada perubahan di sisi klien — URL dasar yang sama, header Authorization: Bearer yang sama.
Apa yang terjadi pada setiap permintaan
Section titled “Apa yang terjadi pada setiap permintaan”Kumpulkan kelompok
Setiap grup perutean yang mungkin digunakan akun Anda.
Pertahankan apa yang sesuai dengan model
Hanya grup yang saat ini memiliki saluran untuk ID model yang Anda kirim.
Pesan berdasarkan strategi
Seimbang, stabilitas dulu, atau harga murah dulu.
Kirim ke kandidat pertama
Melanjutkan ke grup berikutnya ketika grup tersebut kehabisan saluran yang dapat digunakan.
Karena langkah 2 berjalan per permintaan, model yang hanya dilayani oleh satu grup masih berfungsi, dan grup yang untuk sementara tidak dapat digunakan akan dilewati alih-alih gagal dalam panggilan.
Strategi perutean
Section titled “Strategi perutean”| Strategi | Urutan kelompok kandidat |
|---|---|
| Seimbang (default) | Mulai dari kisaran harga tengah, naik ke kandidat yang paling mahal, lalu turun lagi ke kandidat yang lebih murah. |
| Stabilitas diutamakan | Pengganda grup tertinggi terlebih dahulu. |
| Harga murah dulu | Pengganda grup terendah terlebih dahulu. |
Strategi adalah properti dari kunci dan dapat diubah pada kunci yang sudah ada; permintaan berikutnya menggunakan pesanan baru.
Penagihan dan log
Section titled “Penagihan dan log”Permintaan ditagih dengan pengganda grup yang benar-benar melayaninya, bukan pengganda pilihan pertama strategi. Log konsumsi mencatat grup yang diselesaikan dan strateginya, sehingga peralihan terlihat setelah kejadian. Lihat Penggunaan dan biaya.
Aturan
Section titled “Aturan”- Tidak ada daftar yang diizinkan per model. Kunci API Cerdas selalu mengikuti akses model akun Anda saat ini, sehingga model yang baru dirilis dapat berfungsi tanpa mengedit kunci.
- Kuota, tanggal kedaluwarsa, dan daftar IP yang diizinkan berfungsi seperti pada kunci lainnya.
- Kunci API Cerdas tidak mengambil daftar cadangan manual — kunci ini sudah berjalan di setiap grup yang dapat digunakan akun Anda. Rantai yang dipesan untuk kunci biasa; lihat Failover grup.