Fitur platform
Fitur platform
Perutean, perlindungan cache, dan penanganan data yang ditambahkan gateway di atas model API.
Modelflare lebih dari sekedar proxy pass-through. Empat perilaku platform menentukan bagaimana permintaan dirutekan, berapa biayanya jika suatu rute gagal, apa yang terjadi jika cache cepat berkinerja buruk, dan berapa lama catatannya disimpan. Aturan ini berlaku untuk setiap titik akhir yang didokumentasikan di situs ini dan tidak memerlukan perubahan pada kode klien Anda.
Kunci API Cerdas
Satu kunci untuk setiap model yang dapat digunakan akun Anda, dengan strategi perutean, bukan grup tetap.
Failover antargrup
Grup utama ditambah grup cadangan yang dipesan, sehingga satu rute yang tidak tersedia tidak akan menggagalkan permintaan.
Jaminan rasio cache hit
Grup OpenAI yang dilindungi memiliki tingkat cache hit harian minimum; kekurangan dikreditkan kembali.
Retensi data
Berapa lama log dan diagnostik kegagalan disimpan, dan cara mempersingkatnya untuk akun Anda.
Harga, ketersediaan, dan grup masing-masing model diaktifkan tetap di Model & Harga.