Fitur platform
Fitur platform
Perutean, perlindungan cache, dan penanganan data yang ditambahkan gateway di atas model API.
Modelflare lebih dari sekedar proxy pass-through. Lima perilaku platform menentukan bagaimana permintaan dirutekan, berapa biayanya jika suatu rute gagal, apa yang terjadi jika cache cepat berkinerja buruk, berapa lama catatannya disimpan, dan bagaimana sebuah tim berbagi satu saldo. Aturan ini berlaku untuk setiap titik akhir yang didokumentasikan di situs ini dan tidak memerlukan perubahan pada kode klien Anda.
Kunci API Cerdas
Satu kunci untuk setiap model yang dapat digunakan akun Anda, dengan strategi perutean, bukan grup tetap.
Failover antargrup
Grup utama ditambah grup cadangan yang dipesan, sehingga satu rute yang tidak tersedia tidak akan menggagalkan permintaan.
Jaminan rasio cache hit
Grup OpenAI yang dilindungi memiliki tingkat cache hit harian minimum; kekurangan dikreditkan kembali.
Retensi data
Berapa lama log dan diagnostik kegagalan disimpan, dan cara mempersingkatnya untuk akun Anda.
Akun perusahaan
Satu saldo bersama untuk tim, dengan kunci berprefiks dan anggaran belanja per anggota.
Harga, ketersediaan, dan grup masing-masing model diaktifkan tetap di Model & Harga.