プラットフォームの特徴

Modelflare は単なるパススルー プロキシではありません。 4 つのプラットフォームの動作によって、リクエストのルーティング方法、ルートが失敗した場合のコスト、プロンプト キャッシュのパフォーマンスが低下した場合の動作、およびその記録の保存期間が決まります。これらは、このサイトに記載されているすべてのエンドポイントに適用され、クライアント コードを変更する必要はありません。

スマートAPIキー

固定グループの代わりにルーティング戦略を使用して、アカウントで使用できるモデルごとに 1 つのキー。

グループ間フェイルオーバー

プライマリ グループと順序付けされたフォールバック グループ。したがって、1 つの利用できないルートによって要求が失敗することはありません。

キャッシュヒット保証

保護された OpenAI グループには、毎日の最小キャッシュ ヒット率が適用されます。不足分は返金されます。

データ保持

ログと障害診断の保存期間と、アカウントの保存期間を短縮する方法。

価格、在庫状況、各モデルのグループは、モデルと価格で有効になります。