Plattformfunktionen
Plattformfunktionen
Routing, Cache-Schutz und Datenverarbeitung, die das Gateway zusätzlich zu den Modell-APIs hinzufügt.
Modelflare ist mehr als ein Pass-Through-Proxy. Vier Plattformverhalten entscheiden darüber, wie eine Anfrage weitergeleitet wird, was es kostet, wenn eine Route fehlschlägt, was passiert, wenn das Prompt-Caching nicht ausreichend funktioniert, und wie lange die Aufzeichnung darüber aufbewahrt wird. Sie gelten für jeden auf dieser Website dokumentierten Endpunkt und erfordern keine Änderung Ihres Client-Codes.
Smart API-Schlüssel
Ein Schlüssel für jedes Modell, das Ihr Konto verwenden kann, mit einer Routing-Strategie anstelle einer festen Gruppe.
Failover zwischen Gruppen
Eine primäre Gruppe plus geordnete Fallback-Gruppen, sodass eine nicht verfügbare Route die Anfrage nicht scheitern lässt.
Garantie für Cache-Treffer
Geschützte OpenAI-Gruppen haben eine tägliche Mindest-Cache-Trefferrate; ein Fehlbetrag wird gutgeschrieben.
Datenaufbewahrung
Wie lange Protokolle und Fehlerdiagnosen aufbewahrt werden und wie Sie diese für Ihr Konto verkürzen können.
Preise, Verfügbarkeit und die Gruppe, für die jedes Modell aktiviert ist, bleiben Sie auf Modelle & Preise.