Características de la plataforma
Características de la plataforma
Enrutamiento, protección de caché y manejo de datos que la puerta de enlace agrega sobre las API del modelo.
Modelflare es más que un proxy de transferencia. Cuatro comportamientos de la plataforma deciden cómo se enruta una solicitud, cuánto cuesta cuando falla una ruta, qué sucede cuando el almacenamiento en caché de avisos tiene un rendimiento inferior y durante cuánto tiempo se mantiene el registro. Se aplican a todos los puntos finales documentados en este sitio y no necesitan cambios en su código de cliente.
Clave API inteligente
Una clave para cada modelo que tu cuenta pueda utilizar, con una estrategia de enrutamiento en lugar de un grupo fijo.
Conmutación por error entre grupos
Un grupo primario más grupos de respaldo ordenados, de modo que una ruta no disponible no falle la solicitud.
Garantía de aciertos de caché
Los grupos OpenAI protegidos tienen una tasa mínima de aciertos de caché diarios; se acredita un déficit.
Retención de datos
Durante cuánto tiempo se guardan los registros y diagnósticos de fallas, y cómo acortarlos para su cuenta.
Precios, disponibilidad y el grupo en el que está habilitado cada modelo durante su estadía en Modelos y Precios.