Возможности платформы

Modelflare — это больше, чем просто сквозной прокси. Четыре поведения платформы определяют, как будет маршрутизироваться запрос, сколько будет стоить сбой маршрута, что произойдет, если кэширование подсказок неэффективно и как долго будет храниться запись о нем. Они применяются к каждой конечной точке, описанной на этом сайте, и не требуют внесения изменений в ваш клиентский код.

Смарт-ключ API

Один ключ для каждой модели, которую может использовать ваш аккаунт, со стратегией маршрутизации вместо фиксированной группы.

Переключение между группами при сбое

Основная группа плюс упорядоченные резервные группы, поэтому один недоступный маршрут не приводит к сбою запроса.

Гарантия попаданий в кэш

Защищенные группы OpenAI имеют минимальную ежедневную частоту попаданий в кэш; недостача зачисляется обратно.

Хранение данных

Как долго хранятся журналы и диагностика сбоев и как сократить их для вашей учетной записи.

Цены, доступность и группы, в которых каждая модель включена, остаются на Модели и цены.