Перейти к содержимому
Открытая КасталияКонсоль

Возможности платформы

Смарт-ключ API

Один ключ, который доступен для каждой модели, которую может использовать ваш аккаунт, со стратегией маршрутизации вместо фиксированной группы.

Обычный ключ API привязан к одной группе маршрутизации, поэтому он может вызывать только те модели, которые обслуживает эта группа. Smart API Key привязан к auto: он может вызывать любую модель, к которой имеет доступ ваша учетная запись, и определяет группу маршрутизации для каждого запроса.

Создайте его в API Keys с помощью Create Smart API Key. На стороне клиента ничего не меняется — тот же базовый URL, тот же заголовок Authorization: Bearer.

Собирайте группы

Каждая группа маршрутизации, которую может использовать ваша учетная запись.

Оставьте то, что служит модели

Только группы, у которых в данный момент есть канал для отправленного вами идентификатора модели.

Упорядочить по стратегии

Сбалансированность, стабильность на первом месте или низкая цена на первом месте.

Отправить первому кандидату

Переход к следующей группе, когда в ней заканчиваются доступные каналы.

Группа маршрутизации определяется при каждом запросе; он не хранится на ключе.

Поскольку шаг 2 выполняется для каждого запроса, модель, которая обслуживает только одну группу, по-прежнему работает, а группа, которая на данный момент непригодна для использования, пропускается, а не приводит к сбою вызова.

Стратегия Порядок групп кандидатов
Сбалансированный (по умолчанию) Начинается с середины ценового диапазона, идет до самого дорогого кандидата, затем возвращается к более дешевым.
Стабильность превыше всего Сначала самый высокий групповой множитель.
Сначала низкие цены Сначала наименьший групповой множитель.

Стратегия является свойством ключа и может быть изменена для существующего ключа; следующий запрос использует новый порядок.

Запрос оплачивается с учетом множителя группы, которая его фактически обслужила, а не первого выбора стратегии. Журнал потребления записывает решенную группу и стратегию, поэтому переключение видно постфактум. См. Использование и стоимость.

  • Нет белого списка для каждой модели. Смарт-ключ API всегда соответствует текущему доступу к модели вашей учетной записи, поэтому новая выпущенная модель работает без редактирования ключа.
  • Квота, дата истечения срока действия и список разрешенных IP-адресов работают так же, как и для любого другого ключа.
  • Smart API Key не использует резервный список вручную — он уже проходит каждую группу, которую может использовать ваша учетная запись. Заказанные цепочки предназначены для обычных ключей; см. Отработка отказа группы.