Recursos da plataforma
Chave de API inteligente
Uma chave que atinge todos os modelos que sua conta pode usar, com uma estratégia de roteamento em vez de um grupo fixo.
Uma chave de API comum está vinculada a um grupo de roteamento, portanto, ela só pode chamar os modelos que esse grupo atende. Uma chave de API inteligente está vinculada a auto: ela pode chamar todos os modelos aos quais sua conta tem acesso e resolve o grupo de roteamento por solicitação.
Crie uma em Chaves de API com Criar chave de API inteligente. Nada muda no lado do cliente — mesmo URL base, mesmo cabeçalho Authorization: Bearer.
O que acontece em cada solicitação
Seção intitulada “O que acontece em cada solicitação”Coletar grupos
Todos os grupos de roteamento que sua conta pode usar.
Mantenha o que serve ao modelo
Somente grupos que atualmente possuem um canal para o ID do modelo que você enviou.
Ordem por estratégia
Equilibrado, estabilidade primeiro ou preço baixo primeiro.
Enviar para o primeiro candidato
Continua para o próximo grupo quando este fica sem canais utilizáveis.
Como a etapa 2 é executada por solicitação, um modelo que atende apenas um grupo ainda funciona, e um grupo que está momentaneamente inutilizável é ignorado em vez de falhar na chamada.
Estratégias de roteamento
Seção intitulada “Estratégias de roteamento”| Estratégia | Ordem dos grupos candidatos |
|---|---|
| Balanceado (padrão) | Começa no meio da faixa de preço, vai até o candidato mais caro e depois desce até os mais baratos. |
| Estabilidade em primeiro lugar | Multiplicador de grupo mais alto primeiro. |
| Preço baixo primeiro | Multiplicador de grupo mais baixo primeiro. |
A estratégia é uma propriedade da chave e pode ser alterada em uma chave existente; a próxima solicitação usa o novo pedido.
Faturamento e registros
Seção intitulada “Faturamento e registros”Uma solicitação é cobrada com o multiplicador do grupo que efetivamente a atendeu e não da primeira escolha da estratégia. O log de consumo registra o grupo resolvido e a estratégia, portanto, uma mudança fica visível após o fato. Consulte Uso e custo.
- Nenhuma lista de permissões por modelo. Uma chave de API inteligente sempre segue o acesso do modelo atual da sua conta, portanto, um modelo recém-lançado funciona sem editar a chave.
- A cota, a data de expiração e a lista de permissões de IP funcionam como em qualquer outra chave.
- Uma chave de API inteligente não usa uma lista de substitutos manual – ela já percorre todos os grupos que sua conta pode usar. As correntes ordenadas são para chaves comuns; consulte Failover de grupo.