Aller au contenu
Ouvrir CastalyConsole

Fonctionnalités de la plateforme

Clé API intelligente

Une clé qui atteint tous les modèles que votre compte peut utiliser, avec une stratégie de routage au lieu d'un groupe fixe.

Une clé API ordinaire est liée à un groupe de routage, elle ne peut donc appeler que les modèles servis par ce groupe. Une Smart API Key est liée à auto : elle peut appeler tous les modèles auxquels votre compte a accès et elle résout le groupe de routage par requête.

Créez-en une dans Clés API avec Créer une clé API intelligente. Rien ne change côté client : même URL de base, même en-tête Authorization: Bearer.

Collecter des groupes

Chaque groupe de routage que votre compte peut utiliser.

Conserver ce qui sert le modèle

Uniquement les groupes qui disposent actuellement d'un canal pour l'ID de modèle que vous avez envoyé.

Tri par stratégie

Équilibré, stabilité d'abord ou prix bas d'abord.

Envoyer au premier candidat

Passe au groupe suivant lorsque celui-ci manque de canaux utilisables.

Le groupe de routage est résolu à chaque requête ; il n'est pas stocké sur la clé.

Étant donné que l’étape 2 s’exécute par requête, un modèle servi par un seul groupe fonctionne toujours et un groupe momentanément inutilisable est ignoré au lieu d’échouer l’appel.

Stratégie Ordre des groupes candidats
Equilibré (par défaut) Commence au milieu de la fourchette de prix, monte jusqu’au candidat le plus cher, puis redescend jusqu’aux moins chers.
La stabilité d’abord Le multiplicateur de groupe le plus élevé en premier.
Prix bas d’abord Multiplicateur de groupe le plus bas en premier.

La stratégie est une propriété de la clé et peut être modifiée sur une clé existante ; la requête suivante utilise la nouvelle commande.

Une requête est facturée avec le multiplicateur du groupe qui l’a réellement servie, et non avec le premier choix de la stratégie. Le journal de consommation enregistre le groupe résolu et la stratégie, de sorte qu’un changement est visible après coup. Voir Utilisation et coût.

  • Aucune liste d’autorisation par modèle. Une clé API intelligente suit toujours l’accès au modèle actuel de votre compte, de sorte qu’un modèle nouvellement publié fonctionne sans modifier la clé.
  • Le quota, la date d’expiration et la liste d’autorisation IP fonctionnent comme sur n’importe quelle autre clé.
  • Une clé API intelligente n’accepte pas de liste de secours manuelle : elle parcourt déjà tous les groupes que votre compte peut utiliser. Les chaînes commandées sont destinées aux clés ordinaires ; voir Basculement de groupe.