Plattformfunktionen
Smart API-Schlüssel
Ein Schlüssel, der jedes Modell erreicht, das Ihr Konto verwenden kann, mit einer Routing-Strategie anstelle einer festen Gruppe.
Ein gewöhnlicher API-Schlüssel ist an eine Routinggruppe gebunden, sodass er nur die Modelle aufrufen kann, die diese Gruppe bedient. Ein Smart API Key ist an auto gebunden: Er kann jedes Modell aufrufen, auf das Ihr Konto Zugriff hat, und er löst die Routinggruppe pro Anfrage auf.
Erstellen Sie einen in API-Schlüssel mit Create Smart API Key. Auf der Clientseite ändert sich nichts – gleiche Basis-URL, gleicher Authorization: Bearer-Header.
Was passiert bei jeder Anfrage?
Abschnitt betitelt „Was passiert bei jeder Anfrage?“Gruppen sammeln
Jede Routinggruppe, die Ihr Konto verwenden darf.
Behalten Sie, was dem Modell dient
Nur Gruppen, die derzeit einen Kanal für die von Ihnen gesendete Modell-ID haben.
Sortierung nach Strategie
Ausgewogen, Stabilität zuerst oder niedriger Preis zuerst.
An den ersten Kandidaten senden
Fährt mit der nächsten Gruppe fort, wenn diese keine nutzbaren Kanäle mehr hat.
Da Schritt 2 pro Anfrage ausgeführt wird, funktioniert ein Modell, das nur eine Gruppe bedient, immer noch, und eine Gruppe, die momentan nicht verwendbar ist, wird übersprungen, anstatt dass der Aufruf fehlschlägt.
Routing-Strategien
Abschnitt betitelt „Routing-Strategien“| Strategie | Reihenfolge der Kandidatengruppen |
|---|---|
| Ausgewogen (Standard) | Beginnt in der Mitte der Preisspanne, arbeitet sich bis zum teuersten Kandidaten vor und geht dann wieder nach unten zu den günstigeren. |
| Stabilität zuerst | Höchster Gruppenmultiplikator zuerst. |
| Zuerst der niedrige Preis | Niedrigster Gruppenmultiplikator zuerst. |
Die Strategie ist eine Eigenschaft des Schlüssels und kann auf einem vorhandenen Schlüssel geändert werden; Die nächste Anfrage verwendet die neue Reihenfolge.
Abrechnung und Protokolle
Abschnitt betitelt „Abrechnung und Protokolle“Eine Anfrage wird mit dem Multiplikator der Gruppe abgerechnet, die sie tatsächlich bedient hat, nicht mit dem Multiplikator der ersten Wahl der Strategie. Das Verbrauchsprotokoll zeichnet die aufgelöste Gruppe und die Strategie auf, sodass ein Wechsel im Nachhinein sichtbar ist. Siehe Nutzung und Kosten.
- Keine Zulassungsliste pro Modell. Ein Smart API Key folgt immer dem aktuellen Modellzugriff Ihres Kontos, sodass ein neu veröffentlichtes Modell funktioniert, ohne dass der Schlüssel bearbeitet werden muss.
- Kontingent, Ablaufdatum und IP-Zulassungsliste funktionieren wie bei jedem anderen Schlüssel.
- Ein Smart API Key benötigt keine manuelle Fallback-Liste – er durchläuft bereits jede Gruppe, die Ihr Konto verwenden kann. Bestellte Ketten gelten für normale Schlüssel; siehe Gruppen-Failover.