플랫폼 특징
스마트 API 키
고정 그룹 대신 라우팅 전략을 사용하여 계정에서 사용할 수 있는 모든 모델에 도달하는 하나의 키입니다.
일반 API 키는 하나의 라우팅 그룹에 바인딩되어 있으므로 그룹이 제공하는 모델만 호출할 수 있습니다. 스마트 API 키는 auto에 바인딩되어 있습니다. 이 키는 귀하의 계정이 액세스할 수 있는 모든 모델을 호출할 수 있으며 요청별로 라우팅 그룹을 확인합니다.
스마트 API 키 생성을 사용하여 API 키에서 하나를 생성합니다. 클라이언트 측에서는 아무것도 변경되지 않습니다. 동일한 기본 URL, 동일한 Authorization: Bearer 헤더.
각 요청에서 발생하는 일
섹션 제목: “각 요청에서 발생하는 일”그룹 수집
계정에서 사용할 수 있는 모든 라우팅 그룹.
모델을 제공하는 내용 유지
현재 보내주신 모델 ID에 해당하는 채널이 있는 그룹만 해당됩니다.
전략별 정렬
균형, 안정성 우선, 혹은 저렴한 가격 우선.
첫 번째 후보자에게 전송
사용 가능한 채널이 부족할 때 다음 그룹으로 계속됩니다.
2단계는 요청별로 실행되기 때문에 한 그룹만 서비스하는 모델은 여전히 작동하며, 일시적으로 사용할 수 없는 그룹은 호출에 실패하는 대신 건너뛰게 됩니다.
라우팅 전략
섹션 제목: “라우팅 전략”| 전략 | 후보군 순서 |
|---|---|
| 균형(기본값) | 가격대의 중간에서 시작하여 가장 비싼 후보까지 작업한 다음 더 저렴한 후보로 내려갑니다. |
| 안정성이 최우선 | 가장 높은 그룹 배수가 먼저입니다. |
| 저렴한 가격 우선 | 가장 낮은 그룹 승수가 먼저 적용됩니다. |
전략은 키의 속성이며 기존 키에서 변경될 수 있습니다. 다음 요청에서는 새 순서를 사용합니다.
결제 및 로그
섹션 제목: “결제 및 로그”요청은 전략의 첫 번째 선택이 아닌 실제로 서비스를 제공한 그룹의 배수로 청구됩니다. 소비 로그는 확인된 그룹과 전략을 기록하므로 사실 이후에 스위치가 표시됩니다. 사용량 및 비용을 참조하세요.
- 모델별 허용 목록이 없습니다. 스마트 API 키는 항상 계정의 현재 모델 액세스를 따르므로 새로 출시된 모델은 키를 편집하지 않고도 작동합니다.
- 할당량, 만료 날짜 및 IP 허용 목록은 다른 키와 마찬가지로 작동합니다.
- 스마트 API 키는 수동 대체 목록을 사용하지 않습니다. 이미 계정에서 사용할 수 있는 모든 그룹을 탐색합니다. 순서가 지정된 체인은 일반 키용입니다. 그룹 장애 조치를 참조하세요.