플랫폼 특징
플랫폼 특징
게이트웨이가 모델 API 위에 추가하는 라우팅, 캐시 보호 및 데이터 처리.
Modelflare는 통과 프록시 그 이상입니다. 네 가지 플랫폼 동작에 따라 요청 라우팅 방법, 라우팅 실패 시 비용, 프롬프트 캐싱 성능이 저하될 때 발생하는 상황, 기록 보관 기간이 결정됩니다. 이는 이 사이트에 설명된 모든 엔드포인트에 적용되며 클라이언트 코드를 변경할 필요가 없습니다.
스마트 API 키
고정 그룹 대신 라우팅 전략을 사용하여 계정에서 사용할 수 있는 모든 모델에 대한 하나의 키입니다.
그룹 간 장애 조치
기본 그룹과 순서가 지정된 대체 그룹이 있으므로 사용할 수 없는 경로 하나가 요청에 실패하지 않습니다.
캐시 적중 보장
보호된 OpenAI 그룹은 일일 최소 캐시 적중률을 갖습니다. 부족액은 다시 적립됩니다.
데이터 보존
로그 및 장애 진단이 보관되는 기간과 계정에 대한 단축 방법.
각 모델의 가격, 가용성 및 그룹은 모델 및 가격에서 숙박 시 활성화됩니다.