Tính năng nền tảng
Tính năng nền tảng
Định tuyến, bảo vệ bộ đệm và xử lý dữ liệu mà cổng bổ sung bên trên các API mô hình.
Modelflare không chỉ là một proxy chuyển tiếp. Bốn hành vi nền tảng quyết định cách định tuyến một yêu cầu, chi phí khi định tuyến không thành công, điều gì xảy ra khi bộ nhớ đệm nhắc nhở hoạt động kém và bản ghi về yêu cầu đó được lưu giữ trong bao lâu. Chúng áp dụng cho mọi điểm cuối được ghi lại trên trang web này và không cần thay đổi mã máy khách của bạn.
Khóa API thông minh
Một khóa cho mọi mô hình mà tài khoản của bạn có thể sử dụng, với chiến lược định tuyến thay vì một nhóm cố định.
Chuyển đổi dự phòng giữa các nhóm
Một nhóm chính cộng với các nhóm dự phòng được sắp xếp, do đó, một tuyến đường không khả dụng sẽ không đáp ứng được yêu cầu.
Đảm bảo tỷ lệ cache hit
Các nhóm OpenAI được bảo vệ có tỷ lệ truy cập bộ đệm hàng ngày tối thiểu; sự thiếu hụt sẽ được ghi có trở lại.
Lưu giữ dữ liệu
Thời gian lưu giữ nhật ký và chẩn đoán lỗi cũng như cách rút ngắn thời gian cho tài khoản của bạn.
Giá cả, tình trạng còn hàng và nhóm từng mẫu máy được bật ngay trên Mẫu & Giá.