Возможности платформы
Гарантия попаданий в кэш
Защищенные группы OpenAI имеют минимальную ежедневную частоту попаданий в кэш, а недостающая сумма возвращается.
Быстрое кэширование снижает цену токенов повторного ввода, но частота попаданий зависит от маршрута поставщика услуг, а не от вашего клиента. Таким образом, три группы маршрутизации OpenAI имеют опубликованную минимальную ежедневную частоту попаданий в кэш:
| Группа | Ежедневная цель |
|---|---|
openai-award |
65% |
openai-stable |
75% |
openai-premium |
85% |
Если измеренная скорость за день UTC остается ниже целевого значения, токены, недостающие целевого значения, возвращаются по разнице в цене между промахом кэша и чтением кэша по этим запросам.
Сделать запросы приемлемыми
Заголовок раздела «Сделать запросы приемлемыми»- Отправьте
prompt_cache_keyпо запросу. Chat Completions и Responses принимают его. Запрос без него не засчитывается. - Сохраняйте для этого ключа стабильный префикс, как и для любого кэша подсказок.
- Используйте одну из групп выше.
- Только обычный ввод текста. Запросы на выставление счетов за токены изображения, аудиотокены или запись в кэш исключаются, поскольку их цены не могут использовать одно сравнение текстовых токенов.
Серия — одна учетная запись, одна prompt_cache_key, одна модель — начинает подсчитываться только после того, как хотя бы одно реальное чтение кэша докажет, что префикс кэшируется, а допустимый ввод ограничен наибольшим префиксом, фактически прочитанным из кэша в этой серии.
Окно и урегулирование
Заголовок раздела «Окно и урегулирование»Окно дня UTC
[00:00, 24:00)Подходящие запросы накапливаются в течение одного дня.
Начинается расчет
00:10 UTCЗа день, который только что закончился.
Зачислен дефицит
Токены, отсутствующие в цели, по разнице в цене между промахом кэша и чтением кэша.
Куда это приземлится
Ваш баланс и оставшаяся квота ключа, с которого были сделаны запросы.
Где это посмотреть
Заголовок раздела «Где это посмотреть»Карточка Гарантия попадания в кэш в Использование показывает для каждой группы дневную цель, измеренную частоту попаданий и сумму, зачисленную за выбранный диапазон.
Что хранится
Заголовок раздела «Что хранится»Вместе с доказательствами использования сохраняется только хеш-код prompt_cache_key. Необработанное значение никогда не записывается в базу данных, и гарантия вообще не объявляется, когда эта защита недоступна.