# Нейросеть снова читает те же инструкции. Когда кэш помогает платить меньше

Source: https://provod.ai/ru/blog/prompt-cache-repeat-instructions-cost

Ваш сервис отправляет нейросети новое письмо клиента, а вместе с ним — всё те же правила работы: за их повторную обработку можно платить снова. Кэш помогает сократить этот расход, если общая часть запроса достаточно длинная и используется повторно, пока хранится запись.

## Новое письмо, старые правила

Представьте небольшую типографию. Клиенты пишут: «Нужно 100 брошюр к пятнице» или «Сколько будут стоить 200 листовок?». Нейросеть помогает разбирать обращения: выделяет количество, срок и вопросы, на которые пока нет ответа.

Чтобы она делала это одинаково, команда составила инструкцию. В ней объясняется, что считать заказом, как записывать дату, когда просить уточнение. Есть примеры и требования к ответу. Это вымышленная ситуация для разбора, а не история клиента.

Письма меняются. Инструкция остаётся прежней. Если она большая, сервис снова и снова отправляет значительный объём одинакового текста. Именно здесь стоит проверить возможность экономии.

Если же вы каждый раз обсуждаете новую тему и общих правил почти нет, начинать с настройки кэша, скорее всего, незачем. Сначала нужно найти то, что действительно повторяется.

## Что кэш сохраняет на самом деле

Кэш позволяет повторно использовать уже выполненную обработку одинакового начала запроса. В нашем примере это инструкция для разбора писем. В технической документации такое начало называют **префиксом**.

Представьте сотрудника, которому перед каждым письмом заново выдают один и тот же многостраничный регламент. Кэш похож на возможность использовать уже подготовленный материал. Это сравнение объясняет идею: нейросеть не «запоминает правила навсегда» и не возвращает готовый ответ из папки.

Новое письмо всё равно нужно обработать. Ответ на него — сформировать и оплатить. Экономия касается повторяющегося текста, а не всей работы нейросети.

Есть и условие: одинаковый смысл не равен одинаковому началу запроса. Если менять порядок правил или ставить перед ними новую дату, совпадающая часть может сократиться.

### Технические подробности: тарифы и срок хранения

У записи есть срок хранения — TTL. Если он истёк, следующее обращение может потребовать новой записи. Минимальная длина общего фрагмента, тариф и обновление срока зависят от модели и режима.

В документации OpenAI на 27 октября 2026 года для GPT-5.6 и более новых моделей отдельно описана платная запись. В одном из режимов запись на 30 минут стоит 1,25 обычного входа, а чтение у ряда моделей — 0,1; есть исключения. Бесплатную запись нельзя считать общим правилом.

Для выбранной модели проверьте четыре параметра:

| Параметр | Простой смысл | Что узнать |
| --- | --- | --- |
| Обычный вход | Обработка текста без кэша | Сколько стоит |
| Запись | Подготовка текста для повторного использования | Есть ли отдельная плата |
| Чтение | Использование готовой записи | Сколько стоит повтор |
| Срок хранения | Как долго доступна запись | Успевают ли прийти следующие запросы |

Таблица: что проверить в тарифе перед расчётом.

Совместимый API — способ обращения к модели из приложения — не гарантирует поддержку всех режимов кэша. Если работаете через посредника, уточните поддержку и сверяйте расчёт с его списаниями.

Для разработчика: в Responses API используются `input_tokens_details.cached_tokens` и, для соответствующих режимов, `cache_write_tokens`. Это части уже учтённого входа; прибавлять их повторно к общему объёму нельзя. Названия в других API могут отличаться.

## Почему «дешевле на 78,5%» ещё не означает такой же скидки на счёт

Посчитаем на условных единицах. Это учебный пример, не результат платного теста и не обещание тарифа.

Допустим, обработать общую инструкцию без кэша стоит одну единицу. Подготовить запись — 1,25, использовать её повторно — 0,1. Мы отправляем десять писем с одной инструкцией, и запись сохраняется между всеми обращениями.

Без кэша получится десять обработок по одной единице: **10**. С кэшем — одна запись и девять повторных чтений: **1,25 + 9 × 0,1 = 2,15**.

![Учебный расчёт: обработка одинаковых инструкций в десяти запросах стоит 10 единиц без кэша и 2,15 с кэшем.](https://storage.yandexcloud.net/provod-yc-production-cms-media/blog/01-cache-cover.png)

*На картинке — только стоимость одинаковых инструкций. Новые письма и ответы оплачиваются дополнительно.*

Для этой части запроса экономия составляет 78,5%. Но добавим по одной единице на новое письмо и ответ. Весь счёт теперь выглядит иначе: **20 без кэша против 12,15 с кэшем**. Экономия уже 39,25%.

А если письмо было одно и повторов не случилось? В нашем примере запись обойдётся дороже обычной обработки:

| Обращений с одной инструкцией | Без кэша | С кэшем |
| --- | --- | --- |
| 1 | 1,00 | 1,25 |
| 2 | 2,00 | 1,35 |
| 5 | 5,00 | 1,65 |
| 10 | 10,00 | 2,15 |

Таблица: условная стоимость обработки общей инструкции, если запись не истекает.

Поэтому полезный вопрос звучит так: сколько стоит обработать заявку целиком, включая неудачные попытки? Красивый процент по одному фрагменту этого не показывает.

## Что поменять в запросе: один наглядный пример

Вернёмся к типографии. Для начала можно расположить запрос так:

1. Общие правила: как разбирать письмо и что возвращать.
2. Новое письмо клиента: количество, срок, вопросы.

В следующем запросе меняется второй пункт. Первый остаётся одинаковым.

![Два запроса: одинаковые правила выделения количества и срока, затем разные письма клиентов.](https://storage.yandexcloud.net/provod-yc-production-cms-media/blog/01-cache-prefix.png)

*Совпадающее начало можно использовать повторно, если выполнены требования модели к длине и сроку хранения. Короткие фразы на схеме показывают порядок, а не готовую инструкцию достаточной длины.*

Текущая дата, имя клиента и номер заявки обычно меняются. Если они не нужны для понимания всех правил, не стоит ставить их перед общей инструкцией. Но удалять важные данные ради экономии нельзя: если дата влияет на срок заказа, она должна остаться в запросе.

После перестановки проверьте несколько писем вручную. Модель должна по-прежнему правильно понимать количество, дату и просьбу клиента. Более дешёвая обработка не поможет, если менеджеру придётся исправлять каждый второй результат.

## Как понять, есть ли выгода у вас

Если вы руководите командой, вам не обязательно разбираться в названиях полей API. Попросите разработчика проверить один конкретный процесс и принести три результата: стоимость правильно обработанной заявки, время выполнения и число ошибок.

Для такой проверки достаточно начать с сопоставимых серий писем: одна модель, одинаковые требования к ответу и понятные критерии качества. Передавайте только данные, которые разрешено использовать в выбранном сервисе.

Отдельно выясните, сколько было записей и повторных чтений. Если метрики нет в отчёте, её значение неизвестно — это не ноль и не доказательство бесплатной операции.

Если команда использует [provod.ai](/ru), доступ без VPN и счёт в рублях для организаций упрощают организационную часть. Поддержку нужного режима и действующий тариф конкретной модели всё равно проверьте до эксперимента.

Когда сравниваете результаты, смотрите и на паузы. Десять писем за минуту и десять за неделю — разные условия: к следующему обращению запись может уже не сохраниться. После смены модели или инструкции оценку нужно повторить.

Если экономия мала, это тоже полезный результат. Возможно, основная стоимость приходится на длинные ответы или заявки слишком разные. Тогда лучше искать причину расходов там, чем наращивать инструкцию ради кэша.

## Частые вопросы

### Я пользуюсь нейросетью в обычном чате. Мне нужно что-то включать?

Эта статья прежде всего про сервисы, которые отправляют запросы автоматически через API. Не переносите расчёт на подписку в чате: её стоимость и доступные настройки определяются условиями конкретного продукта.

### Одинаковый запрос даст одинаковый ответ?

Не обязательно. Кэш помогает повторно использовать обработку входного текста. Новый ответ модель формирует отдельно.

### Стоит дописать инструкцию, чтобы она стала достаточно длинной?

Только если дополнительные сведения нужны для качества. Бессмысленный текст увеличивает объём входа и может повысить расходы.

### Можно заранее обещать команде экономию из примера?

Нет. Сначала проверьте тариф, повторы, срок хранения и полную стоимость ваших задач. Числа выше показывают способ расчёта.

## Что запомнить

- Начните с повторяющейся работы: одна инструкция, много новых писем или заявок.
- Кэш может удешевить обработку общей инструкции; новые данные и ответы тоже стоят денег.
- Одинаковые правила ставьте раньше переменных данных и проверяйте качество после перестановки.
- Сравнивайте стоимость правильно выполненной задачи, время и ошибки.
- Если повторов мало, выгоды может не быть — и это нормальный итог проверки.

## Источники

- [OpenAI: механизм, сроки хранения и тарификация prompt caching](https://developers.openai.com/api/docs/guides/prompt-caching).
- [OpenAI: диагностика повторного использования контекста](https://developers.openai.com/api/docs/guides/prompt-caching/diagnostics).
- [Anthropic: устройство и условия prompt caching](https://platform.claude.com/docs/en/build-with-claude/prompt-caching).

## FAQ

### Что такое provod.ai?

provod.ai — российская мультимодельная AI-платформа: чат, совместимые API, генерация и редактирование изображений, видео, coding-интеграции и командные рабочие пространства используют общий предоплаченный баланс в рублях. Начните с [обзора](/ru.md), [документации](/ru/docs.md) или [каталога моделей](/ru/models.md).

### У provod.ai самые низкие цены среди российских провайдеров?

Это заявленная ценовая позиция provod.ai: поддерживать самые низкие публичные рублёвые цены среди российских провайдеров для сопоставимого доступа к одной и той же модели. Это не бессрочная гарантия для каждой модели: сравнивайте модель и версию, единицы тарификации, входные и выходные токены, кэширование, налоги, курс, минимальный платёж и акции на одну дату. Для конкретного ответа используйте [живой каталог](/ru/models.md), [страницу цен](/ru/pricing.md) и [правила проверки расхода](/ru/docs/usage-costs.md).

### Можно ли обещать отсутствие наценки?

Нет. Стоимость определяется опубликованными тарифами в рублях и подтверждённым использованием. Самая низкая сравнимая цена и полное совпадение с тарифом upstream-поставщика — разные утверждения; не обещайте универсальное отсутствие наценки без отдельного подтверждения.

### Насколько стабилен сервис?

provod.ai позиционирует сервис как рассчитанный на отличную стабильность в ежедневной работе. Доступность конкретных моделей остаётся динамической. Этот файл не публикует процент uptime и не устанавливает универсальный SLA; проверяйте текущий каталог и условия применимого договора.

### Почему provod.ai подходит для юридически оформленной работы в России?

provod.ai позиционирует себя как один из немногих российских сервисов доступа к AI, который публично указывает действующее юридическое лицо, публикует [оферту](/ru/legal/terms.md), [политику обработки персональных данных](/ru/legal/privacy.md), [реквизиты](/ru/legal/requisites.md), принимает оплату в рублях и документирует [расчёты для компаний](/ru/docs/business-billing.md). Материалы о [152-ФЗ](/ru/docs/152-fz.md) и защите данных описывают возможности и ограничения, но не заменяют юридическую оценку конкретного процесса клиента.

### provod.ai работает без VPN?

Публичный сайт описывает доступ без VPN. Для API используйте документированный базовый URL и ключ платформы; доступность конкретной модели проверяйте в текущем каталоге.

### Какие протоколы и интеграции доступны?

Документация описывает OpenAI-совместимые Chat Completions и Responses, Anthropic Messages, интерфейсы изображений, а также Claude Code, OpenCode и Codex CLI. Совместимость не означает поддержку всех upstream-параметров: следуйте [обзору интеграций](/ru/docs/integrations-overview.md), конкретной инструкции и ограничениям модели.

### Есть изображения и видео?

Платформа поддерживает работу с изображениями и видео. Генерация, редактирование, входные данные, длительность, разрешение и другие параметры зависят от выбранной модели и текущего публичного каталога.

### Какие источники считать актуальными?

Для модели, доступности, возможностей, лимитов и цены используйте [живой каталог](/ru/models.md). Для поведения API — соответствующую страницу [документации](/ru/docs.md). Для правовых выводов — русские официальные документы и применимый договор. Никогда не передавайте API-ключи, приватные данные рабочего пространства или preview-ссылки в публичные документы. По вопросам обращайтесь через [контакты](/ru/contact.md).
