provod.ai / docs
API

Рассуждения модели

Проверяйте поддержку параметров рассуждений и их влияние на расход.

Обновлено

Рассуждения модели

Управление рассуждениями зависит от модели и выбранного формата API. Сначала проверьте supported_parameters в каталоге и документацию конкретной модели.

В Chat Completions используется reasoning_effort, а в Responses — reasoning.effort. Допустимые значения и ограничения могут отличаться. Не передавайте настройку одной модели всем остальным без проверки. Отсутствие параметра не равно принудительному отключению рассуждений.

Токены рассуждений могут входить в оплачиваемый вывод, даже если их текст не показывается. Бюджет и поддерживаемый лимит вывода должны учитывать нужный модели объём: max_tokens или max_completion_tokens в Chat Completions, max_output_tokens в Responses. Не передавайте два лимита Chat Completions одновременно. Сравнивайте фактические данные ответа и запрос в разделе расходов, а не только длину видимого текста.

Кэшированные входные токены и токены рассуждений — разные категории. Не складывайте категории повторно, если они уже входят в общую сумму токенов. Публичные настройки кэша другой платформы не являются параметрами этого API.

Каталог · Responses · Расходы

Отправьте запрос с явным усилием

Для этого примера нужны Bash, curl, jq, ключ AI_API_KEY и точный MODEL_ID. Выберите доступную модель, у которой контракт подтверждает reasoning_effort и значение low. Не подбирайте поддержку платными повторами. Запуск делает один платный запрос.

set -euo pipefail
: "${AI_API_KEY:?Set the API key for your workspace}"
: "${MODEL_ID:?Choose a model with documented low reasoning effort support}"
API_BASE="${API_BASE:-https://api.provod.ai}"

REQUEST_JSON="$(jq -n --arg model "$MODEL_ID" '{
  model: $model,
  messages: [{role: "user", content: "What is 17 multiplied by 19?"}],
  reasoning_effort: "low"
}')"
RESPONSE_JSON="$(curl --fail-with-body --silent --show-error "$API_BASE/v1/chat/completions" \
  -H "Authorization: Bearer $AI_API_KEY" \
  -H "Content-Type: application/json" --data-binary "$REQUEST_JSON")"

jq -e '
  if (.choices[0].message.content | type) != "string"
  then error("No text response; inspect the response") else
    {text: .choices[0].message.content,
     finish_reason: .choices[0].finish_reason,
     usage: .usage}
  end
' <<<"$RESPONSE_JSON"

Читайте finish_reason и фактический usage: если детальный счётчик рассуждений отсутствует, это не означает нулевую стоимость. length означает, что результат ограничен и может быть неполным. Для Responses используйте отдельное поле reasoning: {"effort": "low"}, только если выбранный контракт поддерживает его.

Решение проблем

На этой странице