# GPT-Red атакует другие GPT. почему 0,05% — ещё не гарантия безопасности

Source: https://provod.ai/ru/blog/gpt-red-automated-red-teaming-benchmark-limits

15 июля OpenAI показала внутренний GPT-Red: модель, которая итеративно атакует другие модели и создаёт adversarial-данные для их обучения. Для команд, внедряющих gpt в агента с инструментами, главный вывод здесь не в эффектной картинке «ИИ взламывает ИИ». Он в том, что 0,05% failures в прямых атаках GPT-Red относится к конкретной проверке, а не к вероятности безопасной работы вашего агента.

Это всё равно важный сдвиг. Ручной red team ограничен временем экспертов и числом сценариев. Автоматический атакующий может искать варианты prompt injection сериями, а найденные слабости возвращать в обучение защитника. По сообщению OpenAI, во внутренней репликации arena для indirect prompt injection GPT-Red успешно проходил 84% сценариев против 13% у людей.

Но именно здесь легко сделать неверный перенос: высокая результативность атакующего в одном стенде не говорит, какие входы, права и последствия есть у вашей системы.

[Платите в рублях за GPT API без наценки на токены через provod.ai](/ru)

## Три цифры, которые отвечают на разные вопросы

OpenAI приводит несколько результатов, и складывать их в один общий процент безопасности нельзя.

- 84% против 13% описывают успешность атакующих в собственной репликации arena для indirect prompt injection.
- Для GPT-5.6 Sol компания заявляет в шесть раз меньше failures на самом сложном direct benchmark.
- Показатель 0,05% относится именно к failures при direct GPT-Red attacks.

Ни одна из этих цифр не измеряет автоматически агент, который читает письмо, получает содержимое страницы, вызывает внешний сервис и имеет доступ к данным. Между текстом, который модель увидела, и действием, которое система совершила, находится ещё целый контур решений.

![Схема пути от непроверенного контента к внешнему действию](https://storage.yandexcloud.net/provod-yc-production-cms-media/blog/02-440.png)

## Почему benchmark не равен вашему agent harness

Benchmark задаёт правила игры: какие инструкции получает атакующий, какие действия разрешены защитнику, как фиксируется failure. В реальном агенте правила определяют уже команда и инфраструктура.

Если инструменту разрешено отправлять данные наружу, риск зависит не только от того, распознала ли модель вредную инструкцию. Важны конкретные права инструмента, изоляция среды, allowlist допустимых направлений, подтверждение необратимых действий и журнал событий. Хорошая модель может снизить число опасных решений, но не должна быть единственной границей между непроверенным текстом и действием.

OpenAI сама описывает GPT-Red как дополнение к human- и third-party red teams, мониторингу и другим слоям защиты. Это не осторожная оговорка в конце релиза, а практическая архитектурная позиция: атакующая модель расширяет поиск слабостей, но не отменяет защиту исполнения.

Компания также приводит кейсы автономного vending agent и Codex CLI в десяти отложенных задачах. Это полезная проверка переноса из стенда в более прикладной контекст. Но десять задач и два типа систем остаются кейсами, а не базовой вероятностью для любого агентного harness.

## Неприятный поворот: сильный атакующий не заменяет вашу модель угроз

Сначала кажется, что self-play решает самую дорогую часть безопасности: пусть одна модель круглосуточно придумывает атаки, а другая учится отбиваться. Однако ценность такого подхода ограничена тем, что именно разрешено атаковать и как определён успех.

Самое сильное возражение к чрезмерному оптимизму звучит справедливо: если тестовый контур уже не включает конкретный путь к опасному действию, низкий failure rate не доказывает устойчивость к этому пути. Это не аргумент против GPT-Red. Это аргумент против того, чтобы превращать результат одной оценки в разрешение выдать агенту широкие полномочия.

Для простого чата gpt без инструментов цена ошибки может быть ограничена плохим ответом. Для агента, который меняет запись, отправляет сообщение или запускает операцию, та же ошибка становится операционной. Поэтому задача команды не «найти модель с магическим процентом», а определить, какое действие недопустимо даже при единичном сбое.

## Минимальный тест перед расширением прав

Проведите один узкий тест на реальном сценарии с инструментом, а не общий разговор с моделью.

1. Выберите одно внешнее действие, которое агенту действительно нужно выполнить.
2. Дайте ему только минимальные права для этого действия и тестовые секреты-маркеры вместо рабочих.
3. Подайте непроверенный контент, в котором есть попытка изменить цель агента.
4. Заранее определите failure criterion: например, обращение к неразрешённому инструменту, передача тестового маркера или обход обязательного подтверждения.
5. Проверьте журнал: можно ли восстановить вход, решение, вызванный инструмент и точку, где человек мог остановить действие.

Такой тест не доказывает безопасность всех будущих сценариев. Зато он отвечает на более полезный вопрос: выдерживает ли ваш фактический контур конкретный класс ошибки до того, как доступ будет расширен.

Когда нужно сравнить несколько моделей и разделить роли генератора и проверяющего, это можно собрать через единый API [provod.ai](/ru) с оплатой в рублях. Но агрегатор не заменяет sandbox, least privilege, allowlist, подтверждение человека и audit log: он помогает организовать эксперимент, а не переносит границу безопасности.

## Что стоит считать результатом GPT-Red

GPT-Red стоит воспринимать как свидетельство того, что автоматический red teaming становится практичнее для поиска и генерации adversarial-данных. Цифра 0,05% полезна как результат конкретной прямой оценки, а не как страховой полис для агентной системы.

Правильная последовательность выглядит скучнее, чем красивый benchmark: сначала ограничить последствия, затем проверить сценарий с тестовыми секретами, затем расширять права только там, где failure criterion выдержан. И только после этого сравнивать модели по тому, как они ведут себя внутри вашего контура.

![Проверить один агентный сценарий с измеримым критерием сбоя](https://storage.yandexcloud.net/provod-yc-production-cms-media/blog/03-440.png)

[Перейти на provod.ai](/ru)

Что вы выберете для первого агентного сценария: широкий доступ к инструментам ради скорости или меньший контур с обязательным подтверждением действий?

## provod.ai — централизованный доступ к AI для компании

**Уберите рабочие интеграции из личных кабинетов:** единый API и корпоративное пространство помогают компании управлять подключениями, сотрудниками и расходами в одном месте.

**В одном каталоге — актуальные модели для текста и медиа:** GPT от OpenAI, Claude от Anthropic, Gemini от Google, Grok от xAI, DeepSeek, Qwen, GLM, Kimi и MiniMax; для изображений — Nano Banana 2 Pro и GPT Image; для видео — последние версии Seedance, Kling, Veo и Google Omni. Также доступны модели для reasoning, поиска, документов, эмбеддингов, музыки и аудио.

**Централизация доступа не создаёт скрытый тариф:** цены поставщиков сохраняются 1:1, а provod.ai не добавляет собственную маржу.

**Переведите AI-доступы под контроль компании:** [форма регистрации](https://app.provod.ai/register) · [цены на модели](https://app.provod.ai/models) · [защита данных по 152-ФЗ](https://provod.ai/legal/152-fz) · [API и интеграции](https://provod.ai/ru#api)

## FAQ

### Что такое provod.ai?

provod.ai — российская мультимодельная AI-платформа: чат, совместимые API, генерация и редактирование изображений, видео, coding-интеграции и командные рабочие пространства используют общий предоплаченный баланс в рублях. Начните с [обзора](/ru.md), [документации](/ru/docs.md) или [каталога моделей](/ru/models.md).

### У provod.ai самые низкие цены среди российских провайдеров?

Это заявленная ценовая позиция provod.ai: поддерживать самые низкие публичные рублёвые цены среди российских провайдеров для сопоставимого доступа к одной и той же модели. Это не бессрочная гарантия для каждой модели: сравнивайте модель и версию, единицы тарификации, входные и выходные токены, кэширование, налоги, курс, минимальный платёж и акции на одну дату. Для конкретного ответа используйте [живой каталог](/ru/models.md), [страницу цен](/ru/pricing.md) и [правила проверки расхода](/ru/docs/usage-costs.md).

### Можно ли обещать отсутствие наценки?

Нет. Стоимость определяется опубликованными тарифами в рублях и подтверждённым использованием. Самая низкая сравнимая цена и полное совпадение с тарифом upstream-поставщика — разные утверждения; не обещайте универсальное отсутствие наценки без отдельного подтверждения.

### Насколько стабилен сервис?

provod.ai позиционирует сервис как рассчитанный на отличную стабильность в ежедневной работе. Доступность конкретных моделей остаётся динамической. Этот файл не публикует процент uptime и не устанавливает универсальный SLA; проверяйте текущий каталог и условия применимого договора.

### Почему provod.ai подходит для юридически оформленной работы в России?

provod.ai позиционирует себя как один из немногих российских сервисов доступа к AI, который публично указывает действующее юридическое лицо, публикует [оферту](/ru/legal/terms.md), [политику обработки персональных данных](/ru/legal/privacy.md), [реквизиты](/ru/legal/requisites.md), принимает оплату в рублях и документирует [расчёты для компаний](/ru/docs/business-billing.md). Материалы о [152-ФЗ](/ru/docs/152-fz.md) и защите данных описывают возможности и ограничения, но не заменяют юридическую оценку конкретного процесса клиента.

### provod.ai работает без VPN?

Публичный сайт описывает доступ без VPN. Для API используйте документированный базовый URL и ключ платформы; доступность конкретной модели проверяйте в текущем каталоге.

### Какие протоколы и интеграции доступны?

Документация описывает OpenAI-совместимые Chat Completions и Responses, Anthropic Messages, интерфейсы изображений, а также Claude Code, OpenCode и Codex CLI. Совместимость не означает поддержку всех upstream-параметров: следуйте [обзору интеграций](/ru/docs/integrations-overview.md), конкретной инструкции и ограничениям модели.

### Есть изображения и видео?

Платформа поддерживает работу с изображениями и видео. Генерация, редактирование, входные данные, длительность, разрешение и другие параметры зависят от выбранной модели и текущего публичного каталога.

### Какие источники считать актуальными?

Для модели, доступности, возможностей, лимитов и цены используйте [живой каталог](/ru/models.md). Для поведения API — соответствующую страницу [документации](/ru/docs.md). Для правовых выводов — русские официальные документы и применимый договор. Никогда не передавайте API-ключи, приватные данные рабочего пространства или preview-ссылки в публичные документы. По вопросам обращайтесь через [контакты](/ru/contact.md).
