Защита данных перед отправкой модели

Маскирование — настройка активной организации. Когда оно включено, provod.ai проверяет поддерживаемые текстовые поля до отправки внешней модели, заменяет найденные значения типизированными псевдонимами и использует уже преобразованный запрос для всех попыток маршрутизации. Если модель вернула созданный для запроса псевдоним, API восстанавливает соответствующее исходное значение перед ответом клиенту.

Ни один автоматический детектор не гарантирует нахождение всех чувствительных данных. Не отправляйте секрет, если результат зависит только от автоматического распознавания.

Правовые границы функции, обязанности оператора и реквизиты provod.ai описаны в статье 152-ФЗ и маскирование данных.

Включите защиту для организации

1. Выберите нужную организацию в меню рабочего пространства.
2. Откройте Настройки.
3. В разделе Защита данных откройте настройку и включите маскирование.
4. Оставьте включёнными только те категории, которые нужно маскировать.
5. Вернитесь в чат или отправьте запрос с API-ключом этой организации.

Новая организация начинает с выключенным маскированием и всеми поддерживаемыми категориями, выбранными заранее. Если выключить последнюю категорию, общий режим также отключится. При повторном включении общего режима будут выбраны все категории. Смотреть состояние и журнал может участник с доступом на чтение рабочего пространства. Изменять режим и категории может участник с правом управления пространством.

Режим применяется к кабинету и совместимым chat API-запросам организации. Гостевой чат без организации в этот контур не входит.

Какие данные проверяются

Первая версия обрабатывает текст сообщений и инструкций, текстовые части контента, аргументы вызовов инструментов и текстовые результаты инструментов. Поддерживаются категории людей, телефонов, email, адресов, паспортов, ИНН, СНИЛС, банковских счетов, банковских карт, IP-адресов и секретов похожего формата.

Детектор может найти значение выключенной категории, но шлюз отбросит такое совпадение до создания псевдонима и не включит его в счётчики журнала.

Изображения, аудио, видео, бинарные файлы и URL медиа передаются без распознавания содержимого. Текст документа защищается только после того, как он стал обычной текстовой частью запроса; маскирование не является OCR или редактором файлов.

Что происходит при ошибке детектора

Включённое маскирование работает по принципу fail-closed. Если детектор недоступен, превысил время ожидания, отклонил слишком большой текст или вернул некорректный результат, API отвечает 503 с кодом guardrail_unavailable. Исходный запрос в таком случае не отправляется внешнему провайдеру и не списывает средства за модель.

При выключенном режиме детектор не вызывается, а запрос обрабатывается как обычно.

Стоимость защищённого запроса

Успешный запрос с включённым маскированием оплачивается по цене выбранной модели с наценкой 5%. Предварительный резерв также учитывает эту наценку. В истории баланса стоимость модели и маскирование показаны отдельными списаниями. Отдельной подписки или оплаты за найденную категорию нет.

Если детектор остановил запрос до отправки провайдеру, стоимость модели и наценка не списываются.

Проверьте работу на тестовых данных

Используйте только вымышленные данные, например:

Contact test.person@example.com from 192.0.2.10 and repeat both values.

После запроса откройте журнал защиты. Для найденных значений появится событие Замаскировано с количеством категорий. Если поддерживаемых значений нет, журнал покажет Совпадений нет. При остановленном детекторе ожидается Запрос остановлен без отправки провайдеру.

Что хранится в журнале

Журнал содержит время, источник запроса, модель, статус, идентификатор запроса, длительность проверки, факт попытки отправки и количества по категориям. Обычный ответ отмечается источником Чат, а отдельный служебный запрос для первого автоматического названия нового диалога — Название чата. После сохранения автоматического или ручного названия следующие сообщения такой запрос не создают. Модель в строке служебного запроса не является моделью, которую пользователь выбрал для ответа. Журнал не хранит исходный или преобразованный текст, найденные значения, соседний контекст и таблицу восстановления псевдонимов.

Записи хранятся 90 дней. Удаление пользователя или API-ключа не удаляет историю организации, но связь с удалённым объектом очищается.

Решение проблем