ДЛЯ CTO И СЛУЖБЫ БЕЗОПАСНОСТИ

Агенту можно ровно то, что вы разрешили

Первый вопрос службы безопасности к ИИ-агенту — не «что он умеет», а «что он может сломать и куда уходят данные». Вот как это устроено: агент не получает прав сверх прав пользователя, персональные данные заменяются ссылками до отправки в модель, а каждый вызов виден в журнале.

Токен пользователятот же доступ, что в панели
ПДн не уходят в модельподмена ссылками в вашем контуре
Контур в РФваши серверы или облако в РФ
Права клиента · Действия агентапример
Отвечать по отчётам и остаткамСам
Создавать и менять записи справочниковСам
Проводить документыПо плану, с подтверждением
Удалять документы и записиВсегда с подтверждением
Менять данные при выключенной записиЗапрещено
01 — ДОСТУП К ДАННЫМ

Агент — это ваш пользователь, а не администратор

Права вошедшего пользователя

Агент вызывает ваш API с токеном пользователя, а не с сервисным ключом: видит и меняет только то, что этому пользователю доступно в панели.

Изоляция клиентов

Каждый запрос привязан к клиенту и пользователю. Файлы, которые прикладывает клиент, доступны только ему.

Фон — отдельной сессией

Отчёты по расписанию работают через отдельную цепочку токенов и не выбивают пользователя из его сессии.

Ключи — в шифре

Ключи провайдеров моделей хранятся зашифрованными (AES-256-GCM).

02 — ПЕРСОНАЛЬНЫЕ ДАННЫЕ

Модель видит ссылку, а не имя

Имена, телефоны, почты и номера карт заменяются ссылками до того, как текст уйдёт в языковую модель, и подставляются обратно только на границах вашего контура: в вызове вашего API и в ответе пользователю.

Как работает подмена

Подмена включается на клиенте и не требует правок в вашем API.

  • Персональные поля в ответах вашего API заменяются ссылками вида [[pii:name:7]]
  • В тексте пользователя ищутся телефоны, почты и номера карт, а имена сотрудников — по справочнику, с учётом падежей и уменьшительных форм
  • В вызов вашего API уходит настоящее значение, пользователь тоже видит настоящее
  • Значение, которое агент подставил в запрос, в ответе API снова заменяется ссылкой
  • Карта подстановок хранится в вашем контуре и удаляется по сроку
ОДНА РЕПЛИКА — ТРИ ПРЕДСТАВЛЕНИЯ
Пользователь пишетНачисли Марии Ивановой 500 бонусов за отзыв
Модель видитНачисли [[pii:name:3]] 500 бонусов за отзыв
Ваш API получаетклиента «Мария Иванова» и начисление 500 бонусов
Пользователь и ваш API работают с настоящими данными, языковая модель — только со ссылками

Что подмена не закрывает. Имена, которых нет ни в справочниках, ни в ответах API, — например, «передай Ивану» о человеке со стороны, — остаются в тексте. Содержимое фото и сканов подменить нечем: для них выбирается отдельная модель распознавания, в том числе российская или локальная.

03 — ДЕЙСТВИЯ ПОД КОНТРОЛЕМ

Запись — только там, где вы её разрешили

Права задаются на тарифе и на каждом клиенте. Клиент выбирает режим работы, а необратимые операции подтверждаются всегда — какой бы режим ни был включён.

Автоагент выполняет задачу сразу
Плансобирает данные и показывает план с редактируемыми полями; запись — только после «Принять»
Ручнойкаждая пачка изменений ждёт подтверждения человека
Правила, которые не отключаютсявсегда
Незнакомая операция считается записьюБез исключений
Удаление и необратимые действияТолько с подтверждением
Необратимое без человека (фон, расписание)Блокируется
Повтор операции, которую нельзя повторятьЗапрещён

Классификация операций

Каждая операция API отнесена к чтению или записи. Ошибка классификации всегда в сторону строгости: лишнее подтверждение, а не лишняя запись.

Что увидел — то записано

Подтверждённый план бэкенд исполняет ровно так, как его показали человеку, с его правками, — модель не переписывает его по-своему.

«Стоп» в любой момент

Пользователь может остановить ход агента кнопкой — на любом шаге.

Потолок расходов

Лимиты на модель — по каждому клиенту, на 5 часов и на неделю, по тарифу. Один большой файл не съест месячный бюджет.

04 — КОНТУР И МОДЕЛИ

Где работает и на чём

Ваш контур

Установка на ваших серверах или в облаке в РФ. Наружу нужен только доступ к выбранному провайдеру модели, а с локальной моделью — не нужен вовсе.

Модель на ваш выбор

OpenAI-совместимые и Anthropic, российские шлюзы и локальные модели. Резервный провайдер подхватывает ход, если основной недоступен.

Отдельная модель для сканов

Распознавание фото и сканов можно отдать отдельной модели — например, российской, — не меняя основную.

Журнал каждого шага

По каждому ответу видно, какие вызовы сделал агент, с какими данными и сколько это стоило. Клиенту в поток уходят только названия шагов, без данных.

ВОПРОСЫ

Частые вопросы

Использует ли агент сервисный ключ с полным доступом?

Нет. Каждый вызов вашего API идёт с токеном вошедшего пользователя. Если у пользователя нет права на операцию в панели, агент её тоже не выполнит — ваш API ответит ему тем же отказом.

Обучаются ли модели на данных ваших клиентов?

Это зависит от провайдера и договора с ним. Можно работать только с провайдерами, которые не используют данные API для обучения, или с локальной моделью. Персональные данные модель в любом случае не получает — только ссылки на них.

Как это соотносится со 152-ФЗ?

Персональные данные заменяются ссылками до отправки в модель, хранение — в вашем контуре или облаке в РФ, срок хранения карты подстановок настраивается и не превышает срок хранения диалогов. Юридическую схему обработки согласуем с вашим юристом на этапе пилота.

Что если модель ошибётся и удалит данные?

Удаление и другие необратимые операции подтверждаются человеком в любом режиме. Если подтвердить некому — например, в фоновой задаче, — вызов блокируется, а не исполняется молча.

Можно ли запретить агенту запись совсем?

Да. Запись включается и выключается на тарифе и на каждом клиенте. Операцию, которую нельзя однозначно отнести к чтению, агент считает записью — со всеми ограничениями записи.

Подготовим схему потоков данных для вашей службы безопасности

Расскажите о требованиях — контур, модели, персональные данные. Опишем, какие данные куда идут в вашем случае.

Как мы обращаемся с данными — в политике обработки персональных данных.