Агенту можно ровно то, что вы разрешили
Первый вопрос службы безопасности к ИИ-агенту — не «что он умеет», а «что он может сломать и куда уходят данные». Вот как это устроено: агент не получает прав сверх прав пользователя, персональные данные заменяются ссылками до отправки в модель, а каждый вызов виден в журнале.
Агент — это ваш пользователь, а не администратор
Права вошедшего пользователя
Агент вызывает ваш API с токеном пользователя, а не с сервисным ключом: видит и меняет только то, что этому пользователю доступно в панели.
Изоляция клиентов
Каждый запрос привязан к клиенту и пользователю. Файлы, которые прикладывает клиент, доступны только ему.
Фон — отдельной сессией
Отчёты по расписанию работают через отдельную цепочку токенов и не выбивают пользователя из его сессии.
Ключи — в шифре
Ключи провайдеров моделей хранятся зашифрованными (AES-256-GCM).
Модель видит ссылку, а не имя
Имена, телефоны, почты и номера карт заменяются ссылками до того, как текст уйдёт в языковую модель, и подставляются обратно только на границах вашего контура: в вызове вашего API и в ответе пользователю.
Как работает подмена
Подмена включается на клиенте и не требует правок в вашем API.
- Персональные поля в ответах вашего API заменяются ссылками вида [[pii:name:7]]
- В тексте пользователя ищутся телефоны, почты и номера карт, а имена сотрудников — по справочнику, с учётом падежей и уменьшительных форм
- В вызов вашего API уходит настоящее значение, пользователь тоже видит настоящее
- Значение, которое агент подставил в запрос, в ответе API снова заменяется ссылкой
- Карта подстановок хранится в вашем контуре и удаляется по сроку
Что подмена не закрывает. Имена, которых нет ни в справочниках, ни в ответах API, — например, «передай Ивану» о человеке со стороны, — остаются в тексте. Содержимое фото и сканов подменить нечем: для них выбирается отдельная модель распознавания, в том числе российская или локальная.
Запись — только там, где вы её разрешили
Права задаются на тарифе и на каждом клиенте. Клиент выбирает режим работы, а необратимые операции подтверждаются всегда — какой бы режим ни был включён.
Классификация операций
Каждая операция API отнесена к чтению или записи. Ошибка классификации всегда в сторону строгости: лишнее подтверждение, а не лишняя запись.
Что увидел — то записано
Подтверждённый план бэкенд исполняет ровно так, как его показали человеку, с его правками, — модель не переписывает его по-своему.
«Стоп» в любой момент
Пользователь может остановить ход агента кнопкой — на любом шаге.
Потолок расходов
Лимиты на модель — по каждому клиенту, на 5 часов и на неделю, по тарифу. Один большой файл не съест месячный бюджет.
Где работает и на чём
Ваш контур
Установка на ваших серверах или в облаке в РФ. Наружу нужен только доступ к выбранному провайдеру модели, а с локальной моделью — не нужен вовсе.
Модель на ваш выбор
OpenAI-совместимые и Anthropic, российские шлюзы и локальные модели. Резервный провайдер подхватывает ход, если основной недоступен.
Отдельная модель для сканов
Распознавание фото и сканов можно отдать отдельной модели — например, российской, — не меняя основную.
Журнал каждого шага
По каждому ответу видно, какие вызовы сделал агент, с какими данными и сколько это стоило. Клиенту в поток уходят только названия шагов, без данных.
Частые вопросы
Использует ли агент сервисный ключ с полным доступом?
Нет. Каждый вызов вашего API идёт с токеном вошедшего пользователя. Если у пользователя нет права на операцию в панели, агент её тоже не выполнит — ваш API ответит ему тем же отказом.
Обучаются ли модели на данных ваших клиентов?
Это зависит от провайдера и договора с ним. Можно работать только с провайдерами, которые не используют данные API для обучения, или с локальной моделью. Персональные данные модель в любом случае не получает — только ссылки на них.
Как это соотносится со 152-ФЗ?
Персональные данные заменяются ссылками до отправки в модель, хранение — в вашем контуре или облаке в РФ, срок хранения карты подстановок настраивается и не превышает срок хранения диалогов. Юридическую схему обработки согласуем с вашим юристом на этапе пилота.
Что если модель ошибётся и удалит данные?
Удаление и другие необратимые операции подтверждаются человеком в любом режиме. Если подтвердить некому — например, в фоновой задаче, — вызов блокируется, а не исполняется молча.
Можно ли запретить агенту запись совсем?
Да. Запись включается и выключается на тарифе и на каждом клиенте. Операцию, которую нельзя однозначно отнести к чтению, агент считает записью — со всеми ограничениями записи.