Долгие ответы и обрывы
Ход с файлом длится минуты, прокси рвёт «тихие» соединения. Нужны keep-alive, продолжение потока после обрыва и видимый прогресс.
Подключить модель к API и получить впечатляющее демо сегодня может любая команда. Сложности начинаются на живых клиентах: длинные файлы, медленные ответы, лимиты API, ошибки модели в записи, персональные данные и счёт за токены. Ниже — что пришлось решить нам, прежде чем агентом стали пользоваться каждый день.
Каждая из них нашлась на живых клиентах FUSIONPOS и сегодня решена в ядре агента. Своими силами их придётся найти заново — на ваших клиентах.
Ход с файлом длится минуты, прокси рвёт «тихие» соединения. Нужны keep-alive, продолжение потока после обрыва и видимый прогресс.
Пакетная операция выбирает лимит пользователя. Агент должен дождаться окна, а не упасть с ошибкой «непонятно, записалось ли».
Оборванный вызов, выдуманный аргумент, повтор неповторяемого. Нужны проверки до вызова, запрет повторов и подтверждение необратимого.
Каждую операцию надо отнести к чтению или записи, причём незнакомую — к записи, иначе она пройдёт мимо прав и подтверждений.
Подмена ссылками до модели и обратно на границах — в аргументах, ответах API и тексте, с именами в падежах.
Таблицы на тысячи строк, сканы на 12 мегапикселей, cp1251. Постраничное чтение, сжатие, распознавание, определение кодировки.
Описания инструментов — около половины входа модели. Стабильный набор держит кэш промпта, ответы API режутся по бюджету.
Результаты прошлых шагов не помещаются в историю. Нужна сжатая рабочая память с id и uuid изменённых записей.
Падения, разные цены и качество. Резервный провайдер, сплит-тесты моделей на живом трафике, отдельная модель для сканов.
Один клиент с большим файлом может съесть бюджет. Окна расходов по тарифу и предупреждение до упора.
По каждому ответу — вызовы, аргументы, стоимость, оценка клиента. Отчёты о качестве, повторяемости и привыкании.
Сценарии меняются каждую неделю. Правки должны доезжать до прода, не затирая настройки, которые администратор поменял руками.
| Своими силами | С нами | |
|---|---|---|
| До пилота | Месяцы на инфраструктуру агента до первого сценария | Разбор API и первые сценарии на тестовом аккаунте |
| Команда | Инженеры по LLM, бэкенд, фронтенд виджета, поддержка | Ваш разработчик — на консультации по API |
| Ошибки продакшна | Находятся на ваших клиентах | Большая часть уже найдена и закрыта в FUSIONPOS |
| Данные и контур | Ваши | Ваши: установка в вашем контуре или облаке в РФ |
| Модели | Любые | Любые, с резервным провайдером и сплит-тестами |
| Зависимость | Нет | Есть; её снижают установка в вашем контуре и свобода выбора модели |
Оркестратор на Node.js и LangGraph, инструменты подключаются по протоколу MCP, виджет — веб-компонент без зависимостей, разбор документов — отдельный сервис на Python. Модели — любые OpenAI-совместимые и Anthropic.
Да, в вашем контуре или облаке в РФ. Наружу нужен только доступ к выбранному провайдеру модели, а с локальной моделью — не нужен вовсе.
Сценарии и промпты правятся в панели администратора без пересборки: тексты плейбуков, набор доступных инструментов, подсказки-примеры для клиентов. Каждая правка сохраняется версией, которую можно откатить.