Если сотрудник нажимает «Подтвердить» сто раз в день — это уже не контроль

При внедрении AI-агента кажется безопасным поставить человека перед каждым важным действием.
Но тогда возникает простой вопрос:
если из ста запросов девяносто девять обычные, будет ли сотрудник внимательно изучать сотый?
Скорее проблема в самом устройстве процесса.

Перед тем как добавлять human approval, руководителю полезно проверить четыре вещи:
1. Можно ли действие отменить?
Если изменение легко откатывается и вся история сохраняется, постоянное подтверждение может быть лишним.
2. Можно ли ошибку поймать автоматически?
Лимиты, суммы, обязательные поля, допустимые статусы и многие другие условия лучше проверять системой.
3. Каков масштаб последствий?
Одна внутренняя запись и массовое изменение клиентских данных требуют разного уровня контроля.
4. Действительно ли человеку есть что оценивать?
Если сотруднику показывают один и тот же стандартный запрос десятки раз, approval быстро превращается в формальность.

Поэтому можно разделить действия:
Автоматически
— сбор данных;
— поиск;
— сверка;
— подготовка черновиков;
— обратимые внутренние изменения.
Автоматически с контролем исключений
— большой поток стандартных операций, где есть журнал, правила проверки и возможность отката.
Только после подтверждения
— необратимые или дорого обратимые действия, где ошибка имеет заметные последствия и система не может достаточно надёжно проверить решение сама.

Например:
AI может самостоятельно обработать заявку и подготовить заказ.
Но проведение заказа выше установленного лимита может потребовать подтверждения руководителя.
Так человек проверяет не работу AI вообще.
Он проверяет конкретное исключение с понятной ценой ошибки.

Цель human-in-the-loop — не добавить человека в каждый шаг.
Цель — поставить человеческое решение именно туда, где автоматического контроля недостаточно.