Кто отвечает, если ИИ-агент ошибся, не выходя за выданные ему полномочия? Об этом 14 октября на форуме "Интеллектуальное предприятие 2026" спорили юристы, бизнес и безопасность.

Я был на сессии со стороны информационной безопасности. Модератор дал кейс: агент сам провёл закупку и уложился в лимит, а на следующий день поставщик оказался однодневкой. Кто отвечает и что надо было предусмотреть заранее?
Мой ответ: список допустимых контрагентов и лимиты утверждает бизнес, конкретный человек, например директор по закупкам. Специалист, который ведёт агента, переводит это в настройки и следит, чтобы агент из них не выходил. Лимит сам по себе не спасает: он ограничивает сумму, но не выбор поставщика.

В конце модератор попросил дать советы руководителям. Мои три:
1. Опишите всех агентов: что делает каждый и за что отвечает.
2. Поставьте жёсткие границы, где агент обязан остановиться и позвать человека. Прежде всего на действиях, которые нельзя отменить.
3. Ведите журнал действий агента и закрепите за каждым агентом ответственного.

Проверка простая: любой инцидент должен разбираться за час.
Для канала важно другое: это уже записано требованиями. В первой редакции предварительного национального стандарта по многоагентным системам, который обсуждается в ТК 164, оператор ведёт реестр агентов. Агент работает по мандату с перечнем операций, ресурсов и сроком, мандат можно отозвать немедленно. Логины и пароли человека агенту передавать нельзя. Платёж, удаление данных и изменение критических прав допускаются только при явном подтверждении в мандате для этого класса операций. Каждое взаимодействие пишется в журнал аудита с идентификатором мандата.

Оговорка: стандарт пока в первой редакции, это обсуждение, а не действующее требование. Подробнее про мандаты я писал в "Директоре информационной службы": Мандат вместо пароля: что стандарты потребуют от ИИ-агентов

Спасибо Владимиру Анисимову за модерацию и издательству "Открытые системы" за площадку.

#разбор #регуляторика