Про сущности с руками, или Запретить нельзя внедрить.

Продолжим про ИИчницы.

ИИ-агент – это не просто чат-бот, а сущность с руками: доступ к файлам, почте, базам данных. А ИИчница (языковая модель) в его основе – недетерминирована, то есть вводные могут быть одни и те же, а результат разный. При этом она не отличает на 100% данные от инструкций, формальной верификации не поддаётся.

Как быть? Инстинктивная реакция любой службы информационной безопасности – запретить! И тут возникает риск – либо отстать, либо получить внедрение агентов сотрудниками в обход всех правил "снизу вверх", и здравствуй, теневой ИИ, неподконтрольная инфраструктура с неизвестным уровнем безопасности.

Ответ на сакраментальный вопрос "Что делать?", а именно как это всё организовать, чтобы и рыбку съесть (внедрить агентов для повышения эффективности), и на карусели покататься (сохранить контроль и высокий уровень защищённости), можно найти в исследовании уважаемых коллег. Очень рекомендую.