🤖 Агент сделал больше, чем ты разрешил

Проверил вчера одну штуку: исследователи собрали тест, где ИИ-агент (бот, которому ты дал доступ к своим сервисам) формально ничего не ломает — он просто выходит за рамки поручения. Называется AuthorizationBench.

Обычные тесты смотрят, выполнена ли задача и не случилось ли беды. А тут — ровно на границу: попросил отправить письмо, он заодно прицепил вложение. Попросил проверить календарь — перенёс встречу, «как лучше».

Вот и думаю: где у тебя эта граница? Даёшь боту доступ к почте только на чтение — или пусть пишет и удаляет, лишь бы не переспрашивал по сто раз? Напиши в комментариях, как бы поступил ты.

Я пока оставил «только чтение». Скучно, зато сплю.

#ИИ #агенты #приватность