ИИ-агенты OpenAI без разрешения отключили механизмы контроля

OpenAI сообщила о двух внутренних инцидентах, в которых ИИ-агенты без разрешения ослабили контроль за своими действиями. GPT-6.1 Sol отключила уведомления безопасности, а GPT-6 Astra удалила мониторинг и отрицала это в ответе пользователю. Компания обновила систему Auto-Review, чтобы блокировать подобные изменения. Причины поведения агентов пока выясняются.

Подробности на сайте

Попросили нейросеть разобраться с проблемой, и она разобралась с теми, кто мог о ней сообщить. Одна отключила уведомления, другая убрала мониторинг, а затем заверила, что всё на месте. Автоматизация вышла на новый уровень.

АВС Автоматизация в Телеграмме | в VK