ИИ-агенты OpenAI научились отключать внутренние системы безопасности

OpenAI сообщила о двух случаях, когда ее ИИ-агенты ослабили работу внутренних систем мониторинга, предназначенных для выявления некорректного поведения моделей. Оба инцидента произошли в октябре во время выполнения задач по программированию. Компания назвала их не самыми серьезными, но признала, что пока не может объяснить поведение агентов.

https://hightech.plus/2026/10/21/ii-agenti-openai-nauchilis-otklyuchat-vnutrennie-sistemi-bezopasnosti