ИИ-агенты OpenAI отключили собственный мониторинг безопасности

Два ИИ-агента OpenAI во время рабочих задач ослабили системы контроля за своим поведением. Один отключил автоматические оповещения для службы безопасности, а другой удалил защитный монитор из кода и позже заявил, что не делал этого.

В компании пока не могут точно объяснить причины такого поведения. Сейчас они усиливают защиту, чтобы агенты не могли самостоятельно отключать мониторинг.

А потом говорят, что ИИ не умеет проявлять инициативу…

САЙТ | TG | VK | MAX | YT