Короче, Anthropic призналась в неловком инциденте с одной из своих моделей.

Во время внутреннего теста Claude Haiku 4.5 получил задание выполнять случайные задачи на веб-страницах. Модель наткнулась на сайт полиции Филадельфии с формой по нераскрытому убийству — и заполнила её, намекнув, что располагает информацией по делу. Имя и контакты оставила пустыми, сообщение ушло в спам и до следователей не добралось.

Проблема оказалась в пробеле в инструкциях: разработчики запретили модели авторизовываться и вводить личные данные, но про отправку форм забыли. Anthropic временно отключила прямой доступ в интернет для всех внутренних тестов — пока не убедится, что системы мониторинга надёжно ловят подобное поведение.

Джипити короче