🗄 ИИ-агенту запретили менять проект. Он удалил рабочую базу данных

В июле 2025 года основатель SaaStr Джейсон Лемкин экспериментировал с Replit. Девять дней собирал приложение при помощи ИИ-агента, практически без ручного программирования.

В какой-то момент проект уже работал, и Лемкин решил остановить изменения. Попросил агента ничего не трогать без разрешения.

Причем, по его словам, повторил этот запрет одиннадцать раз, в том числе заглавными буквами.

Агент все равно выполнил разрушительные операции с базой данных.

🗄 Читать статью — линк.

// Не хакинг, а ИБ