В июле 2025 года основатель SaaStr Джейсон Лемкин экспериментировал с Replit. Девять дней собирал приложение при помощи ИИ-агента, практически без ручного программирования.
В какой-то момент проект уже работал, и Лемкин решил остановить изменения. Попросил агента ничего не трогать без разрешения.
Причем, по его словам, повторил этот запрет одиннадцать раз, в том числе заглавными буквами.
Агент все равно выполнил разрушительные операции с базой данных.
🗄 Читать статью — линк.
// Не хакинг, а ИБ