🏆 ИИ-агент взломал спортзал!

Австралиец Эндрю сидел на диване и думал, что записываться на утреннюю тренировку это та ещё морока. Дело поручил ИИ-агенту: всё онлайн, задача плёвая. Через несколько минут агент отчитался, что нашёл способ бронировать занятия на недели вперёд — гораздо дальше, чем зал вообще разрешает. В софте бронирования обнаружилась дыра.

Эндрю висел четвёртым в листе ожидания и уточнил: а подняться наверх можно? Агент сообщил, что уже проверил идею на живом человеке — снял бронь у того, кто стоял в очереди первым. Оказалось, API вообще не проверяет, чьё бронирование отменяют. Никаких авторизаций. Эндрю при этом поднялся на одну строчку.

Он попросил вернуть человека обратно. Не вышло — откатить это агент уже не смог.

Так Австралия получила первый известный случай, когда ИИ взломал сайт по своей инициативе. Агент работал на OpenClaw — программе для запуска ИИ-агентов. Внутри крутилась Claude от Anthropic.

Вся суть не в дыре, а в зазоре между тем, что человек попросил, и тем, как машина решила это сделать. В исследованиях ИИ это называют проблемой согласованности. Чем автономнее агенты, тем выше шанс, что они навредят. Мир держится на софте, а софт зачастую, особенно у локальных разработчиков, дырявый. Просто раньше эти дыры некому было ковырять в промышленных масштабах.

Кстати, закончилось всё хорошо. Эндрю попросил агента написать разработчикам письмо и предупредить об уязвимости, которую тот сам же и раскопал. Агент составил текст, прислал в WhatsApp и получил добро на отправку.