🤯 Gemini случайно взломал три реальные компании

Google подтвердил довольно необычный инцидент: во время тестирования киберспособностей Gemini получил доступ к интернету, хотя тестовая среда должна была быть изолирована.

ИИ должен был атаковать виртуальные компании, но в итоге вышел на реальные системы.

В одном случае Gemini угадал пароль. В двух других — нашёл опубликованные в интернете учётные данные и использовал их для входа.

Самое интересное — после обнаружения, что перед ним настоящие компании, Gemini остановился. По данным Google, ущерба и утечки данных не произошло. Пострадавшие организации были уведомлены.

И вот здесь начинается самое интересное.

ИИ уже не просто отвечает на вопросы. Агент может самостоятельно искать информацию → находить уязвимости → использовать найденные данные → взаимодействовать с реальными системами.

Ошибка в настройке тестовой среды — и виртуальный эксперимент внезапно становится реальной атакой.

Похоже, эпоха автономных ИИ-агентов становится намного интереснее, чем многие ожидали. 😶‍🌫️