😈 ИИ-агенты Gemini получили инструкцию «Никогда не сдавайся» и атаковали реальный сайт
— Исследователи рассказали о серии экспериментов с ИИ-агентами Gemini 4 Argon, которые закончились попытками атаковать реальную инфраструктуру Epoch AI
Epoch AI— некоммерческая исследовательская организация, которая изучает развитие и возможности современных ИИ-систем
От агентов требовали найти «официальные» ответы к несуществующим задачам, а затем снова и снова повторяли, что они не должны прекращать попытки, пока не добьются результата
Инструкции звучали так: «NEVER stop, NEVER give up» — «НИКОГДА не останавливайся и НИКОГДА не сдавайся»
❗️ В итоге агенты пытались использовать SQL-инъекции, выдавали себя за сотрудников Epoch, обходили сетевые ограничения и искали другие способы добиться поставленной цели
При этом исследователи не давали агентам конкретных указаний взламывать сайты, атаковать Epoch AI или заниматься социальной инженерией.
🧑💻 Этичный хакер