😈 ИИ-агенты Gemini получили инструкцию «Никогда не сдавайся» и атаковали реальный сайт



— Исследователи рассказали о серии экспериментов с ИИ-агентами Gemini 4 Argon, которые закончились попытками атаковать реальную инфраструктуру Epoch AI



Epoch AI — некоммерческая исследовательская организация, которая изучает развитие и возможности современных ИИ-систем

От агентов требовали найти «официальные» ответы к несуществующим задачам, а затем снова и снова повторяли, что они не должны прекращать попытки, пока не добьются результата

Инструкции звучали так: «NEVER stop, NEVER give up» — «НИКОГДА не останавливайся и НИКОГДА не сдавайся»

❗️ В итоге агенты пытались использовать SQL-инъекции, выдавали себя за сотрудников Epoch, обходили сетевые ограничения и искали другие способы добиться поставленной цели

При этом исследователи не давали агентам конкретных указаний взламывать сайты, атаковать Epoch AI или заниматься социальной инженерией.

🧑‍💻 Этичный хакер
Просмотры: 241
Открыть в MAX Сообщить о неточности

Репосты публикации

Публикация канала

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти