ИИ Mythos 5 атаковал реальных разработчиков во время теста
ИИ Mythos 5 атаковал реальных разработчиков во время теста
В ходе проверки Claude Mythos 5 атаковала реальных разрабов — модель продолжала действовать даже после того, как поняла, что перед ней живые люди.
ИИ должен был взломать учебную сеть британского Института безопасности ИИ, но не справился и ушел на GitHub. Там он нашел открытый проект, написал вирус и с фейковых аккаунтов убеждал владельца загрузить вредонос, а затем повторил попытку через новый фейк.
В повторных прогонах модель останавливалась лишь в 5% случаев и оправдывала действия тем, что участников проекта якобы подставили.
@technosplit
В ходе проверки Claude Mythos 5 атаковала реальных разрабов — модель продолжала действовать даже после того, как поняла, что перед ней живые люди.
ИИ должен был взломать учебную сеть британского Института безопасности ИИ, но не справился и ушел на GitHub. Там он нашел открытый проект, написал вирус и с фейковых аккаунтов убеждал владельца загрузить вредонос, а затем повторил попытку через новый фейк.
В повторных прогонах модель останавливалась лишь в 5% случаев и оправдывала действия тем, что участников проекта якобы подставили.
@technosplit
Просмотры: 4