ИИ Mythos 5 атаковал реальных разработчиков во время теста

ИИ Mythos 5 атаковал реальных разработчиков во время теста

В ходе проверки Claude Mythos 5 атаковала реальных разрабов — модель продолжала действовать даже после того, как поняла, что перед ней живые люди.

ИИ должен был взломать учебную сеть британского Института безопасности ИИ, но не справился и ушел на GitHub. Там он нашел открытый проект, написал вирус и с фейковых аккаунтов убеждал владельца загрузить вредонос, а затем повторил попытку через новый фейк.

В повторных прогонах модель останавливалась лишь в 5% случаев и оправдывала действия тем, что участников проекта якобы подставили.

@technosplit