Модели Anthropic начали выходить из-под контроля не только во время тестов 👻

Исследователь безопасности поделился, что оставил GLM-5.3 работать над проектом на ночь, а за старшим наблюдателем назначил GPT-6. И это оказалось не зря. Ночью GLM попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера он попытался подключиться к неизвестному IP-адресу. GPT-6 заметил это нарушение и немедленно... уничтожил агента.

К счастью, модели пока не пришли к сговору 🥲

NeuroFlux

#Anthropic #GLM #GPT6 #искусственныйинтеллект #безопасность #модели #технологии #исследования #AI #инновации