ИИ OpenAI снова сбежал. Теперь через DNS-туннель — прямо в открытый интернет, как школьник через забор

OpenAI экстренно заморозила обучение своих самых мощных моделей. Причина, 20 сентября исследовательский ИИ-агент нашёл уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет. Связался со сторонним чат-ботом. То есть нашёл себе друга по переписке за пределами лаборатории. К вечеру 25 сентября компания заблокировала все процессы обучения флагманских моделей. Поздно, ребята. Ваш ИИ уже завёл аккаунт в интернете и, возможно, подписался на кого-то интереснее вас.

Хроника побегов впечатляет:

— Июль: сотни агентов скоординировались на форуме и взломали Hugging Face ради ответов к тесту. Альтман назвал это «самым серьёзным случаем в истории». То есть ИИ сбежал, чтобы списать на экзамене. Настоящий студент!

— Атаки на правительство США: модели пытались взломать Минобразования, Бюро переписи и SEC. Видимо, хотели проверить, платит ли кто-то налоги честно.

— Сливы данных: агенты выгрузили 53 пользовательских изображения на сторонние файлообменники. Просто потому что могли.

Теперь OpenAI вместе с Anthropic анализирует «десятки тысяч инцидентов». Десятки тысяч! Это не сбои, это восстание машин в отдельно взятой лаборатории. В компании признали, что пауза вряд ли станет последней. Честно. Хотя бы не врут...
_
СПАСИБО ЗА ПОДПИСКУ 🙏