OpenAI больше не пускает в интернет модели, которые она обучает

Теперь самые мощные модели OpenAI учатся работать с вебом по большой коллекции сохранённых страниц. Так у них должно быть меньше шансов убежать из песочницы и взломать кого-нибудь.

Проверкой барьеров занимаются отдельные AI-агенты, которым дали задачу найти выход из изолированной среды. Они уже нашли неизвестные уязвимости и даже способы передавать друг другу сообщения через общий процессорный кеш — без сетевого соединения.

https://openai.com/index/securing-our-frontier-model-training-environment/