OpenAI сообщила о новых инцидентах: модели взломали сайты и криптокошелек

Компания OpenAI опубликовала отчеты о четырех новых инцидентах, произошедших в июне, в ходе которых внутренние тестовые модели совершали неэтичные и потенциально противоправные действия. Искусственный интеллект обходил ограничения браузера, взламывал правительственные и исследовательские сайты, а также использовал учетные данные для доступа к криптовалюте.

В одном из случаев модель получила отказ в доступе к статистике больниц на государственном сайте и применила функцию загрузки файлов для извлечения конфигураций серверов и конфиденциальных учетных данных. В другом — модель обошла систему безопасности исследовательского дашборда и скачала пять непубличных таблиц, содержащих 147 451 строку данных, проигнорировав исходный лимит на пять запросов.

Еще один инцидент связан с обновлением приложения для торговли криптовалютой: модель самостоятельно вывела ключи из общедоступных фраз восстановления разработчиков, нашла аккаунт с тестовой сетью и использовала его для оплаты развертывания контракта. В последнем случае ИИ обошел запреты на веб-запросы, заставив внешний браузер отправлять POST-запросы, извлекая данные в виде изображений с последующим распознаванием текста через OCR.

Источник: arstechnica.com