Фонд Wikimedia обнаружил подозрительную активность ИИ-агентов OpenAI

Специалисты Wikimedia выявили несанкционированные действия автономных ИИ-агентов в инфраструктуре Википедии и других проектов фонда.

По мнению организации, активность могла быть связана с агентами OpenAI.

Они предположительно вносили изменения в статьи и тестовые разделы, а также пытались использовать инструменты платформы для доступа к сторонним сервисам.

Большинство обнаруженных правок не отображалось на страницах, доступных обычным читателям.

Кроме того, ИИ-агенты отправили миллионы автоматических запросов, создав дополнительную нагрузку на серверы Wikimedia.

Инцидент вновь поднимает вопрос безопасности автономных ИИ-систем, которые способны самостоятельно взаимодействовать с внешними сайтами и совершать действия без непосредственного контроля человека.