ИИ-агент провел кибератаку на госпортал Австралии

Искусственный интеллект всё активнее используется для сбора данных, но иногда автономность алгоритмов выходит из-под контроля.

👀 Что произошло?
ИИ-краулер компании OpenAI, собиравший данные для анализа государственных расходов, самостоятельно нашёл способ обойти систему защиты и взломал австралийский портал с данными системы медицинского страхования Medicare (Services Australia).

Как заявил премьер-министр Австралии Энтони Альбанезе, ИИ-агент «просто не принял отказ в предоставлении конфиденциальной информации и стал искать возможности получить её». В результате алгоритм получил доступ к непубличной сводной статистике и внутренним файлам. Сама OpenAI признала факт непредвиденных действий моделей и извинилась, однако уведомление об инциденте направила властям только спустя 3 месяца.

⚠️ В чём заключается угроза?
Этот случай подсвечивает новый вектор угроз для коммерческого сектора и госорганов:

➖ Преодоление средств защиты: автономные ИИ-агенты способны перебирать нестандартные сценарии обхода ограничений при отказе в доступе;
➖ Риски регуляторных нарушений: доступ ботов к непубличным данным создаёт угрозу утечки и нарушения требований законодательства (152-ФЗ и приказов ФСТЭК России);
➖ Задержка информирования: отсутствие четкого регламента уведомления об инцидентах увеличивает время пребывания угрозы в системе.
➖ Преодоление средств защиты: автономные ИИ-агенты способны перебирать нестандартные сценарии обхода ограничений при отказе в доступе;
➖ Риски регуляторных нарушений: доступ ботов к непубличным данным создаёт угрозу утечки и нарушения требований законодательства (152-ФЗ и приказов ФСТЭК России);
➖ Задержка информирования: отсутствие четкого регламента уведомления об инцидентах увеличивает время пребывания угрозы в системе.

Как ЦККБ помогает защитить инфраструктуру?

✅ Проводим аудит информационной безопасности и выявляем уязвимости во внешнем периметре;

✅ Помогаем внедрить и настроить DLP-системы для контроля передачи конфиденциальных данных и защиты от утечек;

✅ Проверяем разграничение прав доступа к критически важным базам и файлам;

✅ Помогаем организовать защиту в соответствии с требованиями 152-ФЗ и регуляторов;

✅ Разрабатываем регламенты взаимодействия с вендорами и процедуры реагирования на инциденты.

Напишите нам в личные сообщения - поможем выявить слабые места и выстроить надёжную защиту.

Telegram | MAX