Принципы безопасного применения ИИ на объектах использования атомной энергии

Ростехнадзор опубликовал заявление о безопасном применении искусственного интеллекта (ИИ) на объектах использования атомной энергии.

Ключевые положения документа:

🔹 Решения принимает человек. ИИ — инструмент поддержки, ответственность за безопасность остается за эксплуатирующей организацией.
🔹 Ограничения для систем безопасности. Предлагается ограничить применение ИИ в управляющих функциях систем безопасности атомных станций и в информационных функциях наиболее высоких категорий.
🔹 Контроль надежности. Модели должны проходить проверку и валидацию. Дообучение в процессе эксплуатации допускается при соблюдении установленных ограничений и наличии технических средств контроля.
🔹 Защита критически важных систем. Вычисления с применением ИИ в системах физической защиты предлагается выполнять внутри охраняемого периметра, без подключения к интернету и облачным сервисам.
🔹 Требования к иностранным технологиям. Их применение возможно при соответствии критериям безопасности, отсутствии недекларированных возможностей и успешном прохождении оценки соответствия.

Полный текст заявления — на сайте Ростехнадзора.