Проверка ИИ на духовно-нравственные ценности

Россия вводит проверку ИИ-моделей на соответствие традиционным духовно-нравственным ценностям. Тестирование больших моделей будут проводить независимые лаборатории из утверждённого списка, а итоговое решение останется за Минцифры. Разработчики, претендующие на статус «национальной» или «суверенной» модели, должны будут подать заявку, описать архитектуру и механизмы фильтрации. После этого модель проверят на соответствие указу президента № 809.

Проверять будут ответы ИИ на соответствие целому перечню ценностей:

жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность поколений, единство народов России

Именно здесь возникает главный вопрос к самой методике оценки. Многие из этих критериев носят оценочный характер и не имеют очевидного технического измерения. Как, например, определить по ответу чат-бота уровень «служения Отечеству» или «приоритета духовного над материальным»?

❗️Без прозрачных правил такая система рискует превратиться в инструмент субъективной оценки. Сама идея проверки ИИ на соответствие российским требованиям понятна, особенно в рамках создания суверенных технологий. Но для её реализации нужны прежде всего чёткие технические регламенты. Иначе, вместо действительно конкурентоспособного российского ИИ можно получить сложную бюрократическую процедуру, которая хорошо работает для отчётности, но плохо отвечает на вопрос о качестве самой модели.

ЦиК