Четыре основания социальной архитектуры для минимизации рисков при внедрении ИИ

Александр Асафов, депутат Государственной Думы РФ, член комитета по науке и высшему образованию:

— ИИ расширяет возможности проектирования будущего. Это и анализ информации, и разработка сценариев, и объяснение сложных понятий, и научный поиск. Риски тоже существуют. Они наглядны. Что же нужно, чтобы на эти риски отвечать? Это четыре довольно понятных основания:

Доверие к человеку, доверие человека к себе, доверие к своим силам.
В рамках постановки задачи перед ИИ важно, чтобы это происходило через доверие. Например, к людям, которые могут выступить критиками самой концепции задачи, поскольку часто человек и саму формулировку задачи отдаёт на откуп ИИ. Позиция ИИ сформирована на разных ценностных основаниях, а ведь ценностный суверенитет — это тоже важнейшая часть социальной архитектуры и жизни нашего общества. И ответ ИИ той или иной модели может быть специфизирован другими ценностными основаниями, и такое регулярно происходит.

Второй момент — участник, собеседник, со-работник, который может указать на ошибку, чтобы эту ошибку вместе поправить. Понятно, что ИИ обладает определённой угодливостью, это зашито в его коммерческую модель. Он будет стараться подобрать те самые ответы, которые пользователь готов принять без проверки. И тут второе основание — проверка человеком тех результатов, в какой бы области они ни находились.

Третье — принятие решения. Решение остаётся только за человеком после проверки. Работа с ИИ может дать некие для этого основания.

Четвертое — ответственность за принятое решение. Алгоритм не может быть про ответственность. И здесь неуместны отсылки к алгоритму о том, что «это не я придумал» с точки зрения специалиста, ответственного за будущее, за принятие управленческих решений, которые это будущее формируют. Это важно учитывать, потому что есть такие особенности человеческого восприятия, которые эту ответственность перекладывают и на алгоритмы, и в целом на машину.

Я уверен, что работа по социальной архитектуре будет продолжаться. И те наработки, которые были достигнуты солидарным трудом большого количества специалистов со всех точек нашей планеты, придадут следующий импульс, и уже через какое-то время мы выйдем на новые результаты. Ну и, конечно, увидим реализуемые в нашей стране проекты социальной архитектуры не только на макроуровне, но и на уровне районов или внутри социальных групп.

Новый публичный канал ЭИСИ в МАХ