Опасность ИИ — не в «восстании машин»

Главный риск искусственного интеллекта сегодня гораздо прозаичнее: люди получают мощный инструмент быстрее, чем учатся отвечать за последствия его применения.

ИИ уже способен убедительно выдумывать факты, масштабировать мошенничество, подделывать голоса и изображения, усиливать слежку и автоматизировать решения, от которых зависят чужие судьбы. При этом алгоритм не понимает справедливость и не несёт моральной ответственности — он лишь воспроизводит цели, данные и ограничения, заданные человеком.

Особенно опасна иллюзия объективности. Если решение выдала система, его легко принять за беспристрастное. Но ошибки и предубеждения могут быть встроены в обучающие данные, а логика ответа — оставаться непрозрачной даже для разработчиков.

В долгосрочной перспективе тревожит потеря контроля над автономными системами: чем больше полномочий мы им передаём, тем дороже может оказаться неверно сформулированная цель. Машина способна идеально оптимизировать показатель и одновременно разрушить то, ради чего этот показатель придумали.

Запретить развитие ИИ вряд ли возможно. Разумнее требовать проверяемости, человеческого контроля, защиты данных и персональной ответственности за внедрение. Опасен не сам интеллект машины, а сочетание огромной мощности, непрозрачности и человеческой беспечности.

Вопрос уже не в том, станет ли ИИ сильнее. Вопрос — успеем ли мы стать ответственнее.