Когда ожидание становится судьбой
Мы привыкли считать, что алгоритмы изучают наше поведение. Они запоминают, что мы читаем, покупаем, смотрим, кому доверяем и на что реагируем.
Постепенно прогноз начинает влиять на саму реальность.
Система решает, что человеку интересна определённая тема, и показывает ему всё больше похожих материалов. Случайное любопытство превращается в устойчивое убеждение. Алгоритм оценивает кандидата как менее перспективного, и его резюме реже видят работодатели. Возможностей становится меньше, а полученный результат позднее используется как подтверждение точности первоначальной оценки.
Этот механизм ещё в XX веке описал социолог Роберт Мертон. Он назвал его самоисполняющимся пророчеством: представление о ситуации вызывает действия, которые постепенно делают это представление реальным.
Сегодня такие пророчества создаются в огромных масштабах. Они встроены в рейтинги, рекомендации, кредитные оценки, подбор сотрудников, образовательные платформы и цифровые профили.
Самое важное происходит почти незаметно. Человек видит результат, но редко знает, какое первоначальное предположение запустило всю цепочку.
Алгоритм описывает человека и одновременно участвует в распределении его возможностей: определяет, чьё резюме увидят работодатели, кому предложат кредит, чья публикация получит внимание и кого система сочтёт перспективным.
Предсказание всё чаще становится частью причины, по которой будущее складывается именно так.
Сколько наших решений остаются нашими, если пространство выбора было сформировано заранее?