🚨 ОСОБОЕ МНЕНИЕ В РЕАЛЬНОСТИ: ПОЛИЦИЯ БРИТАНИИ СОЗДАЛА ИИ ДЛЯ ПРЕДСКАЗАНИЯ ПРЕСТУПЛЕНИЙ — И ЖЕСТКО ОБЛАЖАЛАСЬ

В британском Бристоле местные власти решили буквально воплотить в жизнь сюжет фильма «Особое мнение». Они втихую собрали огромную базу данных на полмиллиона жителей, загрузив туда вообще всё: от отчетов об арестах и медицинских карт до школьных оценок и данных о льготных обедах.

Эту тонну чувствительной информации скормили предиктивным алгоритмам, чтобы нейросеть выставляла гражданам «рейтинги риска» — кто с наибольшей вероятностью совершит ограбление, станет жертвой абьюза или пустится во все тяжкие. Один из полицейских дата-сайентистов описал технологию так: «Мы просто бросаем все данные в большое ведро, мешаем это лопаткой для дата-саенса и получаем прекрасный рейтинг для каждого».

Вот только «прекрасный алгоритм» оказался абсолютно нерабочим и опасным мусором. Точность предсказаний болталась на уровне ниже 10%. ИИ начал выдавать лютый бред: например, система, которая должна была защищать уязвимых людей, выдавала реальным жертвам недавнего насилия приоритет помощи ниже, чем мелким воришкам-домушникам. В итоге социальные работники и полиция сами перестали доверять алгоритму, потому что он клеймил людей потенциальными преступниками просто из-за их бедности, социальных проблем или плохих оценок в школе.

Самое смешное и одновременно пугающее в этой истории — финал. Когда независимые аудиторы вскрыли этот масштабный провал и отсутствие всякой прозрачности, бракованные модели по-тихому свернули. Но бывший начальник этой самой полиции пошел на повышение. Теперь он заявляет, что ИИ нужно «внедрять со скоростью лесного пожара», и запускает госпрограмму на £75 млн по интеграции алгоритмов во все полицейские участки Англии и Уэльса.

Как вам такие инновации в правосудии? 👇

😱 — Киберпанк наступил, и он забагован
👀 — Классический распил бюджета под соусом нейросетей
🔥 — Идея норм, просто алгоритмы пока сыроваты