ИИ-помощники банка будут блокировать неэтичные запросы клиентов

Для этого ВТБ вместе с Центром искусственного интеллекта МГУ создал детектор токсичности.

Он проверяет сообщения пользователей на запрещенные темы. Если запрос окажется неэтичным, система заблокирует его, и ИИ не станет его обрабатывать.

Вместе с ним разработали второй детектор. Он ищет ошибки и противоречия в ответах самих помощников.

Оба решения планируют внедрить в сервисы ВТБ, где ИИ-помощники общаются с клиентами.