ВТБ и Центр ИИ МГУ создают детекторы токсичности и галлюцинаций для ИИ-агентов банка.

🤖 ВТБ совместно с Центром искусственного интеллекта МГУ разработал систему контроля ответов ИИ-агентов. Она состоит из двух детекторов, которые проверяют запросы клиентов и ответы цифровых помощников. Об этом на Kazan Digital Week рассказал советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский, сообщает CNews.

Решения планируют внедрить в сервисы розничного бизнеса ВТБ, где с физическими лицами общаются цифровые помощники. Готовых решений, которые отвечали бы требованиям банка, на рынке не нашлось, поэтому ВТБ разработал детекторы вместе с экспертами МГУ.