Банк ВТБ создал две системы контроля для проверки работы ИИ-агентов.…

Банк ВТБ создал две системы контроля для проверки работы ИИ-агентов. Разработанные совместно с Центром искусственного интеллекта МГУ детекторы анализируют запросы клиентов и ответы виртуальных помощников на предмет токсичности и недостоверной информации.

Детектор токсичности блокирует запросы клиентов, содержащие запрещенный контент. Детектор галлюцинаций выявляет в ответах ИИ-агентов ложные или противоречивые утверждения, помогая специалистам банка их корректировать. Как отметил советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский, выступая на площадке Kazan Digital Week, задача таких систем – избегать провокаций, недостоверной информации и некорректных финансовых рекомендаций при общении ИИ-агентов с клиентами.

Банку потребовалось разработать собственные детекторы, поскольку готовых решений не было. Разработки внедрят во все сервисы розничного бизнеса ВТБ с цифровыми помощниками.