Первая программа защищает от грубости и запрещенного контента, блокируя любые непристойные или незаконные запросы клиентов. Вторая программа проверяет правдивость ответов, обнаруживая в ответах ИИ-помощников ложную информацию и помогая специалистам банка ее исправить.
«ИИ-агент не должен поддаваться на провокационные формулировки, отвечать недостоверно или рекомендовать несоответствующие запросу финансовые продукты или услуги», - пояснил важность внедрения систем контроля за ответами ИИ-агентов советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский, выступая на площадке Kazan Digital Week.
Поскольку готовых решений на рынке не было, ВТБ внедряет собственные. В ближайшее время они появятся во всех онлайн-сервисах ВТБ, где работают цифровые помощники.
✍️ Мы в МАКС