💻 ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка

Новая система включает два детектора: один анализирует запросы клиентов на наличие токсичного содержания, второй отслеживает возможные галлюцинации в ответах ИИ.

Детектор токсичности будет отсеивать запросы с запрещенными темами — такие сообщения ИИ-помощник просто не станет обрабатывать.

Детектор галлюцинаций станет искать в ответах ИИ противоречия и некорректные формулировки и показывать, в каком месте они допущены. Затем специалисты ВТБ будут решать, отправлять ли такой ответ на доработку или полностью его блокировать.

Такую систему планируют внедрить в сервисы банка, где цифровые помощники общаются с клиентами.

🏷GoKazan — Места и новости Казани