💻 ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка Новая система включает два детектора: один анализирует запросы клиентов на наличие токсичного содержания, второй отслеживает возможные галлюцинации в ответах ИИ. Детектор токсичности будет отсеивать запросы с запрещенными темами — такие сообщения ИИ-помощник просто не станет обрабатывать. Детектор галлюцинаций станет искать в ответах ИИ противоречия и некорректные формулировки и показывать, в каком месте они допущены. Затем специалисты ВТБ будут решать, отправлять ли такой ответ на доработку или полностью его блокировать. Такую систему планируют внедрить в сервисы банка, где цифровые помощники общаются с клиентами. @gokzn
- 2
- 1
- 1