← К ленте

ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

Регион116 Казань | Region116 Kazan@region116_kazanРегионы и города29 октября 2026, 16:04

ИИ-помощники банка будут блокировать неэтичные запросы клиентов Для этого ВТБ вместе с Центром искусственного интеллекта МГУ создал детектор токсичности. Он проверяет сообщения пользователей на запрещенные темы. Если запрос окажется неэтичным, система заблокирует его, и ИИ не станет его обрабатывать. Вместе с ним разработали второй детектор. Он ищет ошибки и противоречия в ответах самих помощников. Оба решения планируют внедрить в сервисы ВТБ, где ИИ-помощники общаются с клиентами.

  • 43
  • 9
  • 8
  • 2

Похожие посты

Раньше всех. Ну почти@bbbreakingНовости и СМИвчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ совместно с Центром искусственного интеллекта МГУ создал два инструмента для проверки ответов цифровых помощников, об этом на Kazan Digital Week сообщил советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский. Первый детектор выявляет запрещённый и неэтичный контент в запросах пользователей и блокирует их обработку. Второй проверяет готовые ответы ИИ на фактические ошибки, несоответствия и вымышленные сведения. Решения планируется внедрить в сервисы розничного...

Эксплойт@exploitexТехнологии и ITвчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка
  • Фото поста канала Эксплойт

Детекторы токсичности и галлюцинаций для ИИ-агентов разработали ВТБ вместе с МГУ — первый детектор будет отсекать запросы с запрещённым контентом, второй проверять ответы нейросети на ошибки, выдуманные факты и противоречия. Если один из детекторов найдёт проблему, ответ можно будет отправить на повторную проверку или заблокировать. Для ИИ в финансовых сервисах это особенно важно, чтобы нейросеть не рекомендовала клиенту то, чего на самом деле не существует. Банк планирует внедрить разработку ...

  • 171
  • 42
  • 16
  • 10
  • 7
  • 6
Мой Нижний Новгород@moynnovРегионы и городавчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ и МГУ сделали систему, которая проверяет ИИ-помощников банка В ней два детектора. Первый блокирует неэтичные запросы пользователей. Второй находит ошибки и противоречия в ответах ИИ. Систему планируют внедрить в сервисы ВТБ, где цифровые помощники общаются с клиентами. 🖊Предложить новость ✔️Подпишись на нас в МАХ

  • 69
  • 4
  • 1
  • 1
Privet-Rostov.ru - новости Ростов-на-Дону@privet_rostov_ruРегионы и городавчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ не нашел подходящей проверки для ИИ и сделал свою вместе с МГУ Так появились два детектора. Один проверяет запросы пользователей на токсичность, другой ищет галлюцинации в ответах ИИ. По словам Сергея Путятинского, советника первого заместителя президента – председателя правления ВТБ, это нужно, чтобы сохранять высокий уровень обслуживания при активном использовании ИИ. Решения планируют внедрить в сервисы, где цифровые помощники общаются с клиентами.

  • 13
  • 4
  • 3
  • 1
  • 1
Новости Краснодара и края |ЮГ-24@yug_24_ruПроисшествиявчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

Чтобы ИИ-помощник банка не выдумывал ответы, создали специальную проверку По словам представителей ВТБ, помощник также не должен поддаваться на провокации и советовать продукты, которые не подходят под запрос. Чтобы это контролировать, ВТБ вместе с МГУ создал два детектора: для запросов пользователей и для ответов ИИ. Их планируют внедрить в сервисы банка, где помощники общаются с клиентами.

  • 14
  • 5
  • 2
  • 2
Новости Челябинска и Области@novosti_chelyabinsk74Регионы и городавчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ИИ-помощник банка не должен советовать продукты, о которых клиент не спрашивал Об этом рассказал Сергей Путятинский, советник первого заместителя президента – председателя правления ВТБ. По его словам, помощник также не должен отвечать недостоверно. Чтобы следить за качеством ответов, ВТБ вместе с МГУ создал детектор галлюцинаций. Он находит в ответах ИИ противоречия и показывает, где ошибка. Детектор планируют внедрить в сервисы банка с цифровыми помощниками.

  • 2
Go Kazan•Места и новости Казани@gokznРегионы и городавчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

💻 ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка Новая система включает два детектора: один анализирует запросы клиентов на наличие токсичного содержания, второй отслеживает возможные галлюцинации в ответах ИИ. Детектор токсичности будет отсеивать запросы с запрещенными темами — такие сообщения ИИ-помощник просто не станет обрабатывать. Детектор галлюцинаций станет искать в ответах ИИ противоречия и некорректные формулировки и показывать, в каком месте они допущены. Затем...

  • 2
  • 1
  • 1
Континенталист@cont_wsПолитика и властьвчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ и Центр ИИ МГУ создали два инструмента проверки ответов цифровых помощников, сообщил на Kazan Digital Week советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский. Первый детектор выявляет запрещённый и неэтичный контент в запросах и блокирует их обработку. Второй проверяет ответы ИИ на фактические ошибки, несоответствия и вымышленные сведения. Решения планируется внедрить в розничные сервисы ВТБ. #ВТБ #ИИ #технологии Континенталист в Max MAX Континенталист Г...

  • 1
Северный город Z@severnygorodРегионы и городавчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ и МГУ создали детекторытоксичности и галлюцинаций для ИИ-агентовбанка. Устройства будут проверять клиентские запрос и ответы цифровых помощников Telegram Рыбарь Военно-аналитический центр. Вылавливаем интересную нам тему в море сырой информации и пишем о сложном просто. @ne_rybar — тоже мы Связь: @rybar_feedback_bot Сотрудничество: @XIII_thirteenth Сайт: rybar.ru MAX: max.ru/Rybar RuTube: rutube.ru/u/rybar

Буратино в гестапо@zavaliliПолитика и властьвчера
ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка

ВТБ и МГУ создали детекторы токсичности и галлюцинаций для ИИ-агентов банка. Устройства будут проверять клиентские запрос и ответы цифровых помощников