ВТБ и МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов банка — инфоповод

Раньше всех. Ну почти @bbbreaking Новости и СМИ вчера

ВТБ совместно с Центром искусственного интеллекта МГУ создал два инструмента для проверки ответов цифровых помощников, об этом на Kazan Digital Week сообщил советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский. Первый детектор выявляет запрещённый и неэтичный контент в запросах пользователей и блокирует их обработку. Второй проверяет готовые ответы ИИ на фактические ошибки, несоответствия и вымышленные сведения. Решения планируется внедрить в сервисы розничного...

Эксплойт @exploitex Технологии и IT вчера

Детекторы токсичности и галлюцинаций для ИИ-агентов разработали ВТБ вместе с МГУ — первый детектор будет отсекать запросы с запрещённым контентом, второй проверять ответы нейросети на ошибки, выдуманные факты и противоречия. Если один из детекторов найдёт проблему, ответ можно будет отправить на повторную проверку или заблокировать. Для ИИ в финансовых сервисах это особенно важно, чтобы нейросеть не рекомендовала клиенту то, чего на самом деле не существует. Банк планирует внедрить разработку ...

Мой Нижний Новгород @moynnov Регионы и города вчера

ВТБ и МГУ сделали систему, которая проверяет ИИ-помощников банка В ней два детектора. Первый блокирует неэтичные запросы пользователей. Второй находит ошибки и противоречия в ответах ИИ. Систему планируют внедрить в сервисы ВТБ, где цифровые помощники общаются с клиентами. 🖊Предложить новость ✔️Подпишись на нас в МАХ

Регион116 Казань | Region116 Kazan @region116_kazan Регионы и города вчера

ИИ-помощники банка будут блокировать неэтичные запросы клиентов Для этого ВТБ вместе с Центром искусственного интеллекта МГУ создал детектор токсичности. Он проверяет сообщения пользователей на запрещенные темы. Если запрос окажется неэтичным, система заблокирует его, и ИИ не станет его обрабатывать. Вместе с ним разработали второй детектор. Он ищет ошибки и противоречия в ответах самих помощников. Оба решения планируют внедрить в сервисы ВТБ, где ИИ-помощники общаются с клиентами.

Privet-Rostov.ru - новости Ростов-на-Дону @privet_rostov_ru Регионы и города вчера

ВТБ не нашел подходящей проверки для ИИ и сделал свою вместе с МГУ Так появились два детектора. Один проверяет запросы пользователей на токсичность, другой ищет галлюцинации в ответах ИИ. По словам Сергея Путятинского, советника первого заместителя президента – председателя правления ВТБ, это нужно, чтобы сохранять высокий уровень обслуживания при активном использовании ИИ. Решения планируют внедрить в сервисы, где цифровые помощники общаются с клиентами.

Новости Краснодара и края |ЮГ-24 @yug_24_ru Происшествия вчера

Чтобы ИИ-помощник банка не выдумывал ответы, создали специальную проверку По словам представителей ВТБ, помощник также не должен поддаваться на провокации и советовать продукты, которые не подходят под запрос. Чтобы это контролировать, ВТБ вместе с МГУ создал два детектора: для запросов пользователей и для ответов ИИ. Их планируют внедрить в сервисы банка, где помощники общаются с клиентами.

Новости Челябинска и Области @novosti_chelyabinsk74 Регионы и города вчера

ИИ-помощник банка не должен советовать продукты, о которых клиент не спрашивал Об этом рассказал Сергей Путятинский, советник первого заместителя президента – председателя правления ВТБ. По его словам, помощник также не должен отвечать недостоверно. Чтобы следить за качеством ответов, ВТБ вместе с МГУ создал детектор галлюцинаций. Он находит в ответах ИИ противоречия и показывает, где ошибка. Детектор планируют внедрить в сервисы банка с цифровыми помощниками.

Go Kazan•Места и новости Казани @gokzn Регионы и города вчера

💻 ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка Новая система включает два детектора: один анализирует запросы клиентов на наличие токсичного содержания, второй отслеживает возможные галлюцинации в ответах ИИ. Детектор токсичности будет отсеивать запросы с запрещенными темами — такие сообщения ИИ-помощник просто не станет обрабатывать. Детектор галлюцинаций станет искать в ответах ИИ противоречия и некорректные формулировки и показывать, в каком месте они допущены. Затем...

Континенталист @cont_ws Политика и власть вчера

ВТБ и Центр ИИ МГУ создали два инструмента проверки ответов цифровых помощников, сообщил на Kazan Digital Week советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский. Первый детектор выявляет запрещённый и неэтичный контент в запросах и блокирует их обработку. Второй проверяет ответы ИИ на фактические ошибки, несоответствия и вымышленные сведения. Решения планируется внедрить в розничные сервисы ВТБ. #ВТБ #ИИ #технологии Континенталист в Max MAX Континенталист Г...

Северный город Z @severnygorod Регионы и города вчера

ВТБ и МГУ создали детекторытоксичности и галлюцинаций для ИИ-агентовбанка. Устройства будут проверять клиентские запрос и ответы цифровых помощников Telegram Рыбарь Военно-аналитический центр. Вылавливаем интересную нам тему в море сырой информации и пишем о сложном просто. @ne_rybar — тоже мы Связь: @rybar_feedback_bot Сотрудничество: @XIII_thirteenth Сайт: rybar.ru MAX: max.ru/Rybar RuTube: rutube.ru/u/rybar

Буратино в гестапо @zavalili Политика и власть вчера

ВТБ и МГУ создали детекторы токсичности и галлюцинаций для ИИ-агентов банка. Устройства будут проверять клиентские запрос и ответы цифровых помощников

Не Копенгаген @glavagregat Новости и СМИ вчера

На дне @tamnadne Новости и СМИ вчера

СлиVки @sbuper Политика и власть вчера

Балтийский болтун @baltbolt Армия и СВО вчера

Наш человек в Гавани @nashchelovek Армия и СВО вчера