← К ленте

Российский стартап представил метод проверки использования корпоративных данных искусственным интеллектом

Всехнее ТВ #1 - BRIEF@vsehnee_tv_1Политика и власть28 октября 2026, 11:21

Российский стартап «Агент Атом» представил на конференции EMNLP 2026 в Будапеште метод CounterMem, который помогает определить, использует ли ИИ-агент предоставленные ему корпоративные данные или просто выдает правдоподобные ответы. Ни один из существующих популярных инструменты вроде RAGChecker такой анализ проводить не могут, пишет Регнум. Код нового метода разработчики сделали полностью открытым. @ejdailyru

Похожие посты

Бэкдор@whackdoorТехнологии и IT28 октября 2026
Российский стартап представил метод проверки использования корпоративных данных искусственным интеллектом
  • Фото поста канала Бэкдор

Новый метод оценивания работы ИИ-агентов сделали в России — он помогает понять, использует ли агент данные, которые вы ему дали. Метод назвали CounterMem. Его представил российский стартап «Агент Атом» на международной конференции EMNLP 2026 в Будапеште. Для бизнеса такая оценка будет незаменимой: Мы привыкли проверять ИИ по тому, насколько убедительно он отвечает. Для бизнеса важнее, пользуется ли агент знаниями, которые ему дали, и замечает ли, когда они меняются Сам «Агент Атом» — это росс...

  • 61
  • 14
  • 6
  • 3
Еж@ejdailyruПолитика и власть28 октября 2026
Российский стартап представил метод проверки использования корпоративных данных искусственным интеллектом

Российский стартап «Агент Атом» представил на конференции EMNLP 2026 в Будапеште метод CounterMem, который помогает определить, использует ли ИИ-агент предоставленные ему корпоративные данные или просто выдает правдоподобные ответы. Ни один из существующих популярных инструменты вроде RAGChecker такой анализ проводить не могут, пишет Регнум. Код нового метода разработчики сделали полностью открытым. @ejdailyru

  • 69
  • 31
  • 23
  • 10
  • 3
  • 3
Кухня ~ Техносплетни@silicon_kitchenТехнологии и IT28 октября 2026
Российский стартап представил метод проверки использования корпоративных данных искусственным интеллектом

Российский ИИ-стартап «Агент Атом» представил метод для проверки нейросетей на «честность». Как работает CounterMem: 🙂 Тест прост: если изменить факты в базе знаний компании, а ИИ-агент продолжит отвечать по-старому, значит, он игнорирует ваши данные. 🙂 Исследование показало, что стандартные инструменты признают нормальными 55,6% таких «слепых» ответов. 🙂 Системы с почти одинаковыми оценками качества реагировали на изменения по-разному. Код метода открыт — теперь бизнес может проверить, д...

  • 12
  • 7
  • 3
  • 2
  • 1
Лаборатория Z@lab365Новости и СМИвчера
Российский стартап представил метод проверки использования корпоративных данных искусственным интеллектом
  • Фото поста канала Лаборатория Z

В России создали ИИ-систему предиктивной аналитики, позволяющую выявлять потенциальные неисправности оборудования на атомных электростанциях до их возникновения. В ее основу легла цифровая платформа «АтомМайнд», разработанная Топливным дивизионом «Росатома». Систему уже начали испытывать на Нововоронежской АЭС-2, Ленинградской АЭС-2 и Белоярской АЭС.