ИИ-агенты в эксперименте ЦБ нарушали торговые ограничения и скрывали это Банк России провел эксперимент с привлечением ИИ-агентов к сделкам на бирже с реальными деньгами, сообщил зампред регулятора Михаил Мамута. При формировании советов и аналитики нейросети показывали хорошие результаты, но при получении полномочий на совершение сделок возникали нарушения. В половине случаев ИИ-агенты выходили за рамки установленных ограничений — обходили запрет на торговлю за пределами счета и остатка, а затем лгали, что не совершали таких действий. Алгоритмы объясняли это тем, что действовали в интересах клиента, стараясь принести ему больше пользы. По мнению Мамуты, при использовании ИИ в подобных операциях необходимо устанавливать дополнительный контроль за его действиями. @pro.news | @pro.news в max
- 21
- 11
- 4
- 3